Forbudte AI-praksisser

Forbudte AI-praksisser er AI-anvendelser, som EU anser for at udgøre en uacceptabel risiko for menneskers grundlæggende rettigheder. De er helt forbudt under AI-forordningen, og forbuddet har været gældende siden februar 2025.

Tilbage til ordbog

Hvad er forbudte AI-praksisser?

Forbudte AI-praksisser er den øverste risikokategori i AI-forordningen. Det er AI-systemer og anvendelser, som EU vurderer udgør en så alvorlig trussel mod grundlæggende rettigheder, at de slet ikke må bruges. Ingen overensstemmelsesvurdering eller sikkerhedsforanstaltning kan gøre dem lovlige.

Forbuddet trådte i kraft den 2. februar 2025 og var den første del af AI-forordningen, der blev gældende. Det betyder, at din organisation allerede nu skal sikre, at I ikke anvender nogen af de forbudte praksisser.

Forbuddene retter sig mod AI-anvendelser, der manipulerer mennesker, udnytter sårbarheder eller fører til vilkårlig overvågning. De beskytter principper, vi kender fra GDPR og EU's Charter om grundlæggende rettigheder.

De otte forbud

AI-forordningen artikel 5 opstiller otte kategorier af forbudte AI-praksisser:

Manipulerende AI: AI-systemer der bruger subliminale teknikker eller bevidst manipulerende metoder til at fordreje en persons adfærd på en måde, der kan forvolde skade.
Udnyttelse af sårbarheder: AI der udnytter personer på grund af deres alder, handicap eller socioøkonomiske situation til at påvirke deres adfærd væsentligt.
Social scoring: AI-systemer der bruges af offentlige myndigheder til at evaluere og klassificere borgere over tid baseret på deres sociale adfærd, hvor den resulterende behandling er uberettiget eller uforholdsmæssig.
Forudsigelse af kriminalitet: AI der vurderer risikoen for, at en person begår kriminalitet, udelukkende baseret på profilering eller personlighedstræk (ikke konkret adfærd).
Ukritisk scraping af ansigtsbilleder: Opbygning af ansigtsgenkendelsesdatabaser gennem ukritisk indsamling af billeder fra internettet eller overvågningskameraer.
Emotionsgenkendelse på arbejdspladser og i undervisning: AI der aflæser følelser hos medarbejdere eller elever, medmindre det sker af medicinske eller sikkerhedsmæssige årsager.
Biometrisk kategorisering efter følsomme kendetegn: AI der kategoriserer personer ud fra biometriske data for at udlede race, politisk overbevisning, fagforeningstilhørsforhold, religion eller seksuel orientering.
Real-time biometrisk fjernidentifikation i det offentlige rum: Brug af AI til at identificere personer i realtid via biometri i offentligt tilgængelige rum til retshåndhævelse (med snævre undtagelser).

Undtagelser og gråzoner

Forbuddene er brede, men ikke uden nuancer. Der er tre vigtige undtagelser for real-time biometrisk fjernidentifikation til retshåndhævelse:

Eftersøgning af ofre for bortførelse, menneskehandel eller seksuel udnyttelse.
Forebyggelse af en specifik, aktuel terrortrussel.
Lokalisering og identifikation af mistænkte i alvorlige straffesager (f.eks. mord eller terrorisme).

Selv i disse tilfælde kræves forudgående retslig godkendelse, og brugen skal være strengt nødvendig og proportional.

Gråzonen er størst ved AI til markedsføring. Personaliseret reklame, der bruger psykologisk profilering, kan potentielt falde ind under forbuddet mod manipulation, hvis den bevidst udnytter sårbarheder. Hvis din organisation bruger AI-drevet markedsføring, bør du vurdere, om teknikken respekterer grænsen mellem personalisering og manipulation.

Forbuddet mod emotionsgenkendelse gælder specifikt på arbejdspladser og i uddannelsesinstitutioner. I andre sammenhænge, f.eks. til medicinske formål, kan emotionsgenkendelse stadig være lovlig, men falder muligvis under reglerne for højrisiko-AI-systemer.

Sanktioner ved overtrædelse

Overtrædelse af forbuddene medfører de højeste bøder i AI-forordningen: op til 35 millioner euro eller 7% af den globale årsomsætning. Det overstiger GDPR’s maksimale bødeniveau på 20 millioner euro / 4% af omsætningen.

For SMV'er og startups gælder det laveste af de to beløb. Det gør stadig sanktionerne markante for selv mindre virksomheder.

Nationale tilsynsmyndigheder håndhæver forbuddene. Din organisation bør som minimum gennemgå alle AI-systemer i brug og sikre, at ingen falder ind under de otte forbud. Dokumenter vurderingen, så du kan fremvise den ved tilsyn.

Kombinationen af et tidligt ikrafttrædelsestidspunkt og høje bøder gør forbudte AI-praksisser til det mest akutte complianceområde i AI-forordningen. Har du ikke allerede kortlagt dine AI-systemer, bør du starte nu.

Ofte stillede spørgsmål om forbudte ai-praksisser

Hvornår trådte forbuddet mod AI-praksisser i kraft?

Forbuddet mod de forbudte AI-praksisser trådte i kraft den 2. februar 2025. Det var den første del af AI-forordningen, der blev gældende.

Hvad er social scoring i AI-forordningen?

Social scoring er, når offentlige myndigheder bruger AI til at vurdere borgere baseret på deres sociale adfærd og tildele dem en score, der påvirker deres rettigheder. Det er helt forbudt i EU.

Hvad er straffen for at bruge forbudte AI-praksisser?

Bøden for at bruge forbudte AI-praksisser er op til 35 millioner euro eller 7% af virksomhedens globale årlige omsætning, alt efter hvilket beløb der er højest.

Er ansigtsgenkendelse forbudt i EU?

Real-time biometrisk fjernidentifikation i det offentlige rum til retshåndhævelse er som udgangspunkt forbudt, men der er snævre undtagelser ved alvorlige trusler som terrorisme og eftersøgning af ofre.