AI-system

Et AI-system er ifølge AI-forordningen et maskinbaseret system, der kan generere output som forudsigelser, anbefalinger eller beslutninger. Definitionen afgør, om din software er omfattet af AI-forordningens krav.

Tilbage til ordbog

Den juridiske definition

AI-forordningens artikel 3(1) definerer et AI-system som:

Definition: "Et maskinbaseret system, der er designet til at operere med varierende grader af autonomi, og som efter ibrugtagning kan udvise tilpasningsevne, og som til eksplicitte eller implicitte formål udleder, ud fra det input det modtager, hvordan det genererer output såsom forudsigelser, indhold, anbefalinger eller beslutninger, der kan påvirke fysiske eller virtuelle miljøer."

Denne definition er bevidst bred. EU har tilpasset den fra OECD's definition af AI for at sikre, at den er teknologineutral og kan rumme fremtidige AI-teknologier.

De tre nøgleelementer

Definitionen indeholder tre afgørende elementer, der alle skal være opfyldt:

1. Maskinbaseret med autonomi: Systemet skal kunne operere med en vis grad af selvstændighed. Det betyder, at det selv kan udføre opgaver uden konstant menneskelig styring af hvert enkelt skridt. En lommeregner har ingen autonomi. En sprogmodel der selv formulerer svar, har det.

2. Tilpasningsevne: Systemet skal kunne tilpasse sig efter ibrugtagning. Det kan ske gennem maskinlæring, hvor modellen forbedres over tid, eller gennem inferens, hvor systemet tilpasser sit output til nye input. Denne egenskab adskiller AI fra traditionel software med faste regler.

3. Genererer output: Systemet skal producere forudsigelser, indhold, anbefalinger eller beslutninger. Det dækker alt fra en chatbot der genererer tekst, til et system der anbefaler kreditscore, til en model der forudsiger maskinnedbrud.

Alle tre elementer skal være til stede. Et regneark med formler er maskinbaseret og genererer output, men det mangler autonomi og tilpasningsevne. Det er altså ikke et AI-system.

Eksempler på AI-systemer

Her er konkrete eksempler på systemer, der typisk falder inden for definitionen:

Store sprogmodeller (LLM): ChatGPT, Claude, Gemini og lignende. De er også generelle AI-modeller med særskilte krav.
Billedgenkendelse: Systemer der identificerer objekter, ansigter eller defekter i produktionslinjer.
Anbefalingssystemer: Algoritmer der anbefaler produkter, indhold eller kandidater til jobsamtaler.
Prædiktive modeller: Systemer der forudsiger kundeafgang, kreditrisiko eller vedligeholdelsesbehov.
Autonome køretøjer: Selvkørende biler og droner der navigerer selvstændigt.
Robotic Process Automation med AI: RPA-bots der bruger maskinlæring til at håndtere ustrukturerede data.

Når du har identificeret dine AI-systemer, skal du vurdere, hvilke risikokategorier de hører til. Et højrisiko-AI-system har markant flere krav end et med minimal risiko.

Grænsetilfælde

Ikke alt software med "AI" i markedsføringsmaterialet er et AI-system i juridisk forstand. Og omvendt kan software uden AI-branding godt være omfattet.

Typisk IKKE AI-systemer:

Simple regelbaserede systemer (if/then-logik uden tilpasningsevne)
Traditionel statistisk software uden autonome beslutninger
Databaser og søgemaskiner med simpel matching
Basal automatisering som e-mail-autoresponders med faste skabeloner

Typisk AI-systemer (selvom de ikke kaldes AI):

Spamfiltre baseret på maskinlæring
"Smarte" CRM-systemer der scorer leads automatisk
Oversættelsesværktøjer baseret på neurale netværk
Prissætningsalgoritmer der tilpasser sig markedsdata

Hvis du er i tvivl, anbefaler vi at lave en kortlægning af dine systemer. Undersøg den underliggende teknologi, og vurder om alle tre elementer i definitionen er opfyldt.

Ofte stillede spørgsmål om ai-system

Hvad er et AI-system ifølge AI-forordningen?

Et AI-system er et maskinbaseret system designet til at operere med varierende grader af autonomi, og som efter ibrugtagning kan udvise tilpasningsevne og generere output som forudsigelser, anbefalinger, beslutninger eller indhold.

Er et simpelt regelsystem et AI-system?

Nej, simple regelbaserede systemer med faste if/then-regler er normalt ikke AI-systemer i forordningens forstand. Systemet skal udvise en vis grad af autonomi og tilpasningsevne for at være omfattet.

Er en chatbot et AI-system?

Det afhænger af teknologien. En chatbot baseret på store sprogmodeller (LLM) som GPT er et AI-system. En simpel FAQ-chatbot med faste svar er det typisk ikke, fordi den mangler tilpasningsevne.

Hvorfor er definitionen af AI-system vigtig?

Definitionen afgør, om din software falder ind under AI-forordningens krav. Opfylder dit system alle tre kriterier (autonomi, tilpasningsevne, output-generering), er det underlagt forordningens forpligtelser afhængigt af risikokategori.