Hva skjedde

Rådet ga sin endelige godkjenning til KI-forordningen 21. mai 2024. Den risikobaserte modellen kombinerte forbud, krav til høyrisikosystemer, lettere transparensplikter og egne regler for modeller til allmenn bruk.

Godkjenningen avsluttet EUs lovgivningsprosess, men startet ikke alle plikter. Signering, publisering, ikrafttredelse og de trinnvise anvendelsesdatoene måtte holdes fra hverandre.

Rettslig status i Norge

EUs endelige lovvedtak gjorde ikke KI-forordningen gjeldende i Norge. EØS-innlemmelse og norsk gjennomføring var fortsatt utestående.

Bakgrunnen for saken

Rådets vedtak beskrev også hvem som skulle håndheve reglene. KI-kontoret fikk en sentral rolle for modeller til allmenn bruk, mens et KI-styre med representanter fra medlemsstatene skulle støtte ensartet anvendelse. For enkelte offentlige brukere av høyrisikosystemer kom krav om vurdering av virkningen på grunnleggende rettigheter og registrering i en EU-database. I anskaffelser betyr det at kjøperen må vite om den er bruker, importør eller i praksis endrer systemet så mye at rollen flyttes. Rolle og formål styrer hvilken dokumentasjon som må innhentes.

Dette gjør leverandørens merkelapp mindre viktig enn virksomhetens faktiske bruk. En kunde som endrer formål, kobler på egne data eller bygger systemet inn i en beslutningsprosess, kan få andre plikter enn avtalen opprinnelig forutsatte. Godkjenningen bør derfor dokumentere rolle, bruksgrense, ansvarlig eier og hvilke endringer som utløser ny juridisk og teknisk vurdering.

Praktiske konsekvenser

Ledelsen bør fastsette hvem som godkjenner rolleendringer og hvilke leverandørbevis som er ufravikelige før lansering. Dersom dokumentasjon, logging eller hendelseskanal mangler, må beslutningen være å begrense bruken eller utsette den. Dermed blir rolleavklaringen en faktisk kontroll og ikke bare et felt i systemregisteret. Også vesentlige lokale tilpasninger bør omfattes av denne endringskontrollen.

Kilder

Rådet for Den europeiske union: «AI Act: Council gives final green light», 21. mai 2024.

Europaparlamentet: «European Parliament legislative resolution on the Artificial Intelligence Act», 13. mars 2024.

Til diskusjon

Hvor har vi størst avstand mellom dokumentert kontroll og faktisk praksis?