EU foreslår nye regulatoriske krav for Kunstig Intelligens som vil få stor konsekvens for Norge

EU har lansert et forslag til regulering i bruken av Kunstig Intelligens (KI) som skal gjelde for alle aktører som opererer innen den europeiske unionen. EU prøver å finne en "tredje måte" på KI-regulering, mellom det frie markedet som USA står for, og det autoritære Kina på den andre siden. Kunstig Intelligens er sett på som et paradigmeskifte i digitaliseringen og denne teknologien vil ha store konsekvenser for vårt velferdssamfunn.

Det er ventet at Norge vil etterleve det nye regelverket som ansees å få like stor innvirkning som regelverket for GDPR. Derfor blir dette regulatoriske forslaget en av de viktigste samfunns- og teknologidebattene i tiden fremover.

I dette webinaret setter vi søkelys på det nye regelverket og diskuterer hva dette vil bety for offentlig sektor i Norge. Link til webinar her:

Noen hovedpunkter i forslaget fra EU:

• KI-systemer som brukes til å manipulere menneskelig atferd vil bli forbudt i EU. Det samme gjelder KI-systemer som utnytter informasjon om enkeltpersoner eller grupper av individer til å definere en sosial poengsum eller for vilkårlig overvåking. Eksempler på dette er rekrutteringsalgoritmer og de systemene som vurderer individets risikovurdering eller kredittverdighet.
• Eksterne biometriske identifikasjonssystemer som brukes på offentlige steder, som ansiktsgjenkjenning, vil trenge spesiell autorisasjon fra myndighetene.
• KI-applikasjoner som anses å være 'høyrisiko' må gjennomgå inspeksjoner før distribusjon for å sikre at systemene blir trent på upartiske datasett, på en sporbar måte og med menneskelig tilsyn.
• Høyrisiko-KI vil vedrøre systemer som kan true folks sikkerhet, liv eller grunnleggende rettigheter, samt EUs demokratiske prosesser - for eksempel selvkjørende biler og fjernoperasjoner.
• Noen selskaper vil få lov til å foreta vurderinger selv, mens andre vil bli underlagt kontroller fra tredjeparter. Samsvarsbevis utstedt av vurderingsorganer vil være gyldig i opptil fem år.
• Reglene vil gjelde for alle organisasjoner basert i EU.
• EU foreslår noen unntak for offentlig sikkerhet, herunder militæret.