05. maj 2021 - EU-lovgivning

Kunstig intelligens skal reguleres af ægte love 


EU-kommissionens nye forslag til en fælles europæisk regulering af brugen af kunstig intelligens sigter at skabe transparens i både virksomheders og myndigheders brug af AI.

Forslaget, der søger at regulere bl.a. brugen af ansigtsgenkendelse, førerløse biler og algoritmer i forbindelse med online marketing, kan få stor betydning for alle aktører, både indenfor og udenfor EU's grænser.


D. 21. april præsenterede EU-kommissionen et nyt udspil til en fælles europæisk regulering af kunstig intelligens. Lovforslaget bliver betegnet som et af de mest vidtgående internationale initiativer i forhold til at regulere og i nogle tilfælde helt ulovliggøre brugen af kunstig intelligens.

"Det er et meget vigtigt signal set i et global sammenhæng, at nogle dele af AI simpelthen ikke er lovligt at anvende i et samfund baseret på demokrati, retssikkerhed og fundamentale rettigheder", siger Daniel Leufer, der policy analyst ved den europæiske nonprofit-organisation Access Now til Wired.com.

Forslaget i sin nuværende form er da også gennemgribende. 

F.eks. vil forslaget helt forbyde brugen af AI i forbindelse med myndigheders segmentering af udsatte grupper i relation til udbetaling af offentlige ydelser, såfremt algoritmerne ikke er transparente og tilgængelige for offentligheden. Men også AI-systemer, der segmenterer grupper i til brug i markedsføringssammenhæng bliver med forslaget ulovliggjort - f.eks. ved at placere bettingreklamer på sider, som besøges af personer med gamblingproblemer o.lign. Og dermed altså en kæp i hjulet til det amerikanske og kinesiske techgiganter, som tjener styrtende på disse typer af kundeprofileringer.

 

No more real life action

Og så er der myndighederne, og ikke mindst politiets brug af algoritmer og kunstig intelligens i forhold til kriminalitetsforbyggelse. Som vi på K-NEWS tidligere har kunne fortælle, så man både i USA og flere steder i Europa ved at efterrationalisere på implementeringen af 'predictive police'-systemer, der bruger netop kunstig intelligens og mønstergenkendelse til at udpege de såkaldte hot spots, hot times og i nogle tilfælde også hot persons. 

For mens forslaget fortsat finder det lovligt, at anvende algoritmer til opklaring af kriminalsager retrospektivt, så lægges der op til, at det skal kræve en helt særlig tilladelse, hvis man vil overvåge folk via ansigtsgenkendelse i realtid. Ifølge sitet lawfareblog.com beskrives det således:

"Loven udelukker også brugen af ​​"realtids" fjernbiometriske identifikationssystemer, såsom ansigtsgenkendelse, i offentligt tilgængelige rum til retshåndhævelsesformål." 

Som eksempel kan myndighederne have hjemmel til at bruge ansigtsgenkendelse og biometriske algoritmer som reaktion på en kriminel handling - f.eks. scanning efter gerningsmænd på en togstation i forbindelse med et netop udført terrorangreb.

 

Bøder sprænger budgettet

Det skal samtidig heller ikke være gratis at overtræde den europæiske regulering. EU-kommissionen foreslår et bødeniveau svarende til 6% af en virksomheds globale salg - til sammenligning ligger de højeste bødestørrelse i relation til brud på GDPR på op til 4% af en virksomheds globale omsætning.

Der er med udspillet desuden lagt op til en stram kontrol med virksomheders og myndigheders evne til at gøre datasæt og algoritmer tilgængelige. Ifølge Wired.com kræver forslaget, at virksomheder til enhver tid skal kunne informere brugere om, hvornår, hvordan og hvorfor de anvender AI. Og det er dermed et vigtigt udgangspunkt i forhold til at forme fremtiden for udrulningen af stadig mere kunstig intelligens i samfundet, mener Leufer.

"Der eksisterer et narrativ, der siger, at vi står midt i et AI-race, men det er noget nonsens. Vi skal ikke konkurrere med Kina om former for kunstig intelligens, som på den måde understøtter masseovervågning", siger han til Wired.com, med henvisning til den megen kritik, der er rejst mod den kinesiske brug af kunstig intelligens i deres social credit-systemer, hvor befolkningen deles op i samfundsklasser med flere eller færre privilegier afhængigt af deres placering i pointsystemet. 

Det ventes, at forslaget snarest skal drøftes i parlamentet og i rådet med henblik på at udfærdige et endeligt direktiv. 

Del denne artikel

Hold dig opdateret

Få klar besked om nye artikler og podcasts direkte i din mailboks ved at tilmelde dig herunder.

Vi indsamler ikke data om dig - og journalistikken, vi leverer, er gratis.

Nyhedsmail. Ja tak