01/06/2022 - Kunstig intelligens

Skal dine ansigtsdata fredes?


Den amerikanske softwarevirksomhed Clearview AI, som er kendt for sin teknologi med ansigtsgenkendelse, har netop fået et forbud mod at sælge og indhente biometriske data i den amerikanske delstat Illinois.

Virksomheden er også blevet idømt millionbøder i en række europæiske lande, og forbuddet er derfor blot ét ud af flere tiltag, der har til formål at begrænse virksomhedens virke og beskytte forbrugernes private data.

Tekst: Sara Moss Hesse


Billedet: Udsnit fra law.com samt shutterstock

 

Tilbage i 2020 spurgte vi på K-NEWS, om man overhovedet kan tale om privatliv længere.

Anledningen var den dengang nye softwarevirksomhed Clearview AI’s hurtige succes med et værktøj, der kan koble menneskers navn og personlige oplysninger sammen med billeder i en stor database på baggrund af ansigtsgenkendelse.

Her, over to år senere, har vi et bud på svaret. En række bøder og lovgivninger, som har til hensigt at begrænse Clearview AI’s virke, er nemlig begyndt at dukke op. Vi ser altså en tendens, der kunne tyde på, at der er kommet en bredere konsensus om, at forbrugerbeskyttelse og lovgivning, der sikrer privatlivet, er et vigtigt våben mod de utallige virksomheder, der indsamler data ved hjælp af kunstig intelligens.

 

’Den eneste måde at stoppe det på er at forbyde det’

Clearview AI har vokset sig kæmpestor meget hurtigt, og da vi på K-NEWS på daværende tidspunkt skrev om virksomheden, talte deres database over 3 milliarder billeder – syv gange mere end, hvad FBI havde i sin database.

Dengang advarede flere amerikanske professorer imod Clearviews brug af ansigtsgenkendelse, og professor med speciale i jura og tech på Northeastern University i Boston, Woodrow Hartzog, udtalte til The New York Times, at Clearviews metode kalder på et fuldstændigt forbud mod brugen af ansigtsgenkendelse.

”Jeg ser ikke en fremtid, hvor vi udnytter fordelene ved ansigtsgenkendelsesteknologi uden den snigende misbrug af den overvågning, der følger med det. Den eneste måde at stoppe det er at forbyde det,” sagde Hartzog til The New York Times tilbage i januar 2020, hvor vi på K-NEWS også kunne skrive, at den amerikanske regering havde meldt ud, at der fra statslig side ikke var de store regulatoriske rammer på vej inden for udviklingen af AI og førerløs teknologi.

I USA har man ikke føderal lovgivning i forhold til biometriske data eller GDPR regelsæt, men en ny afgørelse fra den amerikanske delstat Illinois udfordrer imidlertid denne lempelige tilgang til anvendelse af kunstig intelligens i USA

 

Illinois' ‘Biometric Information Privacy Act’

Med den nye afgørelse i ’The Circuit Court of Cook County’ i delstaten Illinois må Clearview AI, som ikke er bosat i Illinois, ikke længere sælge deres data til amerikanske virksomheder i delstaten. Afgørelsen bunder i Illinois' ‘Biometric Information Privacy Act’ (BIPA), som sikrer, at personer har kontrol over deres egne biometriske data og forbyder private virksomheder at indsamle dataene, medmindre de oplyser personen på skrift om, hvilke data der indsamles eller opbevares.

Afgørelsen mod Clearview AI bliver set som et eksempel på BIPAs brede rækkevidde på tværs af statsgrænser i USA, og den gør det altså ulovligt for alle virksomheder - også uden for Illinois - at sælge biometriske data i delstaten. På den måde har den potentiale til at slå bunden ud af Clearview AI’s forretningsmodel og andre lignende virksomheder, der lever af at sælge biometriske data.

”Jeg synes, at afgørelsen viser, at indbyggere i en stat, der har regler på det biometriske område, er beskyttet, selv hvis du har et firma, der er uden for staten. At være uden for staten giver ikke virksomheden immunitet til at gøre lige, hvad de vil. Selvom Clearview AI er uden for Illinois, så kan de ikke tage Illinois' biometriske data uden samtykke, og det er derfor, at den her afgørelse er så vidtgående, som den er,” fortæller en af advokaterne i sagen og partner i det amerikanske advokatfirma Edelson PC, Eli Wade-Scott.

Fordi BIPA er så vidtgående, mener advokat for advokatfirmaet Crowell & Moring, Christiana State, at afgørelsen mod Clearview AI sandsynligvis vil fungere som pejlemærke for de stater, der lige nu har mere lempelige love på området, som for eksempel Texas og Washington.

 

Millionbøder i hele Europa

Og det er ikke kun Illinois, der er ude med riven efter Clearview AI. Virksomheden har de seneste mange måneder fået en lang række bøder i blandt andet Italien, Storbritannien og Frankrig, som tilsammen løber op på 360 millioner danske kroner, mens Tyskland og Canada også har truffet beslutninger om tilsvarende forbud.

Mediet Radar skriver d. 23. maj , at den britiske datamyndighed, The Information Commissioner’s Office (ICO), har idømt Clearview AI en bøde på 66 millioner danske kroner. Ikke nok med det, så skal virksomheden også slette de billeder og den data, som er indsamlet gennem flere år via åbne kilder og sociale netværk på britiske borgere.

I Danmark er der, hvad vi ved af, endnu ikke noget, der tyder på, at forbud rettet mod Clearview AI er på vej. Radar skriver, at de i forbindelse med bøden i Storbritannien har kontaktet det danske datatilsyn, som fortæller, at det ikke har nogen igangværende sag eller undersøgelse i forhold til Clearview AI, og at de heller ikke ønsker, at kommentere det britiske forbud og medfølgende bøde.

I forbindelse med, at ansigtsgenkendelse er blevet et hyppigt anvendt værktøj for myndighederne, udgav Det Europæiske Databeskyttelsesråd den 12. maj i år en vejledning om brug af ansigtsgenkendelse. Databeskyttelsesrådet skriver selv, at selvom anvendelsen teknologier til ansigtsgenkendelse åbner op for mange muligheder, så rummer de også en række problemer som for eksempel diskrimination og underminering af borgeres fundamentale rettigheder.

Del denne fra K-NEWS

Skal vi holde dig opdateret?

Få besked om nye artikler og podcast direkte i din mailboks ved at tilmelde dig herunder.

Vi indsamler ikke data om dig – og journalistikken, vi leverer, er gratis.

Nyhedsmail. Ja tak