13. januar 2022 - Kunstig intelligens

Rigtig skidt og rigtig godt nyt om trafik-kameraerne


Kameraerne med indlejret kunstig intelligens nedsætter antallet af ulykker og trafikdræbte - det er den gode nyhed. Den dårlige er, at de automatisk udstedte bøder rammer socialt helt skævt.

Med vidtrækkende konsekvenser og af årsager, der handler om andet end bare algoritmerne rammer systemet dem, der i forvejen har dårligst økonomi. 

Tekst: Dan Poulsen


Bøderegn og langt voldsommere konsekvenser af trafikforseelser rammer de borgere, der ikke er hvide. Rodney Perry (øverst til venstre) fik i 2021 to håndfulde  bøder fra automatiserede kameraer.

 

Ja ja, det er i USA, at denne historie har sit udspring. Men kernen er såmænd relevant nok herhjemme i en tid, hvor der er givet tilladelse til, at myndigheder kan opsætte kameraer i særlige zoner - efter behov og politiets vurdering. Og teknisk er det kun et fingerknips væk, at der kan indføres kunstig intelligens til at beslutte, hvad kameraerne skal se, og hvad det for de sete borgere skal have af konsekvenser. Baseret på jura, udstedt administrativt og automatiseret.

 

Alt det uden om algoritmerne

Det er det hæderkronede undersøgende amerikanske medie ProPublica, der i en stor analyserende artikel netop har afdækket, hvordan det i Chicago er gået med trafikkameraerne, sådan at nyindførte regler og gamle sammenhænge har ramt socialt skævt.

Eller - som det selvfølgelig i USA også handler om - har ramt racemæssigt skævt.

Den automatiserede udstedning af bøder for trafikforseelser - fartrelateret og kørsel for rødt -  rammer de farvede.

Det skyldes årsager, der kan sættes i kategorien ’biased AI’.

Og det skal ikke forstås sådan, at kameraerne aflæser bilisternes hudfarve og med utilsigtet bias, der har afsæt i hvor mange af forskellige hudfarver, der statistisk set normalt er mest kriminelle, sender flest bøder til sorte og latinoer.

Det er - ret interessant - en hel række andre forhold i den virkelige verden, der medskaber skævvridningen, der beskrives i artiklen med overskriften 'Chicagos ”Race Neutral” Traffic Cameras Ticket Black and Latino Drivers the most'.

 

Omgivelser og ændret fartgrænse

På K-NEWS vil vi her blot gengive få af ProPublicas pointer og så i øvrigt anbefale at læse artiklen, som du kan finde HER.

Bias, i denne historie om kunstig intelligens, handler om de store forskelle, der kan være i et land som USA, som i høj grad bunder i kvalitetsforskelle bydelene - sorte, latino, hvide - imellem.

Forskelle der handler om alt fra i de trafikale forhold, manglende cykelstier, antallet af til- og frakørsler til motorveje, til behovet for at køre mest i bil i et coronaramt arbejdsmarked, til hvormange butikker, fodgængere, parkerede biler, der er i et byområde.

En helt afgørende kontekst her i 2022, hvilket også er en af de vigtige anledninger til ProPublicas grundige undersøgelse, er, at byen Chicago både har været first-mover med at indføre AI i politiarbejdet i det offentlige rum, og de har oveni den tiltagende automatiserede bødeudskrivning sat fartgrænsen ned mange steder.

Som artiklen også indleder med, nærmer det sig tyveåret for indførslen af de første kameraer, der fanger overtrædelser af et rødt trafiklys.

”Det handler kun om sikkerhed”, sagde den daværende borgmester og efterfølgerne har argumenteret i samme retning. Da Rahm Emmanuel argumenterede for kameraer, som skulle sigte efter fartforseelser, sagde han, at børnenes sikkerhed er hans eneste mål. Og i 2020 udvidede den nuværende borgmester Lori Lightfoot hele programmet med, at det handler om at ”keep communities safe”.

Man fornemmer den verdensomspændende røde tråd mellem kameraer og tryghed.

Det, med sikkerhed i trafikken, er svært at være uenig i.

Men det har vist sig, når ProPublica er gået store mængder data og relevante forskeres konklusioner igennem, at der, er rigtig mange forhold, der er medvirkende til bøderegnen - ofte lokale byger - i den amerikansk storby.

Der er flere bøder, der udstedes af kameraer tæt på motorveje - og den slags kameraer er der sat uforholdsmæssigt flere op af i sorte områder.

Artiklen opridser i detaljer, hvordan faktorer som vejbredde, antal spor, et nabolags udseende og beboertæthed har betydning for, hvorhenne kameraerne registrerer forseelser.

I mange områder er der firsporede veje og næsten ingen trafik. De og andre nabolag kan også være utrygge områder, hvor du, som bilist, gerne vil hurtigt igennem.

Og hastighedsgrænsen er som nævnt sat ned. Detaljen, om hvormange bøder byens kameraer har uddelt med afsæt i de miles, fartgrænsen er nedsat, kan læses hos ProPublica.

Men på den måde at nedsætte fartgrænsen, på steder hvor det ikke giver mening i kontekst af bydel og omgivelser, har vidtrækkende konsekvenser.

 

Automatiseret bødespiral

En bilist fortæller i artiklen, at han på et år fik flere bøder på en strækning for at køre den hastighed, der kort tid inden havde været tilladt. Faktisk kørte han langsommere end det tidligere tilladte.

Han vedkender sig ansvaret for at køre for stærkt, men påpeger også, hvad også forskerne dokumenterer, at den korte frist for at betale, kan være svær at nå for ham såvel som andre med lavere indkomster.

Og det akkumulerer til at større problem da der automatisk bliver lagt ekstra oveni, hvis betalingsfrister overskrides. Samtidig er det system, hvor han digitalt kan søge om en afbetalingsordning, ikke et, der fungerer som det skal.

Da han ikke havde pengene inden fristen, blev hans bil clamped med en af de velkendte gule metal-anordninger, der låser bilens hjul. Han måtte låne penge af sin søster, så han kunne bruge sin den til at komme til og fra arbejde - både jobbet i hans egen virksomhed og det andet job han tog for at hive det ekstra hjem til bøderne.


Så: Et administrativt og i højere og højere grad automatiseret bødesystem ruller som en lavine, når du har fået den første bøde.

 

Færre skader og penge i kassen

To gode resultater er, at antallet af ulykker er faldet - kameraernes tilstedeværelse har overordnet sænket raten med 15 % - og der kommer store beløb i kommunekassen.

Sidstnævnte ’gode’ resultat bliver selvfølgelig ikke kun mødt med ros. Flere forskere og interesseorganisation peger på det problematiske i, at lade et vedtaget budget afhænge af indkomster, der skal hentes via kunstig intelligens og uden at der skeles til forskellighederne i de stærkt ulighedsramte amerikanske storby-bydele.

Den nedsatte fartgrænse har bon'et godt i pengekassen. I 2021 udsendte byen mere end 1,4 mio bøder til motoriserede køretøjer, fordi de kørte mellem 6 og 10 miles for hurtigt.
Hvis alle bøderne bliver indkasseret, skæpper det i kassen med omkring 50 millioner dollar.

Del denne artikel

Skal vi holde dig opdateret?

Få besked om nye artikler og podcast direkte i din mailboks ved at tilmelde dig herunder.

Vi indsamler ikke data om dig – og journalistikken, vi leverer, er gratis.

Nyhedsmail. Ja tak