En opdagelse har kastet en skygge over udsigten til en fremtid med selvkørende biler.
Kunstig intelligens, som er hjertet i disse futuristiske køretøjer, har ifølge et nyt omfattende studie vist sig at være langt mindre pålidelig, når det kommer til at opdage farvede personer i forhold til hvide, og børn i forhold til voksne.
Mens vi står på tærsklen til en verden med selvkørende biler, har dette banebrydende studie kastet lys over store fejl i kernen af den teknologi, der driver disse maskiner. Forskningsresultaterne, udført af et internationalt hold forskere fra Kina og England og offentliggjort i en pressemeddelelse fra King’s College London, viser, at selvkørende biler har svært ved at registrere børn i forhold til voksne og farvede personer i forhold til hvide.
Jie Zhang, en af forskerne bag studiet, har udtrykt sin bekymring og sagt, “Faren ved selvkørende biler er akut. Det kan godt være, at minoritetsgrupper tidligere blev nægtet grundlæggende rettigheder, men nu kan de stå over for decideret fare.”
Studiet undersøgte nøje præstationen af otte af de mest udbredte fodgænger-detektorer, der anvender kunstig intelligens til at identificere personer baseret på hudfarve, køn og alder. Resultaterne afslørede, at kønsforskellene var minimale, men forskellen i præcision var mærkbar i de andre kategorier.
Det viste sig, at detektorerne var næsten 10% mindre tilbøjelige til at opdage personer med mørk hud sammenlignet med personer med lys hud. Endnu mere alarmerende var det, at der var hele 20% større risiko for, at systemerne fejlagtigt overså børn i forhold til voksne.
Forskernes resultater har rejst spørgsmål om, hvorvidt selvkørende bilproducenter tager tilstrækkelige forholdsregler for at forhindre sådanne problemer. Selvom virksomheder, der udvikler selvkørende biler, normalt ikke deler detaljer om deres software, mener Jie Zhang, at mange af dem anvender lignende systemer som dem, der blev testet i studiet. Dette gør det sandsynligt, at de kan stå over for de samme udfordringer med præcision og objektivitet.
“Kunstig intelligens skal behandle alle mennesker ens, uanset deres baggrund, hvis det skal være retfærdigt. Desværre er det ikke tilfældet i øjeblikket med selvkørende biler,” fortæller Zhang. Han understreger behovet for regulering på dette område for at sikre, at disse teknologier fungerer sikkert og objektivt, uden at diskriminere nogen.
