Kategori: underligt
Digitale systemer er imponerende dumme.
28-04-2019
En computer består af små enheder, som enten har eller ikke har strøm. Computer-konstruktører har tillagt de små enheder værdier og siger, at en strøm står for 1 og nul strøm står for 0. En computer ved ikke, hvad tal er.

Tænk på en kugleramme. Den bruges stadig i Japan til indviklede udregninger, også i bankvæsenet, og nogle mener, at kuglerammen er forløberen og inspirationen til den moderne computer. En kugleramme er ikke intelligent, men snarere dum. Den ved ingenting. Den ved ikke, at den består af kugler, og at en kugle rykket til venstre betyder et tal.

I en pc er der ikke tal og bogstaver. Og 'kuglerammerne', som pc-en består af, er simple: de har kun 8 rækker med én kugle på hver række, og kuglen kan kun stå til venstre eller til højre, to tilstande, nul strøm eller en strøm. Bogstaveligt talt er pc-er analfabeter.

Mere om bogstaver: Computer-konstruktører har opstillet tabeller, kaldet ASCII, med alle tal og bogstaver i alle verdens sprog. Konstruktørerne har givet det latinske bogstav A koden 065 og de har bestemt, at en 'kugleramme' med værdierne 01000001 skal stå for 065 og dermed være lig med bogstavet A.

Et komplekst digitalt system har flere millioner meget små 'kuglerammer', som ligger i millioner af lag og påvirker hinanden. Data, en strøm/nul strøm eller i vores øjne 0 og 1 taller, løber gennem kuglerammerne og ud fra indviklede regler, som programmørerne har opstillet, algoritmer, ændres værdierne ned gennem systemet. Hvis en kugleramme har én værdi, skal næste kugleramme have en bestemt anden værdi.

Regnereglerne i systemet kan også opstå af sig selv. Det er nok grunden til at it-firmaer kalder deres systemer intelligente og mener, at systemerne tænker selv. Men hvis programmørerne havde oceaner af tid, ville de kunne finde det sted i lagene, hvor en ny regel blev dannet, og hvorfor den blev det. Data var årsagen.

En computer kan ikke tænke nyt. Den er mekanisk, og hvis den får samme data ind, vil den nå til samme resultat hver gang disse data er behandlet i de mange lag.

Hvis en person derimod én dag får et sæt data til overvejelse, og den samme person en anden dag får det samme sæt data til genovervejelse, er det sandsynligt, at det resultat han når frem til anden gang ikke er helt det samme som første gang. Personen har nået til en ny forståelse eller en ny og bedre forklaring af datasættet. Han har vægtet nogle forhold vigtigere anden gang end første. Det kan et digitalt system ikke.

I sager, der er indgribende og vitale for mennesker, er der som regel en gruppe af personer, som træffer en afgørelse. I vigtige retssager er der en forsvarer og en anklager; der kan være flere dommere, én eller flere juridisk uddannede dommere og i nogle sager almindelige borgere. Det sikrer, at sagen bliver belyst fra alle synsvinkler.

Kunne retsvæsenet anvende flere digitale systemerer til at belyse alle aspekter i en konkrete sag?

Teknisk set ville det kræve at de digitale systemer blev oplært med forskellige datasæt. Millioner af inputdata er nødvendige for at digitalt system kan oplæres, og alle de enkelte data skal 'lables', dvs de skal vedhæftes en beskrivelse, så systemet kan se, hvad der er rigtigt og forkert. Mennesker foretager denne 'labeling'.

I systemer til ansigtsgenkendelse bliver millioner af fotos annoteret, fx at fotoet viser et brullup. Sker det ikke omhyggeligt og detaljeret, vil der opstå fejl. Den fejl opstod ved et foto fra Afrika, hvor brudeparret var klædt i farvestrålende festtøj. Fotoet viste et karneval, mente systemet. Da processen med labeling er omkostelig og tidskrævende bliver et datasæt med millioner af fotos, som ét firma har dannet, brugt af andre firmaer med det resultat, at de samme fejl opstår hos dem alle.

Måske var det en mulighed at anvende digitale systemer med forskellige algoritmer. Men også det giver problemer: al digital teknologi arbejder kun statistisk og tager ikke omstændigheder i en konkrete sag i betragtning. Den uretfærdighed er urimelig.

Endelig hvis flere digitale systemer blev anvendt til en domsafsigelse og de foreslog forskellige resultater, måtte en gruppe af mennesker alligevel vurdere resultaterne. Og da digital teknologi ikke kan forklare hvorfor den når et resultat og hvad der gav udslaget, måtte gruppen af mennesker sætte sig ind i alle sagens detalje. Intet var vundet.

Fordi komplekse digitale systemer anvender statistik kan der opstå et andet problem, nemlig faske mønstre.

Hvis data viser, at antallet af beboere midt i en amerikansk by overvejende er mexicanere, og at antallet af trafikuheld er større i bymidten i forhold andre steder, vil et system i et forsikringsselskab nå frem til, at mexicanere skal betale en højere forsikringspræmie end andre. Systemet misforstår sammenhængen, som er statistisk korrekt, mellem antallet af mexicanere og antallet af uheld. Mens et menneske tænker i årsagssammenhænge og let kan bedømme, at de to antal intet har med hinanden at gøre.

Endvidere har det overrasket eksperter, hvor stædigt og dumt digitale systemer holder fast i forkerte resultater.

Hvis forsikringsselskabet bearbejder data, så det ikke mere direkte fremgår, hvem der er mexicanere, vil systemet alligevel nå frem til samme resultat som før, fordi mexicanere har fællestræk. Måske er de lavtlønnede. Måske bor de fleste af dem til leje. Måske har de flere børn end andre. Et system i et forsikringsselskab indlæser over tusind variabler om hver person. Det digitale system bruger disse værdier til at finde mønstre, bl.a. fællestræk. Systemet vil igen slutte, at en gruppe med fællestræk - lavtlønnet, mange børn osv. - skal betale en højere forsikringspræmie. Og det ville igen ramme mexicanere.

Amazon testede et system til brug ved ansættelser og opdagede, at systemet fravalgte kvinder, selv om de havde de rette kvalifikationer. Programmørerne prøvede at fjerne alt fra data eller cv-erne, som havde med køn at gøre. Men systemet fravalgte stadig kvinder. Programmørerne var målløse. Efter mange undersøgelser fandt i de ud af, at systemet delte cv-erne efter ord, som forekom i cv-erne, og åbenbart bruger mænd og kvinder forskellige ord. Systemet fravalgte cv-er med 'kvindesprog'. Programmørerne prøvede derefter at fjerne de ord, fx 'execute' (at 'køre' et program), som oftere forekom hos mænd end hos kvinder. Resultatet var, at systemet nu slet ikke duede. Det var helt tilfældigt hvem systemet foreslog til ansættelse, og lavtuddannede programmører blev foreslået til ledende stillinger i firmaet.

Komplekse digitale systemer er imponerende og overraskende og stædigt dumme analfabeter. Deres resultater eller anbefalinger skal vurderes kritisk og tages med et gran salt, eller snarere et kilo.

Se mere om digitale systemer.
se alle indlæg
cookies