Algoritmealderen er her: Tøff teknologi eller digital dystopi?

Alt kan brukes som drapsvåpen, hvis du virkelig vil. Du kan lage den vakreste blomstergirlanderen, men strammer du den rundt halsen til noen, vil du kvele dem. Eller motsatt: GPS-systemet som i dag brukes til å finne riktig buss, ble originalt utviklet for å skyte opp atom-missiler.

Slik er det også med algoritmene, mener den britiske matematikeren Hannah Fry. I boka Hallo, verden gir hun en grundig, men lettfattelig inngang til de utskjelte algoritmenes verden. Er de virkelig så skumle som de kan virke?

Det korte svaret er njeeei.

Det litt lengre svaret kommer vi til.

(Det enda lengre svaret burde du selvfølgelig lese i boka Dagbladet kaller «høyaktuell, fengende og sylskarp»).

Hva er egentlig en algoritme?

Først, en oppklaring: Algoritmer er et begrep som bli slengt ut i tide og utide for tiden. Gjerne i samme åndedrag som Facebook, Google, Cambridge Analytica og det som verre er.

Men selv om det er disse gigantene som har gjort algoritmene til et husholdningsbegrep, favner begrepet algoritme egentlig mye bredere.

En algoritme, helt enkelt, er «en trinnvis prosedyre for å løse et problem eller nå et mål».

Med andre ord, et sett regler som sier: Først gjør dette, så gjør dette.

En matoppskrift? Algoritme. Først knus egg, så hell oppi sukker, så visp. Har du fulgt algoritmen kommer det forhåpentligvis en nydelig eggedosis ut på andre siden.

Mer vanlig å er det å bruke begrepet innen matematikk: En kan si at en algoritme ofte er et regnestykke som skal gi et bestemt resultat.

Rangere, assosiere, kategorisere, filtrere

Den største forskjellen på matoppskriften og algoritmene vi vanligvis snakker om, er ingrediensene. I stedet for egg og sukker, blir de digitale algoritmene matet med informasjon.

Algoritmen tar informasjonen og rangerer, assosierer, kategoriserer eller filtrerer den. Ofte gjør den en kombinasjon av alt dette.

Det blir til en rekke beregninger som resulterer i alt fra rekkefølgen resultatene kommer i når du gjør et Google-søk, til hvilken reklame du får se før et YouTube-klipp.

Algoritmer lærer som hunder

Noen algoritmer følger klare regler som i en oppskrift. Men de mest avanserte er såkalte «maskinlæringsalgoritmer» – algoritmer som lærer av seg selv.

Fry sammenligner det med å trene opp en hund: Algoritmene blir matet med informasjon og får beskjed om å nå et bestemt mål. Ved å belønne den når den er på riktig spor, og ignorere den når den tar feil, blir den flinkere og flinkere til å gjøre oppgaven – helt av seg selv.

Ville du latt en algoritme sende deg til fengsel?

Algoritmer blir en stadig større del av samfunnet. Du vet allerede at Facebook, Instagram, Twitter og Netflix bruker algoritmer for å sortere innholdet de viser deg etter dine interesser.

Du vet kanskje også at algoritmer brukes i filmindustrien for å anslå hvilke filmer som kommer til å bli en kassasuksess.

Men visste du at algoritmer også brukes til å sende folk til fengsel?

Noen stater i USA bruker algoritmer i rettsystemet for å beregne hvorvidt en tiltalt burde sitte i varetekt eller om det er trygt å løslate dem på kausjon.

Ved å mate inn statistikk fra tidligere straffedømte, vil algoritmen forutsi sannsynligheten for at den tiltalte vil begå nye lovbrudd.

Der mennesker kommer til kort

Høres det fælt ut? Da skal du vite at dommere av kjøtt og blod ikke nødvendigvis er hverken konsekvente eller rettferdige.

Forskning viser at tilfeldige faktorer ofte spiller en stor rolle i dommen i saker, skriver Fry: Om saken din kommer opp rett før lønsj, for eksempel, har du et dårligere utgangspunkt enn hvis dommeren er mett og fornøyd.

Fry nevner også at sannsynligheten for at dommere skal gi noen løslatelse mot kausjon, blir mindre hvis det lokale sportslaget nettopp har tapt.

Samtidig tyder mye på at bruken av algoritmer kan redusere antallet varetektsfengslede, samtidig som færre begår nye lovbrudd.

Så spørsmålet blir om du heller vil la tilfeldigheter og menneskelige svakheter spille inn på skjebnen din, eller om du vil bli kynisk dømt basert på en algoritme.

Å gjøre mennesker til matematikk

Men problemet stopper jo selvfølgelig ikke helt der. Hannah Frys poeng er nettopp at algoritmene ikke blir bedre enn vi gjør dem, og selv da vil de ha sine begrensninger: Mennesker er jo ikke logiske, og å gjøre mennesker til matematikk er problematisk.

Derfor vil heller ingen slike algoritmer være 100% treffsikre. Mater vi dem med data fra tidligere straffesaker, vil den reprodusere de resultatene som ligger der allerede.

Fry legger frem et hypotetisk eksempel: Lager man en algoritme som tar en tilfeldig gruppe mennesker, og forsøker å spå hvem av dem som er mordere, vil den nødvendigvis peke ut flere menn (96% av drapsdømte på verdensbasis er menn).

Det betyr ikke at algoritmen ikke har rett i at flesteparten av morderne er menn, men feilmarginen vil også gå hardere utover nettopp denne gruppen: Av de som blir feilaktig pekt ut, vil flesteparten være menn.

Makten i digital infrastruktur

Rettsvesenet er bare et av mange eksempler på institusjoner der algoritmer kommer til å spille en stadig større rolle i tiåret vi nå går inn i.

I Hallo, verden er det egne kapitler dediktert til algoritmer innenfor medisin, biler, kriminalitet og kunst – og Fry krydrer med eksempler fra alle mulige felter gjennom hele boka.

Uansett hva de brukes til: Algoritmene fører med seg etiske, moralske og tekniske problemstillinger som vi er nødt til å forholde oss til.

Men på tross av utfordringene, er ikke Hannah Fry noen pessimist. På samme måte som arkitekter og byplanleggere har laget infrastrukturen til byene vi bor i, lager programmere den digitale infrastrukturen.

Det ligger det enorm makt i. Men makten er i menneskers hender: Skulle et bygg vise seg å være et feilsteg, er det fullt mulig å rive det.

Boka er tilgjengelig på papir her, lydbok her og e-bok her.