Human Algorithms

Hva er Human Algorithms?

Kunstig intelligens/Machine Learning (maskinlæring)/Deep Learning er samlebegreper på «intelligente» eller lærende algoritmer. Algoritmer er programmerte eller lært (Machine Learning (maskinlæring)/Deep Learning) av mennesker eller menneskelig adferd.

Det er dette vi i Cegal kaller den menneskelig siden ved algoritmer eller «Human Algorithms». Med «Human Algorithms» fokuserer vi på de menneskelige sidene ved algoritmene.

Kunstig intelligens er et samlebegrep for teknologier som gjør datasystemer “intelligente” i den forstand at de er i stand til å løse problemer og lære av egne erfaringer. I dag er Machine Learning (maskinlæring eller lærende programvare) blant de mest kjente og brukte av disse teknologiene. 

Forenklet handler det om å bruke matematikk, statistikk, regler, informatikk, nevrologi og lingvistikk til å samle inn, systematisere og gjenkjenne mønstre i store datamengder.

En algoritme er en beskrivelse av en serie operasjoner, som brukes for å løse ett eller flere problem(er). Mer presist; en algoritme er en fortsettelse av matematiske ligninger med en logikk og et hierarki. En algoritme på en datamaskin er i utgangspunktet en utførelse av kommandoer som vil gjøre en oppgave.

Det er nå det er på tide å trekke frem den menneskelige (slag)siden ved algoritmer. Siden algoritmer (i denne sammenhengen) er avanserte dataprogrammer, er det fort gjort å tenke på dem som objektive eller sanne.

Noen ganger kan algoritmene gjennomskue våre fordommer og ta bedre avgjørelser enn folk. Andre ganger forsterker algoritmene våre fordommer enten ved at vi har programmert dem inn eller ved at vi lærer dem opp med våre fordommer eller som en kombinasjon av disse.

Her er tre eksempler på sistnevnte:

1. De første algoritmene for ansiktsgjenkjenning (Machine Learning) var dårlige på å gjenkjenne fargede/mørkhudede ansikter fordi menneskene som utviklet dem var hvite og datasettet som lærte algoritmene ikke var mangfoldig nok. Med andre ord, datasettet innehold stort sett bilder av hvite. I denne artikkelen fra The New York Times kan du lese mer om saken >
   
   
2. Apple-kort og kredittvurdering: En dansk utvikler oppdaget at han fikk 20 ganger høyere kreditt enn sin kone, på tross av de hadde tilnærmet lik økonomi og hun hadde høyere kredittrating enn ham. Kjønnskjevheten kan komme av skjevhet i datagrunnlaget bak algoritmene. I dette tilfellet ble modeller trent på historiske kredittdata fra 1970-tallet, uten å hensynta kvinnelig økonomisk uavhengighet. I denne artikkelen fra The Washington Post kan du lese mer om saken >
   
   
3. Microsofts kunstig intelligens-chatbot Tay og søskenbarnet Rinna utviklet seg ganske forskjellig. Tay, som lærte av amerikanske Twitter-kontoer ble raskt rasist, siterte Hitler, fornektet Holocaust og utviklet en heller ubehagelig personlighet, før Microsoft så seg nødt til å fjerne Tay fra nettet. Rinna, som ble lært opp i Japan, omtalte Hitler positivt, rakket ned på Microsoft, men var stort sett positiv og hyggelig, før «hun» plutselig gikk inn i en «tenåringsdepresjon». Tay og Rinna er omtalt mange steder på nettet, blant annet i denne saken fra techcrunch.com >

Denne mulige menneskelige siden eller skjevheten ved algoritmene gjør at vi må måle og teste algoritmene slik at vi lager dem bedre og rettferdige. Hvordan?

• Analyse av data og resultatene fra treningene. Korriger dataene hvis det er en skjevhet.
• Oppdag mulige skjevheter i forkant.
• Opplæring og testing med syntetiske data.
• Mer mangfold når algoritmene utvikles. De må lages av team sammensatt av folk med ulik bakgrunn, kjønn, opprinnelse osv.
• Bedre regelverk generelt. Kanskje algoritmer bør testes slik samfunnet tester medisiner?

Cegal og Human Algorithms

I Cegal har vi en rekke konsulenter med erfaring fra ulike maskinlæringsprosjekter og løsninger innenfor kunstig intelligens. Vi har også flere eksperter innen Data Science. Våre Data Scientists hjelper kunder med å lage skreddersydde løsninger for maskinlæring og analyse.

Møt en av våre Data Scientists, Anais, og se hva hun har å si om Human Algorithms > 

Les mer om Cegal sine tjenester innenfor Data og Analytics >