Human Algorithms

Hvad er Human Algorithms?

Kunstig intelligens / Machine Learning / Deep Learning er fællesbegreber for “intelligent” eller lærende algoritmer. Algoritmer programmeres (Machine Learning / Deep Learning) af mennesker eller menneskelig adfærd. Det er det, vi hos Cegal kalder den menneskelige side af algoritmer eller “Human Algorithms”. Med “Human Algorithms” fokuserer Cegal på de menneskelige aspekter af algoritmerne.

Kunstig intelligens er en samlebetegnelse for teknologier, der gør computersystemer “intelligente” i den forstand, at de er i stand til at løse problemer og lære af deres egne erfaringer. I dag er Machine Learning (maskinlæring eller læringssoftware) blandt de bedst kendte og brugte af disse teknologier.

Forenklet handler det om at bruge matematik, statistik, regler, informatik, neurologi og lingvistik til at indsamle, systematisere og genkende mønstre i store mængder data.

En algoritme er en beskrivelse af en række operationer, der bruges til at løse et eller flere problemer. Mere præcist; en algoritme er en fortsættelse af matematiske ligninger med en logik og et hierarki. En algoritme på en computer er dybest set en udførelse af kommandoer, der skal udføre en opgave.

Det er nu tid til at fremhæve den menneskelige (venlige) side af algoritmer. Da algoritmer (i denne sammenhæng) er avancerede computerprogrammer, er det let at tænke på dem som objektive eller sande.

Nogle gange kan algoritmerne gennemskue vores fordomme og træffe bedre beslutninger end mennesker. Andre gange forstærker algoritmerne vores fordomme enten ved at programmere dem ind eller ved at træne dem med vores fordomme eller som en kombination af disse.

Her er tre eksempler på sidstnævnte:

1. De første algoritmer til ansigtsgenkendelse var dårlige til at genkende farvede/mørke ansigter, fordi de mennesker, som udviklede algoritmerne, var hvide og dermed var datasættet, som lærte algoritmerne benyttede ikke var mangfoldigt nok. Datasættet indeholdt med andre ord mest billeder af hvide. I denne artikel fra The New York Times kan du læse mere om sagen >
2. Apple-kort og kreditvurdering: En dansk udvikler opdagede, at han fik 20 gange højere kredit end sin kone, på trods af at de havde næsten samme økonomi, og hun havde en højere kreditvurdering end ham. Kønsbias kan skyldes skævheden i datagrundlaget bag algoritmerne. I dette tilfælde blev modeller trænet på historiske kreditdata fra 1970’erne uden at tage hensyn til kvindelig økonomisk uafhængighed. I denne artikel fra The Washington Post kan du læse mere om sagen >
   
3. Microsofts kunstige intelligens chatbot Tay og Rinna udviklede sig f.eks. også helt forskelligt. Tay, som primært lærte af den amerikanske Twitter-konti, blev hurtigt racistisk, citerede Hitler, benægtede Holocaust og udviklede en temmelig ubehagelig personlighed, hvilket betød at Microsoft så sig nødsaget til at fjerne Tay fra nettet. Rinna, der var uddannet i Japan, beskrev derimod Hitler positivt, slog til med Microsoft, men var for det meste positiv og behagelig, dog fik “hun” pludselig en “teenagedepression”. Tay og Rinna er nævnt mange steder på nettet, herunder i dette tilfælde fra techcrunch.com >

Denne mulige menneskelige side eller bias af algoritmerne betyder, at vi skal måle og teste algoritmerne, så vi gør dem bedre og mere retfærdige. Hvordan?

• Analyse af data og resultaterne fra træningen. Ret dataene, hvis der er en bias.
• Opdag mulige skævheder på forhånd.
• Træning og test med syntetiske data.
• Mere diversitet efterhånden som algoritmerne udvikles. De skal udarbejdes af teams sammensat af mennesker med forskellig baggrund, køn, oprindelse mv.
• Bedre regler generelt. Måske skal algoritmer testes, lige som samfundet tester medicin?

Cegal og Human Algorithms

Hos Cegal har vi en række konsulenter med erfaring fra forskellige maskinlæringsprojekter og løsninger indenfor kunstig intelligens. Cegal har også flere eksperter i Data Science. Vores Data Scientist hjælper kunder med at skabe skræddersyede løsninger til maskinlæring og analyse.

Læs om vores services inden for Data & Integration >