”Algoritmer har en intelligensnivå strax under en bakteries”

2018-11-21

David Sumpter, professor i tillämpad matematik, tycker att skriverierna om vad algoritmerna kan åstadkomma är ganska överdrivna.

Hallå där, David Sumpter, professor i tillämpad matematik som skrivit boken Outnumbered: Exploring the Algorithms That Control Our Lives. Algoritmer är ständigt på tapeten, hur kontrollerar de egentligen våra liv och hur oroliga ska vi vara?

– Reportagen om vad algoritmerna kan åstadkomma är ganska överdrivna. Om man tar till exempel ”fake news” så är det visserligen ett problem att sådana fortsätter att delas i sociala medier som Twitter och Facebook. Men den här sortens konspirationsgrupper som befinner sig i sina egna bubblor uppgår enligt amerikanska studier bara till 1–5 procent av befolkningen. Så snart de brer ut sig för mycket utmanas de av personer utanför bubblan och bemöts med motargument vilket man kan se på exempelvis YouTube.

– Det som är mer farligt är om du är intresserad av att köpa en ny produkt och litar på första bästa recension på Internet. Det har etablerats en otrolig mängd webbsidor som kör med fejkade recensioner och länkar vidare till exempelvis Amazon. Sedan får sidägarna provision på sålda produkter.

Men har ni forskare något ansvar för att inte konstruera algoritmer som kan användas i tvivelaktiga syften?
– Det är en intressant fråga, det hölls en workshop om det i maj arrangerat av Center för interdisciplinär matematik på Uppsala universitet. Temat ”Mathematical Social Activism” tog upp hur vi matematiker kan ta större ansvar för att vår kunskap används till att förbättra samhället.

– Sedan har folk ofta en övertro på att algoritmer ska vara mer korrekta än människor. Studier visar dock att algoritmer och människor är ungefär lika pålitliga ifråga om att göra bedömningar och antaganden om framtiden. Där behöver inte algoritmer vara bättre än någon slumpmässig person.

Fast skulle det gå att utveckla en algoritm som är en bättre version av oss människor med våra mänskliga svagheter och fördomar?
– Problemet är oftast att algoritmerna plockar upp våra bias från början. Vi utvecklar algoritmer baserat på ett visst beslut där våra fördomar ingår. Sedan för algoritmen dem vidare. Jag har exempelvis tittat på hur man utvecklar algoritmer för att förstå språk. En av mina studenter gör just nu ett projekt om det, och det visar sig att algoritmer är otroligt sexistiska. Algoritmer baseras på enorma textmängder från nyheter, encyklopedier och så vidare. Så man kan be algoritmer göra ordjämförelser och exempelvis korrelera ordet man med dataprogrammerare. Sen uppmanar man datorn att fylla i korrelationen med ordet kvinna. Det rätta svaret är även här dataprogrammerare, men algoritmen föreslår hemmafru som närmast passande ord. Och det är för att algoritmen har tränats på alla texter som vi människor har skrivit och där kvinnor traditionellt arbetat i hemmet. Och tyvärr ser det fortfarande ut så i vår tids texter så det fortsätter att byggas in i algoritmerna.

Hur ser vårt framtida liv med algoritmerna ut?
– När det handlar om algoritmer och artificiell intelligens så är jag ganska skeptisk till idén att AI kommer att ta över världen inom åtminstone det närmaste seklet.

– Tidigare har jag forskat i matematisk biologi och bland annat tittat på olika biologiska nivåer. Den mänskliga hjärnan kan då antas vara på toppnivå i fråga om intelligensutveckling. Men forskare i Storbritannien har fått en humla att spela fotboll genom att belöna dem med mat efter att ha puttat in en boll i mål. Man har också låtit en annan humla tittat på som därefter lyckats göra mål. Så insekter kan lära sig från varandra på ett sätt som algoritmer och robotar inte kan.

– Istället ligger algoritmer på en intelligensnivå strax under en bakterie. En E. coli-bakterie som bor i din mage vet till exempel vilken mat den ska söka efter. Inte ens på den nivån ligger intelligensen hos algoritmer. Så jag är inte så rädd för dem, haha.

Den 3 december ska David Sumpter tala på ett alumnevent på Svenska residenset i London.

---

Läs mer:

Kommer artificiell intelligens att ta över världen?

Mathematics for social activism