c

Anna Felländer: Risker och möjligheter med artificiell intelligens

Artificiell intelligens är det nya guldet. Digitaliseringsekonom Anna Felländer har som uppgift att få politiker och andra beslutsfattare att förstå de sociala, etiska och rättsliga riskerna med data om våra beteenden.

anna felländer med binär kod reflekterad i sitt ansikte
1 av 3 Digitaliseringsekonom Anna Felländer menar att ju mer digitala vi blir, desto mer värdefulla blir våra mänskliga värderingar.
anna felländer sittandes i soffa
2 av 3 Allt från regeringen till olika startupföretag inom AI drar nytta av Anna Felländers spetskompetens inom digitalisering.
anna felländer leende talandes i telefon
3 av 3 Samhällsengagemanget är drivkraften i Anna Felländers arbete för en hållbar AI.

På Nybrogatan 8, mitt på Stureplan i Stockholm, träffar vi Anna Felländer, ekonom och en av det digitala Sveriges superstjärnor. Hon möter upp klädd i en lysande blå kostym, håret fladdrar.

De algoritmer som tagit över våra liv är inte ofarliga, amoraliska tekniska system. Tvärtom finns mängder av inbyggda problem, och Anna har gjort det till sin uppgift att få politiker och andra beslutsfattare att förstå det.

– Tekniken skenar och vi står alla yrvaket och tittar på. Nu måste vi kavla upp ärmarna och fråga oss hur vi vill ha det. Vi måste alla fokusera på hållbarhet och inte bara på kortsiktiga vinster.

Bräcklig koppling mellan digitalisering och samhällsutveckling

Anna Felländer är sedan några år specialiserad som digitaliseringsekonom. Hon delar sin tid mellan en tjänst på KTH och att vara rådgivare samt styrelseledamot i olika startupföretag inom AI. Hon sitter även med i regeringens digitaliseringsråd och delegationen för cirkulär ekonomi. I sina uppdrag har hon på nära håll sett den bräckliga kopplingen mellan digitalisering och samhällsutveckling.

– Data om våra beteenden är det nya guldet. Vi ger ifrån oss integritet och får bekvämlighet och ett tidsoptimerat liv tillbaka. Men kan vi verkligen vara trygga med det?

De kortsiktiga vinsterna kan vara förföriska, menar Anna Felländer. Det behövs en bredare förståelse för AI-teknologins sociala, etiska och rättsliga effekter för att hamna rätt.

– Samhället kan bli ett paradis eller en bakgård; det avgörande är om politiker och företagsledare kan anpassa hanteringen av data. Det kommer att krävas ett visionärt ledarskap.

Artificiell intelligens påverkar allt vi gör

Utvecklingen har varit hisnande – och helt oreglerad. Vad som gör det än mer komplicerat är att ingen riktigt vet hur algoritmerna fungerar. Det finns nämligen en mörk hemlighet i hjärtat av AI, i det som kallas för ”the black box”. Det går att kontrollera de data som stoppas in i boxen, och resultatet är uppenbart för alla – men få kan riktigt förklara vad som sker längs vägen. ”Deep learning”, den AI-teknik som lär sig av människors beteenden och sedan lär sig av sig själv, är så komplex att även de ingenjörer och programmerare som konstruerat den inte förstår den. Det är till exempel oklart hur en självkörande bil fattar sina beslut.

Och snart kommer de stora förändringarna. Denna fjärde industriella revolution förväntas inom kort kunna hjälpa oss att diagnostisera dödliga sjukdomar, fatta ekonomiska beslut som sparar miljarder och göra otaliga andra saker som kommer att förändra våra liv för alltid.

Hur kan den här utvecklingen då regleras så att den inte skadar oss?

– Vi behöver kasta lite grus i maskineriet, säger Anna Felländer. Vi behöver kunna identifiera, mäta och styra implikationerna av AI i en bredare etisk och social kontext. Företag måste identifiera negativa oavsiktliga fallgropar. Samtidigt behövs en djupare diskussion kring vad som är etiskt i förhållande till vilka normer, värderingar och risker som medvetet eller omedvetet byggs in. I slutändan behövs algoritmer som optimerar etik.

Lagstiftning och forskning om artificiell intelligens och etik släpar efter

Det är först nyligen som universitet som Stanford och Harvard har börjat erbjuda kurser i AI och etik. Det kan behövas. En studie av MIT och Boston Consulting Group visar att det finns låg riskmedvetenhet och en betydande kunskapsbrist bland företagsledare. Detsamma kan sägas om politiker, där diskussioner om AI och etik fortfarande är i sin linda.

Anna Felländer ger några exempel på negativa konsekvenser som AI kan ha.

– Data kan missbrukas, så som vi sett i Facebookskandalen.* Olika öppna data kombineras och skapar intelligens som är integritetskränkande för individen. Frågan vi bör ställa är hur mycket information som är etiskt försvarbar att använda.

Det kan finnas inbyggda oönskade värderingar i systemen.

– AI är inte neutralt. Etiska värderingar görs medvetet eller omedvetet av den som skriver algoritmen. Oftast är det en man. Olika värderingar kan dessutom göras av programmerare som saknar förståelse för vad som händer när algoritmen skalas upp i en bredare etisk kontext.

AI kan också vara otränad. Appar med ansiktsigenkänning har misslyckats med att läsa av mörkhyade kvinnor, eftersom de tränats för lite på dessa ansikten.

– AI kan föra vidare de historiska fördomar som finns i data. Tänk dig till exempel en befordringsprocess – vem tror du AI rekommenderar inom en bransch som systematiskt befordrat män framför kvinnor? Vi fastnar lätt ofrivilligt i förlegade värderingar.

Etiska principer kring mångfald, miljö och jämställdhet en konkurrensfördel

För att arbetet med AI och etik ska få fart krävs att politiker, universitetsvärlden och näringslivet börjar samverka. Därför har Anna Felländer varit med och grundat AI Sustainability Center. Centret tog sin ursprungliga form utifrån ett Vinnovafinansierat projekt tillsammans med KTH, Ericsson, Karolinska institutet, Linköpings universitet och Lunds universitet.                

– Vi vill bygga en tankesmedja i världsklass genom att ta ett multidisciplinärt, tvärvetenskapligt grepp på AI. Det kommer att vara en miljö för forskning, testbäddar och samarbeten.

I de nordiska länderna är vi vana att sätta de etiska frågorna högt på agendan. Det är positivt eftersom värderingarna redan finns där, men negativt för att det kan leda till passivitet och förlorade affärer.

– Varför väljer vissa företag att avvakta med AI? Jo, just på grund av osäkerheten. Men fallgroparna kan inte bara undvikas, AI kan även stärka etiska principer, hållbarhetsarbetet och öka den positiva inverkan på samhället.

Kunder och medborgare kommer att ställa organisationer till svars i allt större utsträckning, siar Felländer. De kommer kräva transparens och kommunikation kring en organisations etiska ställningstaganden.

– Därför kan stärkta etiska principer kring mångfald, miljö och jämställdhet bli en stor konkurrensfördel. I grunden handlar det om att ge mer makt åt individ, medborgare och kund.

Vad tror då Anna om teknologisk singularitet – den punkt då maskiners förmåga att förbättra sig själva gör människor överflödiga? Vissa är oroliga för att AI kan leda till mänsklighetens undergång, medan andra menar att det är överdriven teknikoptimism.

– Det där ligger flera hundra år bort. Vill vi så kan vi styra utvecklingen.

Alltså: den största faran är kanske inte att AI blir mänsklig, utan att människor blir mer robotaktiga och slutar sätta och styra den etiska agendan.

– Makten ligger i våra händer, säger Anna Felländer. Och ju mer digitala vi blir, desto värdefullare blir våra mänskliga värderingar.

Text: Johan Holmström
Foto: Magnus Liam Karlsson

Senast uppdaterad: 2018-12-14