Jacob Dexe och Kristina Knaving arbetar båda inom RISE fokusområde Den uppkopplade individen. Här undersöks hur AI påverkar den enskildes tillvaro samt vilken roll människan spelar i ett alltmer digitaliserat och datadrivet samhälle.
Den årliga attitydundersökningen Delade Meningar visar att allt fler svenskar oroar sig för att deras integritet hotas av den ökade digitala datainsamlingen. Ett viktigt skäl till oron är en låg förståelse av hur teknologin fungerar och hur bolagen hanterar den data som samlas in, menar Jacob Dexe.
AI har varit en del av samhället ganska länge, bland annat i processindustrin. Det nya är att systemen blir allt bättre på att analysera stora datamängder och att fatta beslut som baseras på analysen, tillägger han. De har därför börjat användas i många andra sammanhang. Detta kräver mer kunskap om hur intelligenta system fattar beslut och vad människan behöver göra för att besluten ska bli bra.
Enorma mängder data samlas in varje dag inom olika områden, och samhället blir alltmer datadrivet, konstaterar Kristina Knaving. Men har vi verkligen den data vi behöver? Vilka typer av data behöver vi till exempel i skolan? Eleverna ska lära sig olika saker, men hur mäter vi egentligen det? Hur kan data samlas in? Vad krävs för att vi ska förstå den?
AI kan inte förstå ett fenomen, utan identifierar och sammanställer bara olika statistiska egenskaper. Det är här människans analysförmåga och andra kognitiva egenskaper kommer in, understryker Kristina Knaving. Det krävs ett systematiskt samarbete mellan människa och maskin för att få ett resultat som är relevant och håller tillräckligt hög kvalitet.
Ibland är datainsamlingen snedvriden och selektiv, vilket riskerar att ge en felaktig förståelse av olika samhällsfenomen. Skevheten bygger på felaktiga mänskliga beslut kring datainsamlingen. Människans roll är därför att se till att kompletterande data samlas in, som kan ge en mer rättvisande bild av verkligheten.