Anna Felländer: Vi behöver prata om ansvarsfull AI

Med den dramatiska händelseutvecklingen inom OpenAI och varningar om hot mot mänskligheten har riskerna med artificiell generell intelligens (AGI) hamnat högt på samhällsagendan. Samtidigt är det en förutsättning för företag att omfamna AI för att behålla och stärka konkurrenskraft. Hur skyndar man långsamt, säkert och etiskt? Zimply träffade Anna Felländer, grundare och vd för anch.AI, för att få hennes syn på ansvarsfull AI.

AGI kan i teorin bli kraftfullare och intelligentare än människan, komma runt sina egna restriktioner och skapa egna agendor. Det kan oavsiktligt eller avsiktligt skada oss genom digitala system som styr samhället, med exempelvis drönare, robotar, cyberattacker och virus.

- Vi är inne i ett historiskt skede där OpenAIs produkt ChatGPT har blivit en symbolbärare och konkretisering av kraften i den nya teknologin där både de enorma vinsterna, men också riskerna, har kommit upp mer till ytan, säger Anna.

Mitt i ett experiment

Redan 2016 identifierade Anna och hennes forskarteam på KTH de potentiella farorna med den snabbt växande och oreglerade utvecklingen av AI. Oavsiktlig diskriminering, integritetskränkningar, desinformation och manipulering är några exempel. De beror bland annat på avsaknad av översikt och kontroll av riskerna från ett integrerat tekniskt, legalt och affärsmässigt perspektiv enligt Anna.

- Språkmodellen GPT-4 har nu tagit AI till nästa nivå där vi som använder ChatGPT tar del av ett experiment utfört av en privat aktör utan tydliga riktlinjer och transparens kring tillkortakommanden. Både värdet och riskerna har ökat ännu mer av den snabba utvecklingen det senaste året, menar Anna.

Viktigt att påskynda riktlinjer

Det är nu enligt Anna viktigt att flytta fokus till vad vi kan göra här och nu för att styra utvecklingen i rätt riktning där riktlinjerna behöver komma ifatt utvecklingen.

- Fråga exempelvis ChatGPT om framgångsrika egenskaper hos en vd till en arbetsansökan och svaren genereras utifrån de normer som historiskt varit framgångsrika för ledande positioner; det vill säga högutbildad vit man", säger Anna.

AI Act runt hörnet

År 2024 klubbades en ny AI-reglering; AI Act. Det innebär att AI-lösningar delas in i fyra riskkategorier som går från låga till oacceptabla risker med sanktioner på upp till sju procent av omsättningen. I högrisk-kategorin krävs bland annat att organisationer analyserar risken utifrån ett integrerat tekniskt, legalt och affärsmässigt perspektiv.
Anna, som välkomnar den nya lagen, menar att det kommer att leda till att människor kommer att kunna lita på nya innovationer och skapa långsiktiga affärsmodeller för företag där kundens tillit ställs i fokus.

- AI Act blir den första AI-regleringen i världen och nu har även USA och Storbritannien öppnat upp för reglering. Det säkerställer att vår demokrati, våra mänskliga rättigheter och vår integritet bevaras, säger Anna.

Metodik för kontroll på AI-risker

Att säkerställa ansvarsfull AI och att uppfylla AI Act kräver dock utbildning, tvärfunktionell styrning med tydligt ansvar och rapportering av organisationer.

- Med anch.AIs metodik och plattform får organisationer insikt och kontroll på sina AI-risker utifrån ett integrerat tekniskt, legalt och affärsmässigt perspektiv, säger Anna.

Börja med att omfamna AI med låg risk

Hur bör man då förhålla sig till AI, och var börjar man? Anna förespråkar att först titta på de lågt hängande frukterna. Det vill säga de områden där det finns en låg risk för etiska och legala övertramp och som inte nödvändigtvis kräver den mest avancerade AI-tekniken. Fokus bör vara att tänka affärsdrivet och att använda AI som ett verktyg för att frigöra tid och energi till kritiskt tänkande och analys. Till exempel för att utföra repetitiva och tidskrävande arbetsuppgifter som att samla in data och sammanställa rapporter.

AI något vackert med rätt styrning

- Det är en spännande tid vi lever i där AI kan bli något väldigt värdefullt och vackert om vi styr det i rätt riktning. Då kan vi skapa nya upptäckter för både människans och jordens överlevnad, med människovärdet i behåll. Dessutom kan vi människor slippa repetitiva tidskrävande uppgifter och träna upp våra mänskliga förmågor som intuition, kritiskt tänkande och empati , säger Anna.

anch.AI och Zimply i partnerskap

För Zimply är Anna Felländers och anch.AI:s unika metodik och plattform ett värdefullt verktyg där ett partnerskap hjälper Zimply att integrera AI på ett ansvarsfullt sätt i både företagsstrategi och AI-assistenter. Det innebär bland annat att integrera det tekniska, legala och affärsmässiga perspektivet för att säkerställa att AI-assistenterna uppfyller etiska och legala krav.

- Det är med andra ord inte bara en teknisk fråga utan handlar också om att kunna räkna hem vinsterna och hur AI-assistenterna designas och byggs ansvarsfullt. På Zimply tror vi starkt på att samarbeta med framåtlutade företag som anch.AI för att bygga en framtid där teknologi är ett verktyg för positiv förändring, säger Fred Alpsten, vd på Zimply.