Anna Felländer om AI-utvecklingen: “Hållbar AI är en väg till tillit”
Anna Felländer, grundare och VD på anch.AI, hjälper företag att göra etiska bedömningar av olika AI-verktyg. Anna ger en balanserad bild av AI-utvecklingen och menar att man inte behöver se AI som ett hot. Snarare visar hon på hur AI gör att vi blir mer medvetna om och nyfikna på det unika med människor. Under sin presentation på Kompetensdagen 2024 lyfte Anna just detta – människans avgörande roll i AI-utvecklingen.
Fokuset för Anna Felländers arbete är en ansvarsfull AI-utveckling. Detta innebär att hon och hennes team noga kartlägger och analyserar möjligheter och risker – och hur AI och människa kan samverka på bästa sätt. Några av de områden som Anna jobbar med är etiska och legala risker, hur arbetsmarknaden utvecklas, hur ledarskap behöver förändras och anpassningen till nya regelverk.
Enligt Goldman Sachs kommer en fjärdedel av alla uppgifter ersättas av generativ AI, berättar Anna. Men AI, sett genom Annas ögon, är en kraft som, om det används på rätt sätt, erbjuder enorma möjligheter. När generativ AI tar över förutsägbara repetitiva sysslor ökar produktiviteten och människor får mer tid till intuitiv analys och kritiskt tänkande – förmågor som AI saknar.
Historiskt sett inom EU, har ny teknologi och hög produktivitet aldrig lett till ökad arbetslöshet. Hög produktivitet skapar nya jobb.
För att vi fullt ut ska kunna nyttja de positiva möjligheterna, är det viktigt att vi har en tydlig bild av AI:s styrkor och brister, samt viktiga risker. Som exempel nämner Anna att specifik AI är utomordentligt bra på att göra kreditbedömningar, skriva om texter, förutse kundbeteende och mycket annat som tar mycket tid. Men, AI saknar helt förmåga till kritiskt och intuitivt tänkande. Vi behöver vara medvetna om AI:s begränsningar samt när mänskliga insatser är nödvändiga och värdefulla.
Ledarens mjuka egenskaper och kommunikativa förmåga är viktiga i ett AI-landskap. Samt förmågan att förhålla sig till risker på rätt sätt för att möjliggöra kreativitet och innovation. Regelverk är viktiga. Anna lyfter att EU:s nya regelverk, som bland annat ställer krav på högrisk AI-användning, som t ex är finans, rekrytering, utbildning, infrastruktur. Hon tror att det sannolikt blir internationell standard. Med hjälp av detta regelverk och Bidens Soft Standards kommer vi se att vi kan styra AI i rätt riktning, menar Anna och förutspår att vi kommer se mer krav på rapportering, ansvar och styrningsmodeller.
Färre silos – mer kontroll
Att regelverken har svårt att hänga med i utvecklingen, menar Anna, är en konsekvens av att tech team har jobbat i egna organisatoriska silon utan koppling till diskrimineringslagstiftning eller verksamheters etiska principer. Det är en viktig del av den ansvarsfulla utvecklingen att tech, juridik och affär närmar sig varandra. Riskbedömningar är en självklar del av AI-utvecklingen och innebär att man gör en bedömning som utgår från individens fara i alla steg av processen. Ett begrepp som används är impact assessment som innebär att man tittar på vilken data som tas fram, hur algoritmen kom fram till beslutet och vad algoritmen har tränats på.
Kommunikatörens roll i AI-utvecklingen
Enligt Anna kommer kommunikatörer att bli allt mer betydelsefulla i takt med att AI utvecklas. Där det finns låg risk för fel kan AI avlasta kommunikatören, till exempel administrativa uppgifter eller kommunikation som inte kräver kritiskt tänkande. I alla andra fall behövs en mänsklig lins och kommunikatörer kan även tillföra storytelling som berör mottagaren.
Vi kommer att betala mer för människans erfarenhet, intuition och kritiska tänkande. Enligt Anna kan vi förvänta oss kommunikation som är tydligt märkt så vi vet när det är generativ AI som “talar” och har använts för input – eller när vi läser en människas kritiska tankar.
