Josefin Rosén Foto: SAS Institute

EU-parlamentet har nyligen kommit överens om EU-kommissionens förslag till AI-förordning, den så kallade AI Act. Då vissa delar, bland annat delar som rör högrisk-AI kommer vara tillämpbara först efter en övergångsperiod har kommissionen introducerat the AI Pact – AI-pakten – där man ber branschen att frivilligt åta sig att följa AI-förordningen innan den är tillämpbar fullt ut. Det är särskilt viktigt eftersom användningen av generativa och allmänna AI-system har ökat snabbt de senaste månaderna.

Senaste månadens händelser inom OpenAI har kastat ljus på de enorma ekonomiska värden som står på spel och hur dessa påverkar konkurrensen mellan de stora aktörerna. Händelserna har också ytterligare synliggjort riskerna med AI och de olika sätt att se på riskhantering som kan rymmas inom en ledningsgrupp för en tjänst som varit banbrytande för att göra AI tillgängligt för den breda allmänheten.

Under året har flera experter varnat för de potentiellt negativa effekterna av tekniken. Max Tegmarks sommarprat, där han öppet diskuterade mänsklighetens möjliga framtid, gav många en tankeställare. Deepfakes har blivit allt vanligare i våra digitala kanaler och bedrägerier blir allt mer sofistikerade med hjälp av AI. Oro finns även över hur AI kan påverka olika branscher och yrkesgrupper. Detta bekräftas av en Kantar Sifo-undersökning som visar att andelen som har en positiv inställning till AI har minskat från 54 procent till 35 procent under de senaste två åren.

AI är omvälvande och behöver diskuteras öppet. Internationella toppmöten som AI Safety Summit i Storbritannien häromveckan är viktiga, och det behövs motsvarande initiativ på olika nivåer för att diskutera säkerhet och ansvarsfull AI-utveckling regionalt och inom olika verksamhets- och användningsområden, men för mycket fokus har läggs på hypotetiska risker vilket skapar onödig rädsla. Vi ska vara medvetna om riskerna, även de hypotetiska, men det får inte blockera den positiva AI-utvecklingen.

När tekniken används på rätt sätt kan den förändra våra liv till det bättre. Exempelvis kan AI användas för att optimera och effektivisera resursanvändning, vilket i sin tur kan leda till positiva effekter för miljö och klimat. Vidare kan teknologin användas för innovationer inom medicin och sjukvård, främja effektiviteten och avlasta personalen inom hälso- och sjukvårdssektorn, samt stärka andra samhällsviktiga funktioner. De exempel som nämns här är bara några samhällsnyttiga tillämpningsområden. Allteftersom AI fortsätter att utvecklas och används i praktiska tillämpningar, kommer fler och fler användningsområden att upptäckas och förstärkas.

Precis som många andra tekniker kan AI användas på ett oansvarigt sätt. Men att pausa utveckling och forskning inom AI är inte rätt väg. Tvärtom riskerar vi då att utvecklingen fortsätter i det fördolda, helt utan insyn. Och de aktörer som utvecklar AI för dunkla eller kriminella syften kommer fortsätta oavsett om man i öppna internationella sammanhang skulle komma överens om en paus, eller avsevärd begränsning. Utvecklingen av AI i den öppna, fria och legala världen behöver fortsätta - inte minst för att kunna svara mot hoten. Och den måste ske på ett så ansvarsfullt, hållbart, etiskt och transparent sätt som möjligt.

Företag och myndigheter som köper in och använder sig av produkter och tjänster som använder sig av AI har ett ansvar för att hela tiden hålla sig uppdaterade och arbeta medvetet med frågor som rör AI. Det räcker inte med att tillsätta en AI-ansvarig. Precis som klimathänsyn har blivit en hygienfaktor, måste ansvarsfullhet kring AI-frågor ingå i det dagliga arbetet - det behöver “sitta i väggarna”. AI behöver bli en naturlig del av utbildning och kompetensutveckling - för alla. Transparens är en nyckel till att kunna lita på AI och som konsumenter, kunder och medborgare ska vi kunna kräva att få en tydlig bild av hur och när AI används. Inte bara av företag som utvecklar tjänster och produkter med hjälp av AI, utan även av organisationer som använder sig av AI-relaterade tjänster och produkter i sina system.

Vi står inför en framtid av stora utmaningar, men också stora möjligheter. Pålitlig, ansvarsfull AI behöver man planera för redan innan man börjar utvecklingen och man behöver arbeta medvetet med detta genom hela AI-livscykeln. Från data till beslut. Det är vårt gemensamma ansvar att se till att utvecklingen inte går åt fel håll utan istället realiserar potentialen.