Krönika: Se upp för oförklarlig AI
Av Under 2023 har den massiva mediebevakningen gett intrycket att AI är en helt ny teknik, men sanningen är att den har använts i en mängd år, men i en något annorlunda version än ChatGPT och liknande AI-applikationer. Analysföretaget McKinsey har i en undersökning sett att antalet företag som använder AI har fördubblats från 20 procent 2017 till 50 procent 2022. Dessa siffror är representativa för en stor bredd av branscher, vilket visar på att AI har funnits i många tillverkningsföretag i ett antal år, och att AI kommer bli mer betydelsefullt framöver.
En stor del av denna tillväxt kan hänföras till utbyggnaden av IoT, Internet of Things, och uppkopplade enheter, det vill säga utrustning som är uppkopplad via internet. I detta sammanhang använder många företag AI för att kontinuerligt analysera och förfina stor volym av sensordata och automatiserade processer.
Glöm inte det personliga ansvaret Företag vinner redan mycket på att använda AI eftersom den effektiviserar processer på ett smidigt sätt. Och det finns förhoppningar om att uppnå mycket mer med hjälp av AI, eftersom den hela tiden lär sig mer och mer om hur processer fungerar, och därmed blir allt bättre på att effektivisera företagens verksamheter. En utmaning med detta är att ju smartare och mer effektivt AI blir, ju mindre kommer användarnas engagemang för IoT-infrastrukturen att bli. Men, AI kan och bör inte fungera helt isolerat från människor. För att förstå resultaten AI ger måste du alltid kunna förstå och förklara vad systemet gör, eftersom det i slutändan är personen eller företaget som ska stå bakom de resultat som AI genererat. Detta är något som företag lätt kan glömma.
Låt oss måla upp ett exempel:
Maskintillverkaren Karlssons Maskiner använder IoT-system och AI för att optimera service och underhåll av de maskiner de har levererat till sina kunder. I många fall kräver detta ingen mänsklig inblandning alls. Fokus ligger på det automatiserade underhållet och optimering av varje enskild maskin, och detta stöds av ett kontinuerligt flöde av sensordata som automatisk matas in i systemet. Om ett fel upptäcks skapas en arbetsorder med all nödvändig maskin- och feldata, som via en mobil enhet skickas till en servicetekniker.
Ingen mänsklig inblandning krävs i denna process – detta kan hanteras helt av AI – men det krävs dock alltid en människa som måste godkänna det arbete som har utförts baserat på felmeddelandena som AI skickar. När en anställd är ansvarig för detta, är det avgörande att denna person förstår vad hen godkänner. Därför måste AI-beräkningarna och förslagen visas på ett lättförståeligt sätt, och ännu viktigare - varje process måste kunna granskas och förklaras, vilket också kräver mänskligt engagemang.
Regleringar på ingång Än så länge har AI varit ett oreglerat område, men mycket tyder på att detta kommer att förändras inom en snar framtid, bland annat i samband med EU:s AI-akt. Det är inte osannolikt att företag snart måste kunna presentera någon form av logg eller reviderad dokumentation om varför ett beslut som har fattats baserat på underlag från AI har tagits.
Här är tydlighet och förståelse centralt. Företag måste kunna ge ut data från de AI-genererade besluten, och de måste presenteras på ett sätt som människor enkelt kan tolka. Redan idag finns verktyg för att göra AI användbar på detta sätt. I grund och botten är det en serie processer och metoder som gör det möjligt för människor att förstå och lita på resultatet som algoritmerna skapar. Det ger ett antal fördelar som att göra det lättare att uppfylla regulatoriska standarder, göra det enklare att driva AI-systemet i företaget, och sist men inte minst – att göra det möjligt för människor att utmana de specifika AI-genererade besluten. ¨
Ett samspel mellan maskin och människa För att vi ska kunna lita på AI måste vi också kunna skapa förutsättningar för att uppnå det samspel mellan AI och dess användare som behövs, för att vi ska kunna motivera AI-baserade beslut, men också bli bättre på att lära AI det som den behöver lära sig för att hela tiden utvecklas och ta bättre beslut. Så interaktionen mellan AI och människor är en transformation som alla företag, inte minst inom tillverkningsbranschen, kommer att utvecklas av under många år framåt.
Författare: Martin Gunnarsson, Senior Vice President på IFS R&D
