Varför AI gör misstag – och hur man undviker dem

Av Oluwole Akinwale, Director, Professional Services

För några år sedan gav sig en god vän iväg på en resa och följde troget varje anvisning från sin GPS. Efter en serie svängar och omräkningar meddelade enheten glatt: "Du har nått din destination." Problemet? Han stirrade på en vidsträckt vattenyta – som om GPS-enheten sa: "Fortsätt, dyk ner i vattnet!" Hans verkliga destination var flera kilometer bort. Till slut övergav han tekniken och hittade sin väg med den gamla goda papperskartan.

AI är ungefär så när den har fel. Den tvekar inte. Den säger inte: "Hmm, jag är inte säker på det här." Den ger dig ett svar med fullständig säkerhet, som om det vore helt säkert, även när det inte är det.

Det är den knepiga delen: tonen, formuleringarna, poleringen ... allt känns trovärdigt. Men bara för att något ljud rätt betyder inte det is rätt. Självförtroende är inte detsamma som korrekthet – och med AI måste vi komma ihåg det.

Så varför gör AI, med all sin datorkraft, fortfarande saker fel?

Det brukar bero på en av tre syndare. Tänk på dem som de "vanliga misstänkta" i alla AI-misstag.

1. Bias i data

AI tränas på stora mängder data, vilket hjälper den att upptäcka mönster, göra förutsägelser och leverera svar baserat på vad den har "lärt sig". Kvaliteten, mångfalden och balansen i dessa data formar linsen genom vilken AI:n ser världen. Det är som ett gammalt talesätt från min stam – "Tills ett barn besöker sin väns pappas jordbruksmark kommer han alltid att tro att hans pappa har den största jordbruksmarken i stan."

På samma sätt, om AI inte tränas på mångsidig och balanserad data, kommer den att se världen på ett begränsat eller till och med förvrängt sätt. Det kanske låter smart och självsäkert, men det kan missa den större bilden, och det kan leda till orättvisa eller felaktiga svar.

Tänk dig en AI som är utbildad för att granska jobbsökande och som mestadels ser tidigare anställda som varit män. Det finns risk att den omedvetet gynnar manliga kandidater.

Förstår du? Nu går vi vidare till en annan punkt.

2. Dålig eller ofullständig data

AI är bara så smart som den data den har fått. Om informationen är föråldrad, felaktig eller ofullständig kommer resultaten också att vara felaktiga. Det är det klassiska problemet med "skräp in, skräp ut".

För några månader sedan byggde jag ett AI-drivet globalt varningssystem som skickar uppdateringar till en Telegram-kanal. Ursprungligen refererade modellen till Donald Trump som den "före detta amerikanske presidenten". Det skulle ha varit korrekt för ett tag sedan, men inte nu. Modellen tränades antingen på data som en gång var korrekt men sedan dess har blivit föråldrad med tiden, eller så var kunskapsbasen som användes för att förbättra modellens respons föråldrad. När jag bytte till en annan modell som tränats på uppdaterad data eller med en uppdaterad kunskapsbas löstes problemet.

Samma sak händer på andra platser. En resechatbot kan föreslå ett litet trevligt kafé – bara för att du ska upptäcka att det stängde för tre år sedan. Återigen, det är inte AI:ns fel. Den arbetar bara med gammal information.

3. Misstolkning (eller "hallucination")

När AI inte har korrekt information säger den inte "Jag vet inte" – den hittar bara på något och säger det med självförtroende.

Jag förberedde mig en gång för ett tal och bad ChatGPT om några inspirerande, välkända citat i ämnet. Det gav mig en handfull ... och de lät fantastiska. Det enda problemet? Ett par av dem var helt påhittade.

Som tur är har jag lärt mig att alltid dubbelkolla. Men tänk om jag inte hade gjort det – jag skulle ha stått på scenen och citerat någon som aldrig sagt de orden. Det är den typen av misstag som AI inte varnar dig för.

År 2023 använde en advokat ChatGPT för juridisk forskning. De uppfann falska fallhänvisningar, och jag antar att de var tillräckligt övertygande och självsäkra för att advokaten skulle kunna använda dem i rätten. Jag är säker på att du redan vet hur det slutade.

Varför det är viktigt att människor förstår att AI gör misstag:

AI är inte magi, det är matematik. När vi inte förstår hur och varför AI gör fel, ger vi den mer auktoritet än den förtjänar och slutar ifrågasätta den. Det är riskabelt.

Tänk dig hur människor kan utnyttja AI i forskning och gå därifrån med felaktiga fakta.

Tänk på effekten när en arbetssökande blir avvisad av en algoritm på grund av att utbildningsdatan var partisk.

Tänk dig konsekvenserna när patienter ber en chatbot om medicinska insikter och går därifrån med falska råd.

AI har ingen aning om den talar sanning. När vi litar blint på den börjar den i tysthet forma våra val, övertygelser och till och med våra rättigheter. Men när du förstår varför den gör fel, behåller du kontrollen – inte algoritmen.

Så här skyddar du dig:

• Be om källor:
  När du använder AI för att utföra vissa uppgifter, särskilt forskningsbaserade sådana, fråga efter källor.
• Korsverifiera resultatet:
  Jämför med en betrodd, mänskligt verifierad källa eller be om en andra granskning och validering.
• Se upp för överdriven självsäkerhet:
  Polerat är inte detsamma som korrekt.
• Använd AI för utformning, inte beslutsfattande:
  Låt det föreslå; du bekräftar.

Hur bör då vårt tankesätt vara när vi i allt högre grad använder AI? Det är enkelt: ”AI är inte här för att ersätta mänsklig intelligens; den är här för att komplement Ansvaret för tillsyn och verifiering vilar fortfarande hos oss, och jag hoppas att det förblir så.