Varför AI gör misstag – och hur du undviker dem

Av Oluwole Akinwale, Direktör, Professional Services

För några år sedan gav sig en god vän till mig ut på en resa och följde troget sin GPS instruktioner till punkt och pricka. Efter en rad svängar och omräkningar meddelade enheten glatt: “Du är framme vid din destination.” Problemet? Han stirrade ut över en väldig vattenyta – som om GPS:en sa: “Sätt igång och kör rakt ner i vattnet!” Hans egentliga destination låg flera mil bort. Till slut gav han upp tekniken och hittade dit med hjälp av en hederlig papperskarta.

AI är mycket lik sådant när den har fel. Den tvekar inte. Den säger inte: “Hmm, är inte säker på det här.” Den ger dig ett svar med totalt självförtroende, som om den är helt säker, även när den inte är det.

Det är det som är det kluriga: tonen, formuleringen, finishen ... allt känns trovärdigt. Men bara för att något ljud rätt betyder inte det är precis. Självförtroende är inte samma sak som korrekthet — och med AI måste vi komma ihåg det.

Så varför har AI, med all sin beräkningskraft, fortfarande fel?

Det brukar bero på en av tre skyldiga. Tänk på dem som de ‘vanliga misstänkta’ vid alla AI-missar.

1. Partiskhet i datan

AI tränas på stora datamängder, vilket hjälper den att upptäcka mönster, göra förutsägelser och leverera svar baserat på det den har “lärt sig”. Kvaliteten, mångfalden och balansen i den datan formar det filter genom vilket AI ser på världen. Det är som ett gammalt ordstäv från min stam – “Förrän ett barn besöker sin väns fars jordbruk kommer han alltid att tro att hans far har stadens största jordbruk.”

På samma sätt, om AI inte tränas på mångsidig och balanserad data, slutar det med att den ser världen på ett begränsat eller till och med förvrängt sätt. Den kanske låter smart och självsäker, men den kan missa helheten, och det kan leda till orättvisa eller felaktiga svar.

Föreställ dig att en AI som tränats för att vaska fram jobbsökande till största delen ser tidigare anställda som var män. Det finns en risk att den omedvetet gynnar manliga kandidater.

Fattar du grejen? Låt oss gå vidare till en annan punkt.

2. Dålig eller ofullständig data

AI är bara så smart som den data den har matats med. Om datan är utdaterad, inkorrekt eller ofullständig kommer även resultaten att vara felaktiga. Det är det klassiska problemet med ‘skräp in, skräp ut’.

För några månader sedan byggde jag ett AI-drivet globalt varningssystem som skickar uppdateringar till en Telegram-kanal. Ursprungligen refererade modellen till Donald Trump som “före detta USA-president”. Det hade varit korrekt för ett tag sedan, men inte nu. Modellen antingen tränades på data som en gång var korrekt men som sedan dess har blivit daterad över tid, eller så var den kunskapsbas som användes för att förbättra modellens svar inaktuell. När jag bytte till en annan modell som tränats på uppdaterad data eller med en uppdaterad kunskapsbas löstes problemet.

Samma sak händer inom andra områden. En rese-chatbot kanske föreslår ett trevligt litet kafé – bara för att du ska upptäcka att det stängde för tre år sedan. Återigen är det inte AI:ns fel. Den jobbar bara med gammal information.

3. Feltolkning (eller “hallucination”)

När AI inte har rätt information säger den inte “jag vet inte” – den hittar bara på något och säger det med självförtroende.

Jag förberedde mig en gång för ett tal och bad ChatGPT om några inspirerande, välkända citat om ämnet. Den gav mig några stycken... och de lät jättebra. Det enda problemet? Ett par av dem var helt påhittade.

Som tur är har jag lärt mig att alltid dubbelkolla. Men tänk om jag inte hade gjort det – då hade jag stått på scenen och citerat någon som aldrig har sagt de där orden. Det är den typen av snedsteg som AI inte varnar dig för.

År 2023 använde en advokat ChatGPT för juridisk forskning. Det hittade på falska rättsfallsreferat, och jag föreställer mig att de var tillräckligt övertygande för att advokaten skulle ta med dem i domstol. Jag är säker på att du redan vet hur det slutade.

Varför det spelar roll att människor förstår att AI gör misstag:

AI är ingen magi, det är matematik. När vi inte förstår hur och varför AI gör fel ger vi den mer auktoritet än den förtjänar och slutar att ifrågasätta den. Det är riskabelt.

Föreställ dig hur människor kan utnyttja AI inom forskning och gå därifrån med felaktiga fakta.

Tänk på konsekvenserna när en jobbsökande avvisas av en algoritm eftersom träningsdata var partiska.

Föreställ dig konsekvenserna när patienter ber en chattbot om medicinska insikter och går därifrån med falska råd.

AI har inte den blekaste aning om huruvida det berättar sanningen för dig. När vi litar på det blint börjar det i tysthet forma våra val, övertygelser och till och med våra rättigheter. Men när du väl förstår varför det har fel förblir det du som har kontrollen – inte algoritmen.

Så här skyddar du dig:

• Fråga efter källor:
  När du utnyttjar AI för att utföra vissa uppgifter, särskilt forskningsbaserade sådana, be om källor.
• Korsverifiera resultat:
  Jämför med en betrodd, mänskligt verifierad källa eller be om en andra granskning och validering.
• Se upp för överdrivet självförtroende:
  Polerat är inte samma sak som korrekt.
• Använd AI som ett stöd för att formulera dig, inte för att fatta beslut:
  Låt det föreslå; du bekräftar.

Vad bör då vår inställning vara när vi i allt högre grad tar till oss AI? Jo, den är enkel: “AI är inte här för att ersätta mänsklig intelligens; den är här för att komplement det. Ansvaret för tillsyn och verifiering ligger fortfarande på oss, och jag hoppas att det förblir så.