Hvorfor AI gjør feil – og hvordan unngå dem

Av Oluwole Akinwale, Regissør, Professional Services

For noen år siden la en god venn av meg ut på tur, og fulgte trofast alle instruksjonene på GPS-en sin. Etter en rekke svinger og omregninger annonserte enheten muntert: «Du har nådd reisemålet ditt.» Problemet? Han stirret på et stort vannområde – som om GPS-en sa: «Kom igjen, stup ut i vannet!» Hans virkelige reisemål var kilometer unna. Til slutt forlot han teknologien og fant veien med det gode gamle papirkartet.

AI er mye sånn når den tar feil. Den nøler ikke. Den sier ikke: «Hmm, jeg er ikke sikker på dette.» Den gir deg et svar med full sikkerhet, som om det er helt sikkert, selv når det ikke er det.

Det er den vanskelige delen: tonen, ordlyden, poleringen … alt føles troverdig. Men bare fordi noe lyder rett betyr ikke det is riktig. Selvtillit er ikke det samme som korrekthet – og med AI må vi huske det.

Så hvorfor gjør AI, med all sin datakraft, fortsatt ting feil?

Det kommer vanligvis ned til én av tre syndere. Tenk på dem som de «vanlige mistenkte» i enhver AI-tabbe.

1. Skjevhet i dataene

AI er trent på store mengder data, noe som hjelper den med å oppdage mønstre, komme med forutsigelser og levere svar basert på hva den har «lært». Kvaliteten, mangfoldet og balansen i disse dataene former linsen som AI-en ser verden gjennom. Det er som et gammelt ordtak fra stammen min – «Inntil et barn besøker vennens fars jordbruksland, vil han alltid tro at faren hans har det største jordbrukslandet i byen.»

På samme måte, hvis AI ikke er trent på mangfoldige og balanserte data, ender den opp med å se verden på en begrenset eller til og med forvrengt måte. Det høres kanskje smart og selvsikkert ut, men det kan gå glipp av det større bildet, og det kan føre til urettferdige eller unøyaktige svar.

Tenk deg at en AI som er trent til å screene jobbsøkere stort sett ser tidligere ansettelser som var menn. Det er risiko for at den ubevisst vil favorisere mannlige kandidater.

Forsto du ideen? La oss gå videre til et annet punkt.

2. Dårlige eller ufullstendige data

AI er bare så smart som dataene den har blitt matet med. Hvis dataene er utdaterte, feil eller ufullstendige, vil resultatene også være unøyaktige. Det er det klassiske «søppel inn, søppel ut»-problemet.

For noen måneder siden bygde jeg et AI-drevet globalt varslingssystem som sender oppdateringer til en Telegram-kanal. I utgangspunktet refererte modellen til Donald Trump som den «tidligere amerikanske presidenten». Det ville ha vært nøyaktig for en stund siden, men ikke nå. Modellen ble enten trent på data som en gang var nøyaktige, men som siden har blitt utdaterte over tid, eller kunnskapsbasen som ble brukt til å forbedre modellens respons var utdatert. Da jeg byttet til en annen modell trent på oppdaterte data eller med en oppdatert kunnskapsbase, ble problemet løst.

Det samme skjer i andre områder. En reisechatbot kan foreslå en flott liten kafé – bare for at du skal finne ut at den stengte for tre år siden. Igjen, det er ikke AI-ens feil. Den jobber bare med gammel informasjon.

3. Feiltolkning (eller «hallusinasjon»)

Når AI ikke har riktig informasjon, sier den ikke «Jeg vet ikke» – den bare finner på noe og sier det selvsikkert.

Jeg forberedte meg en gang til en tale og spurte ChatGPT om noen inspirerende, kjente sitater om emnet. Det ga meg en håndfull ... og de hørtes flotte ut. Det eneste problemet? Et par av dem var helt oppdiktet.

Heldigvis har jeg lært å alltid dobbeltsjekke. Men tenk om jeg ikke hadde gjort det – jeg ville ha stått på scenen og sitert noen som aldri sa de ordene. Det er den typen tabbe AI ikke vil advare deg om.

I 2023 brukte en advokat ChatGPT til juridisk forskning. De oppfant falske saksreferater, og jeg kan tenke meg at de var selvsikre og tilstrekkelig overbevisende til at advokaten inkluderte dem i retten. Jeg er sikker på at du allerede vet hvordan det endte.

Hvorfor det er viktig at folk forstår at AI gjør feil:

AI er ikke magi, det er matematikk. Når vi ikke forstår hvordan og hvorfor AI gjør feil, gir vi den mer autoritet enn den fortjener og slutter å stille spørsmål ved den. Det er risikabelt.

Tenk deg hvordan folk kan utnytte kunstig intelligens i forskning og stikke av med feil fakta.

Tenk på konsekvensene når en jobbsøker blir avvist av en algoritme fordi opplæringsdataene var partiske.

Tenk deg konsekvensene når pasienter ber en chatbot om medisinsk innsikt og går derfra med falske råd.

AI aner ikke om den forteller deg sannheten. Når vi stoler blindt på den, begynner den i stillhet å forme våre valg, oppfatninger og til og med våre rettigheter. Men når du forstår hvorfor den gjør ting galt, beholder du kontrollen – ikke algoritmen.

Slik beskytter du deg selv:

• Spør etter kilder:
  Når du bruker AI til å utføre visse oppgaver, spesielt forskningsbaserte, bør du be om kilder.
• Kryssverifiser resultatet:
  Sammenlign med en pålitelig, menneskelig verifisert kilde, eller be om en ny vurdering og validering.
• Vokt deg for overdreven selvtillit:
  Polert er ikke det samme som korrekt.
• Bruk AI til utkast, ikke beslutningstaking:
  La det foreslå; du bekrefter.

Hva bør da være tankesettet vårt når vi i økende grad tar i bruk KI? Vel, det er enkelt: «KI er ikke her for å erstatte menneskelig intelligens; den er her for å komplement «Ansvaret for tilsyn og verifisering ligger fortsatt hos oss, og jeg håper det forblir slik.»