Hvorfor AI laver fejl — og hvordan man undgår dem

Af Oluwole Akinwale, Direktør, Professional Services

For et par år siden tog en god ven af mig på tur og fulgte trofast alle sin GPS'ens instruktioner. Efter en række drej og genberegninger meddelte enheden muntert: “Du er nået frem til din destination.” Problemet? Han stirrede ud over en enorm vandflade – som om GPS'en sagde: “Slå dig bare i tøjle, kast dig ud i vandet!” Hans rigtige destination var kilometer væk. Til sidst opgav han teknologien og fandt vej med det gode, gamle papirkort.

AI er meget ligesom det, når det tager fejl. Den tøver ikke. Den siger ikke: “Hmm, er ikke sikker på dette.” Den giver dig et svar med fuld selvtillid, som om den er absolut sikker, selv når den ikke er det.

Det er den svære del: tonen, ordlyden, finishen ... det hele virker troværdigt. Men bare fordi noget lyde rigtigt betyder ikke, at det er Korrekt. Selvtillid er ikke det samme som korrekthed — og med AI skal vi huske det.

Så hvorfor tager AI, med al sin regnekraft, stadig fejl?

Det koger som regel ned til en af tre syndere. Tænk på dem som de ‘almindelige mistænkte’ ved enhver AI-fejl.

1. Skævhed i dataene

AI trænes på store mængder data, hvilket hjælper det med at opdage mønstre, foretage forudsigelser og give svar baseret på, hvad det har “lært”. Kvaliteten, mangfoldigheden og balancen af disse data former den linse, hvorigennem AI'en ser verden. Det er som et gammelt ordsprog fra min stamme – “Før et barn besøger sin vens fars mark, vil han altid tro, at hans fars mark er den største i byen.”

Ligeledes, hvis AI ikke bliver trænet på mangfoldige og afbalancerede data, vil den ende med at se verden på en begrænset eller endda forvrænget måde. Den lyder måske klog og selvsikker, men den kan overse det store billede, og det kan føre til uretfærdige eller unøjagtige svar.

Forestil dig en AI, der bliver trænet til at screene jobansøgere, og som mest ser tidligere ansatte, der var mænd. Der er en risiko for, at den utilsigtet vil favorisere mandlige kandidater.

Fik du idéen? Lad os gå videre til et andet punkt.

2. Dårlige eller ufuldstændige data

AI er kun så smart, som de data, den er blevet fodret med. Hvis dataene er forældede, ukorrekte eller ufuldstændige, vil resultaterne også være unøjagtige. Det er det klassiske ‘skrald ind, skrald ud’-problem.

For et par måneder siden byggede jeg et AI-drevet globalt alarmsystem, der sender opdateringer til en Telegram-kanal. Oprindeligt refererede modellen til Donald Trump som “tidligere amerikansk præsident”. Det ville have været korrekt for et stykke tid siden, men ikke nu. Modellen var enten trænet på data, der engang var nøjagtige, men som med tiden er blevet forældede, eller den vidensbase, der blev brugt til at forbedre modellens respons, var forældet. Da jeg skiftede til en anden model trænet på opdaterede data eller med en opdateret vidensbase, blev problemet løst.

Det samme sker på andre områder. En rejse-chatbot kan foreslå en fantastisk lille café – for så at opdage, at den lukkede for tre år siden. Igen, det er ikke AI'ens skyld. Den arbejder bare med gamle oplysninger.

3. Misfortolkning (eller “hallucination”)

Når AI ikke har den korrekte information, siger den ikke “jeg ved det ikke” – den finder bare på noget og siger det selvsikkert.

Jeg forberedte mig engang på en tale og bad ChatGPT om nogle inspirerende, velkendte citater om emnet. Den gav mig en håndfuld… og de lød godt. Det eneste problem? Et par af dem var fuldstændig opdigtede.

Heldigvis har jeg lært altid at dobbelttjekke. Men forestil dig, hvis jeg ikke havde - så ville jeg have stået på scenen og citeret nogen, der aldrig sagde de ord. Det er den slags fejl, AI ikke vil advare dig om.

I 2023 brugte en advokat ChatGPT til juridisk research. Den opfandt falske retssagscitater, og jeg forestiller mig, at de var overbevisende nok til, at advokaten inkluderede dem i retten. Jeg er sikker på, at du allerede ved, hvordan det endte.

Hvorfor det er vigtigt, at folk forstår, at AI laver fejl:

AI er ikke magi, det er matematik. Når vi ikke forstår, hvordan og hvorfor AI tager fejl, giver vi den mere autoritet, end den fortjener, og stopper med at stille spørgsmålstegn ved den. Det er risikabelt.

Forestil dig, hvordan folk kan udnytte AI i forskning og komme derfra med forkerte fakta.

Tænk over konsekvenserne, når en jobansøger bliver afvist af en algoritme, fordi træningsdataene var forudindtagede.

Forestil dig konsekvenserne, når patienter beder en chatbot om medicinsk indsigt og går derfra med falske råd.

AI aner ikke, om den fortæller dig sandheden. Når vi stoler blindt på den, begynder den stille og roligt at forme vores valg, overbevisninger og endda vores rettigheder. Men når du forstår, hvorfor den tager fejl, bevarer du kontrollen – ikke algoritmen.

Sådan beskytter du dig selv:

• Spørg efter kilder
  Når du bruger AI til at udføre visse opgaver, især forskningsintensive opgaver, skal du bede om kilder.
• Krydsverificér resultat
  Sammenlign med en betroet, menneske-verificeret kilde eller bed om en ny gennemgang og validering.
• Pas på overmod:
  Poleret er ikke lig med korrekt.
• Brug AI til udkast, ikke til beslutningstagning:
  Lad den foreslå; du bekræfter.

Hvad bør vores tankegang da være, i takt med at vi i stigende grad tager AI til os? Tja, det er simpelt: “AI er ikke her for at erstatte menneskelig intelligens; den er her for at komplement ansvaret for tilsyn og verifikation hviler stadig på os, og jeg håber, det forbliver sådan.