Hvorfor AI laver fejl – og hvordan man undgår dem

Af Oluwole Akinwale, Direktør, Professional Services

For et par år siden tog en god ven af ​​mig på en tur, hvor han trofast fulgte alle instruktionerne på sin GPS. Efter en række drejninger og omberegninger annoncerede enheden muntert: "Du har nået din destination." Problemet? Han stirrede på en enorm vandflade – som om GPS'en sagde: "Kom nu, dyk ned i vandet!" Hans virkelige destination var kilometer væk. Til sidst opgav han teknologien og fandt vej med det gode gamle papirkort.

AI er meget ligesom det, når den tager fejl. Den tøver ikke. Den siger ikke: "Hmm, jeg er ikke sikker på det her." Den giver dig et svar med fuld sikkerhed, som om det er helt sikkert, selv når det ikke er det.

Det er den vanskelige del: tonen, formuleringen, poleringen ... det hele føles troværdigt. Men bare fordi noget lyde rigtigt betyder det ikke is ja. Selvtillid er ikke det samme som korrekthed – og med AI skal vi huske det.

Så hvorfor gør AI, med al sin computerkraft, stadig tingene forkert?

Det ender normalt med en af ​​tre syndere. Tænk på dem som de 'sædvanlige mistænkte' i enhver AI-brøler.

1. Bias i dataene

AI er trænet på store mængder data, hvilket hjælper den med at opdage mønstre, lave forudsigelser og levere svar baseret på, hvad den har "lært". Kvaliteten, diversiteten og balancen af ​​disse data former den linse, hvorigennem AI'en ser verden. Det er som et gammelt ordsprog fra min stamme - "Indtil et barn besøger sin vens fars landbrugsjord, vil han altid tro, at hans far har den største landbrugsjord i byen."

På samme måde, hvis AI ikke er trænet på forskelligartede og afbalancerede data, ender den med at se verden på en begrænset eller endda forvrænget måde. Det lyder måske smart og selvsikkert, men den kan overse det større billede, og det kan føre til urimelige eller unøjagtige svar.

Forestil dig en kunstig intelligens, der er trænet til at screene jobsøgende, men primært ser tidligere ansættelser, som var mænd. Der er risiko for, at den ubevidst vil favorisere mandlige kandidater.

Forstået? Lad os gå videre til et andet punkt.

2. Dårlige eller ufuldstændige data

AI er kun så intelligent som de data, den er blevet fodret med. Hvis dataene er forældede, ukorrekte eller ufuldstændige, vil resultaterne også være unøjagtige. Det er det klassiske 'skrald ind, skrald ud'-problem.

For et par måneder siden byggede jeg et AI-drevet globalt alarmsystem, der sender opdateringer til en Telegram-kanal. I starten omtalte modellen Donald Trump som den "tidligere amerikanske præsident". Det ville have været korrekt for et stykke tid siden, men ikke nu. Modellen var enten trænet på data, der engang var nøjagtige, men siden er blevet forældede med tiden, eller også var den vidensbase, der blev brugt til at forbedre modellens respons, forældet. Da jeg skiftede til en anden model, der var trænet på opdaterede data eller med en opdateret vidensbase, blev problemet løst.

Det samme sker i andre områder. En rejsechatbot kan foreslå en god lille café – kun for at du finder ud af, at den lukkede for tre år siden. Igen, det er ikke AI'ens skyld. Den arbejder bare med gamle oplysninger.

3. Fejlfortolkning (eller "hallucination")

Når AI ikke har de korrekte oplysninger, siger den ikke "Jeg ved det ikke" – den finder bare på noget og siger det selvsikkert.

Jeg forberedte mig engang til en tale og spurgte ChatGPT om nogle inspirerende, velkendte citater om emnet. Det gav mig en håndfuld ... og de lød fantastisk. Det eneste problem? Et par af dem var helt opdigtede.

Heldigvis har jeg lært altid at dobbelttjekke. Men tænk hvis jeg ikke havde gjort det – jeg ville have stået på scenen og citeret en person, der aldrig havde sagt de ord. Det er den slags fejl, som AI ikke advarer dig om.

I 2023 brugte en advokat ChatGPT til juridisk research. De opfandt falske sagscitater, og jeg forestiller mig, at de var selvsikre og tilstrækkeligt overbevisende til, at advokaten ville inkludere dem i retten. Jeg er sikker på, at du allerede ved, hvordan det endte.

Hvorfor det er vigtigt, at folk forstår, at AI laver fejl:

AI er ikke magi, det er matematik. Når vi ikke forstår, hvordan og hvorfor AI gør tingene forkert, giver vi den mere autoritet, end den fortjener, og holder op med at sætte spørgsmålstegn ved den. Det er risikabelt.

Forestil dig, hvordan folk kan udnytte AI i forskning og gå derfra med forkerte fakta.

Tænk på effekten, når en jobansøger bliver afvist af en algoritme, fordi træningsdataene var forudindtagede.

Forestil dig konsekvenserne, når patienter beder en chatbot om medicinsk indsigt og går derfra med falske råd.

AI aner ikke, om den fortæller dig sandheden. Når vi stoler blindt på den, begynder den stille og roligt at forme vores valg, overbevisninger og endda vores rettigheder. Men når du forstår, hvorfor den gør tingene forkert, bevarer du kontrollen – ikke algoritmen.

Sådan beskytter du dig selv:

• Spørg efter kilder:
  Når du bruger AI til at udføre bestemte opgaver, især forskningsbaserede, så spørg efter kilder.
• Krydsbekræft resultat:
  Sammenlign med en pålidelig, menneskeverificeret kilde, eller bed om en gennemgang og validering.
• Pas på med overdreven selvtillid:
  Poleret er ikke det samme som korrekt.
• Brug AI til udarbejdelse, ikke beslutningstagning:
  Lad det foreslå; du bekræfter.

Hvad bør vi så tænke over, når vi i stigende grad bruger kunstig intelligens? Det er simpelt: "AI er ikke her for at erstatte menneskelig intelligens; den er her for at komplement "Ansvaret for tilsyn og verifikation ligger stadig hos os, og jeg håber, det forbliver sådan.