Hvorfor KI gjør feil – og hvordan du unngår dem

Av Oluwole Akinwale, Direktør, Professional Services

For noen år siden la en god venn av meg ut på en tur, og fulgte trofast SatNav-ens hver eneste instruksjon. Etter en rekke svinger og omberegninger, kunngjorde enheten muntert: “Du har nådd din destinasjon”. Problemet? Han stirret ut over et stort vann – som om SatNav-en sa: “Kjør på du, stup uti!” Hans egentlige destinasjon var mil unna. Til slutt ga han opp teknologien og fant veien med det gode, gamle papirkartet.

KI er mye som det når den tar feil. Den nøler ikke. Den sier ikke: “Hmm, er ikke sikker på dette.” Den gir deg et svar med full selvtillit, som om den er helt sikker, selv når den ikke er det.

Det er den vanskelige delen: tonen, ordlyden, finpussen... alt virker troverdig. Men bare fordi noe lyder riktig betyr ikke at det er Riktig. Selvtillit er ikke det samme som korrekthet – og med KI må vi huske det.

Så hvorfor gjør AI, med all sin datakraft, fortsatt feil?

Det koker som regel ned til en av tre skyldige. Tenk på dem som ‘gjengangere’ i enhver AI-blunder.

1. Skjevhet i data

KI trenes på store mengder data, noe som hjelper den med å oppdage mønstre, lage forutsigelser og gi svar basert på hva den har “lært”. Kvaliteten, mangfoldet og balansen i disse dataene former linsen som KI-en ser verden gjennom. Det er som et gammelt ordtak fra stammen min – “Før et barn besøker vennen sin fars gård, vil han alltid tro at faren hans har den største gården i byen.”

På samme måte, hvis KI ikke trenes på mangfoldige og balanserte data, ender den opp med å se verden på en begrenset eller til og med forvrengt måte. Den kan virke smart og selvsikker, men den kan overse det store bildet, og det kan føre til urettferdige eller unøyaktige svar.

Tenk deg en KI som, når den siler jobbsøknader, stort sett ser tidligere ansatte som var menn. Det er en risiko for at den ubevisst vil favorisere mannlige kandidater.

Fikk du ideen? La oss gå videre til et annet punkt.

2. Dårlige eller ufullstendige data

AI er bare så smart som dataene den har fått. Hvis dataene er utdaterte, ukorrekte eller ufullstendige, vil resultatene også bli unøyaktige. Det er det klassiske ‘søppel inn, søppel ut’-problemet.

For noen måneder siden bygde jeg et AI-drevet globalt varslingssystem som sender oppdateringer til en Telegram-kanal. Først refererte modellen til Donald Trump som “tidligere amerikansk president”. Det ville ha vært nøyaktig for en stund siden, men ikke nå. Modellen var enten trent på data som en gang var nøyaktige, men som siden har blitt utdaterte over tid, eller kunnskapsbasen som ble brukt til å forbedre modellens svar var utdatert. Da jeg byttet til en annen modell trent på oppdaterte data eller med en oppdatert kunnskapsbase, ble problemet løst.

Det samme skjer på andre områder. En reise-chatbot kan foreslå en flott liten kafé – bare for at du skal oppdage at den stengte for tre år siden. Igjen, det er ikke AI-ens feil. Den jobber bare med gammel informasjon.

3. Misforståelse (eller “hallusinasjon”)

Når AI ikke har riktig informasjon, sier den ikke “jeg vet ikke” – den bare dikter opp noe og sier det selvsikkert.

Jeg forberedte meg en gang til en tale og ba ChatGPT om noen inspirerende, velkjente sitater om emnet. Den ga meg en håndfull… og de lød flotte. Det eneste problemet? Et par av dem var fullstendig oppdiktet.

Heldigvis har jeg lært å alltid dobbeltsjekke. Men tenk om jeg ikke hadde gjort det – jeg ville ha stått på scenen og sitert noen som aldri sa de ordene. Det er den slags glipp som AI ikke vil advare deg om.

I 2023 brukte en advokat ChatGPT til juridisk research. Den fant opp falske rettssaksreferanser, og jeg ser for meg at de var selvsikre og overbevisende nok til at advokaten tok dem med i retten. Jeg er sikker på at du allerede vet hvordan det endte.

Hvorfor det er viktig at folk forstår at AI gjør feil:

AI er ikke magi, det er matematikk. Når vi ikke forstår hvordan og hvorfor AI tar feil, gir vi den mer autoritet enn den fortjener og slutter å stille spørsmål ved den. Det er risikabelt.

Se for deg hvordan folk kan utnytte KI i forskning og ende opp med feil fakta.

Tenk på konsekvensene når en jobbsøker blir avvist av en algoritme fordi treningsdataene var forutinntatte.

Forestill deg konsekvensene når pasienter spør en chatbot om medisinsk innsikt og går derfra med falske råd.

AI har ingen anelse om den forteller deg sannheten. Når vi stoler blindt på den, begynner den stille å forme valgene våre, overbevisningene våre, og til og med rettighetene våre. Men når du forstår hvorfor den tar feil, beholder du kontrollen – ikke algoritmen.

Slik beskytter du deg:

• Be om kilder
  Når du bruker kunstig intelligens til å utføre visse oppgaver, spesielt forskningsrelaterte, be om kilder.
• Kryssjekk resultat:
  Sammenlign med en pålitelig, menneskeverifisert kilde eller be om en ny gjennomgang og validering fra en kollega.
• Vær forsiktig med overmot:
  Polert betyr ikke det samme som korrekt.
• Bruk KI til utkast, ikke til beslutningstaking:
  La det foreslå; du bekrefter.

Hva bør da holdningen vår være etter hvert som vi i økende grad tar i bruk KI? Vel, det er enkelt: “KI er ikke her for å erstatte menneskelig intelligens; den er her for å komplement .” Ansvaret for tilsyn og verifisering ligger fortsatt hos oss, og jeg håper det forblir slik.