Waarom AI fouten maakt – en hoe je ze kunt vermijden

Door Oluwole Akinwale, Directeur, Professional Services

Een paar jaar geleden ging een goede vriend van mij op reis, trouw alle instructies van zijn navigatiesysteem opvolgend. Na een reeks bochten en herberekeningen kondigde het apparaat opgewekt aan: "U hebt uw bestemming bereikt." Het probleem? Hij staarde naar een enorme watervlakte – alsof het navigatiesysteem zei: "Ga maar, duik het water in!" Zijn werkelijke bestemming lag kilometers verderop. Uiteindelijk liet hij de techniek links liggen en vond hij zijn weg met de vertrouwde papieren kaart.

AI is vergelijkbaar met AI als het fout zit. Het aarzelt niet. Het zegt niet: "Hmm, ik weet het niet zeker." Het geeft je een antwoord met volledige zekerheid, alsof het absoluut zeker is, zelfs als dat niet zo is.

Dat is het lastige: de toon, de formulering, de afwerking... het voelt allemaal betrouwbaar. Maar alleen omdat iets geluiden rechts betekent niet dat het goed is is Juist. Vertrouwen is niet hetzelfde als gelijk hebben – en met AI moeten we dat onthouden.

Waarom doet AI, ondanks al zijn rekenkracht, dan nog steeds dingen verkeerd?

Meestal komt het neer op een van de drie boosdoeners. Beschouw ze als de 'usual suspects' bij elke AI-blunder.

1. Vertekening in de gegevens

AI wordt getraind met grote hoeveelheden data, waardoor het patronen kan detecteren, voorspellingen kan doen en antwoorden kan geven op basis van wat het heeft 'geleerd'. De kwaliteit, diversiteit en balans van die data bepalen de lens waardoor AI de wereld bekijkt. Het is net als een oud gezegde uit mijn stam: "Totdat een kind het land van de vader van zijn vriend bezoekt, zal hij altijd denken dat zijn vader het grootste land van de stad heeft."

Evenzo, als AI niet getraind is met diverse en evenwichtige data, krijgt het uiteindelijk een beperkte of zelfs vertekende kijk op de wereld. Dat klinkt misschien slim en zelfverzekerd, maar het kan het grotere plaatje missen, wat kan leiden tot oneerlijke of onjuiste antwoorden.

Stel je voor dat een AI die getraind is om sollicitanten te screenen, voornamelijk mannelijke kandidaten uit het verleden ziet. Het risico bestaat dat de AI onbewust de voorkeur geeft aan mannelijke kandidaten.

Snap je het? Laten we naar een ander punt gaan.

2. Onjuiste of onvolledige gegevens

AI is slechts zo slim als de data die ermee wordt gevoed. Als de data verouderd, onjuist of onvolledig is, zullen de resultaten ook onnauwkeurig zijn. Het is het klassieke 'garbage in, garbage out'-probleem.

Een paar maanden geleden bouwde ik een AI-gestuurd wereldwijd waarschuwingssysteem dat updates naar een Telegram-kanaal pusht. Aanvankelijk verwees het model naar Donald Trump als de "voormalige Amerikaanse president". Dat zou een tijdje geleden nog kloppen, maar nu niet meer. Het model was ofwel getraind op data die ooit accuraat was, maar inmiddels verouderd is, ofwel was de kennisbank die werd gebruikt om de respons van het model te verbeteren verouderd. Toen ik overschakelde naar een ander model dat getraind was op bijgewerkte data of met een bijgewerkte kennisbank, was het probleem opgelost.

Hetzelfde gebeurt op andere gebieden. Een chatbot voor reizigers suggereert misschien een leuk café, maar dan blijkt dat het drie jaar geleden gesloten is. Nogmaals, het is niet de schuld van de AI. Die werkt gewoon met oude informatie.

3. Verkeerde interpretatie (of “hallucinatie”)

Als AI niet over de juiste informatie beschikt, zegt het niet: "Ik weet het niet", maar verzint het iets en zegt het dat vol vertrouwen.

Ik was me ooit aan het voorbereiden op een toespraak en vroeg ChatGPT om een ​​paar inspirerende, bekende citaten over het onderwerp. Ik kreeg er een handvol... en ze klonken geweldig. Het enige probleem? Een paar ervan waren volledig verzonnen.

Gelukkig heb ik geleerd om altijd te dubbelchecken. Maar stel je voor dat ik dat niet had gedaan – ik had op het podium gestaan ​​en iemand geciteerd die die woorden nooit heeft gezegd. Dat is het soort misstap waar AI je niet voor waarschuwt.

In 2023 gebruikte een advocaat ChatGPT voor juridisch onderzoek. Het bedacht nep-rechtszaken, en ik kan me voorstellen dat ze overtuigend genoeg waren om door de advocaat in de rechtbank te worden gebruikt. Ik weet zeker dat je al weet hoe het is afgelopen.

Waarom het belangrijk is dat mensen begrijpen dat AI fouten maakt:

AI is geen magie, het is wiskunde. Als we niet begrijpen hoe en waarom AI dingen fout doet, geven we haar meer autoriteit dan ze verdient en stoppen we met het in twijfel trekken ervan. Dat is riskant.

Stel je eens voor hoe mensen AI kunnen inzetten in onderzoek en toch met onjuiste feiten achterblijven.

Denk eens aan de impact als een sollicitant door een algoritme wordt afgewezen omdat de trainingsgegevens bevooroordeeld waren.

Stel je eens voor wat de gevolgen zijn als patiënten een chatbot om medische inzichten vragen en met nepadvies thuiskomen.

AI heeft geen idee of het je de waarheid vertelt. Wanneer we er blind op vertrouwen, begint het stilletjes onze keuzes, overtuigingen en zelfs onze rechten te beïnvloeden. Maar wanneer je begrijpt waarom het dingen verkeerd doet, houd jij de controle – niet het algoritme.

Hoe u uzelf kunt beschermen:

• Vraag om bronnen:
  Wanneer u AI inzet om bepaalde taken uit te voeren, vooral taken die op onderzoek zijn gebaseerd, vraag dan om bronnen.
• Resultaat kruisverifiëren:
  Vergelijk de resultaten met een betrouwbare, door mensen geverifieerde bron of vraag om een ​​tweede oogbeoordeling en validatie.
• Pas op voor overmoed:
  Gepolijst is niet hetzelfde als correct.
• Gebruik AI voor het opstellen van documenten, niet voor de besluitvorming:
  Laat het suggereren; jij bevestigt.

Wat zou dan onze mindset moeten zijn nu we steeds meer AI omarmen? Nou, het is simpel: "AI is er niet om menselijke intelligentie te vervangen; het is er om complement “De verantwoordelijkheid voor toezicht en verificatie ligt nog steeds bij ons, en ik hoop dat dat zo blijft.