Waarom AI Fouten Maakt — en Hoe Je Ze Voorkomt

Door Oluwole Akinwale, Directeur, Professional Services

Een paar jaar geleden vertrok een goede vriend van mij op reis en volgde trouw elke instructie van zijn navigatiesysteem. Na een reeks bochten en herberekeningen kondigde het apparaat vrolijk aan: “U heeft uw bestemming bereikt.” Het probleem? Hij keek uit over een uitgestrekte watervlakte — alsof het navigatiesysteem zei: “Ga je gang, duik het water in!” Zijn werkelijke bestemming lag kilometers verderop. Uiteindelijk gooide hij de technologie overboord en vond hij zijn weg met de goede oude papieren kaart.

AI is veel hetzelfde als dat wanneer het fout zit. Het aarzelt niet. Het zegt niet: “Hmm, ik weet het niet zeker.” Het geeft je een antwoord met volledig vertrouwen, alsof het absoluut zeker is, zelfs wanneer dat niet zo is.

Dat is het lastige: de toon, de formulering, de afwerking... het voelt allemaal betrouwbaar. Maar alleen omdat iets geluiden recht betekent niet dat het is juist. Zelfverzekerdheid is niet hetzelfde als correctheid — en met AI moeten we dat onthouden.

Dus waarom gaat KI, met al zijn rekenkracht, nog steeds de mist in?

Het komt meestal neer op een van de drie boosdoeners. Je kunt ze zien als de ‘usual suspects’ bij elke AI-blunder.

1. Vooroordelen in de gegevens

AI wordt getraind op grote hoeveelheden gegevens, waardoor het patronen kan detecteren, voorspellingen kan doen en antwoorden kan geven op basis van wat het heeft “geleerd”. De kwaliteit, diversiteit en balans van die gegevens vormen de bril waardoor de AI de wereld ziet. Het is als een oude uitspraak uit mijn stam – “Totdat een kind het land van de vader van zijn vriend bezoekt, zal hij altijd denken dat zijn vader het grootste land in de stad heeft.”

Op dezelfde manier, als AI niet wordt getraind op diverse en evenwichtige gegevens, ziet het de wereld op een beperkte of zelfs vervormde manier. Het kan slim en zelfverzekerd klinken, maar het kan het grotere geheel missen, en dat kan leiden tot oneerlijke of onjuiste antwoorden.

Stel je voor dat een AI die sollicitanten screent voornamelijk recente aanwervingen ziet die mannen waren. Er bestaat een risico dat deze AI onbewust mannelijke kandidaten zal bevoordelen.

Begrepen? Laten we naar een ander punt gaan.

2. Slechte of onvolledige gegevens

AI is slechts zo slim als de data waarmee het gevoed is. Als de data verouderd, onjuist of onvolledig is, zullen de resultaten ook onnauwkeurig zijn. Het is het klassieke ‘garbage in, garbage out’-probleem.

Een paar maanden geleden heb ik een AI-aangedreven wereldwijd alertsysteem gebouwd dat updates naar een Telegramkanaal pusht. Aanvankelijk verwees het model naar Donald Trump als de “voormalige president van de VS”. Dat zou een tijdje geleden accuraat zijn geweest, maar nu niet meer. Het model was ofwel getraind op gegevens die ooit accuraat waren, maar sindsdien verouderd zijn, of de kennisbank die werd gebruikt om de reactie van het model te verbeteren was verouderd. Toen ik overschakelde op een ander model getraind op bijgewerkte gegevens of met een bijgewerkte kennisbank, was het probleem opgelost.

Hetzelfde gebeurt op andere gebieden. Een reis-chatbot kan een leuk café voorstellen - om er vervolgens achter te komen dat het drie jaar geleden gesloten is. Nogmaals, het is niet de schuld van de AI. Het werkt gewoon met verouderde informatie.

3. Misinterpretatie (of “hallucinatie”)

Wanneer AI niet de juiste informatie heeft, zegt het niet “Ik weet het niet” — het verzint gewoon iets en zegt het zelfverzekerd.

Ik was me ooit aan het voorbereiden op een speech en vroeg ChatGPT om een paar inspirerende, bekende citaten over het onderwerp. Het gaf me een handvol... en ze klonken geweldig. Het enige probleem? Een paar ervan waren volledig verzonnen.

Gelukkig heb ik geleerd altijd dubbel te controleren. Maar stel je voor dat ik dat niet had gedaan - dan had ik op het podium gestaan en iemand geciteerd die die woorden nooit heeft gezegd. Dat is het soort blunder waar AI je niet voor zal waarschuwen.

In 2023 gebruikte een advocaat ChatGPT voor juridisch onderzoek. Het verzon valse.

Waarom het ertoe doet dat mensen begrijpen dat AI fouten maakt:

AI is geen magie, het is wiskunde. Als we niet begrijpen hoe en waarom AI dingen verkeerd doet, geven we het meer autoriteit dan het verdient en houden we op het in twijfel te trekken. Dat is riskant.

Stel je voor hoe mensen AI kunnen inzetten in onderzoek en met foute feiten naar huis gaan.

Denk na over de impact wanneer een sollicitant wordt afgewezen door een algoritme omdat de trainingsdata bevooroordeeld waren.

Stelt u zich de gevolgen voor wanneer patiënten een chatbot om medisch inzicht vragen en vertrekken met valse adviezen.

AI weet niet of het je de waarheid vertelt. Als we er blindelings op vertrouwen, begint het subtiel onze keuzes, overtuigingen en zelfs onze rechten vorm te geven. Maar als je begrijpt waarom het fouten maakt, behoud je de controle — niet het algoritme.

Hoe uzelf te beschermen:

• Vraag om bronnen:
  Wanneer je AI gebruikt om bepaalde taken uit te voeren, vooral onderzoeksgerelateerde, vraag dan om bronnen.
• Verificatie van resultaat:
  Vergelijk met een betrouwbare, door mensen geverifieerde bron of vraag om een tweede mening voor revisie en validatie.
• Pas op voor overmoed:
  Gepolijst is niet gelijk aan correct.
• Gebruik AI voor het opstellen, niet voor besluitvorming:
  Laat het voorstellen; jij bevestigt.

Wat zou dan onze mindset moeten zijn nu we AI steeds meer adopteren? Wel, het is simpel: “AI is er niet om menselijke intelligentie te vervangen; het is er om complement ”Het. De verantwoordelijkheid voor toezicht en verificatie blijft bij ons, en ik hoop dat dit zo blijft.".