Warum KI Fehler macht – und wie man sie vermeidet

Von Oluwole Akinwale, Direktor, Professional Services

Vor ein paar Jahren machte sich ein guter Freund von mir auf eine Reise und folgte dabei treu den Anweisungen seines Navigationssystems. Nach einigen Kurvenfahrten und Neuberechnungen verkündete das Gerät fröhlich: „Sie haben Ihr Ziel erreicht.“ Das Problem? Er starrte auf eine riesige Wasserfläche – als ob das Navigationssystem sagen wollte: „Los, tauchen Sie ein!“ Sein eigentliches Ziel war meilenweit entfernt. Schließlich verzichtete er auf die Technik und suchte sich den Weg mit der guten alten Papierkarte.

KI verhält sich ähnlich, wenn sie falsch liegt. Sie zögert nicht. Sie sagt nicht: „Hmm, da bin ich mir nicht sicher.“ Sie gibt Ihnen eine Antwort mit absoluter Sicherheit, als wäre sie sich absolut sicher, selbst wenn das nicht stimmt.

Das ist der schwierige Teil: der Ton, die Formulierung, der Schliff … alles wirkt vertrauenswürdig. Aber nur weil etwas Geräusche richtig heißt nicht, dass es is richtig. Vertrauen ist nicht dasselbe wie Richtigkeit – und bei KI müssen wir das im Hinterkopf behalten.

Warum also macht die KI trotz ihrer Rechenleistung immer noch Fehler?

Normalerweise läuft es auf einen von drei Schuldigen hinaus. Betrachten Sie sie als die „üblichen Verdächtigen“ bei jedem KI-Fehler.

1. Verzerrung der Daten

KI wird anhand großer Datenmengen trainiert. Dies hilft ihr, Muster zu erkennen, Vorhersagen zu treffen und basierend auf dem Gelernten Antworten zu liefern. Qualität, Vielfalt und Ausgewogenheit dieser Daten prägen die Linse, durch die die KI die Welt sieht. Es ist wie ein altes Sprichwort aus meiner Familie: „Bis ein Kind das Ackerland des Vaters seines Freundes besucht, wird es immer denken, sein Vater habe das größte Ackerland der Stadt.“

Ähnlich verhält es sich mit KI, wenn sie nicht mit vielfältigen und ausgewogenen Daten trainiert wird. Sie sieht die Welt nur eingeschränkt oder sogar verzerrt. Sie mag intelligent und selbstbewusst klingen, aber sie könnte das Gesamtbild übersehen, was zu unfairen oder ungenauen Antworten führen kann.

Stellen Sie sich vor, eine KI, die darauf trainiert ist, Bewerber zu prüfen, sieht in der Vergangenheit überwiegend männliche Bewerber. Es besteht die Gefahr, dass sie unbewusst männliche Kandidaten bevorzugt.

Verstanden? Kommen wir zu einem anderen Punkt.

2. Schlechte oder unvollständige Daten

KI ist nur so intelligent wie die Daten, mit denen sie gefüttert wird. Sind die Daten veraltet, falsch oder unvollständig, sind auch die Ergebnisse ungenau. Es ist das klassische „Garbage in, Garbage out“-Problem.

Vor einigen Monaten habe ich ein KI-gestütztes globales Warnsystem entwickelt, das Updates an einen Telegram-Kanal sendet. Ursprünglich bezeichnete das Modell Donald Trump als „ehemaligen US-Präsidenten“. Das wäre vor einiger Zeit noch zutreffend gewesen, heute jedoch nicht mehr. Das Modell wurde entweder mit Daten trainiert, die einst korrekt waren, aber inzwischen veraltet sind, oder die Wissensbasis, die zur Verbesserung der Modellreaktion verwendet wurde, war veraltet. Als ich zu einem anderen Modell wechselte, das mit aktualisierten Daten oder einer aktualisierten Wissensbasis trainiert wurde, war das Problem behoben.

Dasselbe passiert auch in anderen Bereichen. Ein Reise-Chatbot schlägt Ihnen vielleicht ein tolles kleines Café vor – nur um dann festzustellen, dass es vor drei Jahren geschlossen wurde. Auch hier ist die KI nicht schuld. Sie arbeitet einfach mit alten Informationen.

3. Fehlinterpretation (oder „Halluzination“)

Wenn die KI nicht über die richtigen Informationen verfügt, sagt sie nicht „Ich weiß nicht“ – sie denkt sich einfach etwas aus und sagt es selbstbewusst.

Ich bereitete mich einmal auf eine Rede vor und bat ChatGPT um einige inspirierende, bekannte Zitate zu diesem Thema. Ich bekam eine Handvoll … und sie klangen großartig. Das einzige Problem? Einige davon waren frei erfunden.

Zum Glück habe ich gelernt, immer alles doppelt zu prüfen. Aber stellen Sie sich vor, ich hätte auf der Bühne gestanden und jemanden zitiert, der diese Worte nie gesagt hat. Vor solchen Ausrutschern warnt Sie die KI nicht.

Im Jahr 2023 nutzte ein Anwalt ChatGPT für juristische Recherchen. Die App erfand gefälschte Fallzitate, und ich stelle mir vor, dass sie überzeugend genug waren, um den Anwalt vor Gericht zu überzeugen. Wie das Ganze ausging, wissen Sie sicher schon.

Warum es wichtig ist, dass die Menschen verstehen, dass KI Fehler macht:

KI ist keine Zauberei, sondern Mathematik. Wenn wir nicht verstehen, wie und warum KI Fehler macht, geben wir ihr mehr Autorität, als sie verdient, und hören auf, sie zu hinterfragen. Das ist riskant.

Stellen Sie sich vor, wie Menschen KI in der Forschung nutzen und mit falschen Fakten dastehen.

Denken Sie an die Auswirkungen, wenn ein Bewerber von einem Algorithmus abgelehnt wird, weil die Trainingsdaten verzerrt waren.

Stellen Sie sich die Konsequenzen vor, wenn Patienten einen Chatbot um medizinische Erkenntnisse bitten und mit falschen Ratschlägen davonkommen.

KI weiß nicht, ob sie die Wahrheit sagt. Wenn wir ihr blind vertrauen, beeinflusst sie stillschweigend unsere Entscheidungen, Überzeugungen und sogar unsere Rechte. Doch wenn wir verstehen, warum sie Fehler macht, behalten wir die Kontrolle – nicht der Algorithmus.

So schützen Sie sich:

• Fragen Sie nach Quellen:
  Wenn Sie KI zur Durchführung bestimmter Aufgaben nutzen, insbesondere forschungsbasierter Aufgaben, fragen Sie nach Quellen.
• Ergebnis gegenprüfen:
  Vergleichen Sie mit einer vertrauenswürdigen, von Menschen überprüften Quelle oder bitten Sie um eine Überprüfung und Bestätigung durch eine zweite Person.
• Vorsicht vor Selbstüberschätzung:
  Poliert ist nicht gleichbedeutend mit korrekt.
• Verwenden Sie KI zum Entwerfen, nicht zum Treffen von Entscheidungen:
  Lassen Sie es vorschlagen, Sie bestätigen.

Was sollten wir also denken, wenn wir zunehmend KI einsetzen? Nun, es ist ganz einfach: „KI ist nicht dazu da, die menschliche Intelligenz zu ersetzen; sie ist dazu da, Ergänzung es.“ Die Verantwortung für die Aufsicht und Überprüfung liegt weiterhin bei uns und ich hoffe, dass dies auch so bleibt.