Warum KI Fehler macht – und wie man sie vermeidet

Von Oluwole Akinwale, Leiter, Professional Services

Vor einigen Jahren machte sich ein guter Freund von mir auf eine Reise und folgte treu jeder Anweisung seines Navigationsgeräts. Nach einer Reihe von Abbiegungen und Neuberechnungen verkündete das Gerät fröhlich: “Sie haben Ihr Ziel erreicht.” Das Problem? Er starrte auf eine riesige Wasserfläche – als ob das Navigationsgerät gesagt hätte: “Na los, stürzen Sie sich ins Wasser!” Sein eigentliches Ziel war meilenweit entfernt. Am Ende gab er die Technik auf und fand seinen Weg mit der guten alten Papierkarte.

KI ist ganz ähnlich, wenn sie falsch liegt. Sie zögert nicht. Sie sagt nicht: “Hm, da bin ich mir nicht sicher.” Sie gibt Ihnen eine Antwort mit völliger Überzeugung, als ob sie absolut sicher wäre, auch wenn sie es nicht ist.

Das ist der knifflige Teil: der Tonfall, die Wortwahl, die Ausfeilung … alles wirkt vertrauenswürdig. Aber nur weil etwas Sounds Rechts bedeutet nicht, dass es ist Richtig. Selbstvertrauen ist nicht dasselbe wie Korrektheit – und bei KI müssen wir uns daran erinnern.

Warum macht KI mit all ihrer Rechenleistung immer noch Fehler?

Am Ende läuft es meist auf einen von drei Schuldigen hinaus. Betrachten Sie sie als die ‘üblichen Verdächtigen’ bei jedem KI-Fehler.

1. Verzerrung in den Daten

KI wird mit großen Datenmengen trainiert, die ihr helfen, Muster zu erkennen, Vorhersagen zu treffen und Antworten auf der Grundlage dessen zu geben, was sie “gelernt” hat. Die Qualität, Vielfalt und Ausgewogenheit dieser Daten prägen die Linse, durch die die KI die Welt sieht. Es ist wie ein altes Sprichwort aus meinem Stamm – “Solange ein Kind nicht den Bauernhof des Vaters seines Freundes besucht hat, wird es immer denken, dass sein Vater den größten Bauernhof der Stadt hat.”

Wenn KI nicht mit vielfältigen und ausgewogenen Daten trainiert wird, sieht sie die Welt ebenfalls in einer begrenzten oder sogar verzerrten Weise. Sie mag intelligent und selbstbewusst klingen, kann aber den größeren Zusammenhang übersehen, was zu unfairen oder ungenauen Antworten führen kann.

Stellen Sie sich eine KI vor, die darauf trainiert ist, Bewerber für eine Stelle zu prüfen, und die meist frühere Einstellungen sieht, die Männer waren. Es besteht die Gefahr, dass sie unwissentlich männliche Kandidaten bevorzugt.

Verstanden? Kommen wir zum nächsten Punkt.

2. Schlechte oder unvollständige Daten

KI ist nur so schlau wie die Daten, mit denen sie gefüttert wurde. Wenn die Daten veraltet, falsch oder unvollständig sind, werden auch die Ergebnisse ungenau sein. Das ist das klassische ‘Garbage in, garbage out’-Problem.

Vor ein paar Monaten habe ich ein KI-gestütztes globales Warnsystem entwickelt, das Updates an einen Telegram-Kanal weiterleitet. Zunächst bezeichnete das Modell Donald Trump als “ehemaligen US-Präsidenten”. Das wäre vor einiger Zeit korrekt gewesen, aber nicht mehr jetzt. Das Modell wurde entweder mit Daten trainiert, die einst korrekt waren, aber mit der Zeit veraltet sind, oder die Wissensbasis, die zur Verbesserung der Antwort des Modells verwendet wurde, war veraltet. Als ich zu einem anderen Modell wechselte, das mit aktualisierten Daten oder einer aktualisierten Wissensbasis trainiert wurde, war das Problem behoben.

Das Gleiche passiert auch in anderen Bereichen. Ein Reise-Chatbot schlägt vielleicht ein tolles kleines Café vor – nur um festzustellen, dass es vor drei Jahren geschlossen wurde. Auch hier ist nicht die KI schuld. Sie arbeitet einfach mit alten Informationen.

3. Fehlinterpretation (oder “Halluzination”)

Wenn KI nicht die richtigen Informationen hat, sagt sie nicht “Ich weiß es nicht” – sie erfindet einfach etwas und sagt es mit Überzeugung.

Ich habe mich einmal auf eine Rede vorbereitet und ChatGPT nach einigen inspirierenden, bekannten Zitaten zu diesem Thema gefragt. Es gab mir eine Handvoll… und sie klangen großartig. Das einzige Problem? Ein paar davon waren komplett erfunden.

Glücklicherweise habe ich gelernt, immer doppelt zu prüfen. Aber stell dir vor, ich hätte das nicht getan – ich wäre auf der Bühne gestanden und hätte jemanden zitiert, der diese Worte nie gesagt hat. Das ist die Art von Fehler, vor der dich die KI nicht warnen wird.

Im Jahr 2023 verwendete ein Anwalt ChatGPT für seine juristische Recherche. Es erfand gefälschte Fallzitate, und ich stelle mir vor, dass sie für den Anwalt überzeugend genug waren, um sie vor Gericht zu verwenden. Ich bin sicher, Sie wissen bereits, wie es endete.

Warum es wichtig ist, dass Menschen verstehen, dass KI Fehler macht:

KI ist keine Magie, sie ist Mathematik. Wenn wir nicht verstehen, wie und warum KI Fehler macht, geben wir ihr mehr Autorität, als sie verdient, und hören auf, sie zu hinterfragen. Das ist riskant.

Stellen Sie sich vor, wie Menschen KI in der Forschung nutzen und mit falschen Fakten herausgehen.

Denken Sie an die Auswirkungen, wenn ein Stellenbewerber von einem Algorithmus abgelehnt wird, weil die Trainingsdaten voreingenommen waren.

Stellen Sie sich die Folgen vor, wenn Patienten einen Chatbot um medizinische Einblicke bitten und mit falschen Ratschlägen gehen.

KI hat keine Ahnung, ob sie dir die Wahrheit sagt. Wenn wir ihr blind vertrauen, beginnt sie, unsere Entscheidungen, Überzeugungen und sogar unsere Rechte leise zu formen. Aber wenn du verstehst, warum sie Fehler macht, behältst du die Kontrolle – nicht der Algorithmus.

Wie man sich schützt:

• Frage nach Quellen:
  Wenn Sie KI für bestimmte Aufgaben, insbesondere für forschungsbasierte, einsetzen, bitten Sie um Quellenangaben.
• Ergebnis gegenprüfen
  Vergleichen Sie mit einer vertrauenswürdigen, von Menschen geprüften Quelle oder bitten Sie um eine Zweitmeinung zur Überprüfung und Validierung.
• Vorsicht vor Selbstüberschätzung:
  Polierte Dinge sind nicht zwangsläufig korrekt.
• Nutzen Sie KI für die Entwurfsarbeit, nicht für Entscheidungen:
  Lasst es vorschlagen; du bestätigst.

Wie sollten wir also eingestellt sein, wenn wir KI immer mehr einsetzen? Nun, das ist einfach: “KI ist nicht hier, um die menschliche Intelligenz zu ersetzen; sie ist hier, um Komplement dass dies noch der Fall ist. Die Verantwortung für die Aufsicht und Verifizierung liegt weiterhin bei uns, und ich hoffe, das bleibt auch so.