Pourquoi l'IA fait des erreurs — et comment les éviter

Par Oluwole Akinwale, Directeur, Professional Services

Il y a quelques années, un bon ami à moi est parti en voyage, suivant fidèlement toutes les instructions de son GPS. Après une série de virages et de recalculs, l'appareil a joyeusement annoncé : “ Vous êtes arrivé à destination ”. Le problème ? Il se trouvait face à une vaste étendue d'eau — comme si le GPS disait : “ Allez-y, plongez dans l'eau ! ” Sa vraie destination était à des kilomètres. Finalement, il a abandonné la technologie et a retrouvé son chemin grâce à la bonne vieille carte papier.

L'IA ressemble beaucoup à cela quand elle se trompe. Elle n'hésite pas. Elle ne dit pas : “ Hmm, je ne suis pas sûr de ça. ” Elle vous donne une réponse avec une confiance totale, comme si elle était absolument certaine, même quand ce n'est pas le cas.

C’est là que ça se complique : le ton, les mots, la façon dont c’est peaufiné… tout cela inspire confiance. Mais juste parce que quelque chose sons droit ne signifie pas que est C'est juste. La confiance n'est pas la même chose que l'exactitude — et avec l'IA, nous devons nous en souvenir.

Alors, pourquoi l'IA, avec toute sa puissance de calcul, fait-elle encore des erreurs ?

Cela se résume généralement à l'un des trois coupables. Pensez-y comme aux ‘suspects habituels’ de tout faux pas de l'IA.

1. Biais dans les données

L'IA est entraînée sur de grandes quantités de données, ce qui l'aide à détecter des modèles, à faire des prédictions et à fournir des réponses basées sur ce qu'elle a “appris”. La qualité, la diversité et l'équilibre de ces données façonnent la lentille à travers laquelle l'IA voit le monde. C'est comme un vieux dicton de ma tribu : “Tant qu'un enfant ne visite pas la ferme du père de son ami, il pensera toujours que son père a la plus grande ferme de la ville.”

De même, si l'IA n'est pas entraînée sur des données diverses et équilibrées, elle finit par percevoir le monde de manière limitée, voire déformée. Elle peut sembler intelligente et sûre d'elle, mais elle risque de passer à côté de l'essentiel, ce qui peut entraîner des réponses injustes ou inexactes.

Imaginez qu'une IA entraînée pour examiner les candidatures d'emploi ne voit majoritairement que des employés précédents qui étaient des hommes. Il y a un risque qu'elle favorise inconsciemment les candidats masculins.

Vous avez compris ? Passons à un autre point.

2. Données erronées ou incomplètes

L'IA n'est aussi intelligente que les données qui lui ont été fournies. Si les données sont obsolètes, incorrectes ou incomplètes, les résultats seront également inexacts. C'est le problème classique ‘ on n'obtient que ce que l'on met ’.

Il y a quelques mois, j'ai construit un système mondial d'alerte alimenté par l'IA qui envoie des mises à jour à un canal Telegram. Initialement, le modèle désignait Donald Trump comme l“”ancien président américain". Cela aurait été exact il y a un certain temps, mais pas maintenant. Le modèle a été soit entraîné sur des données qui étaient autrefois exactes mais qui sont devenues obsolètes avec le temps, soit la base de connaissances utilisée pour améliorer la réponse du modèle était obsolète. Lorsque j'ai basculé vers un autre modèle entraîné sur des données mises à jour ou doté d'une base de connaissances mise à jour, le problème a été résolu.

La même chose se produit dans d'autres domaines. Un chatbot de voyage pourrait vous suggérer un super petit café – pour que vous découvriez qu'il a fermé il y a trois ans. Encore une fois, ce n'est pas la faute de l'IA. Elle travaille simplement avec de vieilles informations.

3. Mauvaise interprétation (ou “ hallucination ”)

Lorsque l'IA n'a pas les bonnes informations, elle ne dit pas “ Je ne sais pas ” – elle invente quelque chose et le dit avec assurance.

Je me préparais une fois pour un discours et j'ai demandé à ChatGPT quelques citations inspirantes et connues sur le sujet. Il m'en a donné une poignée… et elles étaient très bien. Le seul problème ? Certaines d'entre elles étaient entièrement inventées.

Heureusement, j'ai appris à toujours vérifier deux fois. Mais imaginez si je ne l'avais pas fait – je me serais retrouvé sur scène à citer quelqu'un qui n'a jamais prononcé ces mots. C'est le genre d'erreur que l'IA ne vous signalera pas.

En 2023, un avocat a utilisé ChatGPT pour des recherches juridiques. Il a inventé de fausses références d'affaires, et j'imagine qu'elles étaient suffisamment convaincantes pour que l'avocat les inclue au tribunal. Je suis sûr que vous savez déjà comment cela s'est terminé.

Pourquoi il est important que les gens comprennent que le système d'IA fait des erreurs :

L'IA n'est pas de la magie, c'est des mathématiques. Quand nous ne comprenons pas comment et pourquoi l'IA se trompe, nous lui accordons plus d'autorité qu'elle ne le mérite et cessons de la remettre en question. C'est risqué.

Imaginez comment les gens peuvent exploiter l'IA dans la recherche et repartir avec des faits erronés.

Pensez à l'impact lorsqu'un candidat à un emploi est rejeté par un algorithme parce que les données d'entraînement étaient biaisées.

Imaginez les conséquences lorsque les patients demandent des informations médicales à un chatbot et repartent avec de faux conseils.

L'IA n'a aucune idée si elle vous dit la vérité. Lorsque nous lui faisons confiance aveuglément, elle commence à façonner discrètement nos choix, nos croyances et même nos droits. Mais lorsque vous comprenez pourquoi elle se trompe, vous gardez le contrôle — pas l'algorithme.

Comment se protéger :

• Demandez des sources :
  Lorsque vous utilisez l'IA pour effectuer certaines tâches, en particulier celles basées sur la recherche, demandez les sources.
• Vérifier le résultat :
  Comparez avec une source fiable et vérifiée par un humain ou demandez un deuxième avis pour validation.
• Méfiez-vous de l'excès de confiance.
  Brillant ne signifie pas correct.
• Utilisez l'IA pour la rédaction, pas pour la prise de décision :
  Laisse-lui suggérer ; tu confirms.

Quelle devrait donc être notre mentalité à mesure que nous adoptons de plus en plus l'IA ? Eh bien, c'est simple : “ L'IA n'est pas là pour remplacer l'intelligence humaine ; elle est là pour complément ”. La responsabilité de la surveillance et de la vérification nous incombe toujours, et j'espère qu'il en sera ainsi.