Perché l'IA commette errori — e come evitarli

Di Oluwole Akinwale, Direttore, Professional Services

Qualche anno fa, un mio caro amico partì per un viaggio, seguendo fedelmente ogni istruzione del suo navigatore satellitare. Dopo una serie di svolte e ricalcoli, il dispositivo annunciò allegramente: “Sei arrivato a destinazione”. Il problema? Si trovava di fronte a una vasta distesa d'acqua, come se il navigatore dicesse: “Avanti, tuffati in acqua!”. La sua vera destinazione era a chilometri di distanza. Alla fine, abbandonò la tecnologia e si orientò con la cara vecchia mappa cartacea.

L'IA è molto simile a questo quando sbaglia. Non esita. Non dice: “Mmm, non sono sicuro di questo.” Ti dà una risposta con totale sicurezza, come se fosse assolutamente certa, anche quando non lo è.

Questa è la parte difficile: il tono, le parole, la finitura... tutto sembra affidabile. Ma solo perché qualcosa suoni giusto non significa che è Giusto. La sicurezza non è la stessa cosa della correttezza, e con l'IA, dobbiamo ricordarlo.

Quindi, perché l'IA, con tutta la sua potenza di calcolo, sbaglia ancora?

Di solito si riduce a uno di tre colpevoli. Pensali come i ‘sospetti abituali’ di qualsiasi errore dell'IA.

1. Bias nei dati

L'IA viene addestrata su grandi quantità di dati, il che le consente di rilevare schemi, fare previsioni e fornire risposte basate su ciò che ha “imparato”. La qualità, la diversità e l'equilibrio di tali dati modellano la lente attraverso cui l'IA vede il mondo. È come un vecchio detto della mia tribù: “Finché un bambino non visita il terreno del padre del suo amico, penserà sempre che suo padre abbia il terreno più grande della città”.”

Allo stesso modo, se l’intelligenza artificiale non viene addestrata su dati diversificati ed equilibrati, finisce per vedere il mondo in modo limitato o addirittura distorto. Potrebbe sembrare intelligente e sicura di sé, ma rischia di perdere di vista il quadro generale, e questo può portare a risposte inique o imprecise.

Immaginate che un'intelligenza artificiale addestrata a vagliare i candidati a un posto di lavoro abbia come riferimento principalmente dipendenti assunti in passato che erano uomini. C'è il rischio che, inconsapevolmente, favorisca i candidati di sesso maschile.

Hai capito l'idea? Passiamo a un altro punto.

2. Dati errati o incompleti

L'IA è intelligente solo quanto i dati con cui è stata addestrata. Se i dati sono obsoleti, errati o incompleti, anche i risultati saranno imprecisi. È il classico problema del ‘garbage in, garbage out’ (spazzatura in, spazzatura fuori).

Qualche mese fa, ho costruito un sistema di allerta globale alimentato da IA che invia aggiornamenti a un canale Telegram. Inizialmente, il modello si riferiva a Donald Trump come “ex Presidente degli Stati Uniti”. Sarebbe stato accurato tempo fa, ma non ora. Il modello è stato addestrato su dati che un tempo erano accurati ma che col tempo sono diventati obsoleti, oppure la base di conoscenza utilizzata per migliorare la risposta del modello era obsoleta. Quando sono passato a un altro modello addestrato su dati aggiornati o con una base di conoscenza aggiornata, il problema è stato risolto.

La stessa cosa accade anche in altri ambiti. Un chatbot dedicato ai viaggi potrebbe suggerirti un delizioso posticino, solo per farti scoprire poi che ha chiuso i battenti tre anni fa. Anche in questo caso, non è colpa dell’IA: sta semplicemente lavorando con informazioni obsolete.

3. Errata interpretazione (o “allucinazione”)

Quando l'IA non ha le informazioni corrette, non dice “Non lo so”, ma inventa qualcosa e lo dice con sicurezza.

Una volta mi stavo preparando per un discorso e ho chiesto a ChatGPT alcune citazioni ispiratrici e famose sull'argomento. Me ne ha fornite alcune... e suonavano benissimo. L'unico problema? Un paio di esse erano completamente inventate.

Fortunatamente, ho imparato a ricontrollare sempre. Ma immagina se non l'avessi fatto: sarei salito sul palco citando qualcuno che non ha mai pronunciato quelle parole. Questo è il tipo di errore sul quale l'IA non ti avvertirà.

Nel 2023, un avvocato ha utilizzato ChatGPT per effettuare ricerche giuridiche. Il programma ha inventato dei riferimenti a casi giudiziari inesistenti, e immagino che fossero così convincenti e credibili da indurre l’avvocato a citarli in tribunale. Sono certo che sappiate già come è andata a finire.

Perché è importante che le persone capiscano che l'IA commette errori:

L'IA non è magia, è matematica. Quando non capiamo come e perché l'IA sbaglia, le diamo più autorità di quella che merita e smettiamo di interrogarla. Questo è rischioso.

Immaginate come le persone possano sfruttare l'intelligenza artificiale nella ricerca e arrivare a conclusioni errate.

Pensate alle conseguenze che si verificherebbero se un candidato venisse scartato da un algoritmo a causa di un pregiudizio nei dati di addestramento.

Immaginate le conseguenze quando i pazienti chiedono a un chatbot informazioni di carattere medico e ricevono consigli errati.

L'intelligenza artificiale non ha idea se ti stia dicendo la verità. Quando ci fidiamo ciecamente di essa, inizia a influenzare silenziosamente le nostre scelte, le nostre convinzioni e persino i nostri diritti. Ma quando capisci perché commette errori, sei tu a mantenere il controllo — non l'algoritmo.

Come proteggersi:

• Chiedi le fonti:
  Quando utilizzi l'IA per eseguire determinati compiti, specialmente quelli basati sulla ricerca, chiedi le fonti.
• Verifica incrociata del risultato:
  Confronta i dati con una fonte affidabile e verificata da persone o richiedi una revisione e una convalida da parte di un secondo esperto.
• Diffida dell'eccessiva sicurezza:
  "Rifinito" non significa "corretto".
• Usa l'IA per la stesura, non per le decisioni:
  Lascia che sia il sistema a suggerire; tu conferma.

Quale, dunque, dovrebbe essere il nostro atteggiamento mentale man mano che adottiamo sempre più l'IA? Beh, è semplice: “L'IA non è qui per sostituire l'intelligenza umana; è qui per complemento "quello". La responsabilità della supervisione e della verifica spetta ancora a noi, e spero che continui ad essere così.