Perché l'intelligenza artificiale commette errori e come evitarli

Di Oluwole Akinwale, Direttore, Professional Services

Qualche anno fa, un mio caro amico partì per un viaggio, seguendo fedelmente ogni istruzione del suo navigatore satellitare. Dopo una serie di svolte e ricalcoli, il dispositivo annunciò allegramente: "Hai raggiunto la tua destinazione". Il problema? Stava fissando una vasta distesa d'acqua, come se il navigatore gli stesse dicendo: "Dai, tuffati in acqua!". La sua vera destinazione era a chilometri di distanza. Alla fine, abbandonò la tecnologia e si orientò con la cara vecchia mappa cartacea.

L'intelligenza artificiale è molto simile quando sbaglia. Non esita. Non dice "Mmm, non ne sono sicuro". Ti dà una risposta con assoluta sicurezza, come se fosse assolutamente certa, anche quando non lo è.

Questa è la parte difficile: il tono, la formulazione, la raffinatezza... tutto sembra affidabile. Ma solo perché qualcosa... suoni giusto non significa giusto is Esatto. La fiducia non è sinonimo di correttezza, e con l'intelligenza artificiale dobbiamo ricordarcelo.

Allora perché l'intelligenza artificiale, nonostante tutta la sua potenza di calcolo, continua a sbagliare?

Di solito si riduce tutto a uno di questi tre colpevoli. Considerateli i "soliti sospettati" in ogni errore dell'IA.

1. Distorsione nei dati

L'intelligenza artificiale è addestrata su grandi quantità di dati, il che la aiuta a individuare modelli, fare previsioni e fornire risposte basate su ciò che ha "appreso". La qualità, la diversità e l'equilibrio di questi dati plasmano la lente attraverso cui l'intelligenza artificiale vede il mondo. È come un vecchio detto della mia tribù: "Finché un bambino non visita la fattoria del padre del suo amico, penserà sempre che suo padre abbia la fattoria più grande della città".

Allo stesso modo, se l'intelligenza artificiale non viene addestrata su dati diversificati ed equilibrati, finisce per vedere il mondo in modo limitato o addirittura distorto. Potrebbe sembrare intelligente e sicura di sé, ma potrebbe perdere di vista il quadro generale, e questo può portare a risposte ingiuste o imprecise.

Immaginate un'intelligenza artificiale addestrata a selezionare i candidati e che veda principalmente candidati maschi assunti in passato. C'è il rischio che favorisca inconsapevolmente i candidati maschi.

Hai capito? Passiamo a un altro punto.

2. Dati errati o incompleti

L'intelligenza artificiale è tale quanto i dati che riceve. Se i dati sono obsoleti, errati o incompleti, anche i risultati saranno imprecisi. È il classico problema "garbage in, garbage out".

Qualche mese fa, ho creato un sistema di allerta globale basato sull'intelligenza artificiale che invia aggiornamenti a un canale Telegram. Inizialmente, il modello si riferiva a Donald Trump come "ex presidente degli Stati Uniti". Questo sarebbe stato corretto qualche tempo fa, ma non ora. Il modello era stato addestrato su dati un tempo accurati ma diventati obsoleti nel tempo, oppure la knowledge base utilizzata per migliorare la risposta del modello era obsoleta. Quando sono passato a un altro modello addestrato su dati aggiornati o con una knowledge base aggiornata, il problema è stato risolto.

La stessa cosa accade in altri ambiti. Un chatbot di viaggio potrebbe suggerirti un ottimo bar, solo per scoprire che ha chiuso tre anni fa. Di nuovo, non è colpa dell'IA. Sta solo lavorando con informazioni vecchie.

3. Interpretazione errata (o “allucinazione”)

Quando l'intelligenza artificiale non ha le informazioni corrette, non dice "non lo so", ma inventa qualcosa e lo dice con sicurezza.

Una volta, mentre mi preparavo per un discorso, ho chiesto a ChatGPT alcune citazioni ispiratrici e note sull'argomento. Me ne ha suggerite una manciata... e mi sono sembrate fantastiche. L'unico problema? Un paio erano completamente inventate.

Per fortuna, ho imparato a ricontrollare sempre. Ma immagina se non l'avessi fatto: sarei salito sul palco a citare qualcuno che non ha mai detto quelle parole. Questo è il tipo di errore di cui l'intelligenza artificiale non ti mette in guardia.

Nel 2023, un avvocato ha utilizzato ChatGPT per la ricerca legale. Ha inventato citazioni di casi falsi, e immagino che fossero sufficientemente convincenti da convincere l'avvocato a includerle in tribunale. Sono sicuro che saprai già come è andata a finire.

Perché è importante che le persone capiscano che l'intelligenza artificiale commette errori:

L'intelligenza artificiale non è magia, è matematica. Quando non capiamo come e perché l'intelligenza artificiale sbaglia, le diamo più autorità di quanta ne meriti e smettiamo di metterla in discussione. È rischioso.

Immagina come le persone possano sfruttare l'intelligenza artificiale nella ricerca e poi ottenere dati sbagliati.

Pensate all'impatto che avrebbe un candidato per un lavoro se venisse rifiutato da un algoritmo perché i dati di addestramento erano distorti.

Immaginate le conseguenze se i pazienti chiedessero informazioni mediche a un chatbot e se ne andassero con falsi consigli.

L'intelligenza artificiale non ha idea se ci sta dicendo la verità. Quando ci fidiamo ciecamente di essa, inizia silenziosamente a plasmare le nostre scelte, le nostre convinzioni e persino i nostri diritti. Ma quando capiamo perché sbaglia, siamo noi ad avere il controllo, non l'algoritmo.

Come proteggersi:

• Richiedi le fonti:
  Quando si sfrutta l'intelligenza artificiale per svolgere determinati compiti, in particolare quelli basati sulla ricerca, è bene chiedere le fonti.
• Verifica incrociata del risultato:
  Confronta con una fonte attendibile e verificata da esseri umani oppure richiedi una seconda revisione e convalida.
• Attenzione all'eccesso di sicurezza:
  Lucido non è sinonimo di corretto.
• Utilizzare l'intelligenza artificiale per la redazione, non per il processo decisionale:
  Lascia che sia lui a suggerire, tu a confermare.

Quale dovrebbe essere, quindi, la nostra mentalità mentre adottiamo sempre più l'intelligenza artificiale? Beh, è ​​semplice: "L'intelligenza artificiale non è qui per sostituire l'intelligenza umana; è qui per complemento La responsabilità della supervisione e della verifica ricade ancora su di noi e spero che rimanga tale.