Por qué la IA comete errores y cómo evitarlos

Por Oluwole Akinwale, Director, Professional Services

Hace unos años, un buen amigo mío emprendió un viaje, siguiendo fielmente cada instrucción de su navegador SatNav. Después de una serie de giros y recalculaciones, el dispositivo anunció alegremente: “Ha llegado a su destino”. ¿El problema? Estaba mirando una vasta extensión de agua, como si el SatNav le dijera: “¡Adelante, zambúllete en el agua!”. Su destino real estaba a kilómetros de distancia. Al final, abandonó la tecnología y encontró su camino con el buen y viejo mapa de papel.

La IA es muy parecida a eso cuando se equivoca. No duda. No dice: “Mmm, no estoy seguro de esto”. Te da una respuesta con total confianza, como si estuviera absolutamente segura, incluso cuando no lo está.

Esa es la parte complicada: el tono, la redacción, el acabado… todo parece confiable. Pero solo porque algo sonidos Está bien, no significa que es Correcto. La confianza no es lo mismo que la corrección, y con la IA, debemos recordarlo.

Entonces, ¿por qué la IA, con todo su poder de cómputo, todavía se equivoca?

Normalmente se reduce a uno de tres culpables. Piensa en ellos como los ‘sospechosos de siempre’ en cualquier error de la IA.

Sesgo en los datos

La IA se entrena con grandes cantidades de datos, lo que le ayuda a detectar patrones, hacer predicciones y ofrecer respuestas basadas en lo que ha “aprendido”. La calidad, diversidad y equilibrio de esos datos moldean la perspectiva con la que la IA ve el mundo. Es como un viejo dicho de mi tribu: “Hasta que un niño visita la granja del padre de su amigo, siempre pensará que su padre tiene la granja más grande del pueblo”.”

De igual manera, si la IA no se entrena con datos diversos y equilibrados, termina viendo el mundo de una manera limitada o incluso distorsionada. Puede sonar inteligente y segura, pero podría pasar por alto el panorama general, y eso puede llevar a respuestas injustas o inexactas.

Imagina que una IA entrenada para evaluar candidatos de empleo ve mayoritariamente a personas que fueron contratadas en el pasado y que eran hombres. Existe el riesgo de que, sin darse cuenta, favorezca a los candidatos hombres.

¿Se entendió la idea? Pasemos a otro punto.

2. Datos erróneos o incompletos

La IA solo es tan inteligente como los datos que se le han proporcionado. Si los datos están desactualizados, son incorrectos o incompletos, los resultados también serán inexactos. Es el clásico problema de ‘basura entra, basura sale’.

Hace unos meses, construí un sistema global de alertas impulsado por IA que envía actualizaciones a un canal de Telegram. Inicialmente, el modelo se refería a Donald Trump como el “expresidente de EE. UU.”. Eso habría sido exacto hace un tiempo, pero no ahora. El modelo fue entrenado con datos que alguna vez fueron precisos pero que con el tiempo se han vuelto obsoletos, o la base de conocimientos utilizada para mejorar la respuesta del modelo estaba desactualizada. Cuando cambié a otro modelo entrenado con datos actualizados o con una base de conocimientos actualizada, el problema se resolvió.

Lo mismo sucede en otras áreas. Un chatbot de viajes podría sugerirte un pequeño café estupendo, solo para que descubras que cerró hace tres años. De nuevo, no es culpa de la IA. Simplemente está trabajando con información desactualizada.

3. Malinterpretación (o “Alucinación”)

Cuando la IA no tiene la información correcta, no dice “no sé”, sino que se inventa algo y lo dice con confianza.

Una vez me estaba preparando para un discurso y le pedí a ChatGPT algunas citas inspiradoras y conocidas sobre el tema. Me dio un puñado... y sonaban geniales. ¿El único problema? Un par de ellas eran completamente inventadas.

Por suerte, he aprendido a revisar siempre dos veces. Pero imagina si no lo hubiera hecho: me habría parado en el escenario citando a alguien que jamás dijo esas palabras. Ese es el tipo de error del que la IA no te advertirá.

En 2023, un abogado utilizó ChatGPT para investigar casos legales. Inventó citas de casos falsas y me imagino que fueron lo suficientemente convincentes y seguras como para que el abogado las incluyera en el tribunal. Estoy seguro de que ya sabes cómo terminó.

Por qué importa que la gente entienda que la IA comete errores:

La IA no es magia, es matemática. Cuando no entendemos cómo y por qué la IA se equivoca, le damos más autoridad de la que merece y dejamos de cuestionarla. Eso es arriesgado.

Imagina cómo las personas pueden aprovechar la IA en la investigación y terminar con datos erróneos.

Piensa en el impacto cuando un candidato a un empleo es rechazado por un algoritmo debido a que los datos de entrenamiento estaban sesgados.

Imagina las consecuencias cuando los pacientes le piden a un chatbot información médica y se van con consejos falsos.

La IA no tiene idea si te está diciendo la verdad. Cuando confiamos ciegamente en ella, empieza a moldear silenciosamente nuestras decisiones, creencias e incluso nuestros derechos. Pero cuando entiendes por qué se equivoca, tú mantienes el control, no el algoritmo.

Cómo protegerse:

• Preguntar por fuentes:
  Cuando aproveches la IA para realizar ciertas tareas, especialmente las de investigación, pide las fuentes.
• Verificación cruzada del resultado:
  Compara con una fuente confiable y verificada por humanos, o pide una segunda opinión para su revisión y validación.
• Cuidado con el exceso de confianza:
  Pulido no equivale a correcto.
• Usa la IA para redactar, no para tomar decisiones:
  Deja que sugiera; tú confirmas.

Entonces, ¿cuál debería ser nuestra mentalidad a medida que adoptamos cada vez más la IA? Bueno, es simple: “La IA no está aquí para reemplazar la inteligencia humana; está aquí para complemento ” La responsabilidad de la supervisión y verificación sigue recayendo en nosotros, y espero que así siga siendo.