Por qué la IA comete errores y cómo evitarlos

Por Oluwole Akinwale, Directora, Professional Services

Hace unos años, un buen amigo mío se embarcó en un viaje, siguiendo fielmente todas las instrucciones de su GPS. Tras una serie de giros y recálculos, el dispositivo anunció alegremente: «Has llegado a tu destino». ¿El problema? Estaba contemplando una vasta extensión de agua, como si el GPS le dijera: «¡Vamos, lánzate al agua!». Su verdadero destino estaba a kilómetros de distancia. Al final, abandonó la tecnología y se orientó con el clásico mapa de papel.

La IA se parece mucho a eso cuando se equivoca. No duda. No dice: "Mmm, no estoy seguro de esto". Te da una respuesta con total seguridad, como si estuviera absolutamente segura, incluso cuando no lo está.

Esa es la parte complicada: el tono, la redacción, el acabado... todo da la sensación de confianza. Pero solo porque algo... suena correcto no significa eso is Correcto. La confianza no es lo mismo que la corrección, y con la IA, debemos recordarlo.

Entonces, ¿por qué la IA, con todo su poder computacional, todavía se equivoca?

Generalmente se reduce a uno de tres culpables. Piense en ellos como los sospechosos habituales de cualquier error de IA.

1. Sesgo en los datos

La IA se entrena con grandes cantidades de datos, lo que le ayuda a detectar patrones, hacer predicciones y ofrecer respuestas basadas en lo que ha "aprendido". La calidad, la diversidad y el equilibrio de esos datos configuran la perspectiva a través de la cual la IA ve el mundo. Es como un viejo dicho de mi tribu: "Hasta que un niño visita la granja del padre de su amigo, siempre creerá que su padre tiene la granja más grande de la ciudad".

De igual manera, si la IA no se entrena con datos diversos y equilibrados, termina viendo el mundo de forma limitada o incluso distorsionada. Puede parecer inteligente y segura, pero podría pasar por alto el panorama general, lo que puede dar lugar a respuestas injustas o imprecisas.

Imagine que una IA entrenada para filtrar candidatos ve principalmente a hombres en sus anteriores contrataciones. Existe el riesgo de que, sin saberlo, favorezca a los candidatos masculinos.

¿Entendiste la idea? Pasemos a otro punto.

2. Datos erróneos o incompletos

La inteligencia de la IA depende de los datos que recibe. Si los datos están desactualizados, son incorrectos o incompletos, los resultados también serán inexactos. Es el clásico problema de "basura que entra, basura que sale".

Hace unos meses, desarrollé un sistema de alerta global basado en IA que envía actualizaciones a un canal de Telegram. Inicialmente, el modelo se refería a Donald Trump como el "expresidente de EE. UU." Eso habría sido preciso hace un tiempo, pero no ahora. El modelo se entrenó con datos que antes eran precisos, pero que con el tiempo se han quedado obsoletos, o bien la base de conocimientos utilizada para mejorar su respuesta estaba desactualizada. Al cambiar a otro modelo entrenado con datos actualizados o con una base de conocimientos actualizada, el problema se resolvió.

Lo mismo ocurre en otras zonas. Un chatbot de viajes podría sugerirte una cafetería genial, solo para que descubras que cerró hace tres años. De nuevo, no es culpa de la IA. Simplemente trabaja con información antigua.

3. Mala interpretación (o “alucinación”)

Cuando la IA no tiene la información correcta, no dice “No sé”; simplemente inventa algo y lo dice con seguridad.

Una vez, mientras preparaba un discurso, le pedí a ChatGPT algunas citas inspiradoras y conocidas sobre el tema. Me dieron varias... y sonaban geniales. ¿El único problema? Un par de ellas eran completamente inventadas.

Por suerte, he aprendido a siempre comprobarlo dos veces. Pero imagínate si no lo hubiera hecho: habría subido al escenario citando a alguien que nunca dijo esas palabras. Ese es el tipo de desliz del que la IA no te avisará.

En 2023, un abogado usó ChatGPT para una investigación jurídica. Inventó citas de casos falsos, y me imagino que eran lo suficientemente convincentes como para que el abogado las incluyera en el tribunal. Seguro que ya sabes cómo terminó.

Por qué es importante que la gente comprenda que la IA comete errores:

La IA no es magia, es matemática. Cuando no entendemos cómo y por qué se equivoca, le damos más autoridad de la que merece y dejamos de cuestionarla. Eso es arriesgado.

Imagine cómo las personas pueden aprovechar la IA en la investigación y salir airosas de datos erróneos.

Piense en el impacto que tiene cuando un algoritmo rechaza a un solicitante de empleo porque los datos de entrenamiento estaban sesgados.

Imagine las consecuencias si los pacientes piden información médica a un chatbot y reciben consejos falsos.

La IA no tiene ni idea de si te dice la verdad. Cuando confiamos ciegamente en ella, empieza a moldear silenciosamente nuestras decisiones, creencias e incluso nuestros derechos. Pero cuando comprendes por qué se equivoca, tú mantienes el control, no el algoritmo.

Cómo protegerse:

• Solicitar fuentes:
  Cuando utilice IA para realizar determinadas tareas, especialmente las basadas en investigación, solicite fuentes.
• Verificar resultado cruzado:
  Compárelo con una fuente confiable y verificada por humanos o solicite una segunda revisión y validación.
• Cuidado con el exceso de confianza:
  Pulido no equivale a correcto.
• Utilice la IA para redactar borradores, no para tomar decisiones:
  Deja que te sugiera y tú confirma.

¿Cuál debería ser, entonces, nuestra mentalidad a medida que adoptamos cada vez más la IA? Bueno, es simple: «La IA no está aquí para reemplazar la inteligencia humana; está aquí para...» complement “La responsabilidad de la supervisión y la verificación aún recae sobre nosotros, y espero que siga siendo así.