Por que a IA comete erros — e como evitá-los

Por Oluwole Akinwale, Diretor, Professional Services

Há alguns anos, um bom amigo meu embarcou em uma viagem, seguindo fielmente cada instrução do seu GPS. Após uma série de curvas e recálculos, o aparelho anunciou alegremente: “Você chegou ao seu destino.” O problema? Ele estava olhando para uma vasta extensão de água — como se o GPS estivesse dizendo: “Vá em frente, mergulhe na água!” Seu destino real estava a quilômetros de distância. No final, ele abandonou a tecnologia e encontrou o caminho com o bom e velho mapa de papel.

IA é muito parecida com isso quando erra. Ela não hesita. Ela não diz: “Hum, não tenho certeza sobre isso”. Ela te dá uma resposta com total confiança, como se tivesse certeza absoluta, mesmo quando não tem.

Essa é a parte complicada: o tom, as palavras, o polimento... tudo parece confiável. Mas só porque algo sons certo não significa que é Entendido. Confiança não é o mesmo que correção - e com a IA, precisamos nos lembrar disso.

Então, por que a IA, com todo o seu poder computacional, ainda comete erros?

Geralmente, a culpa recai sobre um de três culpados. Pense neles como os ‘suspeitos do costume’ em qualquer erro de IA.

1. Viés nos Dados

A IA é treinada com grandes quantidades de dados, o que a ajuda a detectar padrões, fazer previsões e fornecer respostas com base no que ela “aprendeu”. A qualidade, diversidade e equilíbrio desses dados moldam a perspectiva pela qual a IA vê o mundo. É como um velho ditado da minha tribo: “Até que uma criança visite a fazenda do pai de seu amigo, ela sempre achará que o pai dela tem a maior fazenda da cidade.”

Da mesma forma, se a IA não for treinada com dados diversos e equilibrados, ela acabará vendo o mundo de forma limitada ou até distorcida. Ela pode parecer inteligente e confiante, mas pode perder a visão geral, e isso pode levar a respostas injustas ou imprecisas.

Imagine que uma IA treinada para analisar currículos de candidatos a emprego, na maior parte, viu contratações passadas que foram homens. Existe o risco de que ela favoreça candidatos do sexo masculino sem perceber.

Entendeu a ideia? Vamos para outro ponto.

2. Dados Incompletos ou de Má Qualidade

A IA só é tão inteligente quanto os dados com os quais foi alimentada. Se os dados estiverem desatualizados, incorretos ou incompletos, os resultados também serão imprecisos. É o clássico problema de ‘lixo entra, lixo sai’.

Há alguns meses, construí um sistema global de alertas com inteligência artificial que envia atualizações para um canal do Telegram. Inicialmente, o modelo se referia a Donald Trump como o “ex-presidente dos EUA”. Isso teria sido preciso há um tempo, mas não agora. O modelo foi treinado em dados que já foram precisos, mas que se tornaram desatualizados com o tempo, ou a base de conhecimento usada para aprimorar a resposta do modelo estava desatualizada. Quando mudei para outro modelo treinado com dados atualizados ou com uma base de conhecimento atualizada, o problema foi resolvido.

O mesmo acontece em outras áreas. Um chatbot de viagens pode sugerir um ótimo cafezinho — apenas para você descobrir que ele fechou há três anos. Novamente, a culpa não é da IA. Ela está apenas trabalhando com informações antigas.

3. Má Interpretação (ou “Alucinação”)

Quando a IA não tem a informação correta, ela não diz “Eu não sei” — ela simplesmente inventa algo e diz com confiança.

Eu estava me preparando para um discurso e pedi ao ChatGPT algumas citações inspiradoras e conhecidas sobre o tema. Ele me deu algumas... e elas soaram ótimas. O único problema? Algumas delas eram totalmente inventadas.

Felizmente, eu aprendi a sempre verificar duas vezes. Mas imagine se eu não tivesse – eu teria ficado no palco citando alguém que nunca disse essas palavras. Esse é o tipo de deslize sobre o qual a IA não o avisará.

Em 2023, um advogado usou o ChatGPT para pesquisa jurídica. Ele inventou citações de casos falsos, e imagino que elas foram confiantes e suficientes para convencer o advogado a incluí-las em tribunal. Tenho certeza que você já sabe como terminou.

Por que é importante que as pessoas entendam que a IA comete erros:

IA não é mágica, é matemática. Quando não entendemos como e por que a IA erra, damos a ela mais autoridade do que merece e paramos de questioná-la. Isso é arriscado.

Imagine como as pessoas podem usar a IA em pesquisa e sair com informações incorretas.

Pense no impacto quando um candidato a emprego é rejeitado por um algoritmo porque os dados de treinamento eram enviesados.

Imagine as consequências quando pacientes pedem insights médicos a um chatbot e saem com conselhos falsos.

A IA não tem ideia se está dizendo a verdade. Quando confiamos cegamente nela, ela começa a moldar silenciosamente nossas escolhas, crenças e até mesmo nossos direitos. Mas quando você entende por que ela erra, você mantém o controle — não o algoritmo.

Como se Proteger:

• Peça por fontes:
  Ao usar IA para realizar certas tarefas, especialmente as baseadas em pesquisa, peça as fontes.
• Verificar novamente o resultado:
  Compare com uma fonte confiável e verificada por um humano ou peça uma segunda opinião para revisão e validação.
• Cuidado com o excesso de confiança:
  Polido não é sinônimo de correto.
• Use IA para rascunhar, não para tomar decisões:
  Que ele sugira; você confirma.

Qual, então, deveria ser nossa mentalidade à medida que adotamos cada vez mais a IA? Bem, é simples: “A IA não está aqui para substituir a inteligência humana; está aqui para" complemento .” A responsabilidade pela supervisão e verificação ainda recai sobre nós, e espero que continue assim.