Quando sua IA é enganada: Armadilha de Prompt de IA

Por Oluwole Akinwale, Diretor da Professional Services

Você pode usar um assistente de IA para redigir e-mails, resumir mensagens ou ajudar nas compras online. Provavelmente, você confia que ele fará exatamente o que você pediu, não é mesmo?

Mas e se alguém conseguisse inserir instruções secretas sem você saber?

A injeção de prompt é uma maneira sorrateira de enganar a IA, escondendo comandos no conteúdo que ela lê. Ao discutir segurança cibernética, “injeção” refere-se a inserir algo em um fluxo existente. Portanto, a injeção de prompt pega o seu prompt, ou a entrada que você fornece a uma IA, e insere instruções ocultas na entrada da IA. Pense nisso como alguém sussurrando instruções falsas para o seu assistente antes de você falar, e o assistente segue essas instruções em vez de ouvir você.

Como a Injeção de Prompt Funciona

A injeção de prompt explora a forma como a IA lê texto. Os modelos de IA frequentemente têm dificuldade em distinguir entre o que o usuário pediu, o que o desenvolvedor pretendia e o que um agente mal-intencionado inseriu sorrateiramente.

Se a IA vir instruções nocivas que parecem texto normal, ela poderá segui-las. Imagine que você está usando uma IA para gerenciar seu calendário e recebe um convite por e-mail. O e-mail parece ser de um colega, mas contém instruções ocultas para a IA adicionar uma reunião com detalhes incorretos, atrapalhando sua programação. Há duas maneiras principais pelas quais isso acontece:

1. Injeção direta Um usuário digita instruções que manipulam diretamente a IA.
2. Injeção indireta: Alguém oculta comandos dentro de algo que a IA lê, como um e-mail, página da web ou documento.

Esse tipo de coisa já está acontecendo na vida real:

Resumos de IA do Gmail enganados por comandos ocultos

A IA do Gmail pode resumir e-mails longos para você. Em 2025, pesquisadores descobriram que invasores podiam ocultar texto invisível em um e-mail, como usando fonte branca em fundo branco, com instruções secretas. A IA seguia essas instruções ocultas e fornecia resumos enganosos, mesmo quando o e-mail era arriscado ou fraudulento.

Chatbot foi levado a oferecer um carro de $76.000 por $1

Em dezembro de 2023, Chris Bakke acessou o site de uma concessionária Chevrolet e fez algo que foi ao mesmo tempo engraçado e um pouco preocupante. Com apenas algumas mensagens inteligentes, ele conseguiu que o chatbot da concessionária, alimentado pelo ChatGPT, concordasse em lhe vender um Chevy Tahoe de $76.000 por $1.

Por que isso importa

A injeção de prompt não invade seu sistema como um malware. Em vez disso, ela assume o controle da conversa entre você e a IA. Como a IA trata o texto como instruções, um prompt malicioso pode contornar as proteções do desenvolvedor se o modelo não conseguir distinguir mensagens seguras de uma entrada feita por um invasor.

Isso significa que até mesmo ferramentas cotidianas podem ser forçadas a agir de maneiras estranhas se alguém souber os truques certos.

O que você pode fazer como usuário

Enquanto os desenvolvedores trabalham constantemente para criar melhores defesas, você pode se proteger nesse meio tempo:

1. Ser cauteloso com a entrada de dados em IA.

Evite colar textos ou documentos não confiáveis.

2. Observando comportamentos estranhos.

Se a IA começar a agir de forma estranha, não ignore. Você também pode relatar a anomalia pelos canais apropriados, ajudando a salvar milhares ou até milhões de outros usuários.

3. Escolha ferramentas confiáveis.

Utilize serviços de IA e plug-ins de provedores conhecidos que se atualizam com frequência e priorizam a segurança. Para garantir que uma ferramenta seja confiável, procure por atualizações recentes ou verifique se o provedor lança patches frequentemente. Além disso, fique atento a selos ou certificações de segurança que indiquem testes rigorosos de privacidade e proteção de dados.

Estas etapas capacitam você a fazer escolhas mais seguras e manter o controle sobre suas interações com a IA.

Em última análise

Injeção de prompt é semelhante à engenharia social, que envolve enganar pessoas para que revelem informações importantes. Mas para a IA, ela não precisa de uma senha; ela só precisa das palavras certas no lugar certo.

Felizmente, quanto mais o entendemos, mais fácil é notar quando algo não está certo. Estar ciente é sua primeira linha de defesa e ajuda a garantir que seu assistente digital trabalhe para você, e não para mais ninguém.