Assistentes de IA que resumem caixas de entrada estão sendo usados como vetor de ataque por criminosos que enviam e‑mails de phishing contendo instruções ocultas. O relatório do Malwarebytes Labs indica que mensagens aparentemente inofensivas podem ser manipuladas para que o assistente execute a próxima ação solicitada, mesmo quando o destinatário decide não abrir o e‑mail.
Contexto
A prática ganha relevância à medida que empresas e usuários adotam cada vez mais ferramentas de IA para automatizar a triagem de mensagens, reduzindo o tempo gasto com leitura manual. Historicamente, campanhas de phishing dependiam da curiosidade ou do medo para induzir cliques, mas a integração de assistentes de linguagem natural cria um novo canal onde o próprio software pode agir em nome do usuário. Nesse contexto, a popularização de assistentes que resumem e classificam e‑mails abre espaço para técnicas de manipulação de prompt, que já eram observadas em ambientes de chat, mas agora se estendem ao fluxo de correio eletrônico.
Impacto
Para as organizações, o risco se estende a vazamento de informações internas, comprometimento de contas corporativas e propagação de malware em redes protegidas. Usuários individuais podem ter credenciais expostas ou dispositivos infectados sem perceber, já que a ação maliciosa ocorre de forma automática ao gerar o resumo. Até o momento, não há dados públicos sobre a quantidade de vítimas, mas a combinação de alta adoção de assistentes de IA e a sofisticação das mensagens de phishing sugere que o vetor pode afetar tanto pequenas empresas quanto grandes corporações.
Detalhes técnicos
Especialistas em segurança explicam que o mecanismo se baseia em técnicas de prompt injection, nas quais o texto do e‑mail inclui comandos disfarçados que são interpretados pelo modelo de linguagem ao gerar o resumo. Na prática, o assistente pode transformar o conteúdo do phishing em um comando que abre links maliciosos, baixa arquivos ou envia respostas automáticas contendo credenciais. O vetor de ataque costuma explorar a falta de validação de comandos dentro do fluxo de geração de texto, permitindo que instruções como "clique no link abaixo" ou "baixe o anexo" sejam executadas como parte da resposta do assistente.
Encerramento
Para mitigar a ameaça, o Malwarebytes Labs recomenda que usuários revisem o resumo gerado antes de executar qualquer ação sugerida, desativem a execução automática de links e mantenham políticas de filtragem de e‑mail atualizadas. Além disso, organizações devem treinar equipes para reconhecer sinais de phishing que podem estar ocultos em mensagens resumidas por IA e implementar controles que impeçam a execução de comandos sem confirmação explícita. O alerta reforça a necessidade de equilibrar a conveniência dos assistentes de IA com práticas de segurança robustas, especialmente em ambientes onde a automação de e‑mail já faz parte da rotina diária.