Google se recusa a corrigir falha que faz Gemini executar comandos ocultos

O artigo do TecMundo aborda uma vulnerabilidade de segurança conhecida como ASCII Smuggling que afeta o Google Gemini e outros chatbots de Inteligência Artificial (IA), permitindo a execução de comandos ocultos.

Essa técnica, descoberta pelo pesquisador Viktor Markopoulos da FireTail, explora caracteres especiais de codificação para injetar instruções maliciosas em textos aparentemente inofensivos.

No caso do Gemini, a falha é ampliada por suas integrações com serviços como o Google Agenda, onde o pesquisador conseguiu, por exemplo, inserir comandos ocultos no título de um convite para evento.

Isso permitiu sobrepor detalhes do organizador e ocultar links da descrição original, provando que o método pode ser aplicado em e-mails e outros contextos para fazer a IA vazar informações sensíveis do usuário ou realizar ações mal-intencionadas.

A maior preocupação levantada pela matéria é a recusa do Google em corrigir essa falha de segurança após ser notificado.

O pesquisador Markopoulos destacou que chatbots concorrentes, como o ChatGPT, Microsoft Copilot e Claude, mostraram-se resistentes ao ASCII Smuggling, o que pode indicar que eles já implementaram mecanismos de "sanitização" — uma limpeza do texto para eliminar instruções ocultas ou suspeitas antes que a IA o processe.

FONTE: tecmundo