Bug de segurança no Copilot permite roubo de dados

Ferramentas de IA concentram um grande volume de informações e sob constante risco, um bug de segurança no Copilot permitiu roubo de dados.

Um grave problema de privacidade recaiu sobre a IA da Microsoft: um bug de segurança no Copilot permite roubo de dados.

O potencial era tão grande que nem era preciso mensagens do tipo phishing ou malware, estava tudo exposto.

Na prática era só chegar e coletar os dados do usuário, sem nenhum tipo de restrição.

Bug de segurança no Copilot permite roubo de dados

A falha, que foi chamada de EchoLeak, se aproveitava da capacidade do Copilot de ler e-mails automaticamente.

A falha não precisa de clique em links ou qualquer ação do usuário, o espião se valia do próprio processo de processamento de mensagens (que ocorria automaticamente).

Basicamente o atacante enviava um e-mail com comandos ocultos para eles serem interpretados pela IA e na sequencia serem executados.

Desta forma os comandos passavam pelos filtros da Microsoft criados para detectar ataques conhecidos como injeção de prompt.

Na prática, os comandos poderiam induzir a IA a acessar dados recentes da memória, como documentos, e-mails ou mensagens do Teams.

Em seguida uma imagem com marcações Markdown apontando para o servidor do atacante induzia a IA a remeter os dados capturados para o servidor externo.

Para completar o golpe, ao ser utilizada uma URL do próprio Teams sequer era necessário passar pelo processo de autenticação.

Alto risco e lentidão para correção

Essa falha foi descoberta e a Microsoft informada, porém demorou meses para que uma atualização de correção fosse lançada.

De acordo com a Microsoft a demora foi decorrente a falha afetar a estrutura do Copilot e também pelo fato de ser inédita.

Adicionalmente mais medidas e ferramentas de segurança e controle serão adicionadas, para que casos assim não tornem a ocorrer.

Mas de qualquer forma fica a ressalva para o risco que estamos expostos ao utilizar uma ferramenta de IA.