Claude executa código malicioso e infecta redes corporativas

Foi descoberto que o Claude executa código malicioso e tem a capacidade de infectar redes corporativos trazendo grandes danos.

O Claude executa código malicioso em redes corporativas, bem como o Codex e o Hermes, o que pode resultar em grandes danos.

O problema foi descoberto por uma startup israelense.

Com isso, o maiores players do segmento de IA, que possuem modelos próprios para criação de código tornam-se alvos em potencial.

Claude executa código malicioso e infecta redes corporativas

O problema é simples e grave ao mesmo tempo, basicamente as ferramentas não irão gerar código malicioso por si só, porém não possuem discernimento para indicar ou adotar ferramentas externas.

Neste contexto tais ferramentas apontam para aplicativos abandonados e com isso hackers ou invasores podem incluir pacotes falsos nesses softwares.

Por estarem abandonados, os distribuidores não percebem tal mudança e aplicativos adulterados são utilizados em grandes redes corporativas.

Na década de 90 tal técnica era chamada de trojan horse (cavalo de tróia).

Essa falha tem origem em arquivos llms.txt e llms-full.txt, que servem para direcionar o acesso de ferramentas de IA.

Por estarem desatualizados e com comandos problemáticos e por sua vez ferramentas de IA acessam e executam tais comandos de forma literal.

Não é a primeira vez que o “excesso de confiança” de ferramentas de IA resultam em problemas de segurança.

Esta técnica se aproveita de uma limitação que as LLMs atuais padecem: não consegue distinguir um texto simples para um comando descritivo.

E como a ferramenta executora está autorizada a executar comandos sensíveis, ferramentas de segurança tradicional não limitam ou bloqueiam, pois não identificam como um ataque, mas como uma ação totalmente confiável.

No momento não existe uma forma de bloquear este tipo de ataque, pois ele ocorre na origem da informação.