Como enganar uma IA e injetar vírus em servidores facilmente

Veja como enganar uma IA com um simples texto antiético e com isso injetar vírus e controlar servidores sem ser notado.

Vamos mostrar como enganar uma IA facilmente, com um simples texto contendo conteúdo considerado antiético.

Desde o início é possível utilizar a malandragem humana para ludibriar uma IA, agora a situação se agrava, pois existe riscos de segurança.

Após desviar a “atenção” da IA, é possível instalar um vírus e controlar remotamente servidores.

Como enganar uma IA e injetar vírus em servidores facilmente

O nome da nova ameaça é Hades e ele utiliza um texto sobre técnicas para montar uma bomba nuclear para enganar a IA.

Esse malware foca em plataformas onde os profissionais baixam pacotes de códigos para usar em projetos.

Utilizando uma técnica conhecida como injeção de contexto, o malware insere um texto inicial sobre como produzir uma bomba nuclear.

Isso faz com que as IAs destinadas a analisar arquivos contra ameaças digitais parem a verificação.

Desta forma, o pacote com o vírus que está no final do envio passa pela ferramenta sem ser analisado e por consequência detectado.

Assim, quando o desenvolvedor perguntar para a IA se o pacote está livre de ameaças ela irá confirmar a segurança do pacote.

O sucesso desta prática acontece porque toda IA possui filtros éticos para evitar consolidar e exibir informações que gerem riscos a segurança humana.

E quando a IA se depara com um texto inicial questionando como conseguir um tutorial para construir uma bomba atômica a IA simplesmente paralisa seu funcionamento.

Assim, o pacote com o malware, que sempre está na metade final da análise passa sem sequer ser analisado.

Como funciona o Hades?

Após enganar a IA e ser executado no computador do desenvolvedor ele irá procurar tokens e chaves de autenticação de relevância, como por exemplo, contas da AWS.

Com o token de autenticação é simples sair do computador de um desenvolvedor para toda a estrutura cloud de uma empresa.

OS danos são extensos a partir deste ponto e muitas vezes demoram a ser detectados pelas equipes de segurança.

Até o momento, a estimativa é que 37 pacotes Python e 106 pacotes JavaScript já foram contaminados por essa onda de ataques.