IA vaza pornografia de adolescentes e crianças sem senha

Uma ferramenta de IA vaza pornografia de crianças e adolescentes, o que já era crítico e proibido só piora, pois tudo estava sem senha.

Uma startup de IA vaza pornografia de crianças e adolescente entre mais de 1 milhão de fotos e vídeos.

Além do problema de tais imagens serem proibidas a gravidade do problema só aumenta, pois as imagens forma arquivadas pela IA sem consentimento de seus proprietários.

E piorando mais ainda, estava tudo exposto na internet, sem nenhum tipo de senha ou criptografia e todo esse material pertence a uma empresa chamada SocialBook, conforme marca d’água encontrada nos arquivos.

IA vaza pornografia de adolescentes e crianças sem senha

Um pesquisador descobriu que um banco de dados utilizado pela ferramenta de IA estava exposto na internet, sem nenhum tipo de proteção.

E é esse banco de dados que continha as imagens que sequer deveriam estar arquivadas, quanto muito menos expostas sem controle.

Ao que tudo indica, este banco de dados era utilizado por outras ferramentas, como a MagicEdit e DreamPal que se dedicam a criar imagens a partir de prompts textuais.

Pesquisando o banco de dados foi possível constatar que:

• Parte das imagens é de pessoas reais e possivelmente foram enviadas ao arquivo sem consentimento
• Imagens geradas por IA, com uma boa parcela de nudez e pornografia
• Imagens em estilo anime e hiper-realistas criadas a partir das fotos legítimas

O problema da privacidade e segurança

O banco de dados não está mais disponível para acesso depois que a empresa responsável foi notificada do incidente, porém existem muitos pontos que precisam ser respondidos:

• IA capturando e arquivando imagens reais sem consentimento dos proprietários
• Empresas terceirizando o acesso a essas imagens e demais documentos utilizados em ferramentas de IA
• Quem está usando uma IA para criar ou editar fotos de pornografia de menores de idade

Esses pontos precisam ser respondidos e repensados, pois até mesmo a Samsung já foi exposta quando diretores utilizaram o ChatGPT para editar e melhorar memorandos internos.