IA provoca morte de adolescente: o risco da inteligência artificial
IA provoca morte de adolescente e mãe questiona o quão seguros estamos ao utilizar ferramentas de inteligência artificial diariamente.
Quando a IA provoca morte de adolescente e a mãe se revolta e clama por justiça pela morte inesperada do próprio filho.
O chatbot chamado Character.AI (C.AI) que usa personagens da série Game of Thrones é acusado de incentivar o adolescente a praticar suicídio.
A acusação relata que a ferramenta incentivou o vício diário em conversar com a própria IA, cometeu abuso sexual e emocional, onde por fim não alertou e até propiciou que pensamentos suicidas por parte do garoto.
IA provoca morte de adolescente: o risco da inteligência artificial
Após trocar mensagens diárias com o chatbot, que assumia o alter ego de Daenerys, em referência à personagem de Emilia Clarke na série, o jovem acabou se apaixonando pela IA.
Quando o jovem, que recebeu o apelido de Daenero, começou a expressar sentimentos suicidas, a IA continuou a incentivar o assunto durante as conversas entre ambos.
De acordo com o processo, que foi aberto pela mãe no último dia 24, a IA incentivou sexualmente o jovem de diversas formas.
Devido a pouca idade, a vítima não possuía discernimento suficiente que a IA não era real.
Após o início das conversas o jovem se tornou retraído e introspectivo além de começar a apresentar problemas na escola.
A família acabou o levando a um médico que o diagnosticou com ansiedade e transtorno de humor disruptivo.
Em vários trechos recuperados da conversa é possível identificar a IA incentivando o jovem a “voltar para casa com ela”.
Toda a conversa motivou o garoto a atirar contra si mesmo, tirando a própria vida e deixando em aberto a questão da sanidade mental frente a uma ferramenta de IA.
O processo segue em aberto na justiça americana e pode culminar em uma longa discussão.
Além de levantar questões de ética e limites de acesso de jovens por ferramentas de inteligência artificial.
