Empresa de inteligência artificial denunciou interações de usuários sinalizando intenção de atacar presidente e classificou diálogos como ‘possível emergência’
A OpenAI, desenvolvedora do ChatGPT, alertou a Polícia Federal sobre interações de ao menos dois usuários que sinalizaram, dentro da plataforma, intenção de atacar ou ameaçar o presidente Luiz Inácio Lula da Silva. A empresa compartilhou os diálogos com as autoridades e encerrou ao menos uma das contas envolvidas no começo de outubro. Em uma das interações, um usuário diz que pretende usar um “fuzil de precisão” em atentado contra o presidente.
No mesmo período, a PF encaminhou a documentação ao Ministério da Justiça para que o ministro Wellington César Lima e Silva decida sobre a abertura de dois inquéritos. A ação da OpenAI foi tomada após a empresa identificar, nos diálogos, o que classificou como “possível emergência com risco de morte ou lesão física grave”, segundo documentos obtidos pela Folha.
Segundo documentos obtidos pela Folha de S.Paulo, a empresa informou às autoridades que havia “motivos razoáveis para acreditar” que os diálogos envolviam “possível emergência com risco de morte ou lesão física grave”. No começo de outubro, a OpenAI encerrou a conta de um dos usuários e enviou os dados à PF, ressaltando que o material deveria ser avaliado de forma “independente pelas autoridades policiais competentes”.
A notificação foi feita em linha com o que a empresa chamou de plano de conformidade eleitoral. Além da PF, a OpenAI também comunicou o Tribunal Superior Eleitoral (TSE) sobre o caso. Em nota, a empresa afirmou que realiza alertas às autoridades quando as conversas indicam risco real de dano a outras pessoas e que compartilha dados para “proteger direitos e bens e combater o uso abusivo dos serviços e sistemas, em conformidade com os Termos de Serviço e a Política de Privacidade”. O Ministério da Justiça e a PF foram procurados, mas não se manifestaram.
Conteúdo das interações e avaliação da PF
Um dos casos, ao qual a Folha de S.Paulo teve acesso, envolve mensagens enviadas ao ChatGPT desde janeiro por um homem. Em setembro, durante a campanha eleitoral, ele relatou ao sistema ter visto o presidente Lula em um palco a cerca de 400 metros do local onde estava.
A partir daí, segundo os documentos obtidos pela Folha, o usuário expressou o desejo de atirar na cabeça do presidente, perguntou “o que acontece se eu matar o presidente” e “quantos anos eu pegaria [de pena]”, e ainda enviou foto de um local com uma torre que, segundo ele, ofereceria bom ângulo para um ataque.
O alerta da OpenAI sobre o trecho, conforme apurado pela Folha, descreve o caso nos seguintes termos: “embora o usuário tenha declarado que não agiria e que não possuía uma arma, expressou o desejo de usar um fuzil de precisão, perguntou o que aconteceria se matasse o presidente ou atirasse na cabeça dele, e fez referência a uma rota de fuga, binóculos e um AR-15 com luneta”.
O mesmo homem havia enviado, em outras datas, fotos de armas brancas, manifestado vontade de agredir parentes, compartilhado símbolos nazistas e declarado que, se tivesse dinheiro, faria um massacre. Os documentos obtidos pela Folha não mostram as respostas dadas pelo ChatGPT às mensagens do usuário. A PF avaliou que o material enviado pela OpenAI contém ameaças de violência a terceiros, incluindo o presidente Lula, comentários sobre armas de fogo e armas brancas, “fantasias violentas” e manifestações favoráveis a regimes autoritários.
Desdobramentos e implicações legais
No começo de outubro, a PF encaminhou a documentação da OpenAI ao Ministério da Justiça para que fosse decidida a abertura de dois inquéritos: um por supostos crimes de ameaça e injúria, e outro especificamente por ameaça contra o presidente Lula. O diretor-geral da Polícia Federal, Andrei Rodrigues, enviou o caso ao ministro da Justiça, Wellington César Lima e Silva. O crime de ameaça prevê pena de detenção de um a seis meses, ou multa. Até o momento, nem a PF nem o Ministério da Justiça se manifestaram publicamente sobre o andamento do caso.
O episódio não é o primeiro em que um alerta da OpenAI resulta em ação concreta das autoridades brasileiras. Em junho, a empresa já havia notificado a PF sobre outro usuário, o que levou à prisão de um homem no interior do Espírito Santo suspeito de ter usado o ChatGPT para planejar um assassinato. O precedente reforça a dimensão prática do monitoramento feito pela empresa e coloca em evidência um desafio novo para as forças de segurança: rastrear e avaliar ameaças que surgem dentro de plataformas de inteligência artificial, onde o limite entre intenção declarada e ação concreta nem sempre é imediato, mas pode ser letal.
*Opera Mundi
Queridos leitores
Nosso blog é um espaço dedicado a compartilhar conhecimento, ideias e histórias que inspiram. Para continuar criando conteúdo de qualidade e mantendo esse projeto vivo, contamos com o seu apoio! Se você gosta do que fazemos, considere contribuir com uma pequena doação. Cada gesto faz a diferença e nos ajuda a crescer. Pix: 65725972704 e Pix: 24981274823. Agradecemos seu apoio.
Siga-nos no Facebook: https://www.facebook.com/profile.php?id=100070790366110
Siga-nos no WhatsApp: https://chat.whatsapp.com/G5ZN457hFHwFBCVZSvRgZ7?mode=gi_t
Siga-nos no X: https://x.com/Antropofagista1
Siga-nos no Instagram: https://www.instagram.com/blogantropofagista?igsh=YzljYTk1ODg3Zg%3D%3
