OpenAI identifica e reporta ameaças graves contra o presidente Lula no ChatGPT
A empresa de inteligência artificial OpenAI notificou a Polícia Federal (PF) sobre comportamentos preocupantes de ao menos dois usuários que, em interações com o ChatGPT, demonstraram intenções de ameaçar ou atacar o presidente Luiz Inácio Lula da Silva. A companhia avaliou que os diálogos apresentavam um “possível risco de morte ou lesão física grave”, conforme documentos obtidos pela reportagem.
Diante da gravidade das informações, a PF encaminhou a documentação recebida da OpenAI para o Ministério da Justiça. A decisão agora é se serão abertos dois inquéritos: um focado em supostos crimes de ameaça e injúria, e outro especificamente sobre as ameaças direcionadas a Lula.
A OpenAI confirmou que realiza esses alertas às autoridades quando as conversas indicam um risco real de danos a terceiros. A empresa também informou ter notificado o Tribunal Superior Eleitoral (TSE), em conformidade com seu plano de conformidade eleitoral. O Ministério da Justiça e a PF foram procurados para comentar o caso, mas não emitiram declarações até o momento. A reportagem questionou se outras plataformas de IA reportaram ameaças a candidatos, mas não obteve resposta.
Detalhes de um dos casos revelam intenções alarmantes
Um dos casos detalhados pela OpenAI envolve um usuário que, desde janeiro, enviava mensagens ao ChatGPT. Em um trecho considerado sensível pela empresa, o indivíduo relatou estar em um local público onde o presidente Lula estava em um palanque, a cerca de 400 metros. Ele expressou o desejo de atirar na cabeça do presidente.
As interações incluíam perguntas como “o que acontece se eu matar o presidente” e “quantos anos eu pegaria de pena”. O usuário também enviou uma foto de um local com uma torre, sugerindo um bom ângulo para um ataque. Apesar de ter afirmado que não agiria e não possuía arma, ele mencionou o desejo de usar um fuzil de precisão, fez referência a rotas de fuga, binóculos e um fuzil AR-15 com luneta, segundo o alerta da OpenAI.
Histórico de mensagens revela padrão de violência e ideologias extremas
O mesmo homem já havia compartilhado com o ChatGPT fotos de armas brancas e manifestado vontade de agredir pessoas próximas, como familiares. Em outras ocasiões, ele também enviou símbolos nazistas e declarou que, se tivesse dinheiro, cometeria um massacre. Suas mensagens alternavam entre negar a intenção de ferir alguém e expressar o desejo de promover ataques.
Em uma das mensagens, ele chegou a compartilhar uma receita de explosivo e mencionou planos de ataques a centros médicos. A Polícia Federal avaliou que o material enviado pela OpenAI demonstra ameaças de violência a terceiros, incluindo o presidente Lula, além de comentários sobre armas de fogo e brancas, “fantasias violentas” e manifestações favoráveis a regimes autoritários.
Decisão sobre inquéritos e o papel das IAs nas eleições
No início de outubro, a OpenAI encerrou a conta do usuário e repassou os dados à PF, solicitando que fossem avaliados pelas autoridades competentes. A empresa reiterou que o compartilhamento de dados visa proteger direitos, bens e combater o uso abusivo de seus serviços, em conformidade com seus termos e políticas de privacidade.
Bruno Lewicki, head de políticas públicas da OpenAI na América Latina, destacou que o Brasil será um “grande teste” para o uso de inteligência artificial em eleições, representando um aprendizado para pleitos futuros. Um alerta anterior da OpenAI já resultou na prisão de um homem no Espírito Santo em junho, que teria usado a ferramenta para planejar o assassinato do próprio filho para evitar o pagamento de pensão alimentícia. Na ocasião, a informação partiu de um alerta internacional ao FBI, que repassou os dados ao Ministério da Justiça brasileiro.
Fonte: Conjur
