Como a OpenAI decide quando avisar a polícia sobre conversas no ChatGPT?
Uma conversa entre um brasileiro e o ChatGPT, da OpenAI, virou caso de polícia na última semana do mês de junho. No Espírito Santo, um homem de 36 anos contou ao chatbot de inteligência artificial (IA) planos para matar seu filho, de 10 anos.
A empresa enviou as mensagens para o Federal Bureau of Investigation (FBI), a polícia federal dos Estados Unidos, que acionou as autoridades brasileiras, e a prisão aconteceu um dia antes da data em que o crime supostamente seria cometido.
Nas conversas, segundo a Polícia Civil do Espírito Santo, o suspeito detalhou o plano, relatou que pretendia contratar um pistoleiro, mencionou ter arma, corda e cianeto, e chegou a manifestar a intenção de atacar escolas, igrejas e autoridades.
A motivação, apurou a polícia, seria deixar de pagar pensão alimentícia. O que ele não imaginava era que, do outro lado da tela, suas mensagens foram lidas por humanos.
A investigação não começou com uma denúncia de vizinho nem com um parente assustado, mas sim nos servidores da OpenAI, nos Estados Unidos. Identificado o risco, o alerta percorreu uma cadeia internacional até virar mandado.
A empresa avisou o FBI, que repassou o caso ao CyberLab do Ministério da Justiça brasileiro, que por sua vez acionou a Polícia Civil capixaba. Uma conversa digitada num aplicativo terminou em uma prisão no interior do Brasil, costurada por três instâncias em dois países.
Procurada pela EXAME, a OpenAI confirmou ter sido a origem do alerta e explicou por que agiu.
“Nossos sistemas são projetados para ajudar a manter as pessoas seguras, tanto em nossas plataformas quanto no mundo real. Quando identificamos conversas que indicam um risco iminente e crível de dano a outras pessoas, podemos notificar as autoridades competentes”, afirmou a empresa, em nota.
Como a IA percebe um plano de crime
O que fez o sistema soar o alarme não foi uma frase isolada, mas o acúmulo das conversas.
Em seu documento público sobre segurança, a OpenAI explica que mantém sistemas automáticos, classificadores e listas de bloqueio, varrendo as interações em busca de padrões de risco.
A própria empresa admite a fragilidade do método e diz que uma mensagem solta pode parecer inofensiva, e o perigo só aparece no conjunto.
Quando algo grave é sinalizado, segundo a companhia, o caso não vai direto para a polícia. Passa antes por revisores humanos, que avaliam o contexto para separar uma ameaça real de uma conversa legítima sobre violência, ficcional, histórica ou jornalística.
Só depois de confirmada a gravidade é que a empresa age: revoga o acesso do usuário e, nos casos extremos, como o capixaba, aciona as autoridades.
Ninguém obrigou a OpenAI a fazer isso
O caso evitou um final trágico, mas expõe um detalhe que incomoda: tudo o que a OpenAI fez partiu de uma decisão da própria empresa, não de uma exigência legal.
Não há na legislação brasileira nenhuma norma que obrigue empresas de IA a avisar as autoridades quando identificam risco à vida. A medida depende da política de cada companhia, escrita em seus termos de uso.
Na prática, cada plataforma decide sozinha quando romper o sigilo de uma conversa para evitar um crime. A OpenAI optou por prever isso em contrato. Outra empresa pode adotar um critério mais rígido, mais frouxo — ou simplesmente não ter critério algum.
Exame