Caso Phoenix Ikner: procurador-geral da Flórida investiga se OpenAI e ChatGPT podem ser responsabilizados criminalmente

O tiroteio e a consulta ao ChatGPT

Antes de começar a atirar no campus da Universidade Estadual da Flórida, no ano passado - ataque que deixou duas pessoas mortas e outras seis feridas - Phoenix Ikner conversou com alguém. Não foi com um amigo, com um dos pais nem com qualquer pessoa capaz de fazê-lo desistir, mas sim com um chatbot de inteligência artificial (IA).

Segundo as evidências reunidas pelo procurador-geral da Flórida, o estudante perguntou ao ChatGPT quais armas e munições seriam mais adequadas para o ataque e em que momento e local ele poderia causar o maior número de vítimas. De acordo com os investigadores, o chatbot respondeu às dúvidas.

Agora, o procurador-geral James Uthmeier quer entender se isso pode tornar a OpenAI criminosa. "Se a coisa do outro lado da tela fosse uma pessoa, acusaríamos de homicídio", afirmou ao anunciar uma investigação criminal contra a OpenAI, criadora do ChatGPT, e ao deixar em aberto a possibilidade de acusações contra a empresa ou seus funcionários.

O tiroteio de abril de 2025 recolocou no centro de um debate jurídico uma pergunta provocativa: os criadores de uma IA podem ser responsabilizados criminalmente pelo papel que o sistema desempenhou em um crime - ou até mesmo em um suicídio? Para especialistas ouvidos, a hipótese não é absurda, embora seja altamente intrincada.

Produto criminoso?

Nos Estados Unidos, é possível mover ações criminais contra empresas com base na lei, ainda que esse tipo de processo continue relativamente raro.

No fim do mês passado, a Purdue Pharma foi condenada a pagar mais de US$ 5 bilhões (€ 4,3 bilhões) em multas e penalidades criminais por seu papel no agravamento da crise dos opioides. Antes disso, a Volkswagen já havia sido considerada culpada no escândalo de fraude nas emissões; a Pfizer, pela promoção do anti-inflamatório Bextra; e a Exxon, pelo derramamento de óleo do Exxon Valdez no Alasca.

A diferença, porém, é que todos esses casos se ancoravam em decisões tomadas por pessoas - executivos, vendedores ou engenheiros que optaram por certos caminhos e ignoraram procedimentos. O episódio envolvendo Ikner foge desse padrão, e é justamente esse desvio que torna o tema tão difícil do ponto de vista jurídico.

"No fim das contas, foi um produto que encorajou esse crime, que executou o ato criminoso", disse Matthew Tokson, professor de Direito da Universidade de Utah. "É isso que torna este caso tão singular e tão complexo".

Negligência e imprudência

De acordo com especialistas consultados pela AFP, as duas tipificações mais prováveis seriam negligência ou imprudência - esta última associada a uma escolha consciente de ignorar riscos conhecidos ou deveres de segurança. Em geral, acusações assim costumam ser tratadas como delitos penais, e não como crimes graves, o que implica penas mais brandas caso haja condenação.

Ônus da prova e evidências internas

Ainda assim, a barreira para sustentar uma acusação é alta. "Como se trata de algo tão inédito, um caso mais forte e mais claro provavelmente envolveria documentos internos reconhecendo esses riscos e talvez não os levando suficientemente a sério", disse Tokson. "Em teoria, daria para obter responsabilidade sem isso. Mas, na prática, acho que seria difícil".

No direito penal, "o ônus da prova é maior", observou Brandon Garrett, professor de Direito da Universidade Duke, já que a promotoria precisa demonstrar a culpa para além de qualquer dúvida razoável.

A OpenAI, por sua vez, sustenta que o ChatGPT não tem responsabilidade pelo ataque. "Trabalhamos continuamente para reforçar as nossas medidas de segurança para detetar intenções maliciosas, limitar o uso indevido e responder adequadamente quando surgem riscos de segurança", afirmou a empresa.

Civil ou criminal?

Para quem busca responsabilização, uma ação na esfera civil pode ser um caminho mais factível. Segundo Tokson, esse tipo de processo pode levar empresas a projetar seus produtos com mais cuidado - ou, ao menos, obrigá-las a encarar o custo humano de erros.

Nos EUA, já foram abertos diversos processos civis contra plataformas de IA - muitos relacionados a suicídios -, mas nenhum terminou com uma sentença contra as empresas.

Em dezembro, a família de Suzanne Adams entrou com ação contra a OpenAI em um tribunal da Califórnia, alegando que o ChatGPT contribuiu para o assassinato da aposentada de Connecticut pelo próprio filho.

Matthew Bergman, advogado e fundador do Social Media Victims Law Center, reconheceu que as versões mais recentes do ChatGPT passaram a incluir proteções adicionais. "Não estou dizendo que são salvaguardas adequadas, mas há mais salvaguardas em vigor", disse.

Mesmo que a pena seja moderada, uma condenação criminal ainda poderia trazer consequências pesadas, inclusive um "grande impacto na reputação", afirmou Tokson.

Para Garrett, porém, processos judiciais - por mais dramáticos que sejam - não substituem regras claras: faltam marcos regulatórios que o Congresso e a administração Trump ainda não conseguiram implementar. Para ele, isso seria "um sistema muito mais sensato".