O promotor da Flórida, James Uthmeier, anunciou na terça-feira, 21 de abril, a abertura de uma investigação criminal sobre OpenAI e ChatGPT, para esclarecer o papel que a interface de inteligência artificial (IA) poderia ter desempenhado em um ataque fatal em abril de 2025.
De acordo com informações coletadas pelo Ministério Público, Phoenix Ikner, estudante da Florida State University, conversou com o ChatGPT antes de atirar em várias pessoas no campus, deixando dois mortos e seis feridos. Durante uma conferência de imprensa, James Uthmeier explicou que ChatGPT tinha “deu orientações significativas ao atirador antes de ele cometer este crime hediondo”.
Em particular, o robô conversacional fez sugestões sobre a arma e munição apropriadas, bem como o melhor momento e local para alcançar o maior número de pessoas possível. Com base nestes elementos, o procurador afirmou: “Meus investigadores me disseram que se aquela coisa do outro lado da tela [ChatGPT] fosse uma pessoa, nós o acusaríamos de homicídio. »
“Respostas factuais”
Solicitado pela Agence France-Presse, a OpenAI argumentou que « Bate-papoGPT [n’était] não é responsável por este crime terrível” e que a interface se contentava em produzir “respostas factuais” às solicitações do aluno cujo julgamento deverá começar em outubro. O grupo sublinhou ainda que transmitiu espontaneamente dados relativos a Phoenix Ikner após ser informado do ataque.
A OpenAI afirma que vem trabalhando há muito tempo para fortalecer suas salvaguardas para “detectar intenções perigosas” E “responder adequadamente em caso de risco de segurança” pessoas. A investigação anunciada terça-feira não prejudica possíveis processos contra a OpenAI ou alguns de seus membros.