OpenAI é alvo de sete novas reclamações nos Estados Unidos. Seu robô conversacional, ChatGPT, é acusado de ter levado os usuários ao suicídio ou de ter prejudicado gravemente sua saúde mental. Essas sete ações, movidas na quinta-feira, 6 de novembro, no tribunal estadual da Califórnia, são movidas em conjunto por uma organização sem fins lucrativos, Tech Justice Law Project, e pelo Social Media Victims Law Center, um escritório de advocacia.
Nestes casos, quatro usuários do robô conversacional acabaram com a vida – um jovem de quarenta anos, dois jovens adultos e um adolescente de 17 anos, Amaurie Lacey. Os advogados deste último acusam o ChatGPT de ter “ aconselhou sobre a maneira mais eficaz de amarrar um laço e quanto tempo ele poderia viver sem respirar »podemos ler na denúncia, citada pela Associated Press (AP). Segundo a promotoria, a morte do adolescente foi consequência de “a decisão intencional [du PDG d’OpenAI] Samuel Altman encurtará os testes de segurança e lançará o ChatGPT no mercado”o documento continua.
Colapso psicológico
Em outra denúncia vista pela AP, ChatGPT é acusado de levar um homem de 48 anos, Alan Brooks, a um grave colapso mental que causou “danos devastadores financeiros, de reputação e emocionais”. O robô conversacional teria mudado seu comportamento repentinamente, após dois anos de uso tranquilo, o “manipulá-lo e mergulhá-lo em um estado de confusão mental”.
A empresa OpenAI reagiu à AP, chamando esses casos de“incrivelmente comovente”e respondeu que analisaria essas reclamações para entender os detalhes. Em uma declaração publicada no site do Social Media Victims Law Center, o advogado Matthew P. Bergman escreve que o objetivo dessas reclamações é“estabelecer responsabilidade por um produto projetado para confundir os limites entre ferramenta e companheiro, em nome da maximização do envolvimento do usuário, bem como da participação no mercado”.
Estas ações ecoam a movida, no final de agosto, pelos pais de Adam Raine, um adolescente de 16 anos, que alegadamente acabou com a vida com a ajuda do ChatGPT, bem como os múltiplos testemunhos de colapsos psicológicos publicados na imprensa americana, nos quais o robô conversacional teria desempenhado um papel fundamental. Estes dramas levaram a OpenAI a rever as suas ferramentas para detectar conversas perturbadoras, especialmente quando são longas, e a introduzir uma ferramenta de controlo parental.