Por que psicólogos foram chamados com urgência para corrigir o ChatGPT

Desde que os pais do jovem Adam apresentaram uma queixa contra ela em agosto passado, tem havido turbulência na OpenAI. Recorde-se que este adolescente americano suicidou-se depois de ter falado longamente sobre o seu sofrimento psicológico a Bate-papoGPT ; este último, na verdade, deu-lhe conselhos sobre como agir com sucesso.

Este não é um caso isolado. Suicídios ligados a trocas entre adolescentes e IA Na verdade, as tecnologias generativas estão cada vez mais nas manchetes.

Números que te deixam tonto

Em um artigo de blog da OpenAI, a empresa criadora doagente de conversação o mais popular, podemos ler isso, todas as semanas:

• 0,15% de seus usuários relatam intenções de suicídio ao ChatGPT;
• 0,07% apresentam possíveis sinais de emergência de saúde mental (depressão grave, psicose, etc.);
• 0,15%, um apego emocional preocupante ao agente conversador.

Psicólogos imersos no algoritmo

Esses números parecem baixos para você? Saiba que 800 milhões de pessoas se conectam ao ChatGPT todas as semanas. São 1,2 milhão de pessoas suicidas, 1,2 milhão que têm um apego patológico e 560 mil que apresentam sintomas de psicose ou mania (transtorno bipolar).

Para melhorar a eficácia do ChatGPT no atendimento às reais necessidades dos seus usuários e na prevenção de suicídios, os criadores do OpenAI contataram 170 psicólogos e profissionais de saúde mental.

Etiquetas:

tecnologia

Aqui estão os 5 erros mais arriscados a serem absolutamente evitados com ChatGPT

Leia o artigo

Para uma melhor detecção de sinais de alerta

De acordo com a postagem do blog, a nova versão do ChatGPT agora é capaz de reconhecer e apoiar melhor as pessoas em perigo, orientá-las aos profissionais e redirecioná-las para números de emergência quando expressarem pensamentos suicidas.

As modificações feitas no modelo teriam permitido reduzir o número de respostas inadequadas em 65 a 80%. Para que resultados na vida real? O futuro nos dirá…