Já amplamente utilizado para esclarecer dúvidas sobre a saúde de seus usuários, o ChatGPT acaba de lançar um serviço dedicado que pode se conectar a todos os seus autoatendimentos quantificados.
Era apenas uma questão de tempo. Afirmando que “ 230 milhões de pessoas em todo o mundo fazem perguntas relacionadas à saúde e bem-estar no ChatGPT todas as semanas», a OpenAI acaba de lançar uma nova funcionalidade inteiramente projetada em torno deste problema.
ChatGPT “Saúde”, seu apelido, começa a ser implantado nas contas de pessoas em lista de espera, observeA beira. Este serviço para “isolamento reforçado» promete conectar-se aos seus registros médicos e outros aplicativos de saúde conectados para permitir que você discuta assuntos complexos com pleno conhecimento dos fatos.
Boas intenções
O serviço assume a forma de uma aba dedicada na interface do ChatGPT. Este último oferece, segundo a empresa, “proteções adicionais projetadas especificamente para a saúde” E “criptografia dedicada» que não é criptografia de ponta a ponta. A empresa obviamente promete que as conversas não serão utilizadas para treinar seus modelos de linguagem.
Além de dissecar quaisquer resultados de análise que você enviar, o robô conversacional também pode lhe dar conselhos sobre “diferentes opções de seguro saúde» ou em “sua dieta e rotina esportiva» contanto que você o conecte a aplicativos como o Apple Health.
Obviamente, a OpenAI recusa-se a comparar o seu novo serviço ao de um médico adequado, afirmando que “ChatGPT Health foi projetado para apoiar cuidados médicos, não substituí-los“. Segundo admite Fidji Simo, vice-presidente franco-americano do ChatGPT, o serviço também pode aconselhar sobre saúde mental se houver necessidade.
E problemas em abundância
Obviamente, este novo serviço levanta muitas questões, cada uma mais delicada que a anterior. Em primeiro lugar, o dos dados pessoais. Mesmo com toda a parafernália de ferramentas que a OpenAI promete implementar, a manipulação de dados de saúde é regulamentada de forma muito, muito estrita pelo GDPR na Europa. A CNIL explica, em particular, que estes últimos são classificados em “um regime jurídico especial justificado pela sensibilidade dos dados“. Provavelmente é por isso que a lista de espera para inscrição no ChatGPT Santé ainda não está aberta no Velho Continente.
A OpenAI não está imune a possíveis vazamentos ou manuseio incorreto de dados, como vimos em agosto passado. Nos Estados Unidos, isto poderá provocar novas controvérsias, especialmente em questões relacionadas com o acesso à saúde reprodutiva, já sob ataque de outros gigantes da Internet.
O outro problema potencial que a implantação de tal serviço pode criar é o mau diagnóstico ou mau aconselhamento. As frequentes “alucinações” de grandes modelos de linguagem poderiam ter uma gravidade completamente diferente quando relacionadas com conselhos de saúde. O mesmo vale para a saúde mental. Principalmente porque o ChatGPT não tem uma história muito estelar na área.
No entanto, é difícil culpar as pessoas que recorrem aos chatbots para obter respostas às suas perguntas mais pessoais, especialmente quando os desertos médicos estão a espalhar-se por todo o mundo. Mas promover uma solução tecnológica para um problema desta magnitude traz inevitavelmente a sua quota-parte de problemas.
Encontre todos os artigos do Frandroid diretamente no Google. Inscreva-se em nosso perfil do Google para não perder nada!