As ferramentas de inteligência artificial (IA) podem ser úteis para os cuidadores, mas devem ser utilizadas com muita cautela, nomeadamente verificando sistematicamente as suas fontes, estimou a Alta Autoridade de Saúde (HAS) em 30 de outubro.
“Os sistemas de IA generativos podem ser uma alavanca de melhoria para promover a qualidade no sistema de saúde“, avalia o HAS em uma série de recomendações. Mas”para isso, devem ser utilizados de forma fundamentada, em benefício das pessoas e para apoiar os profissionais“, alerta esta autoridade independente, cujos pareceres servem de enquadramento para as políticas de saúde em França.
Estas ferramentas, que incluem o assistente ChatGPT da empresa OpenAI e os seus 800 milhões de utilizadores semanais, constituem uma grande inovação tecnológica e são hoje amplamente utilizadas no dia a dia para múltiplas utilizações. TEM, portanto, debruçado sobre a questão do seu emprego no mundo da saúde.
Ela acredita que podem servir propósitos muito variados: estabelecer uma síntese da literatura científica sobre um determinado assunto, ajudar os estabelecimentos a gerir os seus recursos, traduzir certas informações em termos claros para os pacientes… Mas também apela a uma grande vigilância, recordando, por exemplo, a capacidade das ferramentas de IA para “alucinar”, isto é, para apresentar, à primeira vista, afirmações que não correspondem a nenhuma realidade.
Leia tambémQuando a IA reduz a experiência dos médicos
Uma primeira base de trabalho
O HAS recomenda, portanto, em particular, que os cuidadores verifiquem sempre as fontes utilizadas pela IA e “consulte-os assim que necessário para ler seu conteúdo e verificá-lo consultando outras fontes confiáveis“. Destaca também a questão do sigilo em relação aos pacientes: é necessário”verificar em cada solicitação que nenhuma informação que permita a identificação direta ou indireta ou relativa ao sigilo médico seja compartilhada“.
Ela recomenda, acima de tudo, não confiar inteiramente na IA, para não enfraquecer as próprias habilidades: “assim, uma enfermeira de recepção em um departamento de emergência que usa um sistema de IA generativo para auxiliar na triagem de pacientes, mantendo uma parte da triagem sem essa assistência, será capaz de realizar essa classificação mesmo se o sistema funcionar mal.“, ela cita como exemplo.
Este documento é uma primeira base de trabalho, mas a TEM planeja outras. As recomendações futuras serão dirigidas diretamente aos pacientes, enquanto as ferramentas de IA são utilizadas por muitos utilizadores para responder a perguntas sobre a sua saúde, correndo o risco de recolher opiniões não fiáveis.