As visões gerais de IA do Google nem sempre são bons conselhos. Principalmente quando se trata de responder perguntas médicas. A gigante da web removeu diversas respostas consideradas perigosas, mas ainda há muito trabalho e dúvidas em torno da questão da saúde por meio da IA.
Aparecendo no topo dos resultados da pesquisa, Visão geral de IA amalgamar vários artigos publicados online e recompor-los usando tecnologia de IA Google. Para além do facto de esta função – ainda não disponível em França – privar os websites do tráfego essencial à sua sobrevivência, estas respostas da IA também podem revelar-se erradas, ou mesmo perigosas para a saúde.
Quando a IA do Google está errada sobre a saúde
Então, obviamente, todo mundo ainda tem em mente essa história de cola a ser injetada em pizzas para segurar adequadamente o queijo, mas isso é pouco comparado às respostas relativas aos exames de sangue do fígado. O Google exibiu uma série de números apresentados como valores de referência. O problema, conforme revelado por Guardiãoé que estes dados careciam de contexto e que os AI Overviews não levaram em consideração parâmetros essenciais como idade, sexo, origem étnica ou mesmo os métodos de medição utilizados.
Os especialistas chamaram as respostas de “ perigoso ” e ” alarmante »: esses resumos poderiam levar pacientes com doenças hepáticas graves a acreditar, incorretamente, que seus resultados eram normais. E, portanto, renunciar até mesmo ao acompanhamento médico essencial.
Desde então, o Google removeu as visões gerais de IA associadas às consultas enviadas pelo diário inglês. “ Quando as visões gerais de IA não têm contexto, trabalhamos em melhorias gerais e também tomamos medidas quando apropriado, de acordo com nossas políticas », Diz um porta-voz. Único problema: os resumos continuam sendo exibidos com variações dessas consultas…
Existe uma procura real de serviços que respondam a questões médicas e, de um modo mais geral, a questões de saúde, especialmente onde o acesso aos cuidados é limitado. No recente lançamento do ChatGPT Health, OpenAI contou “ mais de 230 milhões de usuários todas as semanas » que pedem conselhos sobre bem-estar e saúde.
Ao contrário dos AI Overviews que não têm conhecimento do contexto clínico ou de saúde do usuário, o ChatGPT Health tem pelo menos a vantagem de poder se conectar a registros médicos e aplicativos de monitoramento como Apple Health ou MyFitnessPal para ter uma melhor compreensão geral da pessoa. Provavelmente não evita alucinações e outras interpretações errôneas típicas dos modelos de IA.
👉🏻 Acompanhe notícias de tecnologia em tempo real: adicione 01net às suas fontes no Google e assine nosso canal no WhatsApp.