Este artigo foi retirado da revista mensal Sciences et Avenir n°945, de novembro de 2025.
Em 11 de setembro, o primeiro-ministro albanês, Edi Rama, promoveu Diella, um agente artificial programado com técnicas de IA, ao posto de ministro responsável pela tomada de decisões sobre a adjudicação de contratos públicos. Objetivo anunciado: lutar contra a prevaricação. Uma intenção louvável, se alguma vez existiu, num país sobrecarregado pela corrupção. Assim que esta notícia foi divulgada, ela deu a volta ao mundo. No entanto, não há nada que confirme que seguiremos as recomendações de Diella e que elas limitarão os crimes de roubo.
O uso de grandes modelos de linguagem deixa dúvidas. Estas baseiam-se na observação das práticas actuais e não numa análise racional. Não vemos por que eles mudariam hábitos. Aproveitando a digitalização, outras técnicas de IA poderiam muito bem ajudar as autoridades públicas, aumentando a fiabilidade das operações e, assim, a confiança nas instituições.
Leia tambémComo educar modelos de linguagem?
Nada diz que essas máquinas terão senso de justiça
Por uma coincidência de tempo, uma semana depois, em 18 de setembro, a OCDE (Organização para a Cooperação e Desenvolvimento Económico) publicou um relatório muito substancial intitulado “Governando com IA” e relativa ao papel da inteligência artificial nas administrações para facilitar a automatização de processos, melhorar os serviços, limitar a fraude, formar melhor os agentes, etc.
Contudo, nada diz que estas máquinas terão sentido de justiça, que as ações que recomendam serão boas e isentas de preconceitos. E, se decidirem, no lugar de um ministro, contornar as responsabilidades humanas, os cidadãos não terão mais qualquer recurso e ficarão desamparados face às injustiças. A partir daí podemos temer o pior! Aliás, Diella significa “sol” em albanês, e se brilha… também deslumbra!
Por Jean-Gabriel Ganascia, professor da Universidade Sorbonne, em Paris, pesquisador em inteligência artificial do LIP6 (Universidade Sorbonne, CNRS), ex-presidente do comitê de ética do CNRS. Último trabalho publicado: IA explicada aos humanos, Seuil, 2024.