Timnit Gebru é coautor de um artigo considerado pioneiro na crítica aos grandes sistemas de inteligência artificial (IA) hoje utilizados nos assistentes de conversação ChatGPT (OpenAI), Gemini (Google) ou Claude (Anthropic). Este texto surgiu no início de 2021, quase dois anos antes do lançamento do famoso chatbot OpenAI. Intitulado “Sobre os perigos dos papagaios estocásticos”, apontava os riscos de modelos de processamento de linguagem treinados em imensas quantidades de texto e acusados de reproduzir o conteúdo sem compreendê-lo, segundo um método probabilístico, como os papagaios. Esses tipos de modelos serão “reproduzir e até amplificar os preconceitos contidos em seus dados de treinamento” E “representando excessivamente pontos de vista dominantes”alertava notavelmente o texto, preocupando-se com a presença na IA de estereótipos sexistas, raciais, etc.
Timnit Gebru em resumo
-
Etíope, 43 anos
-
Cofundador e diretor executivo do instituto independente de pesquisa em inteligência artificial DAIR (Distributed AI Research Institute), criado em 2021
-
Codiretora de uma equipe de pesquisa em ética em IA do Google, de 2018 a 2020, quando denunciou sua demissão vinculada ao seu trabalho e cargos
-
PhD em engenharia elétrica pela Universidade de Stanford (Califórnia), depois uma passagem pela Apple ou Microsoft
Mmeu Gebru e os seus colegas também estavam preocupados com a potencial exploração por parte de “maus atores” da capacidade desses sistemas de produzir texto “aparentemente coerente”, com o objetivo de produzir fakes, inundar as redes sociais ou difundir conteúdo “extremistas”. Além disso, o artigo alertava sobre o “custo ambiental e financeiro” da corrida por modelos de IA “sempre maior”.
Você ainda tem 79,52% deste artigo para ler. O restante é reservado aos assinantes.