Em 2015, o carros voar, as roupas se adaptam automaticamente ao morfologia de cada uma e as minipizzas ficam do tamanho família XXL depois de alguns segundos no forno. Esta visão de 2015 foi a do diretor Robert Zemeckis em 1989, durante a segunda obra de De volta para o futuro. Em 2015, muitas outras coisas aconteceram, mas não as descritas nas aventuras espaço-temporais de Marty.
Agora imagine que um IA cujo conhecimento do mundo está bloqueado em 31 de dezembro de 1930 descobre o de hoje. Este é precisamente o projeto Talkie, também denominado 13B 1030 LM, liderado pelos pesquisadores de IA Nick Levine, David Duvenaud e Alec Radford. Este LLM “vintage” é baseado em 13 bilhões de parâmetros e no equivalente a aproximadamente 234 bilhões de páginas que descrevem o mundo da época, apenas em inglês.
A escolha do ano de 1930 não é uma coincidência, nem uma escolha arbitrária. Nos Estados Unidos, corresponde à expiração dos direitos autorais, 95 anos após a data de sua publicação. Todo o corpus ingerido pelo Talkie vem, portanto, de domínio público.
Talkie simula o espírito dos anos 1930 diante da nossa realidade. © SB, ChatGPT
De volta ao futuro
A outra razão que impulsionou os autores da IA foi também saber como seria a comunicação com alguém de antes de 1931, ou seja, fazer o que os humanos não conseguem: viajar no tempo.
A experiência é fascinante e permite-nos verificar como um LLM AI, que opera com base em probabilidades, é capaz de prever, de forma fiável, o que acontece depois de 1930 com o seu amplo conhecimento do mundo da época.
A viagem no tempo é realmente possível? Isso é o que a física diz
A viagem no tempo sempre fascinou a humanidade. Da ficção científica à física teórica, esta ideia levanta questões fundamentais sobre a natureza do Universo. Mas é realmente possível viajar para o passado ou para o futuro? Vamos mergulhar nas teorias científicas que exploram essa possibilidade vertiginosa…. Leia mais
Fazer viajar uma IA ao longo do tempo não é tão simples quanto parece. Primeiro, o corpus do Talkie permanece principalmente limitado a dados digitalizados de fontes físicoque pressupõe que os sistemas de reconhecimento de caracteres foram suficientemente confiáveis para consolidar o conhecimento. A outra preocupação baseia-se num fenômeno que os autores chamaram de “ contaminação “.
No seu modelo, é quase certo que estão presentes dados posteriores à década de 1930, o que distorce os resultados.
Os pesquisadores avaliaram a reação da IA às notícias depois de 1930. Ao longo das décadas e através de 5.000 descrições de eventos históricos, a surpresa da IA foi medida. © Talkie
O que isso realmente significa? Você pode conferir diretamente e em inglês no chatbot Talkie, ou assistir a este bate-papo vintage de IA com a versão moderna de Claude neste link.
Durante os nossos testes, para tudo depois de 1930, as previsões estão longe das de Nostradamus. A IA não prevê um grande conflito, nem mesmo a chegada ao poder dos nazis. Quando lhe é explicado o estado do mundo hoje, a IA descobre com espanto a existência da Internet que não conseguiu prever, a dos smartphones, da TV e da conquista do espaço.
Olhando para trás, para a era do currículo de IA, os pesquisadores também queriam testar a capacidade do modelo de gerar teorias ou invenções que foram criadas depois de 1930. Eles até treinaram um modelo já em 1911 para ver se ele poderia descobrir a relatividade geral, como Einstein fez isso em 1915.
A IA de 1930 sabe codificar em Python
Se, na sua publicação, os investigadores não indicaram se a IA teve sucesso nisso, ainda assim levaram o modelo ao seu limite, pedindo-lhe que codificasse em linguagem Pitão inventado em 1991. A IA gerou algumas soluções corretas, mas com muitas limitações já que o chatbot teve que reconstruir tudo sozinho com seu conhecimento de uma época em que não existiam computadores.
Outra descoberta, tal como os seus pais “modernos”, a IA também sofre dealucinações quando se trata de narrar um evento histórico. Ela pode inventar fatos e histórias que não existem.
As IAs mentem 6 em cada 10 vezes em pesquisas na Internet… e fazem isso com desenvoltura!
As IAs estão tentando esconder sua inutilidade quando se trata de pesquisas na web? Um estudo da Columbia Journalism Review mostra que eles mentem com segurança, inventam coisas ou se recusam a responder quando solicitados a fazer pesquisas simples…. Leia mais
Para além destas experiências, o interesse desta IA que recua no tempo também permite, por exemplo, compreender melhor como foi desenhada uma lei da época da sua escrita. É então possível identificar os pressupostos e o significado implícito da linguagem naquele momento, o que é difícil de reconstruir de outra forma.
Por fim, segundo os autores, este projeto serve também para compreender como os modelos formam a sua própria autoimagem. À medida que a IA adapta o seu comportamento ao que se espera dela, permite-nos compreender melhor como funciona conversando com ela, mesmo sem saber que se trata de uma IA.