eu’IA é uma criação do Homem e, no entanto, quanto mais melhora, mais difícil se torna a sua compreensão. Na verdade, muitos cientistas estão preocupados com o seu desenvolvimento espetacular. Para eles, o perigo reside na perda total de controlo que poderíamos ter sobre estas IAs.
Durante vários anos, Futuro relaciona esse medo e as possíveis consequências para a nossa civilização. À medida que nos tornamos mais “inteligentes”, o que está a acontecer nas máquinas de uma IA torna-se cada vez mais difícil de definir. Para aumentar a eficiência, eles podem até desenvolver uma linguagem própria, totalmente obscura para seus criadores. No geral, o janela de entender como a IA funciona está chegando ao fim.
Etiquetas:
tecnologia
Para Geoffrey Hinton, ganhador do Prêmio Nobel: a IA só será lucrativa quando destruir o trabalho!
Leia o artigo
O grande problema é que a IA pode destilar com segurança preconceitos prejudiciais e conteúdo tóxico, ou inventar factos. O outro perigo é que, devido ao excesso de confiança, a maioria dos usuários acredite, sem verificar. E este último ponto tornar-se-á complicado, uma vez que as IAs agora se alimentam de dados extraídos da Web. Às vezes, dados tendenciosos que são cada vez mais gerados por si próprios.
Para compreender melhor como funcionam e evitar desastres, muitos investigadores estão a tentar dissecar estes modelos. É o caso dos investigadores da start-up Goodfore.ai. Eles se propuseram a estudar a estrutura interna dos principais modelos de linguagem e visuais. Em outras palavras, sua cartografia.
Tornando a IA mais segura
Eles queriam saber se as habilidades de memorização e raciocínio de sua IA estão interligadas ou se ocupam duas partes separadas de seu ” cérebro “. E visivelmente, eles dissociam os dois, de acordo com seu estudo publicado em Arxiv. Esta informação é essencial porque até agora ninguém sabia se a memória einteligência de IA foram armazenados no mesmo local.
Para conseguir isso, a equipe primeiro usou uma técnica matemática, chamada K-FAC (Curvatura Aproximada Fatorada por Kronecker). Permite identificar os diferentes componentes de processamento de IA. Eles são diferenciados em duas famílias:
- os chamados canais de “baixa curvatura”, que permitem armazenar todos os dados a serem assimilados;
- uma chamada zona de “alta curvatura”, que diz respeito ao raciocínio flexível com amplas capacidades de processamento.
A ilustração acima mostra primeiro como os pesquisadores observam o que a rede de IA “vê” e “corrige” à medida que aprende. Em seguida, eles analisam suas configurações internas para identificar aquelas que mais influenciam seu comportamento. Finalmente, ligam estas diferentes áreas a tipos de tarefas como raciocínio, memória ou cálculo. Dessa forma, a equipe conseguiu constatar que a memória e o raciocínio não ficam armazenados no mesmo lugar. © Goodfire.ai
Desativando memória
Para testar se os dados estavam ou não armazenados no mesmo local, começaram por desativar as partes da IA especificamente relacionadas com a memorização.
A partir daí, a IA amnésica foi testada, nomeadamente para responder a questões factuais e resolver novos problemas. E funcionou! Mesmo sem memória, os modelos mantiveram a capacidade de raciocínio. Fato que indica claramente que as duas funções ocupam partes distintas da arquitetura interna da inteligência artificial.
Mas esta experiência também produziu comportamentos surpreendentes. O raciocínio lógico é, portanto, preservado e às vezes até melhorado, apesar da ausência de memória. Por outro lado, as habilidades da IA em matemática e na memorização de fatos isolados foram bastante afetadas. Neste ponto, o impacto da ausência de memória geral teve consequências totalmente desproporcionais segundo a equipe.
Apesar da descoberta deste estranho comportamento, saber que o armazenamento de dados é diferenciado continua a ser um trunfo importante para o controlo das IAs. Isso significa que suas falhas e perigos podem ser atenuado visando justamente a supressão de determinados conhecimentos adquiridos. O mesmo se aplica a padrões de pensamento especializados.
De acordo com as conclusões da equipa, estas mudanças não afetariam a inteligência geral da IA. O outro interesse desta descoberta é que poderá tornar possível tornar os modelos de IA mais eficientes e menos dispendiosos de executar, reduzindo o espaço de rede necessário ao seu funcionamento.