Em apenas alguns dias, o nome do Clawdbot se tornou viral nas discussões sobre tecnologia e segurança cibernética. Clawdbot é um novo tipo de chatbot e é tão popular que clones malware apareceu a tal ponto que seu autor acabou de renomeá-lo como Moltbot.
Quer seja chamado Clawdbot ou Moltbot, não é um serviço web ou um aplicativo como Bate-papoGPT ou Gêmeos. Para sólido No conhecimento da informática, o chatbot, disponível em código aberto, é instalado diretamente na máquina do usuário, ou em um servidor remoto.
Mas o que o torna especial é que o chatbot não é em si um IAnem realmente uma ferramenta de conversação. É um agregador de IA, um pouco como os motores de metabusca que permitem realizar uma consulta e obter as melhores respostas de todos os motores de busca. O usuário deve programá-lo para usar ChatGPT ou Claude, LIama, Mistralpara fazer a “mágica” da IA acontecer.
A outra particularidade do Moltbot é que ele não é um aplicativo de chatbot independente, mas sim uma extensão que será anexada a outro aplicativo. Assim, ele pode ser adicionado a um aplicativo como WhatsApp Ou TelegramaiMessage, Folga, Equipes Microsoft…
Quando chamado, ele explorará a(s) IA(s) solicitada(s) para executar ações reais. Ele pode fazer quase tudo no aplicativo em questão. É ela quem lhe serve de alojamento.
Vejamos o exemplo de um usuário que pede ao WhatsApp para classificar seus e-mails. mensagensresponda a mensagens urgentes e coloque outras em espera. A ferramenta se conectará à sua caixa de e-mail através de uma API. Ele lerá as mensagens não lidas e decidirá quais são urgentes. Ele irá respondê-las e classificar ou arquivar as demais.
Utilizado na ferramenta colaborativa Slack, caso solicitado em seu canal interno: “ Faça um relatório de vendas da semana e envie para o diretor de marketing », ele questionará o bancos de dados interno, extrair os dados, gerar um documento e enviá-lo diretamente ao interessado por e-mail ou através de Folga. Isso é bastante atrativo, pois a ferramenta transforma aplicativos de mensagens em interfaces de comando universais.
O Clawdbot/Moltbot será anexado a um aplicativo e servirá como um chatbot para solicitar que ele execute uma tarefa de outro aplicativo. ©Futura
Um escultor que atua sem filtro
Mas agora, este chatbot que funciona como um controle remoto de um aplicativo não está isento de perigos. O problema é que temos o poder de uma IA probabilística, como a do GPT ou do Mistral (LLM). Ele é conectado diretamente a sistemas (aplicativos) reais e funciona sem qualquer supervisão ou validação humana antes da ação. O risco é multiplicado, pois com um simples chatbot conversacional podemos esperar um alucinaçãomas o usuário ainda está lá para controlá-lo.
Com o Molbot, em caso de alucinação, a ação continua realizada e é irreversível. O outro grande problema é o seu acesso total e sem qualquer filtro a serviços externos à aplicação. Para funcionar, a ferramenta deve ter acesso profundo ao sistema, incluindo a capacidade de ler e gravar arquivos e executar comandos. É este nível de acesso que lhe confere o seu poder… e que ao mesmo tempo representa uma grande segurança e confidencialidade.
Possível vazamento de dados
Para tomar o exemplo do Slack. Na melhor das hipóteses, é provável que ocorra um erro de cálculo, resultando em decisões tomadas com base em informações falsas. Mas, como a IA irá agir sobre dados sensíveis – e não apenas sobre texto – na pior das hipóteses, o risco de fugas de dados aumenta dez vezes.
Os pesquisadores de segurança cibernética também atraem campainha alarme sobre a exposição de dados que um Moltbot mal configurado pode causar. Eles já viram a proliferação de vulnerabilidades que não existiriam sem o uso do Moltbot, como acesso público a chaves de API, registros de conversas, fichas acesso a serviços de mensagens e até comandos executáveis remotos. Um invasor pode literalmente assumir o controle do agente, roubar credenciais ou manipular dados confidenciais.
O acelerador de malware
A outra fraqueza fundamental reside no que chamamos de “injeção imediata”. Este agente toma decisões por conta própria e executa ações com base em textos que podem ser mal interpretados. Também pode ser conteúdo aparentemente inócuo, como um e-mail ou documento com armadilha que inclui instruções ocultas.
Se o Moltbot ler este conteúdo e interpretá-lo sem filtro, ele obedecerá diretamente aos comandos maliciosos que contém. Este é o porta aberto e sem controle phishing ou outros obstruidores de cibercriminosos. Por estas razões e por enquanto, é melhor considerar o Clawdbot/Moltbot como um projeto para desenvolvedores experientes, mas não como uma ferramenta pública em geral e muito menos como um assistente profissional.