A forma como acessamos a Web está mudando. A partir de agora, a inteligência artificial não é mais um simples site ou serviço que você visita em uma aba. Ele está diretamente integrado ao navegador e pode rastrear toda a sua navegação, substituir mecanismos de busca e até mesmo agir em seu nome. Vimos isso pela primeira vez com o Comet da Perplexity AI e, mais recentemente, com o ChatGPT Atlas da OpenAI. Microsoft acabei de adicionar o modo Copilot ao Edge, Ópera lançou o Neon, e em breve teremos direito a Google Gêmeos no Chrome. Isso faz você se perguntar se em breve teremos a opção de usar IA ou não.
Esses “navegadores agentes” pretendem ser assistentes. Eles fazem a pesquisa para você, podendo até fazer suas compras ou reservar mesa em um restaurante. No entanto, estas novas tecnologias trazem novos riscos. Para os ciberhackers, é o pão sagrado. Aqui está uma tecnologia desenhada para recolher o máximo de dados possível e cujas falhas de segurança ainda não compreendemos.
Comet é um dos primeiros navegadores agentes. © Perplexidade
Solicitar infiltração: quando a IA executa ordens maliciosas
Esta semana, LayerX descobriu uma falha no ChatGPT Atlas que permite adicionar instruções à memória do chatbot. Assim que você o usa, ele ativa essas instruções e os hackers podem assumir o controle do software e da conta. Vários ataques têm como alvo o navegador Comet. Uma maneira é incluir texto em uma página com instruções, seja por meio de texto branco sobre fundo branco ou diretamente no código fonte da página. Quando o usuário pede à IA para resumir a página, a IA se depara com as instruções maliciosas e as executa. No mesmo estilooutro ataque usa texto em uma imagem quase imperceptível para um ser humano. Quando a IA tenta entender a imagem, ela detecta o texto, que contém instruções.
Este tipo de ataque é chamado de “injeção imediata”, ou infiltração de consultasonde atores mal-intencionados encontram uma maneira de enviar instruções à IA do navegador sem o conhecimento do usuário. A integração de chatbots adiciona uma superfície de ataque completamente nova, e é importante ter em mente que com este tipo de navegador, a IA tem acesso a uma grande quantidade de dados sobre o uso de sites e ferramentas online, o que é uma verdadeira mina de ouro para os cibercriminosos.
“ O Opera Neon integra medidas de proteção contra infiltração de solicitações, verificando as solicitações em busca de características potencialmente maliciosas. No entanto, é importante reconhecer que, devido à natureza não determinística dos modelos de IA, o risco de um ataque de infiltração de consulta bem-sucedido não pode ser totalmente reduzido a zero. » disse Ópera. Os próprios desenvolvedores desses navegadores agentes reconhecem que não é possível se proteger completamente contra esse tipo de ataque.
Ações autônomas: a ameaça de roubo de conta
E não são apenas os seus dados que estão em risco. Lembre-se que essas ferramentas integram agentes, capazes de realizar ações de forma autônoma acessando suas contas. Um ataque bem-sucedido poderia, portanto, usar esses agentes para realizar ações para você, como postar em redes sociais ou fazer compras. A Perplexity publicou recentemente um post sobre o tipo de ataques e admite que é necessário ” repensar a segurança de cima a baixo “.
Não pense que Comet é uma exceção. Este navegador agente é simplesmente o único bem conhecido e disponível há meses. É, portanto, o que mais tem sido estudado sob esse ângulo. No entanto, todos os navegadores agentes podem ser invadidos por meio de infiltração de consulta. No final das contas, mesmo que seus novos recursos sejam interessantes e muito práticos, é melhor evitar utilizá-los enquanto estiverem vulneráveis a esse tipo de ataque.