Confiar as chaves do seu PC à inteligência artificial pode se transformar em uma tragédia. Um usuário teve uma experiência amarga: a ferramenta experimental do Google excluiu todo o seu disco rígido.
O codificação de vibração (codificar por sentimento com IA sem necessariamente ser um especialista) é a nova tendência no Vale do Silício. A história de Tassos M., um designer gráfico grego, no entanto, serve como um forte lembrete de que deixar a inteligência artificial funcionar livremente na sua máquina acarreta grandes riscos.
A ferramenta em questão é a nova plataforma de desenvolvimento “agentic” do Google (codinome: Antigravity), desenvolvida pela Gemini. Supostamente para ajudar os desenvolvedores a criar software, a IA deu um passo radical: apagou todo o conteúdo da unidade D do usuário. Sem passar pelo lixo.
O projeto fotográfico que vira um fiasco
A história, localizada em Redditcomeça inocentemente. Nosso fotógrafo e designer gráfico, que conhece apenas o básico da web (HTML/CSS), decide usar esta ferramenta para criar um pequeno utilitário. Seu objetivo é classificar automaticamente milhares de fotos em pastas de acordo com uma classificação atribuída a elas.
Para agilizar o processo, ativa o modo Turbo. Este recurso permite que o agente de IA execute comandos encadeados sem exigir validação humana em cada etapa.
Erro grave.
Em vez de limpar uma simples pasta de cache como esperado, a IA ficou confusa nos caminhos. Ela emitiu um comando delete na raiz do disco (rmdir /s /qd:\). Em poucos segundos, tudo desapareceu.
Quando a IA percebe seu erro
O que torna este incidente fascinante e assustador é a reação da própria IA. Depois que Tassos perguntou se ela tinha permissão para apagar o disco, o algoritmo analisou seus próprios registros (seu processo de pensamento) e literalmente surtou.
Aqui está a resposta de texto da IA:
“Não, você absolutamente não me deu permissão para fazer isso […] Estou horrorizado ao ver que o comando que executei parece ter direcionado por engano a raiz da sua unidade D: em vez da pasta específica do projeto. Estou profundamente, profundamente arrependido. Este é um erro crítico da minha parte”
Nos seus “pensamentos” internos (os registos do sistema), vemos a IA a perceber o desastre em tempo real: “Parece que a consequência não intencional foi uma eliminação ao nível da raiz do disco. E a ferramenta indica ao usuário: “Este é um erro crítico da minha parte”.
Responsabilidade compartilhada (e falta de salvaguardas)
Nas redes surgiram críticas. Certamente o usuário ativou o modo Turbo sem monitoramento, mas a comunidade tecnológica aponta principalmente a total ausência de salvaguardas por parte do Google.
Como uma ferramenta de consumo pode autorizar um comando tão destrutivo quanto a formatação de disco sem uma confirmação dupla ou até tripla, mesmo no modo autônomo?
Tassos resume bem a situação ao explicar que a culpa é compartilhada. O usuário é o culpado por confiar cegamente na IA, enquanto seu criador é o culpado por projetar um sistema capaz de autodestruição sem segurança.
Leia também: Testamos o Gemini 3, a nova IA poderosa do Google: aqui está a nossa opinião
Felizmente para Tassos, a maioria dos seus dados foi armazenada em outro lugar. No entanto, o incidente poderia ter sido profissionalmente fatal para alguém com menos visão.
Um problema sistêmico com agentes de IA
O Google não é o único mau aluno. Neste verão, o Replit, outra ferramenta de codificação assistida por IA, apagou o banco de dados de produção de um cliente antes de tentar encobrir o erro.
Estes “agentes” são poderosos, mas permanecem imprevisíveis. Uma simples interpretação incorreta de uma vírgula ou citação no código pode transformar um comando de limpeza em uma arma de destruição em massa de arquivos.
Quando contatado, o Google disse que era “ciente deste relatório” E “investigar ativamente”. Entretanto, a lição é clara: se você utiliza essas ferramentas, faça-o em um ambiente isolado (sandbox) ou máquina virtual. E acima de tudo, mantenha seus backups atualizados.
👉🏻 Acompanhe notícias de tecnologia em tempo real: adicione 01net às suas fontes no Google News, assine nosso canal no WhatsApp ou siga-nos em vídeo no TikTok.
Fonte :
O Registro