Já se passaram duas semanas desde que a Anthropic, criadora de Claude, revelou seu novo modelo superpoderoso, Claude Mythos. Esta inteligência artificial é tão avançada que a empresa decidiu não permitir o acesso público, por considerar que seria muito perigoso. A razão apresentada é que ele é muito eficiente na detecção de vulnerabilidades de segurança em software e sistemas operacionais.
A Anthropic anunciou, portanto, ao mesmo tempo o projeto Glasswing, uma parceria com grandes empresas para que possam utilizar o Claude Mythos para avaliar e corrigir falhas de segurança em seus próprios softwares. Infelizmente, parece que as medidas de segurança implementadas são insuficientes. De acordo com Bloombergpessoas não autorizadas conseguiram acessar o Mythos.
Acesso não autorizado por entusiastas
A boa notícia é que não são, a prioricibercriminosos perigosos, mas simplesmente entusiastas da inteligência artificial. Eles trocam através de Discórdiae usa ferramentas para encontrar informações sobre novos modelos que não foram anunciados em sites como o GitHub.
“ Estamos investigando um relato de acesso não autorizado ao Claude Mythos Preview por meio do ambiente de um de nossos fornecedores terceirizados “, declarou um porta-Porta-voz antrópico. De acordo com este relatório, um deles trabalhava para um dos prestadores de serviços e conseguiu utilizar o seu acesso combinado com outras ferramentas para lhes permitir utilizar o Claude Mythos. Em particular, eles tiveram que adivinhar onde o modelo on-line estava localizado, com base nos demais modelos da empresa. Eles o usaram regularmente desde o dia em que o modelo foi anunciado e não testaram as capacidades de Claude Mythos em matéria segurança cibernética, preferindo tentar outras tarefas para evitar ser detectado. O grupo teria inclusive tido acesso a outros modelos que ainda não foram anunciados.
Realmente incrível: Claude agora pode assumir o controle do seu computador, mesmo remotamente
Claude agora se tornou um agente de pleno direito. A Anthropic acaba de anunciar a disponibilidade de um novo recurso que permite que a IA assuma o controle do seu computador, mesmo quando você não está na frente do teclado!… Leia mais
Isto ilustra o perigo que as IA mais avançadas podem representar, mesmo que não sejam acessíveis ao público em geral. Se indivíduos mal-intencionados não conseguirem violar as defesas da Anthropic, eles poderão tentar usar um provedor com acesso ao sistema, cuja segurança muitas vezes é menos robusta. Esta provavelmente não será a última vez que pessoas não autorizadas terão acesso a ele.
Mozilla corrige 271 vulnerabilidades no Firefox
Mas talvez o jogo valha a pena. A Mozilla conseguiu acessar Claude Mythos, para submeter seu navegador Firefox a uma análise aprofundada. O resultado é impressionante. A organização já havia usado o Claude Opus 4.6 para inspecionar o código do Firefox, e o chatbot detectou 22 vulnerabilidades de segurança. A Mozilla acaba de anunciar o lançamento do Firefox 150 que corrige nada menos que 271 falhas detectadas por Claude Mythos. Esse é um número estonteante!
Etiquetas:
tecnologia
Eles dissecaram o cérebro de um chatbot… e ele mentiu
Leia o artigo
A segurança cibernética sempre foi uma corrida contra o tempo entre especialistas e hackers, sem que nenhum dos lados ganhasse realmente vantagem. Com ferramentas como Claude Mythos, os desenvolvedores de software finalmente parecem ter uma vantagem inicial, e a Mozilla já está considerando o fim das vulnerabilidades. dia zero “. É possível que a longo prazo a busca por falhas seja exaustiva, e que mesmo que modelos como Claude Mythos caiam em mãos erradas, não seria grave, pois não haveria mais falhas a serem descobertas?
O fim da obsolescência?
Este tipo de progresso poderá ter repercussões na nossa relação com os nossos dispositivos eletrónicos. Mesmo que os fabricantes estejam melhorando sua política de liberação de atualizações de segurança para seus novos dispositivos, muitos dispositivos mais antigos, como smartphones, tablets e até televisores, já não recebem mais atualizações e, portanto, estão expostos a riscos.
Etiquetas:
tecnologia
ANTS: até 19 milhões de contas na dark Web, por que esse vazamento é tão preocupante
Leia o artigo
E não esqueçamos do Windows 10, cujo fim do suporte estendido está previsto para outubro, enquanto muitos dispositivos são incompatíveis com o Windows 11. Se não houvesse mais falhas, esses dispositivos poderiam continuar operando sem riscos por muito mais tempo. Eles não receberiam mais novos recursos e sem dúvida apresentariam problemas de compatibilidademas eles não correriam o risco de serem hackeados.