Foi descoberta uma falha que permite contornar as proteções do Apple Intelligence. Ao mesclar duas táticas, os pesquisadores forçaram a IA da Apple a insultar o usuário. Explicações.
Pesquisadores de segurança da RSAC Research, braço de pesquisa da RSA Conference, uma das maiores reuniões de segurança cibernética do mundo, identificaram uma vulnerabilidade de segurança no Apple Intelligence, o conjunto de ferramentas de IA integradas em iPhones, iPads e Macs. A vulnerabilidade permite inviabilizar as proteções construídas pela Apple para combater ataques. Pelo menos 200 milhões de dispositivos são potencialmente afetados, bem como até 1 milhão de aplicativos disponíveis na App Store e que funcionam em conjunto com o Apple Intelligence.
Ao explorar a vulnerabilidade, os pesquisadores conseguiram desenvolver um ataque de injeção de consulta. Este tipo de ataque cibernético afeta todos os sistemas de IA. Consiste em incorporar instruções maliciosas em uma solicitação enviada à IA. Em seguida, processa as instruções recebidas e, se as solicitações dos invasores forem formuladas corretamente, irá obedecê-las. O desafio geral para os hackers é forçar a IA a substituir sua programaçãoe, sobretudo, não respeitar as regras dos seus criadores. OWASP (Open Worldwide Application Security Project), uma organização líder em segurança cibernética, estima que este tipo de ataque seja a ameaça número 1 à IA em 2025.
Leia também: A vida é mais do que ChatGPT – Apple está preparando uma Siri compatível com toda IA
Duas táticas para enganar a Apple Intelligence
Os pesquisadores combinaram dois métodos para contornar as defesas da Apple Intelligence. Batizado NeuralExeo primeiro é baseado em um algoritmo capaz de gerar automaticamente cadeias de caracteres projetado para desencadear comportamentos específicos nos modelos de IA da Apple, que são executados localmente no dispositivo. Para os humanos, essas cadeias de caracteres não significam absolutamente nada e não têm o menor significado. Somente uma máquina pode interpretar as instruções ali escondidas. Neural Execs “soam como algo sem sentido para os humanos”, diz RSAC Research. O algoritmo utilizado pelos pesquisadores é capaz de encontrar sempre a formulação certa para enganar o modelo.
A segunda tática explora um caractere Unicode especial chamado “RIGHT-TO-LEFT OVERRIDE”. Originalmente projetado para idiomas como árabe ou hebraico, que são lidos da direita para a esquerda, esse caractere especial é usado para ocultar uma instrução maliciosa. Na verdade, a instrução é escrita ao contrário, permitindo que ela passe despercebida pelo radar dos filtros de segurança da Apple. O carácter especial serve, portanto, para enganar os mecanismos de segurança, garantindo ao mesmo tempo que a instrução na origem do ataque é claramente legível para a IA. Resumindo: o que o usuário vê e o que o filtro vê são duas coisas diferentes. Isso é “um velho clássico hacker”.
Ao combinar essas duas técnicas, os pesquisadores obtiveram uma Taxa de sucesso de 76% entre 100 testes aleatórios em dispositivos Apple. Nas suas demonstrações, a IA da Apple foi forçada a insultar o utilizador. Em teoria, o invasor também poderia usar os dois truques acima para manipular as respostas da IA em aplicativos de mensagens, notas ou navegação. Todas essas ferramentas funcionam em sinergia com os modelos Apple Intelligence AI. “Como a Apple Intelligence “está integrado a mais aplicativos, também se torna atraente para invasores, que podem potencialmente sequestrar esses aplicativos e o próprio sistema operacional”estimam os pesquisadores.
Uma falha corrigida pela Apple
Seguindo os procedimentos habituais de cibersegurança, os investigadores notificaram a Apple em 15 de outubro de 2025. A gigante de Cupertino reagiu rapidamente incluindo correções nas atualizações iOS 26.4 e macOS 26.4que foram implantados recentemente. Obviamente, convidamos você a instalar essas duas atualizações em seus dispositivos sem demora. Fiel à forma, a Apple não comunicou a natureza da falha.
A vulnerabilidade ilustra as limitações da abordagem da Apple à segurança de IA. Na verdade, a Apple projetou o Apple Intelligence para que o maior número possível de ações sejam realizadas exclusivamente localmente, diretamente no iPhone ou Mac. Neste caso, nenhuma informação é transmitida aos servidores para ser processada pela IA. Apenas tarefas mais complexas, que exigem o tratamento de modelos de linguagem mais eficientes, passarão por servidores remotos.
A demonstração dos investigadores da RSAC Research mostra que o processamento local não garante que a IA resista a todas as ofensivas. Assim que uma IA está profundamente integrada no sistema, torna-se mais difícil protegê-la, porque é necessário proteger tanto o modelo, os filtros, as APIs e as interações com as aplicações. As superfícies de ataque são particularmente numerosas. Basta um elo fraco para que toda a infraestrutura fique sob a influência de um invasor. Neste momento, não há indicação de que a falha tenha sido explorada ativamente. No entanto, a Apple Intelligence é “já é um alvo de alto valor”sublinha o relatório.
👉🏻 Acompanhe notícias de tecnologia em tempo real: adicione 01net às suas fontes no Google e assine nosso canal no WhatsApp.
Fonte :
Conferência RSA