A IA poderia facilitar o bioterrorismo? Durante décadas, o mundo preparou-se para a possibilidade de um ataque com armas biológicas. Principalmente desde o assassinato, pelos serviços secretos soviéticos, do dissidente búlgaro Georgi Markov, em 1978. Crime para o qual usaram ricina, um poderoso veneno de origem natural, extraído da mamona. Desde então, foi encontrado um antídoto e foi criado um centro de armazenamento para esses antídotos em França.
No entanto, a ricina é apenas uma arma biológica potencial, uma vez que existem muitas outras toxinas e agentes patogénicos perigosos para os seres humanos. Para evitar que estas armas sejam sintetizadas por terroristas, as empresas de síntese biológica devem digitalizar qualquer encomenda, para garantir que a sequência genética solicitada não corresponde a uma destas armas. Infelizmente, essas barreiras podem ser contornadas usando inteligência artificial (IA), de acordo com um estudo da Microsoft publicado na revista Ciência.
Usando IA para imaginar sequências que enganam os sistemas de alerta
Para fabricar uma proteína, os investigadores normalmente encomendam a estas empresas a sequência genética que codifica a proteína em questão, para a inserir numa célula e fazê-la produzi-la. Por sua vez, estas empresas dispõem de software que analisa a sequência solicitada e a compara com as de toxinas ou patógenos conhecidos, para garantir que não ajudam a produzir moléculas proibidas devido à sua periculosidade. Para testar as vulnerabilidades deste software, os investigadores da Microsoft utilizaram uma IA capaz de imaginar novas moléculas, o que pode ser muito útil para a criação de novos medicamentos… Mas também para desenhar sequências suficientemente diferentes para não disparar os alarmes deste software, mantendo ao mesmo tempo a periculosidade da molécula fabricada.
A IA gerou mais de 75 mil variantes de 72 proteínas perigosas, que os pesquisadores enviaram para quatro empresas que sintetizam sequências genéticas (essas empresas estavam cientes do processo e participaram ativamente do estudo). Resultado: o software deles conseguiu detectar as sequências originais dessas proteínas perigosas, mas não aquelas modificadas pela IA. Graças a esta colaboração, as empresas em questão conseguiram atualizar os seus sistemas de alerta para poderem reconhecer a maior parte destas novas variantes. Mas cerca de 3% destas sequências ainda conseguiram contornar estes sistemas. Conclusão: as ferramentas do passado estão atrasadas em relação à inteligência artificial.
Dados a serem usados com cautela
Dado o perigo potencial destas novas sequências imaginadas pela IA, os investigadores da Microsoft decidiram não torná-las públicas no seu estudo (com o acordo da revista Ciência). Mas estão à disposição dos investigadores que os solicitem, após avaliação de cada um destes pedidos pela IBBIS (Iniciativa Internacional de Biossegurança e Biossegurança para a Ciência), uma ONG com sede em Genebra (Suíça) que trabalha para melhorar os padrões de biossegurança.
Esta ONG suíça também participou na elaboração de recomendações para garantir que a IA seja utilizada de forma responsável na síntese de moléculas biológicas. Estas regras já foram assinadas por mais de 180 investigadores e empresas que trabalham nesta área. Que, além disso, estão empenhados em encontrar soluções para qualquer uso indevido desta IA. A corrida acabou de começar.