Especialistas em biossegurança consultados pelo The New York Times avaliam que sistemas de inteligência artificial podem, no futuro, facilitar o desenvolvimento de armas biológicas, embora os chatbots atuais ainda não representem uma mudança significativa nesse risco. Coautor de um relatório sobre biossegurança e biólogo sintético da Universidade Stanford, Drew Endy afirmou que modelos como o Claude, da Anthropic, têm hoje um impacto líquido modesto sobre a segurança biológica.
A avaliação, no entanto, vem acompanhada de um alerta sobre a trajetória da tecnologia. Segundo Endy, o cenário pode mudar à medida que surjam modelos especificamente voltados para pesquisas biológicas, capazes de gerar genomas de vírus viáveis que não existem na natureza. A preocupação central não é o presente, mas a velocidade com que sistemas mais especializados podem ampliar essa capacidade.
Uma sequência de alertas ao longo do ano
O alerta ganhou força a partir de uma série de episódios ocorridos ao longo do ano. Em abril, especialistas em biossegurança relataram a facilidade preocupante de conseguir, junto a chatbots, instruções capazes de tornar patógenos mais perigosos. Já em junho, defender novos controles sobre a fabricação de DNA passou a ser pauta de cientistas e executivos de empresas de IA, e em agosto pesquisadores relataram o uso de IA para criar vírus inexistentes na natureza.
Ao comentar o tema, Thomas Inglesby, diretor do Johns Hopkins Center for Health Security, observou que as respostas geradas por IA tendem a superar em utilidade uma busca comum na internet, já que o usuário pode repetir perguntas e refinar a interação até resolver dificuldades técnicas específicas. Um exemplo concreto dessa capacidade é o Evo2: treinado com sequências de DNA de milhões de espécies, o modelo nasceu de uma parceria entre pesquisadores da Universidade Stanford e do Arc Institute. Os pesquisadores expuseram o sistema a genomas de microvírus que infectam a bactéria Escherichia coli, considerados inofensivos para humanos; a partir daí, o Evo2 chegou a gerar centenas de milhares de novos genomas, dos quais 16 resultaram em vírus reais e funcionais. Para reduzir riscos, os criadores optaram por não treinar o modelo com vírus capazes de infectar humanos ou espécies próximas, embora especialistas considerem que sistemas semelhantes poderiam ganhar utilidade indevida caso recebessem outro tipo de dado de treinamento.
Governos e regras suspensas nos Estados Unidos
Um ponto adicional de preocupação envolve o uso da tecnologia por atores estatais. No caso mais recente da Anthropic, especialistas apontam que a origem das consultas sobre influenza e outros patógenos — que levaram a empresa a adotar medidas de restrição — parece estar em laboratórios ligados a governos, e não apenas em indivíduos isolados tentando agir por conta própria. Drew Endy teme que o uso de IA por governos em pesquisas ligadas à guerra biológica possa alimentar uma nova corrida armamentista, em paralelo à ocorrida durante a Segunda Guerra Mundial.
No plano regulatório, o governo de Joe Biden havia instituído a obrigação de que empresas de síntese de DNA examinassem os pedidos recebidos à procura de sequências suspeitas. Essa exigência foi suspensa pela administração de Donald Trump no ano passado e, até a publicação do caso, nenhum novo padrão havia sido colocado em seu lugar.
Olhar da Hédiz · Análise
Olhar da Hédiz
O caso reforça que o risco de uso indevido da IA está menos na tecnologia em si e mais no tipo de dado usado para treiná-la e no controle sobre quem acessa modelos especializados. Para empresas de qualquer setor, o episódio ilustra por que políticas de uso responsável de IA, incluindo restrições de treinamento e monitoramento de consultas, ganham peso estratégico. A ausência de regulação atualizada nos Estados Unidos também mostra que a governança de dados sensíveis pode depender mais de decisões internas das empresas do que de normas externas por ora.
