Em outubro de 2023, dois cientistas da Microsoft descobriram uma vulnerabilidade alarmante em uma rede de segurança destinada a impedir que agentes mal-intencionados usassem ferramentas de inteligência artificial (IA) para criar proteínas perigosas para fins bélicos ou terroristas.
Essas falhas de segurança e como elas foram descobertas foram mantidas em sigilo até quinta-feira, 2 de outubro, quando um artigo publicado na renomada revista Science detalhou como os pesquisadores geraram milhares de versões criadas por IA de 72 toxinas que escaparam à detecção.
A equipe de pesquisa, um grupo de cientistas líderes do setor e especialistas em biossegurança, projetou um patch para corrigir esse problema encontrado em quatro métodos de triagem diferentes.
Mas eles alertam que os especialistas terão que continuar procurando futuras brechas nessa rede de segurança.
A equipe considerou o incidente o primeiro “dia zero” da IA e da biossegurança – emprestando um termo do mundo cibernético para lacunas de defesa que os desenvolvedores de software não conhecem e que os deixam suscetíveis a um ataque.
Protected by WP Anti-Hacker