Google DeepMind y su filial Isomorphic Labs han dado a conocer los detalles de su programa de biorresiliencia, una iniciativa que busca equilibrar el avance científico impulsado por inteligencia artificial con la prevención de usos malintencionados de la biología sintética. El programa, que comenzó de manera discreta hace aproximadamente un año, ya ha establecido más de quince colaboraciones con entidades gubernamentales, organizaciones de bioseguridad y centros de investigación. Este anuncio llega en un momento en que los modelos frontera como Gemini adquieren un conocimiento biológico cada vez más profundo, lo que plantea un dilema estratégico: el mismo saber que permite diseñar una vacuna puede ser aprovechado por actores hostiles para cerrar sus propias brechas técnicas. DeepMind aborda esta dualidad con un enfoque estructurado en tres pilares: prevención del uso indebido, detección temprana de brotes y respuesta rápida ante emergencias biológicas.
El pilar de prevención se apoya en modelos de amenazas que identifican qué actores tienen mayor probabilidad de intentar un uso malicioso y cuáles son los cuellos de botella actuales que lo dificultan. DeepMind emplea una combinación de red-teaming con expertos y ensayos controlados aleatorizados para evaluar si Gemini podría ayudar a superar esos obstáculos. Las técnicas de post-entrenamiento buscan enseñar al modelo a rechazar consultas dañinas sin caer en el sobre-rechazo de preguntas científicas legítimas, un equilibrio que ha resultado escurridizo para toda la industria. Además, se despliegan clasificadores y sondas para detectar actividad sospechosa en tiempo real, complementados con análisis de registros dirigidos para identificar patrones de uso indebido más sutiles. Ninguna de estas mitigaciones se presenta como resuelta; DeepMind las describe como un proceso en evolución, lo cual es relevante para cualquier empresa u organismo gubernamental que evalúe la fiabilidad de estas salvaguardas en su estado actual. Un clasificador entrenado contra patrones conocidos de jailbreak no garantiza el mismo rendimiento frente a métodos de ataque novedosos que surjan en el uso real.
Uno de los riesgos concretos que se exploran es la síntesis de ADN. Las empresas del International Gene Synthesis Consortium actualmente filtran pedidos comparándolos con listas de patógenos y toxinas conocidas. DeepMind señala que este enfoque comienza a mostrar grietas, porque la IA puede diseñar secuencias de ADN con función similar a un patógeno peligroso sin que su secuencia coincida lo suficiente como para activar los filtros existentes. La solución propuesta se inspira en SynthID, el sistema de marcas de agua de DeepMind que se ha convertido en un estándar para imágenes y texto generados por IA. Adaptarlo a secuencias biológicas es un trabajo exploratorio, no un producto listo para su lanzamiento. Un objetivo a más largo plazo, calificado como un desafío técnico abierto, implica desarrollar un cribado que prediga si una secuencia de ADN novedosa es probablemente tóxica o patógena en función de su función, independientemente de su parecido con bases de datos existentes.
La detección temprana de brotes depende de la secuenciación metagenómica, que caracteriza todos los microorganismos de una muestra en lugar de buscar un listado reducido de patógenos conocidos. El factor limitante es el coste; para escalar esta técnica a las regiones donde es más probable que se originen brotes, ese coste debe reducirse drásticamente. DeepMind señala una colaboración entre Google y Pacific Biosciences que utilizó su agente codificador AlphaEvolve para mejorar la precisión de la secuenciación como un dato alentador. La compañía busca ahora nuevas oportunidades para optimizar los algoritmos que procesan los datos de secuenciación e informar el diseño de hardware, y explora si AlphaGenome podría ayudar a caracterizar patógenos directamente a partir de los datos de secuenciación. Sin embargo, estos siguen siendo proyectos de investigación, no sistemas desplegados sobre el terreno. La distancia entre una mejora de precisión en un entorno controlado y una red de alerta temprana funcional en aguas residuales y centros de tránsito en entornos con pocos recursos es considerable.
El pilar de respuesta se apoya en la brecha de contramedidas médicas que deja a muchos patógenos conocidos sin diagnóstico, vacuna o tratamiento autorizados. DeepMind menciona más de 10.000 publicaciones sobre enfermedades infecciosas que han hecho referencia a AlphaFold en cinco años, cubriendo trabajos sobre tuberculosis, transmisión de malaria y mapeo de dianas para amenazas como Mpox y Nipah. La novedad más reciente es una colaboración con el programa de biorresiliencia del Lawrence Livermore National Laboratory, que planea usar AlphaFold 3 para el diseño de anticuerpos de amplio espectro, incluido un esfuerzo para obtener anticuerpos pan-filovirus. DeepMind seguirá añadiendo estructuras y complejos proteicos a la base de datos AlphaFold Protein Structure Database este año, priorizando dianas relevantes para el desarrollo de contramedidas. También está ampliando el acceso a sistemas de agentes más nuevos, como Co-Scientist, a investigadores seleccionados, entre ellos científicos de los Laboratorios Nacionales del Departamento de Energía de EE. UU. que trabajan en la Genesis Mission. Isomorphic Labs ha ido un paso más allá, creando una unidad dedicada a desplegar rápidamente su motor de diseño de fármacos durante un brote novedoso, en colaboración con entidades gubernamentales y centros de investigación como Lawrence Livermore, el UK AI Security Institute, CEPI y el Francis Crick Institute. La compañía también ha comprometido 7 millones de dólares para Health for Human Potential, un programa de Philanthropy Asia Alliance, para investigación de enfermedades infecciosas en Asia.
DeepMind ha presentado una serie de recomendaciones políticas a los legisladores de EE. UU., alineadas con sus tres pilares y respaldadas por legislación pendiente. Para la prevención, apoya un marco federal de seguridad para la IA frontera, la Ley de Estándares de Datos Biológicos Listos para IA (H.R. 7907), el cribado obligatorio de síntesis de ADN mediante la Ley de Modernización e Innovación en Bioseguridad (S. 3741) y la Ley SCALE Biology Act (H.R. 8981). Para la detección, propone expandir la secuenciación metagenómica en centros de tránsito y áreas densamente pobladas, con el respaldo de la America's Living Library Act (S. 4023) y financiación adicional de DARPA y HHS para investigación de alerta temprana. Para la respuesta, pide la Ley Web of Biological Data Act (H.R. 9307 / S. 4770) e inversión en capacidad de fabricación mantenida
