Redacción

El diseño de proteínas asistido por inteligencia artificial (IA) está permitiendo grandes avances biomédicos, como la creación de nuevos anticuerpos frente a virus o bacterias, pero plantea amenazas, ya que puede usarse indebidamente para diseñar proteínas nocivas. Los científicos han logrado reforzar los controles, pero no al 100 %.

La revista Science, que ya habría alertado en un editorial del riesgo que planteaba el diseño por proteínas sintéticas mediante IA, publica este jueves un estudio en el que un equipo internacional de investigadores evalúa las herramientas de control existentes y describe los parches de software que han desarrollado para mejorarla.

"Hace dos años, mientras preparábamos un curso sobre IA y bioseguridad, mi compañero Bruce Wittmann y yo descubrimos una vulnerabilidad en el diseño de proteínas mediante IA, y es que podrían usarse para replicar secuencias de proteínas tóxicas, reescribiéndolas de manera que conservaran su estructura y función", ha explicado en una rueda de prensa organizada por Science Eric Horvitz, autor y director científico de la multinacional Microsoft.

Las empresas que suministran estos ácidos nucleicos sintéticos en todo el mundo examinan los pedidos de los clientes con un software de control de bioseguridad específico (BSS, por sus siglas en inglés), que predice la peligrosidad de nuevas proteínas cuando se solicita su generación.

Sin embargo, los científicos vieron que los modelos generativos de secuencias proteicas pueden producir variantes que difieren lo suficiente de los ejemplos controlados como para eludir la detección de los sistemas de control de bioseguridad.

Evaluar a quien controla

Para evaluar las vulnerabilidades de los sistemas de control en el diseño de proteínas asistido por IA, los investigadores generaron más de 75.000 variantes de proteínas peligrosas y las enviaron a los cuatro principales desarrolladores de sistemas BBS.

Descubrieron que, si bien todas las herramientas funcionaban casi a la perfección al analizar y controlar las proteínas originales, su capacidad para detectar variantes reformuladas resultó insuficiente.

Según los autores, los sistemas de bioseguridad actuales "siguen siendo eficaces para secuencias inalteradas, pero carecen de la sensibilidad necesaria para detectar secuencias de proteínas diseñadas mediante IA generativa, a pesar de ser similares".

Los cuatro programas más utilizados fallan y lo hacen más cuanto más se alejan las secuencias de las naturales.

Tras estos hallazgos y en colaboración con los proveedores de estos sistemas, los investigadores desarrollaron unos parches de software que fueron implementados por tres de los cuatro sistemas de los proveedores de BSS.

Según han explicado los autores, estas actualizaciones dieron lugar a una mejora de las tasas de detección de variantes generadas por IA sin aumentar significativamente los falsos positivos.

Los científicos señalan que ninguna herramienta logró una cobertura completa: entre todos los proveedores, alrededor del 3% de las variantes con mayor probabilidad de conservar su funcionalidad nociva aún escapaban a la detección.

La responsabilidad de estar alerta

"Los avances en IA están impulsando avances revolucionarios en biología y medicina, pero con este nuevo poder viene la responsabilidad de estar alerta y gestionar los riesgos de forma reflexiva", ha insistido Horvitz.

"Más allá de identificar y trabajar para mitigar esta vulnerabilidad específica, nuestro objetivo era desarrollar un proceso eficaz: crear un equipo intersectorial, aplicar métodos científicos rigurosos y crear un marco para compartir datos e información confidenciales de manera que se impulse el avance de la ciencia y, al mismo tiempo, se gestionen los riesgos potenciales", ha añadido.

• Los autores han informado a Science de que parte de los datos de este trabajo no deben estar disponibles en un repositorio público debido al riesgo de uso indebido. 

En esa línea, han diseñado un sistema de acceso a la información por niveles para la divulgación de datos, en el que las partes interesadas pueden solicitar paso al material restringido poniéndose en contacto con los representantes designados de la Iniciativa Internacional de Bioseguridad para la Ciencia (IBBIS), una organización sin ánimo de lucro.

El solicitante deberá proporcionar su identidad, afiliación y una breve explicación del empleo que dará a los datos y estará sujeto a un acuerdo de uso. Un comité del IBBIS evaluará las solicitudes y determinará si la información proporcionada es precisa y si la utilización propuesta es legítima.

Los datos restringidos se organizan en niveles conforme al grado de riesgo de la información, siendo el estadio más alto el que incluye el código utilizado en el estudio, y se divulgarán según su idoneidad para el uso propuesto.

Los editores de Science coinciden en que el plan propuesto equilibra adecuadamente las preocupaciones de seguridad con los requisitos de disponibilidad de datos y códigos de las políticas editoriales de la revista.

"Este proyecto muestra lo que se puede lograr cuando se siguen las recomendaciones especializadas de los científicos; y gobiernos, industria y sociedad trabajan para impulsar progresos guiados por la ética", ha concluido Horvitz.