Skip to main content

Una inteligencia artificial crea 40.000 armas químicas en 6 horas

Armas quimicas

19/03/2022 - 06:55

Cada vez más voces piden regular la inteligencia artificial: incluso los propios científicos que la usan libremente, y gratis...

Fabio Urbina es un experto en inteligencia artificial que crea modelos de aprendizaje automático para la famacéutica Collaborations Pharmaceuticals, especializada en la búsqueda de medicamentos para enfermedades raras.

Fabio ha creado una IA que ha estudiado miles de moléculas tóxicas, y es capaz de predecir si nuevas drogas que se diseñan en laboratorio para curar enfermedades, son o no tóxicas.

Es una herramienta muy útil porque la inteligencia artificial ayuda a los investigadores a desechar rápidamente moléculas tóxicas, y centrarse en las que no lo son. Pero esta IA, como toda herramienta, puede usarse para el bien... o para el mal.

Fabio Urbina ha presentado en una conferencia para el control de las armas biológicas, un experimento que le tiene profundamente preocupado. También lo ha publicado en la revista científica Nature Machine Inteligence.

Según cuenta en una entrevista a The Verge, a este científico se le ocurrió experimentar con el lado oscuro de su IA.

El software no solo puede detectar moléculas tóxicas: también puede crear nuevos compuestos, mediante un sistema de puntuación. Si crea una molécula tóxica recibe una puntuación baja, penalizándola. Si no es tóxica, gana muchos puntos.

Pero, ¿qué ocurre si un usuario malintencionado cambia los parámetros? Es decir, penaliza a la IA por crear moléculas seguras, y la premia al crear moléculas tóxicas. El resultado le dejó sin palabras: la IA creó 40.000 armas químicas letales, en solo 6 horas.

Por supuesto, buena parte de ellas no son viables, pero entre las propuestas Fabio Urbina ha identificado moléculas muy similares al VX, el agente nervioso más peligroso que existe, prohibido por Naciones Unidas. Una miníma cantidad en el aire hace que las personas que lo respiran, paralicen sus pulmones. En un minuto mueren ahogadas.

Y aún más perturbador: Fabio Urbina localizó moléculas exactas a armas químicas ya conocidas... sin que la IA las haya visto nunca antes.

Para añadir aún más preocupación a este experimento, el investigador confiesa que estos resultados se pueden obtener con software gratuito de código abierto, que está disponible para todo el mundo. Al igual que las bases de datos de toxicidad de las moléculas. Es ciencia compartida que al ser abierta favorece la investigación, pero cuando se combina con una IA, todo cambia.

Por supuesto, una cosa es que una IA cree 40.000 moléculas tóxicas, y otra diferente que alguien pueda sintetizarlas. Eso no lo puede hacer todo el mundo. Pero sí un gobierno, o una organización criminal.

El propio Fabio Urbina confiesa que no sabe cómo se puede controlar esto: está a favor de la ciencia abierta, pero cuando se trata de crear armas químicas, la información no puede estar en manos de todo el mundo...

Y además