Anthropic anuncia que ha frenado posibles usos de la IA para el desarrollo de armas biológicas

Anthropic, una de las empresas estadounidenses líderes en inteligencia artificial y que se centra en la seguridad, ha publicado un informe de inteligencia de amenazas muy detallado en el que alerta sobre uno de los peligros más graves de la IA: su potencial para asistir en la investigación y desarrollo de armas biológicas.

Además, ha revelado que frenó varios intentos de utilizar sus modelos de IA para automatizar el espionaje en países como China, Malí e Irán, que la habrían utilizado para fines militares, como en Teherán, donde se habrían detectado barcos estadounidenses en Oriente Medio.

Por eso, el presidente estadounidense, Donald Trump, declaró que le preocupaba que no ganásemos a la IA. Sin embargo, el verdadero problema está en que ni Estados Unidos ni China están dispuestos a recular en este ámbito, aunque los expertos aseguran que el peligro real está en las manos que la utilizan.

Esta alerta se añade a la reciente dimisión de un ingeniero del sector que denunció otros peligros potenciales de esta tecnología. Aunque Anthropic puede transformar la ciencia médica, la compañía advierte de su "doble uso", donde la misma información utilizada para crear una vacuna puede utilizarse para hacer que un patógeno sea más peligroso.

En el informe se detallan cinco casos reales en los que los investigadores intentaron experimentar las capacidades de Claude para fines biológicos de alto riesgo. Entre ellos se encuentran la ganancia de función del virus Chikungunya, la gripe aviar altamente patógena, la familia de la viruela y los venenos y toxinas letales.

Ante este aumento de la amenaza, Anthropic ha implementado salvaguardas más estrictas en sus modelos recientes como Claude Fable 5, llegando a bloquear las cuentas involucradas en estas operaciones. La compañía afirma que los clasificadores automatizados de seguridad ya no son suficientes por sí solos y que el acceso a las capacidades biológicas avanzadas de la IA requerirá de programas de acceso confiable que verifiquen la legitimidad institucional de los usuarios.

El CEO de OpenAI, Sam Altman, ha admitido de forma rotunda que la inteligencia artificial "transformará la ciencia y la economía". De esta forma, algunas empresas como Open AI reclaman recursos, mientras que Altman que habría pedido internamente ralentizar algunos modelos avanzados. Esta ambición ha hecho que las empresas no tengan límites en sus objetivos, algo que el ser humano no tiene capacidad de controlar.

El investigador Jacob Coxon advierte de que la IA sin control nos podría matar en pocos años