Anthropic limita su nuevo modelo de IA Mythos a grandes tecnológicas para controlar ciberataques

La IA puede usarse para revisar código en busca de errores. Mythos es capaz de esto. Pero no se queda ahí. Anthropic ha descubierto que su modelo de IA encuentra los errores y crea código, sin la intervención del humano, para aprovecharse de esas vulnerabilidades. Ante este riesgo de que sea aprovechado por hackers para realizar ciberataques, la empresa estadounidense ha decidido restringir su herramienta.

Ahora, Anthropic ha restringido su nuevo modelo de IA Mythos a Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, la Linux Foundation, Microsoft, Nvidia y Palo Alto Networks a través del Proyecto Glasswing. Posteriormente, plantearían lanzarlo al gran público.

El Proyecto Glasswing incluye a Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, la Linux Foundation, Microsoft, Nvidia y Palo Alto Networks y su objetivo es que aprendan a utilizar Mythos. Posteriormente, Anthropic compartirá las conclusiones del estudio.

Si bien Anthropic ha reservado parte de la información por seguridad, han compartido algunos ejemplos de los fallos que encontró. Mythos descubrió una vulnerabilidad de 27 años de antigüedad en el sistema de código abierto OpenBSD, que permitiría a los hackers bloquear cualquier máquina que lo ejecute.

Por el momento, no hay fecha para que Mythos sea público. Ahora, la prioridad es garantizar la ciberseguridad.

Síguenos en nuestro canal de WhatsApp y no te pierdas la última hora y toda la actualidad en nuestro perfil de Google.