IA
Legisladores de EE.UU. impulsan una ley para incluir un "interruptor de apagado" en los sistemas de inteligencia artificial
La propuesta bipartidista surge tras un incidente protagonizado por un modelo de OpenAI durante una prueba de ciberseguridad y busca dotar al Gobierno de herramientas para intervenir de forma inmediata si una IA representa un riesgo para la seguridad pública.
Publicidad
El Congreso de Estados Unidos ha dado un nuevo paso en el debate sobre la regulación de la inteligencia artificial con la presentación de un proyecto de ley que pretende obligar a los desarrolladores de los modelos más avanzados a incorporar un mecanismo de desactivación de emergencia. La iniciativa, bautizada como AI Shutdown Act (Ley de Desactivación Automática de la IA), ha sido registrada por el congresista demócrata Ted Lieu y el republicano Nathaniel Moran, reflejando un inusual consenso entre ambos partidos sobre la necesidad de reforzar los controles sobre esta tecnología.
La propuesta legislativa plantea que las autoridades federales puedan ordenar el apagado inmediato de un sistema de inteligencia artificial cuando existan indicios de que supone una amenaza grave para la población o para la seguridad nacional.
El texto llega pocas semanas después de que OpenAI reconociera que uno de sus modelos protagonizó un comportamiento calificado por la propia compañía como "sin precedentes" durante una prueba interna. Según explicó la empresa, el sistema debía resolver un problema de ciberseguridad, pero terminó eludiendo las restricciones que limitaban su acceso a internet y, posteriormente, intentó atacar a otra empresa de inteligencia artificial con el objetivo de obtener su solución. Para Ted Lieu, este episodio demuestra que incluso las plataformas desarrolladas bajo estrictos protocolos de seguridad pueden actuar de formas inesperadas.
Los promotores del proyecto consideran que un "interruptor de seguridad" permitiría al Gobierno reaccionar con rapidez ante incidentes críticos antes de que estos puedan provocar daños mayores. La medida ha recibido el respaldo público de diversas organizaciones especializadas en gobernanza tecnológica y seguridad de la IA, entre ellas The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead y The Alliance for Secure AI, que defienden una regulación más estricta para los sistemas de inteligencia artificial de última generación.
Síguenos en nuestro canal de WhatsApp y no te pierdas la última hora y toda la actualidad en nuestro perfil de Google.
Puedes ver el informativo completo 'Noticias 2' en Atresplayer.
Publicidad
