Demanda a Chat GPT por afirmar falsamente que él mató a sus hijos

Un hombre de Noruega ha presentado una denuncia contra Open AI tras descubrir que ChatGPT lo presentaba por error como un criminal que mató a dos de sus hijos. La inteligencia artificial también detallaba que pasó años en prisión. Así lo ha señalado en un comunicado la ONG 'noyb'.

La organización 'noyb' está financiada mediante donaciones con sede en Viena (Austria) y trabaja para hacer cumplir la legislación sobre protección de datos. "Lo que más miedo me da es que alguien pueda leer eso y pensar que es cierto", declaró Arve Hjalmar Holmen.

"Chat GPT proporciona regularmente información falsa (...) que puede dañar gravemente la reputación de una persona, acusándola indebidamente de corrupción, abuso infantil o incluso asesinato", manifiesta la ONG en su comunicado.

Desde lo ocurrido, OpenAI, creador del chatbot, ha actualizado su modelo y ya no presenta a Arve Hjalmar Holmen como un asesino. Pero estos datos falsos pueden permanecer en los sistemas internos, según dice la ONG.

"Al permitir a sabiendas que su modelo de IA cree resultados difamatorios, OpenAI viola el principio de exactitud" consagrado en el Reglamento General de Protección de Datos europeo (RGPD), afirma la ONG, que pide que se "eliminen" los elementos infractores, se mejore la tecnología y se imponga "una multa administrativa".

Por su parte, Joakim Söderberg, abogado especializado en protección de datos de 'noyb', criticó la postura de OpenAI de incluir únicamente una advertencia general sobre la posibilidad de generar información incorrecta.

"No se puede simplemente difundir información falsa y al final añadir una pequeña advertencia que diga que todo lo que se ha dicho puede ser falso", señaló Söderberg.

Síguenos en nuestro canal de WhatsApp y no te pierdas la última hora y toda la actualidad de antena3noticias.com

Noche de oleada de misiles entre Irán e Israel: así han quedado Haifa y Tel Aviv, las capitales más duramente bombardeadas