Google suspende a un ingeniero por publicar sus conversaciones con IA y asegurar que tiene sentimientos

Google ha suspendido de empleo a uno de sus ingenieros por romper la política de confidencialidad con la inteligencia artificial (IA) con la que trabaja. Se trata de Blake Lemoine que ha trabajado en la tecnológica con la personalización de algoritmos.

En concreto, la compañía no da credibilidad a sus conclusiones y le acusa de violar la política de confidencialidad con respecto a LaMDA o 'Language Model for Dialogue Applications', que Google emplea para los chartbots y para mejorar la comprensión del lenguaje de las personas. Lo que hace este algoritmo es usar redes de aprendizaje neuronal que replica ciertos aspectos del cerebro.

Durante su trabajo, Lemoine aseguró haber mantenido conversaciones con esta IA y que interactuaba como un niño de unos 7 u 8 años. Según el ingeniero, le propuso a la máquina algunos temas variados para poder analizar su respuesta y para identificar si hubiera sesgos de odio.

Informe rechazado

Al encontrar esos signos de consciencia, Lemoine se dirigió a los directivos de Google para compartir sus conclusiones, pero su informe fue rechazado, según informa 'The Washington Post'.

"Nuestro equipo, incluidos especialistas en ética y tecnólogos, ha revisado las preocupaciones de Blake según nuestros Principios de IA y le ha informado que la evidencia no respalda sus afirmaciones. Le dijeron que no había evidencia de que LaMDA fuera consciente", ha explicado un portavoz de la compañía. Asegura Google que esta IA no necesita ser consciente para parecer real.

Así, el pasado 11 de junio publicó en Twitter sus conversaciones con LaMDA con el siguiente mensaje: "Google podría llamar a esto compartir la propiedad de propiedad. Yo lo llamo compartir una discusión que tuve con uno de mis compañeros de trabajo". En esas conversaciones, destacan temas como la muerte, religión, derechos o leyes de la robótica.

A continuación, enlazaba al texto que permite leer la conversación completa con la IA. Tras esto, Google ha decidido suspenderlo por violar la confidencialidad.

Los riesgos de ciberseguridad a los que se exponen los 'gamers': "Estoy introduciendo un caballo de Troya"