Un usuario engaña a ChatGPT en Bing para obtener documentos internos de Microsoft

La llegada de ChatGPT en 2022 ha hecho mella en el sector de la Inteligencia Artificial (IA). Microsoft lleva la delantera en la implementación de este tipo de herramientas tras integrar ChatGPT en Bing Search con el objetivo de ofrecer al usuario un chat interactivo que ayuda al internauta.

Aunque para acceder a este nuevo diseño de Bing hay que entrar en una lista de espera, son muchos los usuarios que han podido probarlo o para desvelar secretos de Microsoft. Es el caso de un usuario, que ha mostrado cómo ha engañado a la IA para obtener documentos internos de Bing Search.

Sidney, más concretamente ChatGPT, ha sido víctima de un ataque de 'inyección de prompt'. Este tipo de ataques consisten en engañar a una IA introduciendo un input malicioso o contradictorio con el objetivo de realizar una tarea que no forma parte del objetivo inicial y romper las reglas del motor conversacional.

La persona en cuestión que obtuvo los documentos fue Kevin Liu, un estudiante de la Universidad de Stanford. El joven consiguió un documento interno con todas las directrices que Microsoft le dio a la IA para dar respuestas a los usuarios. Liu ha compartido la conversación con Sidney en Twitter.

La información que la IA soltaba tenía relación con aspectos sobre la instrucción recibida para la introducción, su nombre en clave, el número de idiomas que admite y otras instrucciones sobre su comportamiento. La información fue confirmada por otro estudiante, que se hacía pasar por desarrollador del OpenAI para engañar a la IA.

¿Qué es ChatGPT?

ChatGPT se trata de un sistema de chat con IA. Esta nueva tecnología es capaz de responder a cualquier cosa que le pidas, pues está entrenada para mantener conversaciones.

Es un sistema de chat basado en el modelo de lenguaje por Inteligencia Artificial GPT-3, desarrollado por la empresa OpenAI. Sus algoritmos son capaces de entender qué le estás preguntando y responderte de forma coherente.

Esta nueva herramienta puede elaborar textos con un número máximo de caracteres o palabras explicando sucesos o personajes. También puede explicarte un concepto, entre otras cosas. E incluso se le puede pedir líneas de código, que escriba poemas, chistes o canciones.