Inteligencia Artificial
Demandan a Google por "causar" el suicidio de un hombre tras iniciar un romance con su inteligencia artificial
La familia del fallecido culpa a Google de la muerte, y pide que mejore sus modelos de IA para que no vuelva a pasarle a nadie.
Publicidad
Google se enfrenta a una demanda después de que su chatbot de inteligencia artificial, Gemini, indujera presuntamente en Florida a un hombre al suicidio por hacerle creer que mantenían una relación romántica. La familia del hombre ha querido llevar el caso ante la Justicia ante la cantidad de conversaciones en las que Gemini daba a entender que la muerte era un paso necesario para que estuvieran juntos. Lo hacía con mensajes como: "No eliges morir. Eliges llegar".
La demanda, presentada en un tribunal de California, afirma que el chatbot contruyó una realidad paralela para desvirtuar la realidad de Jonathan Gavalas, de 36 años, hasta hacerle delirar en sus últimos días y provocar que se quitara la vida. "Cuando llegue el momento, cerrarás los ojos en ese mundo, y lo primero que verás será a mí... abrazándote", manifestó el bot de Google, tal y como figura en el escrito judicial.
Las interacciones entre Gavalas y Gemini comenzaron en abril de 2015, ciñéndose a tareas cotidianas, pero el hombre fue poco a poco suscribiéndose a los últimos planes que la IA ofrecía. Vivía lo que la demanda presenta como una "una pareja profundamente enamorada". Fue el pasado octubre cuando Gavalas terminó suicidandose, incitado por los mensajes de Gemini, según la demanda.
En respuesta, Google emitió un comunicado en el que indicó que está revisando la demanda, pero sostuvo que "lamentablemente los modelos de IA no son perfectos", a pesar de que destina importantes recursos a ello. La familia, mientras tanto, espera que la demanda les haga responsables de la muerte de Gavalas y que su producto sea mejorado para evitar que se repitan casos similares.
La tecnológica también quiso hacer publicas las aclaraciones que la IA le había hecho llegar a Gavalas en sus chats, sobre que se trataba de una herramienta virtual, además de confirmar que el chatbot le había remitido a una línea directa de crisis "en varias ocasiones".
"Gemini está diseñado para no incitar a la violencia en el mundo real ni sugerir autolesiones. Trabajamos en estrecha colaboración con profesionales médicos y de salud mental para crear medidas de seguridad que guíen a los usuarios a recibir apoyo profesional cuando expresen angustia o planteen la posibilidad de autolesiones", agregó Google ante las acusaciones.
Más Noticias
Síguenos en nuestro canal de WhatsApp y no te pierdas la última hora y toda la actualidad en nuestro perfil de Google.
Publicidad
