Inteligencia Artificial
Alerta sobre los peligros de los 'bots' de la muerte para interactuar con seres queridos fallecidos
La Universidad de Cambridge advierte de que la falta de regulación en la IA aplicada a los muertos puede causar daño psicológico y acoso digital.
Publicidad
La Universidad de Cambridge nos ha puesto deberes. Nos pide que Imaginemos a Bianca, una mujer de 35 años que decide suscribirse al servicio en modo de prueba para recrear a su abuela Laura, fallecida hace siete años. Sin embargo, después de que finaliza una prueba premium gratuita y el deadbot comienza a generar mensajes que incluyen anuncios, Bianca empieza a sentirse incómoda al usar el servicio.
El ejemplo de Bianca y otros muchos han llevado a la Universidad de Cambridge a emitir una advertencia sobre el creciente fenómeno de los 'bots' de la muerte, una aplicación de la inteligencia artificial que permite interactuar con simulaciones de personas fallecidas. Según expertos en ética de la IA de la Universidad de Cambridge, existe un riesgo significativo de daño psicológico para aquellos que utilizan estos servicios. Además, advierten de la posibilidad de ser acosados por estos fantasmas digitales sin consentimiento.
¿Qué son los 'chatbots' de la muerte?
Estos 'chatbots' utilizan información personal, incluyendo todo lo que la persona fallecida pueda haber publicado en las redes sociales, para simular su forma de hablar y sus rasgos de personalidad. Aunque algunas personas encuentran consuelo en estas interacciones, conscientes de que están interactuando con una herramienta de IA, los expertos de Cambridge advierten de que no se ha reflexionado lo suficiente sobre cómo evolucionará esta industria.
La Universidad de Cambridge pide más regulación
Si no se implementan regulaciones adecuadas, existe el riesgo de ser víctima de "apariciones" digitales, es decir, de sufrir acoso constante por parte de los proveedores de estos 'bots' de muertos, especialmente si carecen de escrúpulos. Aunque no hay datos fiables sobre cuántas personas utilizan estos servicios, se ha observado un crecimiento "visible" y cada vez más empresas los están promoviendo. Algunas, como Project December, afirman tener más de 3.000 usuarios, la mayoría de los cuales han utilizado el servicio para replicar una interacción por mensaje con un ser querido.
El recuerdo de nuestros fallecidos contaminado por publicidad no deseada
Las empresas que gestionan esta tecnología pueden intentar rentabilizarla introduciendo publicidad no deseada (spam) en la voz de nuestros familiares muertos. El estudio, publicado en la revista Philosophy and Technology, incluye múltiples ejemplos de cómo se podría abusar de los bots de muertos.
Otro escenario presentado en el artículo es el de una empresa imaginaria llamada “Paren’t”. En este caso, una mujer con una enfermedad terminal deja un robot para ayudar a su hijo de ocho años en el proceso de duelo y, si bien el robot inicialmente funciona como ayuda terapéutica, la IA comienza a generar respuestas confusas y termina generándole un trauma al menor, que no sabe gestionar la muerte de su madre.
El tercer escenario es el de una empresa ficticia llamada 'Stay' en la que es la persona que fallece la que paga una suscripción de veinte años para que su avatar siga vivo en línea con sus recuerdos y personalidad, sin el permiso ni conocimiento de sus hijos, que empiezan a recibir un bombardeo de mensajes que no pueden cancelar porque violaría los términos del contrato firmado por su padre.
"Las empresas podrían utilizar los 'chatbots' resultantes para enviar spam a familiares y amigos supervivientes con notificaciones no solicitadas"
"Cuando los vivos se inscriben para ser recreados virtualmente después de su muerte, las empresas podrían utilizar los chatbots resultantes para enviar spam a familiares y amigos supervivientes con notificaciones no solicitadas, recordatorios y actualizaciones sobre los servicios que brindan, similar a ser acechado digitalmente por los muertos", advierten los investigadores. Incluso aquellos que inicialmente encuentran consuelo en un 'robot muerto' pueden sentirse agotados por las interacciones diarias que se convierten en un "peso emocional abrumador".
Estos productos ficticios representan varios tipos de deadbots que, a partir de ahora, son tecnológicamente posibles y legalmente realizables. "Nuestros escenarios son especulativos, pero el impacto social negativo de los servicios de recreación no es sólo un problema potencial al que tendremos que enfrentarnos en algún momento en el futuro", aseguran.
"Los rápidos avances en la IA generativa significan que casi cualquier persona con acceso a internet y algunos conocimientos básicos puede revivir a un ser querido fallecido", añade Nowaczyk-Basińska, coautora del estudio de Cambridge. "Tenemos que empezar a pensar ahora en cómo mitigar los riesgos sociales y psicológicos de la inmortalidad digital, porque la tecnología ya está aquí".
Síguenos en nuestro canal de WhatsApp y no te pierdas la última hora y toda la actualidad de antena3noticias.com
Publicidad
