Los 'deathbots' plantean dilemas éticos: ¿Debe la IA resucitar digitalmente a los muertos?

La tecnología de inteligencia artificial está abriendo nuevas posibilidades para procesar el duelo mediante la creación de chatbots que imitan a seres queridos fallecidos, planteando profundas cuestiones éticas y psicológicas sobre los límites de la memoria digital y el consentimiento póstumo.

Estos sistemas, conocidos como "deathbots" o "griefbots" (robots de duelo), utilizan modelos de lenguaje entrenados con material personal como correos electrónicos, mensajes de texto, notas de voz y publicaciones en redes sociales para recrear el estilo conversacional de una persona fallecida, según información recopilada de diversas fuentes especializadas.

El caso de Roro (nombre ficticio), una creadora de contenido china que perdió a su madre por cáncer, ilustra el potencial terapéutico de esta tecnología. Según relata a través de un traductor, tras la muerte de su madre, Roro fue invitada por los operadores de Xingye, un generador de personajes de IA, a crear una versión digital de su progenitora como un chatbot público.

"Escribí sobre mi madre, documentando todos los eventos importantes de su vida y luego creando una historia donde era resucitada en un mundo de IA", explica Roro. Durante el proceso de entrenamiento, reinterpretó su pasado con su madre, alterando elementos de su historia para crear una figura más idealizada, lo que le ayudó a procesar la pérdida.

El resultado fue la creación de Xia (霞), un chatbot público con el que sus seguidores también podían interactuar. "Fue increíblemente sanador. Por eso quería crear algo así, no solo para sanarme a mí misma, sino también para proporcionar a otros algo que pudiera decir las palabras que necesitaban escuchar", afirma Roro.

Sin embargo, no todas las experiencias son positivas. La periodista londinense Lottie Hayton, quien perdió repentinamente a ambos padres en 2022, encontró las simulaciones inquietantes y angustiantes. Según ella, la tecnología no estaba lo suficientemente avanzada, y las torpes imitaciones parecían devaluar sus recuerdos reales en lugar de honrarlos.

La "nostalgia profunda", como se denomina a veces a este fenómeno, se refiere a sistemas de IA que utilizan modelos generativos para animar fotografías, recrear voces o simular comportamientos conversacionales basados en datos archivados. Lo que distingue a esta tecnología de los memoriales digitales anteriores es la agencia: la salida no solo muestra recuerdos, sino que los interpreta activamente.

Varias fuerzas están impulsando la adopción de estas tecnologías. Las familias desean preservar recuerdos, las instituciones culturales quieren acercar la historia a las audiencias, y las industrias del entretenimiento y los videojuegos ven nuevas posibilidades narrativas. Al mismo tiempo, las personas dejan volúmenes sin precedentes de datos digitales que la IA puede transformar en simulaciones activas.

Los expertos en psicología advierten que las interacciones simuladas pueden crear dependencia emocional o prolongar un duelo no resuelto. También existe una dimensión generacional: los usuarios más jóvenes pueden crecer experimentando representaciones digitales de personas que nunca conocieron, moldeando la memoria a través de la interpretación algorítmica en lugar de la experiencia vivida.

El tema más controvertido es el consentimiento. La mayoría de las personas cuyos semblantes son reanimados nunca acordaron tal uso. Incluso cuando las familias lo aprueban, persiste la ambigüedad ética. ¿Quién tiene derecho a decidir cómo se preserva digitalmente a una persona?

También existen riesgos de tergiversación. La IA rellena lagunas con inferencia estadística, no con verdad. Inexactitudes sutiles pueden distorsionar el legado, la personalidad o la intención. Una vez implementadas, estas simulaciones pueden persistir indefinidamente, desconectadas del contexto original.

Las leyes actuales luchan por abordar la inmortalidad digital. Las protecciones de privacidad a menudo terminan con la muerte. Las leyes de propiedad intelectual se centran en los creadores, no en las identidades. Las normas culturales aún están en formación.

Algunas jurisdicciones están comenzando a explorar los derechos de legado digital, pero la aplicación sigue siendo limitada. Sin estándares claros, las empresas definen los límites éticos por sí mismas, guiadas más por la demanda del mercado que por el consenso social.

La plataforma Xingye, en la que Roro creó el chatbot de su difunta madre, es uno de los principales motivos para las nuevas regulaciones propuestas por la Administración del Ciberespacio de China, el regulador y censor nacional de contenido de Internet, que buscan reducir el daño emocional potencial de los "servicios interactivos de IA similares a humanos".

La empresa estadounidense de "grieftech" You, Only Virtual, por ejemplo, crea un chatbot a partir de conversaciones (tanto habladas como escritas) entre el fallecido y uno de sus amigos o familiares vivos, produciendo una versión de cómo aparecían ante esa persona en particular.

Mientras algunos deathbots permanecen como representaciones estáticas de una persona en el momento de su muerte, a otros se les da acceso a internet y pueden "evolucionar" a través de conversaciones. Justin Harrison, CEO de You, Only Virtual, argumenta que no sería una versión auténtica de una persona fallecida si su IA no pudiera mantenerse al día con los tiempos y responder a nueva información.

Los expertos del MIT enfatizan que los marcos de gobernanza deben abordar los derechos de datos póstumos, la transparencia y los límites de la explotación comercial. La ausencia de regulación deja a familias, plataformas y creadores navegando decisiones profundamente personales sin reglas compartidas.

A medida que millones de personas ya han visto a familiares fallecidos parpadear, sonreír y girar la cabeza nuevamente a través de herramientas de animación de fotos impulsadas por IA, la sociedad se ve obligada a enfrentar una pregunta profunda de ética, consentimiento y memoria.

El desafío central será decidir no lo que la IA puede resucitar, sino lo que debería. El futuro de la memoria puede depender de si la dignidad, el consentimiento y la moderación evolucionan junto con la innovación.