Hablar con los seres queridos que han muerto, el nuevo peligro de la IA

Uno de los usos más inquietantes que algunas compañías le están dando a la inteligencia artificial generativa es la aplicación de esa tecnología para producir clones digitales de personas que han fallecido.

La apuesta de las empresas es ofrecer el servicio que permita “comunicarse” con los muertos mediante la generación de chatbots inteligentes (Deadbots) que imitan la apariencia, el tono de voz y los estilos de expresión de alguien que falleció.

De esa manera, una persona puede pagar por la posibilidad de tener un contacto virtual con un ser querido que ya no está en este mundo.

Pese a que algunas voces han manifestado que este servicio puede ayudar a las personas que tienen una conversación pendiente con un fallecido, otros especialistas consideran que el uso de la inteligencia artificial para crear clones digitales de personas muertas abre la puerta a un escenario peligroso para los usuarios.

En el marco de este debate, académicos han advertido que algunas compañías ya están ofreciendo un servicio pensado para que la gente tenga un contacto permanente con los muertos, una especie de presencia post mortem.

Expertos advierten que la posibilidad de mantener conversaciones de texto, voz o videollamadas con seres queridos que han fallecido puede causar un daño psicológico en las personas.

Por otra parte, especialistas en ética de la IA del Centro Leverhulme para el Futuro de la Inteligencia de Cambridge indican que en el momento en que un usuario decida terminar con el servicio, las compañías podrían usar los clones digitales de sus seres queridos para manipular a los clientes y así mantenerlos aferrados a su producto.

Otros especialistas indican que las empresas también podrían usar los avatares digitales de personas fallecidas como un recurso para promocionar o vender otro tipo de productos o servicios a los usuarios.

Advierten que en un futuro cercano sería que el usuario empiece a recibir anuncios publicitarios que usan la voz o la imagen de la persona fallecida para sugerir que se pida comida a domicilio de cierto restaurante, ver una película o comprar un objeto en específico.

Los expertos señalan que debido a la estrecha interacción que el usuario tendría con el deadbot de su ser querido, las marcas obtendrían fácilmente información de valor para comprender que tipo de productos o servicios le interesa consumir a su usuario.

Con esos datos, las compañías fácilmente podrían manipular el avatar digital creado por ellas y usarlo como un medio publicitario.

Finalmente, expertos en ciberseguridad advierten que la producción de clones digitales de personas fallecidas también genera un escenario en donde los cibercriminales pueden usar la inteligencia artificial generativa para estafar a las personas.

Los delincuentes pueden robar la voz junto a la apariencia de alguien y luego usar la IA para potenciar sus técnicas de ingeniería social para así crear un engaño altamente creíble.

¿Cómo se usa la IA para generar clones digitales de los muertos?

Actualmente, hay empresas en Europa que cobran una tarifa por el servicio de generar un espacio en donde los clientes pueden tener una última conversación con un ser querido que ha fallecido.

Para ello es necesario que el usuario suministre varios audios con la voz de esa persona que murió, pues ese es el principal insumo que utiliza la inteligencia artificial generativa para analizar la voz, el tono y el manejo de lenguaje y así producir el avatar digital creíble.

Posteriormente, los clientes son llevados a una sala blanca en donde escuchan un saludo de su ser querido y a partir de ese punto tendrán la oportunidad de sostener una conversación con la IA que está suplantando a la persona que falleció.