Desafíos éticos y regulatorios de la nigromancia digital en la era de la Inteligencia Artificial Generativa

sábado, febrero 10, 2024

La inteligencia artificial ha desencadenado lo que se denomina «nigromancia digital»: una práctica que evoca a los difuntos, a través de sus huellas digitales dejadas en vida. Este fenómeno incluye potentes procesadores de lenguaje y creadores de imágenes y videos. Ello, ha desatado debates éticos y morales a nivel mundial. Un experto habla del tema.

Tiempo de lectura: 3 minutos

 

En el episodio “Be Right Back” de la popular serie “Black Mirror” (Netflix, 2013), Martha descubre un servicio que utiliza Inteligencia Artificial (IA) para recrear a su novio fallecido, Ash, basándose en su actividad en redes sociales. A medida que interactúa con esta versión digital de Ash, encontrando al principio consuelo, Martha lucha con las complejidades emocionales de la situación. El episodio explora temas de duelo, pérdida y las consecuencias de utilizar la tecnología para recrear y comunicarse con representaciones digitales de seres queridos fallecidos. En última instancia, “Be Right Back” reflexiona sobre la autenticidad de las conexiones humanas, los posibles peligros de depender de la tecnología para enfrentar los desafíos emocionales de perder a un ser querido y la verdadera esencia del individuo que ha fallecido.

Diez años después de que ese episodio saliera al aire, la tecnología para crear estas réplicas digitales está (en parte) aquí gracias a la IA. La IA ha sido utilizada para extraer la voz de John Lennon de una antigua grabación, generando cientos de reacciones emotivas entre sus fanáticos con su reciente tema “Now and Then”. Yendo un paso más allá de restaurar viejas grabaciones, la IA es capaz hoy de crear, a través de la llamada IA generativa. La IA generativa se popularizó con ChatGPT, pero lo cierto es que ha estado con nosotros durante algunos años, especialmente a través de los llamados deepfakes.

De hecho, empresas como HereAfter AI o Replika están explorando la idea de ofrecer una recreación digital de personas fallecidas, ya sean amigos, celebridades o personajes ficticios. Esta práctica se conoce como nigromancia digital, que es el uso de tecnologías como IA y robótica para recrear o simular la presencia de una persona fallecida a través de representaciones digitales de su personalidad.

Es importante señalar que las opiniones sobre la nigromancia digital pueden variar ampliamente según valores éticos, culturales y personales. Por un lado, de acuerdo a sociólogos de la Universidad de Liverpool, la práctica de interactuar con representaciones digitales de personas fallecidas no representa un cambio drástico en nuestras prácticas existentes de duelo, recuerdo y conmemoración. Los expertos destacan que las conexiones con los difuntos a través de textos, imágenes y artefactos son prácticas comunes a lo largo del tiempo y que la evolución hacia la recreación digital simplemente se integra con estas formas tradicionales.

Por otro lado, como toda tecnología, la nigromancia digital podría dar lugar a la adicción y, eventualmente, acarrear desórdenes mentales. Además, tecnologías emergentes como el metaverso, la realidad virtual, aumentada y mixta tienen el potencial de cambiar drásticamente el panorama de la nigromancia digital. Por tanto, es necesario más estudios formales a cerca de las implicaciones a largo plazo de la interacción humana con representaciones digitales de seres queridos fallecidos, ya que estas innovaciones tecnológicas continúan evolucionando rápidamente.

Más allá de las implicaciones en la salud mental, la nigromancia digital plantea debates éticos y de privacidad de gran alcance que no son nuevos, abriendo diversas aristas que requieren reflexión y regulación.

El concepto del “derecho al olvido”, ampliamente difundido en las políticas de privacidad de la Unión Europea, surge como un primer punto de consideración. Este derecho plantea interrogantes sobre la forma en que los datos de una persona fallecida deben ser tratados, respetando su privacidad incluso después de su muerte. En este contexto, empresas como Google ya ofrecen opciones para la eliminación completa de nuestros datos después de fallecer.

Desde la perspectiva de la comercialización, es esencial abordar la cuestión de cuál es la frontera ética en el uso de los datos de una persona fallecida. La discusión se centra en el derecho de la persona a decidir cómo se utilizan sus datos, incluso en el más allá, y si deben estar sujetos a propósitos comerciales sin su consentimiento en vida.

Otro desafío ético radica en la capacidad de estos modelos para reflejar adecuadamente la complejidad de un ser humano a partir de fotografías, interacciones en redes sociales, y otras posibles fuentes de datos. ¿Hasta qué punto estos modelos capturan la esencia y la autenticidad de la persona fallecida? Este aspecto está directamente vinculado al legado digital que dejamos, planteando preguntas sobre la preservación y representación precisa de nuestra identidad después de la muerte.

En conclusión, el fenómeno de la nigromancia digital destaca la urgente necesidad de una regulación más amplia en el campo de la inteligencia artificial. La creación de réplicas digitales de seres queridos fallecidos plantea cuestiones éticas, legales y de privacidad que requieren una atención cuidadosa. La discusión sobre el “derecho al olvido”, la comercialización de datos post mortem y los posibles impactos en la salud mental subrayan la importancia de establecer límites claros y éticos en el desarrollo y uso de estas tecnologías. Así, el debate en torno de la ética en la IA se convierte en un imperativo donde acciones regulatorias son esenciales para salvaguardar la dignidad, privacidad y bienestar de las personas, tanto en vida como más allá de ella.