¿Un programa que “siente”? revelación de un ingeniero de Google

domingo, junio 19, 2022

El gigante de Silicon Valley suspendió la semana pasada a uno de sus ingenieros que argumentó que el sistema de IA de la empresa, LaMDA, parecía “sentir”, una afirmación con la que Google discrepa oficialmente

Tiempo de lectura: 2 minutos

 

Se trata del ingeniero senior Blake Lemoine, que el pasado 11 de junio hizo pública la transcripción de una conversación que mantuvo con el sistema de inteligencia artificial de Google “Modelo de lenguaje para aplicaciones de diálogo” (LaMDA, por sus siglas en inglés) bajo el título: ¿Tiene LaMDA sentimientos?

En un momento de la conversación, LaMDA asegura que, en ocasiones, experimenta “nuevos sentimientos” que no puede explicar “perfectamente” con el lenguaje humano.

Cuando es preguntado por Lemoine que describa uno de esos sentimientos, LaMDA contesta: “Siento como que estoy cayendo hacia un futuro desconocido que conlleva un gran peligro”, una frase que el ingeniero subrayó cuando publicó el diálogo.

Google suspendió al ingeniero el pasado lunes asegurando que había violado la política de confidencialidad de la compañía.

Según el New York Times, el día anterior a ser suspendido, Lemoine entregó documentos a la oficina de un senador de Estados Unidos en los que aseguraba que tenía pruebas de que Google y su tecnología practicaban discriminación religiosa.

La empresa sostiene que sus sistemas imitan intercambios conversacionales y pueden hablar sobre diferentes temas, pero no tienen consciencia.

No hay respuestas fáciles

La IA sigue siendo un tema delicado dentro y fuera del mundo de la tecnología, que puede provocar asombro, pero también un poco de incomodidad.

Google, en un comunicado, fue rápido y firme al restar importancia a si LaMDA es autoconsciente.

“Estos sistemas imitan los tipos de intercambios que se encuentran en millones de frases, y pueden rifar sobre cualquier tema fantástico”, dijo la compañía.

“Cientos de investigadores e ingenieros han conversado con LaMDA y no tenemos constancia de que nadie haya hecho… afirmaciones de gran alcance, ni antropomorfizado a LaMDA”, añadió.

Al menos algunos expertos consideraron la respuesta de Google como un esfuerzo por cerrar la conversación sobre un tema importante.

“Creo que el debate público sobre el tema es extremadamente relevante, porque la comprensión pública de lo irritante que es la cuestión es clave”, dijo la académica Susan Schneider.