ChatGPT: ‘La IA puede ser entrenada para crear noticias falsas o escribir textos misóginos’

miércoles, febrero 15, 2023

Para entrenar el sistema se han utilizado en total 500 mil millones de palabras, extraídas de textos de la web, Wikipedia y varias colecciones de libros en abierto

Tiempo de lectura: 3 minutos

 

Hace un par de semanas atrás las redes sociales presentaban a ChatGPT como una nueva implementación de la Inteligencia Artificial que dejaba a todos deslumbrados con la forma tan natural y sencilla de comunicarnos por medio de texto con software que podía reconocer fácilmente nuestras solicitudes y darnos respuestas similares a las que nos daría cualquier ser humano; el portal web Xakata la define como: “uno de los sistemas de IA más capaces que hemos probado en los últimos tiempos, capaz de responder a cualquier cosa que le pidas, y de hacer muchas cosas que le solicites”

Pero; ¿es realmente ChatGPT algo revolucionario?

Desde el punto de vista técnico se trata de una inteligencia artificial que está entrenada para mantener conversaciones, de manera que solo tienes que hacerle preguntas de manera convencional y las entenderá; pero hasta aquí no hay nada nuevo. Lo realmente revolucionario es cómo se usó el algoritmo GPT-3, el mismo que se basa en ‘deep learning’ (aprendizaje profundo) que tiene 96 capas y 175 mil millones de parámetros. Es decir 1.000 veces más que modelos previos como BERT (un modelo especializado en tareas de procesamiento de lenguaje natural que cuenta con 110 millones de parámetros).

César de Pablo, científico de datos en BBVA Data & Analytics en el medio digital de BBVA cuenta que para entrenar el sistema se han utilizado en total 500 mil millones de palabras, extraídas de textos de la web, Wikipedia y varias colecciones de libros en abierto. Y también menciona que la forma de entrenamiento empleada se conoce como auto-supervisada, “puesto que son algoritmos que tratan de predecir la siguiente palabra, cualquier texto escrito por una persona nos sirve para entrenarlos” y es aquí donde entramos al término “sesgo”. En el caso de los modelos de lenguaje, el problema es que el algoritmo aprende de aquello que lee y por tanto, si lo entrenas a partir de un texto obtenido de la web, pueden colarse “sesgos” de género o racistas por ejemplo. Esto es realmente un problema debido a que la IA puede aprender o ser entrenada con información errónea para crear noticias falsas o empezar a escribir textos misóginos en redes sociales feministas con el fin de generar caos.

La principal virtud de ChatGPT no es la “naturalidad” con la que nos responde sino más bien el control que tiene para no aprender cosas fuera del objetivo para el cual fue creado; este avance se logró gracias a la empresa OpenAI quien fue fundada por varios expertos en tecnología e inversionistas entre los que se destaca Elon Musk y Sam Altman, además de tener colaboración del gigante de la nube Amazon Web Services.

Un ejemplo extraordinario de lo que puede llegar a lograrse con la IA que se basa en ‘deep learning’ es el presentado por Google en el año 2018 en su conferencia para desarrolladores. Durante la sesión el asistente de Google recibió la instrucción de hacer una reservación para un corte de cabello a las 12:00 am; el asistente marcó telefónicamente a la peluquería, conversó por teléfono con un ser humano y coordino con él la cita, incluso negoció un cambio de hora. Pueden ver la sesión de Google en el siguiente enlace https://www.youtube.com/watch?v=l9BTMWOupGM

La IA llegó para ayudarnos en todos los aspectos de nuestra vida, pero también puede ser usada para complicarnos nuestra existencia, ejemplos como ChatGPT nos demuestran que la tecnología puede ser controlada, pero estamos en una etapa muy temprana como para llegar a una conclusión final sobre esto.