“¡Hola! Soy Sof+IA”, comienza el diálogo. “Estoy aquí para ofrecer apoyo y orientación a mujeres que enfrentan acoso digital”, continúa.
“Puedo ayudarte a entender cómo hacer una denuncia, ya sea de manera presencial o en línea, y también puedo ofrecerte recomendaciones de autocuidado digital, para que puedas seguir utilizando tus redes sociales de manera segura”, ofrece la interlocutora.
Ella es una chatbot (programa informático capaz de mantener una conversación en tiempo real), y para más datos, feminista. Y su nombre es el acrónimo de “Sistema de Oída Feminista + Inteligencia Artificial”.(Aquí se puede cliquear para dialogar con Sof+IA).
¿Su objetivo? Brindar apoyo y orientación a las víctimas de la “violencia de género facilitada por la tecnología”, concepto que incluye abusos como acoso, hostigamiento, intercambio no consentido de imágenes íntimas y hasta amenazas de muerte.
Veamos su funcionamiento. A la consulta sobre qué hacer ante comentarios agresivos recibidos en las redes, responde: “Lamento mucho que estés enfrentando agresiones en línea por compartir tus ideas. Aquí te dejo algunas recomendaciones: No respondas a las agresiones, utiliza las herramientas de las plataformas para bloquear a quienes te agreden y reportar sus comentarios, ajusta la privacidad de tu cuenta, toma capturas de pantalla de los mensajes agresivos, habla con amigas o personas de confianza sobre lo que estás viviendo. Y recuerda que lo que estás haciendo al alzar tu voz es importante y valioso”, indica rauda y concisa Sof+IA.
“Se trata de un prototipo de IA generativa feminista”, puntualiza en entrevista con DW Patricia Peña, directora de la Fundación chilena Datos Protegidos, creadora de la iniciativa junto al Observatorio de Estadísticas de Género e Interseccionalidades de Chile (ODEGI). “A diferencia de otros modelos conocidos, como ChatGPT, por ejemplo”, diferencia.
“La innovación detrás de SOF+IA no se limita a su funcionalidad técnica, es una manifestación de principios feministas sólidos, fusionando ética y tecnología y situando las necesidades y experiencias de las mujeres en el centro del diseño”, explican en su presentación oficial.
“Surge en la intersección entre la tecnología y la justicia social”, suma, asimismo, Peña desde la capital chilena. “A diferencia de otros modelos conocidos, como ChatGPT, por ejemplo”, diferencia.
“Las tecnologías basadas en IA no son, en absoluto, neutras”, afirma la científica Genoveva Vargas-Solar.Imagen: Klaus Ohlenschläger/picture alliance
El contexto es contundente: “La violencia de género es cada vez más frecuente en línea”, aseguran desde el Centro Internacional de Investigaciones para el Desarrollo (IDRC), ente financiador del proyecto junto con la Red Feminista de Investigación en IA (FAIR).
“Una encuesta en 18 países dirigida por el Centro para la Gobernanza Internacional encontró que aproximadamente 6 de cada 10 mujeres, así como comunidades transgénero y no binarias, han experimentado este tipo de violencia”, indican.
¿Es neutral la IA?
Ahora bien, ¿por qué la necesidad de iniciativas de IA de carácter feminista? ¿La inteligencia artificial no es, acaso, neutra y objetiva, como tan profusamente se cree?
“Las tecnologías basadas en IA que utilizamos hoy en día son producidas, en su mayoría, en países industrializados, y son propiedad de corporaciones de hombres blancos y poderosos”, sostiene al respecto Paola Ricaurte Quijano, investigadora titular del Departamento de Medios y Cultura Digital del Tecnológico de Monterrey en diálogo con este medio.
“Por tanto, estas tecnologías benefician principalmente a esas corporaciones y países, permitiéndoles acumular riqueza, conocimiento, datos y poder”, explica la experta. “Estas tecnologías no son, en absoluto, neutras”, concluye la también investigadora del Centro Berkman Klein de la Universidad de Harvard, dedicado a “explorar y entender el ciberespacio”.
“El estudio de fenómenos basado en datos y algoritmos es intrínsecamente parcial”, define, por su parte, la experta mexicana Genoveva Vargas-Solar. “Lo que no reduce su valor, pero sí subraya la necesidad de cuestionar las conclusiones basadas en ellos”, completa la científica principal del Consejo Francés para la Ciencia y la Investigación.
“Por ejemplo, si una investigación con IA sobre un fármaco ignora la diversidad de género, no se conocerán sus efectos en poblaciones no incluidas”, indica en entrevista con DW.
Nada casual, sostiene Ricaurte Quijano: “La inteligencia artificial es sexista porque opera dentro de las mismas estructuras sociales que generan y mantienen las prácticas discriminatorias hacia el género y la diversidad sexual”, explica. “La IA reproduce y amplifica los problemas de discriminación histórica”, asegura.
¿IA feminista?
Así las cosas, la propuesta es andar otro camino: “Existe una IA feminista que milita por algoritmos inclusivos, recolección y uso de datos que no excluyan a diferentes grupos, buscando abrir espacios que beneficien a las mujeres y sus comunidades”, plantea la académica Vargas-Solar.
“Al centrarse en principios feministas, cuestionando quién puede poseer, desarrollar y usar la IA, así como entenderla como un asunto de poder, la inteligencia artificial puede pensarse en otros términos, de manera que las comunidades tengan más herramientas para acceder a la justicia social, al conocimiento, a los medios de producción, y desafíen las estructuras desiguales y las asimetrías existentes”, propone, en tanto, Ricaurte Quijano.
Y así, enmarcada en esta visión, la chatbot Sof+IA seguirá asesorando 24/7 a las víctimas de violencia digital, y les repetirá cada vez: “Recuerda que lo que estás viviendo NO es tu culpa y tienes derecho a protegerte. Si necesitas más información sobre cómo denunciar o sobre autocuidado digital, aquí estoy para ayudarte. ¡Cuídate mucho!”.(ms)