En un colegio de Quito, adolescentes de primero de Bachillerato realizaron, a través de Inteligencia Artificial (AI), aproximadamente 700 videos de contenido sexual y erótico, tomando fotos de sus compañeras. La denuncia la hizo Sybel Martínez, directora del grupo Rescate Escolar (fundación dedicada a la prevención y atención de violencia en contra de niños y adolescentes).
Martínez señala que los adolescentes fueron retirados por voluntad propia de la institución. «El DECE se ha quedado con uno de los celulares de los chicos (son dos) pero hasta ayer ninguna denuncia, ninguna respuesta a los padres de las estudiantes».
Christian Espinoza, máster en IA generativa, señala que los montajes sexuales con IA son comunes y hay casos registrados en otros país. «Lo ocurrido en Quito debe ser tomado como una OPORTUNIDAD para que las autoridades del colegio se abanderen en la PREVENCIÓN de futuros casos en Ecuador /Latam: sancionen con todo el peso que la ley lo permita, marquen ANTECEDENTES, convoquen a foros», señaló.
El Ministerio de Educación no ha hecho un pronunciamiento puntual sobre el caso, pero emitió un comunicado sobre los protocolos en caso de violencia digital.
Christian Espinoza, máster en IA generativa, señala que los montajes sexuales con IA son comunes y hay casos registrados en otros país. «Lo ocurrido en Quito debe ser tomado como una OPORTUNIDAD para que las autoridades del colegio se abanderen en la PREVENCIÓN de futuros casos en Ecuador /Latam: sancionen con todo el peso que la ley lo permita, marquen ANTECEDENTES, convoquen a foros», señaló.
¡Qué nos pasa 😧!
Había visto antes con estupor los casos de falsos “Packs” -fotos íntimas fake – manipulados para ciberacoso
Pero ahora empieza la bajeza de casos generados con IA
Y han caído aún más bajo: chicos de colegio vendiendo ese material https://t.co/xasgf8ub3b
— 🟣 Christian Espinosa Baquero (@coberdigital) September 4, 2023
El Ministerio de Educación no ha hecho un pronunciamiento puntual sobre el caso, pero emitió un comunicado sobre los protocolos en caso de violencia digital.
[COMUNICADO] Contamos con el “Protocolo de actuación frente a situaciones de violencia digital detectadas en el Sistema Nacional de Educación”, una herramienta de apoyo que establece lineamientos, con el fin de garantizar la prevención, detección, intervención, derivación,… pic.twitter.com/vuciAa20RB
— Ministerio de Educación del Ecuador (@Educacion_Ec) October 5, 2023