Deepfakes y vacío legal penal: qué hay detrás del escándalo del Colegio Modelo de Lomas de Zamora.
La Inteligencia Artificial sin control: el caso escolar que reaviva el debate por la violencia digital.
La inteligencia artificial (IA) nos sorprende todos los días con su potencial para el trabajo, el arte y la educación. Sin embargo, su accesibilidad también está abriendo las puertas a nuevas formas de violencia digital que afectan a los más vulnerables. El reciente y estremecedor caso ocurrido en el Colegio Modelo de Lomas de Zamora, en Buenos Aires, encendió todas las alarmas en Argentina.
Un grupo de adolescentes utilizó herramientas de IA para manipular fotografías reales de sus compañeras, crear falsos desnudos (deepfakes) y comercializarlos en internet.
A continuación, te contamos los detalles de este preocupante hecho que expone los peligros de la tecnología sin control y el debate legal al que nos enfrentamos.
Un “catálogo” de pornografía falsa
El escándalo estalló cuando las familias y los alumnos descubrieron la maniobra. Según las denuncias judiciales, al menos cuatro alumnos de tercer año de secundaria tomaban fotos públicas de las redes sociales de sus compañeras (o les sacaban fotos sin su consentimiento en los recreos).
Luego, mediante aplicaciones de edición y generación de imágenes por IA, colocaban los rostros de las menores en cuerpos desnudos o videos pornográficos. El nivel de perversión fue más allá: los jóvenes organizaron el material en una especie de “catálogo” digital que incluía los datos personales y de contacto de las chicas, y lo vendían o distribuían en grupos de WhatsApp, Telegram y páginas de contenido para adultos.
Hasta el momento, la Justicia ha identificado a cerca de 50 alumnas damnificadas, cuyas edades van desde el primer al quinto año de la secundaria.
Estallido social y la reacción del colegio
La filtración del material generó una fuerte conmoción y protestas en la puerta del establecimiento por parte de los padres y la comunidad educativa. Las familias cuestionaron duramente a las autoridades escolares, acusándolas de haber mantenido el caso bajo total hermetismo durante semanas en lugar de dar respuestas inmediatas y contener a las víctimas.
Tras la intervención de la Inspección General de Educación, se determinó que los alumnos implicados fueran apartados de las aulas de forma presencial y continúen su ciclo lectivo de manera virtual.
Allanamientos y la pista de un adulto
La causa penal está bajo la órbita de la UFI N.° 6 del Fuero de Responsabilidad Penal Juvenil de Lomas de Zamora. La policía realizó allanamientos en las viviendas de los adolescentes acusados, donde se secuestraron celulares, computadoras y dispositivos electrónicos que serán sometidos a peritajes.
Además de investigar a los menores por la presunta producción y distribución de material de abuso sexual infantil, la Justicia sigue una pista clave: se investiga a un hombre mayor de edad que habría aportado su tarjeta de crédito para pagar la suscripción de la aplicación de IA que los chicos usaron para realizar los montajes. También se investiga la figura de extorsión, dado que uno de los implicados les habría exigido dinero a sus propios compañeros para no delatarlos.
💡 ¿Y la Ley Olimpia? El rol de la legislación y sus límites en este caso
A raíz del escándalo, muchos se preguntan en las redes sociales si es posible aplicar la Ley Olimpia (Ley 27.736). La respuesta corta es sí, pero con un límite clave: sirve para proteger, pero no para penalizar con cárcel a los responsables.
En Argentina, la normativa de la Ley Olimpia incorporó formalmente la violencia digital dentro de las modalidades de violencia de género. Esto contempla de forma explícita el uso de material visual real o editado artificialmente. Gracias a esto, la Justicia cuenta con herramientas inmediatas para resguardar a las víctimas:
✔️ Remoción del material: Exigir la baja urgente de los montajes en las plataformas virtuales y sitios web donde se alojaban.
✔️ Medidas de protección: Dictar perimetrales cibernéticas o prohibiciones de contacto y hostigamiento digital por parte de los agresores hacia las alumnas.
El vacío en el Código Penal y el reclamo de la Ley Belén
El gran problema radica en que la Ley Olimpia es una norma de protección civil y de concientización, pero no fué una reforma del Código Penal. Es decir, no establece penas de prisión para quienes difunden o crean este contenido.
Por esta razón, la fiscalía no imputa a los adolescentes por la Ley Olimpia, sino que debe encuadrar el caso bajo figuras graves como la producción y distribución de material de abuso sexual infantil (al tratarse de víctimas menores de edad) y extorsión.
Pornografía infantil (Hoy llamado: Material de Abuso Sexual Infantil) por Internet u otros medios electrónicos (art. 128 C.P.) “Será reprimido con prisión de tres (3) a seis (6) años el que produjere, financiare, ofreciere, comerciare, publicare, facilitare, divulgare o distribuyere, por cualquier medio, toda representación de un menor de dieciocho (18) años dedicado a actividades sexuales explícitas o toda representación de sus partes genitales con fines predominantemente sexuales, al igual que el que organizare espectáculos en vivo de representaciones sexuales explícitas en que participaren dichos menores. Será reprimido con prisión de cuatro (4) meses a un (1) año el que a sabiendas tuviere en su poder representaciones de las descriptas en el párrafo anterior. Será reprimido con prisión de seis (6) meses a dos (2) años el que tuviere en su poder representaciones de las descriptas en el primer párrafo con fines inequívocos de distribución o comercialización. Será reprimido con prisión de un (1) mes a tres (3) años el que facilitare el acceso a espectáculos pornográficos o suministrare material pornográfico a menores de catorce (14) años. Todas las escalas penales previstas en este artículo se elevarán en un tercio en su mínimo y en su máximo cuando la víctima fuere menor de trece (13) años.”
👩⚖️ Este caso reaviva la urgencia de debatir la Ley Belén, un proyecto complementario que busca reformar de manera definitiva el Código Penal para castigar con cárcel efectiva la creación y difusión no consentida de material íntimo obtenido a través de cualquier tecnología.
El desafío del futuro: ¿Cómo seguimos?
Lamentablemente, el de Lomas de Zamora no es un hecho aislado; en distintas localidades de la provincia de Buenos Aires y otras regiones del país ya se replican denuncias similares utilizando la misma modalidad de Telegram y redes sociales.
La tecnología avanza a pasos agigantados, pero la educación digital en casa, el control en las escuelas y los marcos regulatorios de la justicia penal parecen ir corriendo muy por detrás.
💬 ¿Qué opinás sobre este caso? ¿Creés que las escuelas están preparadas para poner límites al uso de la inteligencia artificial? ¡Envíanos tu comentario por email a [email protected]!