El deepfake escolar expone el bajo costo del delito y el monopolio estatal

La agenda

En un colegio de Villa Bosch, un grupo de alumnos creó imágenes con inteligencia artificial en las que aparecían compañeras desnudas y las distribuyó dentro del ámbito escolar. Las víctimas, menores de edad, relataron en televisión que sienten miedo de volver a clases después de haber denunciado a sus propios compañeros de curso. El caso no es aislado: la misma semana se conoció otro episodio de violencia sexual digital en un colegio secundario distinto, con el mismo patrón de edición sintética de fotos reales mediante herramientas de generación de imágenes.

El denominador común de los tres hechos es que la herramienta tecnológica —una aplicación de IA generativa de acceso público y gratuito— funcionó como amplificador de una conducta que preexiste a cualquier software: el acoso sexual entre pares dentro de la institución escolar. Lo que cambió no es la intención de dañar, sino el costo de producir el daño: generar una imagen falsa hiperrealista hoy toma minutos y no requiere ninguna destreza técnica especial. Las familias de las víctimas debieron recurrir a la denuncia pública y mediática para que el caso avanzara, lo cual ya es un dato relevante sobre la velocidad de respuesta de la estructura escolar formal.

El análisis liberal

El primer error de diagnóstico que conviene evitar es tratar esto como un problema de tecnología. La IA generativa no creó el impulso de humillar a una compañera; simplemente bajó drásticamente la barrera de entrada para ejecutarlo. Antes de estas herramientas, producir una imagen trucada convincente exigía cierto manejo de edición digital que operaba como un freno natural. Ese freno desapareció, y lo que queda expuesto es la fragilidad de los mecanismos disciplinarios y preventivos de la escuela tradicional, que no estaban diseñados para un escenario donde cualquier alumno con un teléfono puede fabricar material de abuso en segundos.

El segundo punto es el del monopolio estatal sobre la gestión del conflicto escolar. Cuando el colegio es una institución única, obligatoria y sin competencia real por parte de las familias, la capacidad de reacción frente a un hecho de esta gravedad depende enteramente de protocolos internos que, como muestran los propios relatos de las víctimas, resultaron lentos o insuficientes hasta que la presión mediática forzó una respuesta. Un sistema con mayor pluralidad institucional y mecanismos de salida más ágiles para las familias generaría incentivos distintos: la reputación de cada colegio quedaría más expuesta y más rápido a las consecuencias de una mala gestión de estos episodios, y las familias afectadas no dependerían de la exposición pública como único canal efectivo.

Esto no implica trasladar la responsabilidad penal del hecho a la escuela ni diluir la conducta individual de los alumnos involucrados, que sigue siendo lo central. Pero sí señala que la ausencia de alternativas y de competencia entre instituciones educativas reduce la presión para que cualquier colegio, público o privado, invierta en protocolos serios de prevención y respuesta ante el uso malicioso de estas herramientas.

Quién gana y quién pierde

Pierden, en primer lugar, las víctimas y sus familias, que debieron convertir un hecho gravísimo en un escándalo mediático para conseguir una reacción institucional. Pierde también la confianza general en la capacidad de la estructura escolar formal para anticipar riesgos tecnológicos que ya son de público conocimiento.

Gana, en cambio, cualquier esquema que ofrezca a las familias herramientas de salida y de control más directo sobre la gestión escolar, porque ese tipo de esquema multiplica los incentivos para que las instituciones actúen antes de que el daño se vuelva irreversible. Y gana, a mediano plazo, cualquier debate público que logre separar la discusión sobre la herramienta tecnológica de la discusión sobre el diseño institucional que permitió que la respuesta llegara tarde.