Las adolescentes se enfrentan a una epidemia de desnudos falsos en las escuelas

Las Escuelas Públicas de Westfield celebraron una reunión ordinaria de la junta directiva a finales de marzo en la escuela secundaria local, un complejo de ladrillos rojos en Westfield, Nueva Jersey, con un marcador en el exterior dando la bienvenida con orgullo a los visitantes de la «Hogar de los Diablos Azules».

Pero a Dorota Mani las cosas no le salieron como de costumbre.

En octubre, los estudiantes de décimo grado de Westfield High School, incluida Francesca, la hija de 14 años de la Sra. Mani, alertaron a los administradores de que los niños de su clase habían utilizado software de inteligencia artificial para fabricar imágenes sexualmente explícitas de ellos y estaban haciendo circular imágenes falsas. Imágenes. Cinco meses después, dicen los Manis y otras familias, el distrito ha hecho poco para abordar públicamente las imágenes manipuladas o actualizar las políticas escolares para frustrar la explotación de la inteligencia artificial.

“Parece que la administración de Westfield High School y el distrito están participando en una clase magistral para hacer que este incidente se desvanezca en el aire”, advirtió la Sra. Mani, fundadora de una escuela preescolar local, a los miembros de la junta durante el encuentro.

En un comunicado, el distrito escolar dijo que abrió una “investigación inmediata” al enterarse del incidente, notificó y consultó inmediatamente a la policía y brindó asesoramiento grupal a la clase de segundo año.

“Todos los distritos escolares están lidiando con los desafíos y los impactos de la inteligencia artificial y otras tecnologías disponibles para los estudiantes en cualquier momento y lugar”, dijo en el comunicado Raymond González, superintendente de las Escuelas Públicas de Westfield.

Tomadas por sorpresa el año pasado por la repentina popularidad de los chatbots impulsados ​​por inteligencia artificial como ChatGPT, las escuelas de todo Estados Unidos se apresuraron a contener robots generadores de texto en un esfuerzo por evitar que los estudiantes hicieran trampa. Ahora, un fenómeno aún más alarmante relacionado con la generación de imágenes mediante inteligencia artificial está sacudiendo las escuelas.

Los niños de varios estados han utilizado aplicaciones de “nudificación” ampliamente disponibles para transformar fotografías reales e identificables de sus compañeros de clase vestidos, asistiendo a eventos como bailes escolares, en imágenes gráficas y convincentes de las niñas con los senos y genitales expuestos, generadas por inteligencia artificial. En algunos casos, según informes escolares y policiales, los niños compartieron imágenes falsas en la cafetería de la escuela, en el autobús escolar o mediante chats grupales en plataformas como Snapchat e Instagram.

Estas imágenes alteradas digitalmente, conocidas como “deepfakes” o “deepnudes”, pueden tener consecuencias devastadoras. Los expertos en explotación sexual infantil dicen que el uso de imágenes no consensuadas generadas por IA para acosar, humillar y abusar de mujeres jóvenes puede dañar su salud mental, su reputación y su seguridad física, además de plantear riesgos para sus perspectivas universitarias y profesionales. El mes pasado, la Oficina Federal de Investigaciones advirtió que es ilegal distribuir pornografía infantil generada por computadora, incluidas imágenes realistas generadas por inteligencia artificial de menores identificables involucrados en conductas sexualmente explícitas.

Sin embargo, el uso de aplicaciones de inteligencia artificial en las escuelas por parte de los estudiantes es tan nuevo que algunos distritos parecen menos preparados que otros para abordarlo. Esto puede hacer que la protección de los estudiantes sea precaria.

«Este fenómeno ocurrió repentinamente y podría tomar a muchos distritos escolares desprevenidos y sin saber qué hacer», dijo Riana Pfefferkorn, investigadora del Observatorio de Internet de Stanford que escribe sobre cuestiones legales relacionadas con las relaciones sexuales con niños engendrados por computadora. Imágenes de abuso.

En la escuela secundaria Issaquah, cerca de Seattle, el otoño pasado, un detective de la policía que investigaba quejas de padres sobre imágenes explícitas generadas por IA de sus hijas de 14 y 15 años preguntó a un subdirector por qué la escuela no había informado del incidente a la policía, según un informe del Departamento de Policía de Issaquah. Luego, el funcionario escolar preguntó “qué debía denunciar”, afirma el documento policial, lo que llevó al detective a informarle que las escuelas están obligadas por ley a denunciar abusos sexuales, incluida la posible pornografía infantil. Posteriormente, la escuela informó del incidente a los Servicios de Protección Infantil, según el informe policial. (El New York Times obtuvo el informe policial a través de una solicitud de registros públicos).

En un comunicado, el distrito escolar de Issaquah dijo que habló con estudiantes, familias y policía como parte de su investigación sobre los deepfakes. El distrito también “compartió nuestra empatía”, según el comunicado, y brindó apoyo a los estudiantes afectados.

El comunicado agregó que el distrito había reportado «imágenes falsas generadas por IA a los Servicios de Protección Infantil por precaución», y señaló que «según nuestro equipo legal, no estamos obligados a reportar imágenes falsas a la policía».

En la escuela secundaria Beverly Vista en Beverly Hills, California, los administradores contactaron a la policía en febrero después de enterarse de que cinco niños habían creado y compartido imágenes explícitas de sus compañeros de clase generadas por IA. Dos semanas después, la junta escolar aprobó la expulsión de cinco estudiantes, según documentos del distrito. (El distrito dijo que el código de educación de California le prohibía confirmar si los estudiantes expulsados ​​eran los estudiantes que habían producido las imágenes).

Michael Bregy, superintendente del Distrito Escolar Unificado de Beverly Hills, dijo que él y otros líderes escolares quieren sentar un precedente nacional de que las escuelas no deben permitir que los alumnos creen y difundan imágenes sexualmente explícitas de sus compañeros.

«Esto es un acoso extremo cuando se trata de escuelas», dijo el Dr. Bregy, señalando que las imágenes explícitas eran «perturbadoras y violentas» para las niñas y sus familias. «Es algo que aquí no toleraremos en absoluto».

Las escuelas de las comunidades pequeñas y prósperas de Beverly Hills y Westfield estuvieron entre las primeras en reconocer públicamente los incidentes de deepfake. Los detalles de los casos – descritos en las comunicaciones del distrito con los padres, reuniones de la junta escolar, audiencias legislativas y documentos judiciales – ilustran la variabilidad en las respuestas de las escuelas.

El incidente de Westfield comenzó el verano pasado cuando un estudiante de secundaria pidió ser amigo en Instagram de un compañero de clase de 15 años que tenía una cuenta privada, según una demanda presentada por el adolescente contra el niño y sus padres y su familia. (Los Manis dijeron que no estaban involucrados en la demanda).

Después de aceptar la solicitud, la estudiante copió fotos de ella y de varios otros compañeros de sus cuentas de redes sociales, según documentos judiciales. Luego utilizó una aplicación de inteligencia artificial para fabricar imágenes sexualmente explícitas y «totalmente identificables» de las niñas y las compartió con sus compañeros de clase a través de un grupo de Snapchat, según documentos judiciales.

Westfield High comenzó a investigar a finales de octubre. Mientras los administradores discretamente llevaban a algunos de los niños aparte para interrogarlos, dijo Francesca Mani, la llamaron a ella y a otras niñas de décimo grado que habían sido sometidas a deepfakes a la oficina de la escuela y anunciaron sus nombres por el intercomunicador de la escuela.

Esa semana, Mary Asfendis, directora de Westfield High, envió un correo electrónico a los padres alertándolos sobre «una situación que había dado lugar a una desinformación generalizada». El correo electrónico continuaba describiendo los deepfakes como un «incidente muy grave». También afirma que a pesar de las preocupaciones de los estudiantes sobre el posible intercambio de imágenes, la escuela cree que «todas las imágenes creadas han sido eliminadas y no se están difundiendo».

Dorota Mani dijo que los administradores de Westfield le dijeron que el distrito había suspendido al estudiante acusado de fabricar las imágenes durante uno o dos días.

Poco después, ella y su hija comenzaron a hablar públicamente sobre el incidente, instando a los distritos escolares, a los legisladores estatales y al Congreso a promulgar leyes y políticas que prohíban específicamente los deepfakes explícitos.

«Necesitamos empezar a actualizar nuestra política escolar», dijo Francesca Mani, que ahora tiene 15 años, en una entrevista reciente. «Porque si la escuela hubiera adoptado políticas de IA, los estudiantes como yo habrían estado protegidos».

Los padres, incluida Dorota Mani, también presentaron denuncias de acoso en Westfield High el otoño pasado debido a las imágenes explícitas. Sin embargo, durante la reunión de marzo, Mani dijo a los miembros de la junta escolar que la escuela secundaria aún no había proporcionado a los padres un informe oficial sobre el incidente.

Las Escuelas Públicas de Westfield dijeron que no podían comentar sobre ninguna acción disciplinaria debido a razones de confidencialidad de los estudiantes. En un comunicado, el Dr. González, el superintendente, dijo que el distrito está fortaleciendo sus esfuerzos “educando a nuestros estudiantes y estableciendo pautas claras para garantizar que estas nuevas tecnologías se utilicen de manera responsable”.

Las escuelas de Beverly Hills han adoptado una postura pública más firme.

Cuando los administradores se enteraron en febrero de que los estudiantes de octavo grado de la escuela secundaria Beverly Vista habían creado imágenes explícitas de sus compañeros de clase de 12 y 13 años, rápidamente enviaron un mensaje (asunto: “Espantoso uso indebido de la inteligencia artificial”) a todo el distrito. padres, personal y estudiantes de secundaria y preparatoria. El mensaje insta a los miembros de la comunidad a compartir información con la escuela para garantizar que el uso «perturbador e inapropiado» de la IA por parte de los estudiantes «cese inmediatamente».

También advirtió que el distrito está dispuesto a imponer castigos severos. «Cualquier estudiante que esté creando, difundiendo o poseyendo tales imágenes generadas por IA se enfrentará a medidas disciplinarias», incluida una recomendación de expulsión, decía el mensaje.

El Dr. Bregy, el superintendente, dijo que las escuelas y los legisladores deben actuar rápidamente porque el abuso de la inteligencia artificial está haciendo que los estudiantes se sientan inseguros en las escuelas.

«Escuchamos mucho sobre la seguridad física en las escuelas», dijo. «Pero lo que no se oye es esta invasión de la seguridad personal y emocional de los estudiantes».