En una noche escolar de principios de diciembre, un estudiante de primer año de la escuela secundaria Radnor en Pennsylvania escribía mensajes de Snapchat a sus amigos diciéndoles que sus padres le habían quitado el teléfono. Cuando le preguntaron cómo había conseguido las imágenes, respondió: “la aplicación”.

El joven gastó 250 dólares en una suscripción a la aplicación Movely, disponible en la App Store de Apple, y supuestamente la usó para colocar los rostros de cinco de sus compañeros de clase femenina en cuerpos desnudos y crear imágenes sexuales abusivas.

A pesar de la gravedad de lo ocurrido, la administración de Radnor falló a los estudiantes en los días y semanas posteriores a enterarse del abuso, según padres de familia que hablaron con 404 Media y correos electrónicos obtenidos por el medio. Los administradores no notificaron inmediatamente a las autoridades.

El caso sirve como estudio sobre cómo las escuelas y la policía en Estados Unidos están lidiando con los crímenes de deepfake que involucran a menores. Apple ha sido criticada por no implementar controles más estrictos sobre las aplicaciones que pueden generar contenido de abuso sexual de menores basado en inteligencia artificial.