Palm Beach propone sanciones más severas por uso de inteligencia artificial para crear deepfakes en escuelas
La propuesta contempla suspensiones, revisión disciplinaria y traslado a programas alternativos para quienes utilicen contenido generado con IA para intimidar o difamar.
PALM BEACH COUNTY, Florida. — El Distrito Escolar del Condado de Palm Beach evalúa endurecer su política disciplinaria para sancionar a los estudiantes que utilicen inteligencia artificial (IA) para crear o difundir «deepfakes» y otros contenidos digitales falsificados con el propósito de acosar, intimidar o difamar a compañeros de clase, maestros y empleados escolares.
La propuesta, presentada durante un taller de la Junta Escolar, busca incorporar explícitamente los deepfakes y otros medios sintéticos generados por inteligencia artificial dentro de la política que regula los llamados «incidentes graves» en las escuelas del distrito.
De ser aprobada, la normativa considerará como una falta grave la creación, distribución o incluso la posesión de imágenes, videos o audios alterados digitalmente que sean utilizados para hacerse pasar por otra persona o para hostigar, intimidar, difamar o perjudicar a cualquier miembro de la comunidad escolar.
Según la propuesta, cuando un director recomiende que un caso sea tratado como un incidente grave, el estudiante involucrado recibiría inicialmente una suspensión de 10 días fuera de la escuela mientras el caso es evaluado por el Comité de Revisión Disciplinaria del distrito.
Si dicho comité concluye que la conducta amerita una sanción mayor, el alumno será retirado de su escuela y reasignado a un programa educativo alternativo.
Las modificaciones aún se encuentran en fase de discusión y todavía no han sido aprobadas oficialmente por la Junta Escolar.
Keith Oswald, director de Salud y Bienestar Estudiantil del distrito, explicó que la iniciativa responde a incidentes recientes en los que estudiantes utilizaron herramientas de inteligencia artificial para perjudicar tanto a compañeros como a empleados escolares.
El deepfake consiste en modificar una fotografía o un video real mediante inteligencia artificial para hacer que una persona parezca decir o hacer algo que nunca ocurrió.
Este tipo de tecnología puede destruir reputaciones, afectar relaciones personales entre estudiantes e incluso ser utilizada para fabricar contenido falso que comprometa a maestros o administradores escolares.
Anteriormente existían detalles visuales que permitían identificar imágenes falsas, pero con las nuevas herramientas de IA esa diferencia prácticamente ha desaparecido.
Las familias deben conversar con sus hijos sobre el uso responsable de la inteligencia artificial y el contenido que crean o comparten en internet.
Los deepfakes están siendo utilizados en esquemas de sextorsión, donde delincuentes manipulan fotografías legítimas para crear imágenes falsas de contenido sexual y luego extorsionan a las víctimas con su difusión.
Los menores son especialmente vulnerables debido a la gran cantidad de fotografías e información personal que suelen publicar en redes sociales.
Para los casos en que una imagen manipulada de un menor ya esté circulando en internet, Schiller recordó que existe el servicio Take It Down, administrado por el Centro Nacional para Niños Desaparecidos y Explotados, que ayuda a solicitar la eliminación de imágenes explícitas de plataformas participantes.
La propuesta continuará siendo analizada por la Junta Escolar antes de someterse a una eventual votación.
