La pornographie Deepfake AI est de plus en plus courante – que peuvent faire les parents et les écoles pour l’empêcher ?
Une communauté scolaire victorienne est sous le choc après que de fausses images sexuellement explicites d’étudiantes aient été générées à l’aide de l’intelligence artificielle, puis partagées sur les réseaux sociaux.
Une cinquantaine d’élèves du secondaire de Bacchus Marsh Grammar ont vu leurs images modifiées. Un adolescent a été arrêté et relâché dans l'attente d'une enquête plus approfondie. Les parents ont décrit les images comme « incroyablement graphiques » et « écoeurantes ».
Malheureusement, ce n'est pas un cas isolé. Le mois dernier, un lycéen de Victoria a été expulsé après avoir utilisé l'IA pour générer des images sexuellement explicites d'un enseignant. Cela survient au milieu d’avertissements selon lesquels l’IA entraîne une augmentation des rapports de sextorsion.
Il fait également suite à plusieurs cas où des étudiants de sexe masculin ont utilisé un langage misogyne et désobligeant à l'égard de leurs camarades féminines, y compris une feuille de calcul pour classer les étudiants de « femme » à « inviolable ».
Nos recherches montrent qu'il n'est pas rare que les jeunes harcèlent et abusent de leurs pairs. Alors, comment les parents et les écoles peuvent-ils réagir ?
Ce n'est pas parce que c'est de l'IA que tout va bien
Partager des images sexuellement explicites d’enfants (de moins de 18 ans) et les partager sans consentement (quel que soit l’âge d’une personne) constitue un abus fondé sur l’image – même si l’IA a été utilisée ou si les images ont été modifiées d’une manière ou d’une autre.
Comme l'explique le commissaire à la sécurité électronique, il s'agit toujours d'un abus si l'image ou la vidéo est :
modifié ou truqué pour vous ressembler [or] partagé d'une manière qui fait croire aux gens que c'est vous, même si ce n'est pas le cas (comme une photo nue de quelqu'un d'autre étiquetée avec votre nom).
Comme l'explique également le commissaire, il existe des lois pénales qui couvrent ces abus et la police pourrait être en mesure d'enquêter. La semaine dernière, le gouvernement fédéral a également présenté de nouvelles lois au Parlement pour renforcer les protections contre les « deepfakes » (utilisant l’IA pour générer une fausse représentation d’une personne réelle).
Mais au-delà des questions juridiques, ces abus sont également très préjudiciables et angoissants pour les personnes impliquées.
Une enquête menée en 2023 par l'Observatoire Internet de Stanford a révélé que certains modèles d'IA utilisent une base de données de matériels d'abus sexuels sur enfants existants pour générer de nouvelles images. Cela signifie que de vrais enfants sont exploités pour générer des images sexuellement explicites d’un plus grand nombre d’enfants.
Que dit la recherche ?
La recherche montre clairement que les abus et le harcèlement sexuels sont une question de genre. Les femmes, les filles et les personnes de diverses identités de genre sont touchées de manière disproportionnée. Et les hommes et les garçons sont largement plus susceptibles de commettre ces crimes.
L'étude australienne sur la maltraitance des enfants a révélé que les adolescents constituent également une proportion importante des auteurs d'abus sexuels et de harcèlement sexuel sur des enfants. Les résultats, collectés en 2021, ont également montré que ce chiffre avait augmenté au fil du temps.
Dans l’ensemble, 18,2 % des participants âgés de 16 à 24 ans ont déclaré avoir été abusés sexuellement par un adolescent au cours de leur enfance, contre 12,1 % des participants âgés de 45 ans et plus.
Plus de 15 % des femmes et 24 % des participants de divers genres âgés de 16 ans et plus ont déclaré avoir été harcelés sexuellement par un adolescent pendant leur enfance, contre 5 % des hommes.
Pour plus de 90 % des personnes victimes de harcèlement sexuel par leurs pairs, celui-ci a été infligé par un pair masculin.
Pourquoi cela arrive-t-il?
Comme l'indiquent nos recherches, nous sommes confrontés à un problème culturel lié à la violence sexiste en Australie.
La facilité d’accès à la pornographie et aux technologies telles que l’IA ont probablement aggravé ce problème. L'exposition à la pornographie, y compris aux contenus violents, se produit dès le plus jeune âge. Une étude australienne de 2024 a montré que plus de 52 % des hommes et 32 % des femmes avaient déclaré avoir regardé de la pornographie avant l'âge de 14 ans.
Regarder de la pornographie est associé à l’objectivation sexuelle des femmes. Le visionnement intentionnel de matériel violent classé X est également associé à une augmentation significative de la probabilité de comportement sexuellement agressif.
Que pouvons-nous y faire?
Bien qu’une partie de la solution puisse provenir de la technologie de vérification de l’âge pour les sites Web pour adultes, les recherches montrent également que nous devons adopter une approche de prévention primaire. Cela signifie essayer d’empêcher ce genre de comportement de se produire en premier lieu.
Cela implique nécessairement de changer les normes culturelles autour de la violence et du genre avec tous les jeunes. Les parents et les écoles sont essentiels.
Que peuvent faire les parents ?
Les parents doivent laisser à leurs enfants un espace pour parler de choses délicates et préoccupantes. Vous pouvez le faire en :
1. Parler tôt
Aidez votre enfant à se sentir à l’aise pour vous parler en entamant les conversations tôt. Les conversations sur l’autonomie corporelle et les limites peuvent commencer dès l’école primaire. À mesure que votre enfant grandit, des conversations sur le consentement, les relations saines, la pornographie et les sextos peuvent également commencer. Écoutez ce que votre enfant a à dire.
2. Rendre les conversations régulières
Nous ne pouvons pas nous attendre à ce que les enfants accueillent favorablement ou répondent bien aux questions des parents du premier coup ou à chaque fois. Gardez donc les conversations courtes et régulières. Laissez-vous guider par votre enfant.
3. Agir en fonction des préoccupations
Restez calme, parlez et écoutez votre enfant. Concentrez-vous sur leur bien-être en leur demandant comment ils se sentent et ce que vous pouvez faire pour les soutenir. Recherchez également les signes indiquant qu'ils pourraient avoir besoin d'un soutien supplémentaire, comme parler à leur école, à la police ou faire un rapport à la Commission eSafety.
Que doivent faire les écoles ?
Les écoles jouent également un rôle important dans la réponse de la communauté. La recherche montre que les programmes scolaires visant à lutter contre la violence sexuelle et les normes culturelles liées au genre peuvent être efficaces. Certaines choses que les écoles peuvent faire incluent :
1. Fournir une formation et des ressources au personnel
Le personnel a besoin de politiques et de procédures claires sur la manière de réagir efficacement et de signaler aux autorités compétentes tout cas de harcèlement sexuel, d'agression ou de maltraitance d'enfants.
2. Éducation sexuelle complète pour les étudiants
La recherche montre que l’éducation sexuelle peut aider à prévenir les comportements néfastes en enseignant aux enfants et aux jeunes les relations saines, les limites et le consentement éclairé et enthousiaste. Cette éducation doit inclure la prise en compte de la pornographie, du sexting et de la sécurité en ligne.
3. Assurer un leadership scolaire fort
Les dirigeants sont responsables de la culture et des pratiques de leurs écoles. Ils doivent adopter une approche de tolérance zéro à l’égard de tout ce qui normalise les stéréotypes, les commentaires dégradants, la violence ou la misogynie. Les enfants scolarisés doivent être habilités à faire part de leurs préoccupations aux adultes et savoir qu’ils seront écoutés et crus.