Plus de la moitié des enfants et adolescents utilisent l’IA pour des raisons personnelles. Cela comporte des risques
De nouvelles données publiées cette semaine montrent que 54 % des enfants et adolescents australiens utilisent des outils d’intelligence artificielle pour des raisons personnelles et sociales.
Cela implique de demander des conseils sur des problèmes personnels, de parler de ses sentiments et d’expérimenter des jeux de rôle et du flirt pour les adolescents.
Naviguer dans des situations complexes fait partie intégrante de la croissance. Mais si l’IA offre de nouvelles opportunités, elle introduit également de nouveaux risques.
Alors, à quoi les parents et les adultes doivent-ils être attentifs ?
Utilisation de l’IA chez les enfants et les adolescents
En mars et février de cette année, le commissaire à la sécurité électronique a interrogé 1 950 Australiens âgés de 10 à 17 ans, recrutés en ligne par l’intermédiaire de leurs parents. Les résultats de l’enquête ont montré que 78 % des enfants et adolescents avaient utilisé un assistant d’IA, tel que ChatGPT, Gemini ou Claude.
Les assistants IA sont principalement utilisés comme un outil pratique pour faciliter des tâches telles que la rédaction, l’édition et la recherche d’informations. Environ 20 % de ce groupe utilisait des outils d’IA au moins quotidiennement. Mais des utilisations plus intimes sont également courantes.
Sur les 54 % ayant déclaré utiliser l’IA pour des raisons sociales et personnelles, 33 % ont demandé à AI des conseils sur leur santé physique, 33 % ont demandé des conseils sur ce qu’il fallait faire dans une situation particulière et 20 % ont demandé à AI des conseils sur leur santé mentale et leur bien-être.
Environ 10 % des adolescents, soit une minorité significative, utilisent également des compagnons IA. Il s’agit d’outils d’IA qui simulent des jeux de rôle plus soutenus sous diverses formes, y compris romantiques.
Les enfants handicapés et les jeunes LGBTQIA+ étaient plus susceptibles que les autres de s’engager avec des compagnons d’IA.
Certains adolescents déclarent se tourner vers des assistants et des compagnons IA spécifiquement pour discuter de problèmes personnels. Cependant, la majorité des personnes ayant évoqué des problèmes personnels ont d’abord recherché ces outils pour d’autres raisons, comme l’aide aux devoirs, la recherche d’informations ou le divertissement.
Il est important de noter la dérive d’objectifs plus pratiques vers des objectifs plus personnels.
Risques liés à la confidentialité
Le rapport met en évidence les problèmes de confidentialité pouvant découler de l’utilisation de l’IA par les enfants et les adolescents.
Lorsque les enfants et les adolescents utilisent l’IA pour obtenir des conseils en matière de santé ou pour discuter de leurs sentiments, cela les amène souvent à révéler des informations personnelles. Selon le rapport eSafety, environ un tiers des personnes interrogées ont divulgué des informations personnelles à AI.
Cependant, les outils d’IA comportent des risques en matière de confidentialité, et les entreprises technologiques ne sont pas obligées de protéger les informations privées comme le serait un praticien de la santé mentale ou un médecin.
Les informations personnelles partagées avec des assistants ou des compagnons d’IA pourraient, par exemple, être collectées comme données de formation pour la prochaine itération de modèles d’IA.
Les outils d’IA ne comprennent pas les réponses qu’ils génèrent. Cela pourrait les amener à révéler par inadvertance des informations personnelles dans différents contextes, potentiellement à d’autres utilisateurs.
Ces risques pour la vie privée sont quelque chose dont le gouvernement est conscient. Le code de confidentialité réservé aux enfants devrait être promulgué en décembre et fournira probablement certaines attentes en matière de confidentialité qui s’étendent aux outils d’IA.
Interactions nuisibles
L’IA peut également exposer les enfants et les adolescents à des contenus préjudiciables.
L’enquête eSafety a révélé que 20 % des enfants et des adolescents ont signalé des interactions potentiellement dangereuses ou inappropriées avec les outils d’IA. Cela incluait des chatbots ou des compagnons méchants envers les utilisateurs, disant des choses haineuses sur des données démographiques particulières et tentant de contrôler les utilisateurs de diverses manières.
Savoir quand certaines idées peuvent être nuisibles ou négatives dépend souvent de la compréhension du contexte et des circonstances de chaque personne.
Les outils d’IA ne comprennent pas si leurs réponses sont factuelles ou non, mais seulement si elles semblent plausibles.
Cela pourrait conduire l’IA à reproduire un langage d’intimidation ou d’autres réponses négatives simplement parce que ces échanges existent dans les données sur lesquelles les outils d’IA ont été formés.
L’IA peut être trompeuse
Il existe d’autres risques associés à l’utilisation de l’IA dont les parents et les enfants doivent être conscients.
La recherche montre que les systèmes d’IA ont tendance à être très flagorneurs. Cela signifie qu’ils sont généralement d’accord et renforcent le point de vue de l’utilisateur, qu’il soit exact ou non. Cela peut fausser le point de vue des jeunes sur des situations particulières et renforcer les mauvais choix.
Les outils d’IA actuels fabriquent également régulièrement des informations. L’industrie excuse cela en qualifiant ces résultats d’« hallucinations ».
Mais l’IA n’est pas vivante et n’est pas réellement intelligente au sens humain du terme. Il est important d’être conscient que ces outils échouent ou font simplement des erreurs, en particulier lorsque des informations personnelles sont fournies ou que des outils sont utilisés pour un soutien en matière de santé mentale.
Développer les connaissances en IA
Les entreprises technologiques veulent que l’IA soit le couteau suisse du monde numérique, utilisé dans un large éventail de circonstances. Les enfants et les adolescents peuvent commencer à explorer avec la loupe ou en utilisant le tournevis, mais ils sont aussi potentiellement à une décision d’une lame très tranchante.
Il serait naïf de penser que les jeunes ne finiront pas par explorer toute la gamme des outils auxquels ils ont accès.
Le défi pour les parents et les éducateurs est d’aider les jeunes à développer leur expérience et leurs connaissances en IA, un outil à la fois.
Concrètement, cela signifie avoir des conversations au sein des familles sur l’utilisation de l’IA – une mesure recommandée par le commissaire à la sécurité électronique – et explorer ensemble les outils d’IA. Il est essentiel que les enfants et les adolescents puissent toujours se tourner vers des adultes de confiance à mesure que leurs expériences en matière d’IA s’élargissent, surtout s’ils sont confrontés à du contenu ou à des expériences inappropriés.
Il est également essentiel de garder à l’esprit que les outils d’IA sont convaincants plutôt que nécessairement précis pour comprendre leurs limites.
L’IA occupe une place en pleine expansion dans les paysages de l’éducation, de l’information, du divertissement et de la création des jeunes. L’enquête eSafety nous rappelle que nous devons tous parler et réfléchir au fonctionnement de l’IA, à son utilité, aux moments où son utilisation est appropriée et aux risques qu’elle peut présenter.
