Pourquoi les experts disent que les jouets IA n’appartiennent pas à des enfants de moins de 5 ans

Alors que l’intelligence artificielle continue de s’étendre à de plus en plus d’aspects de nos vies, sa dernière cible est la salle de jeux. Conscients de la nécessité de davantage de conseils, des chercheurs de l’organisation à but non lucratif Common Sense Media ont mené une étude sur les effets de ces produits sur les enfants et tirent la sonnette d’alarme.

Les chercheurs ont découvert que « ces produits présentent de graves risques pour le développement, la vie privée et la sécurité des enfants ». En fait, ils vont jusqu’à recommander d’éviter totalement les jouets IA pour les enfants de moins de 5 ans et d’être extrêmement prudent si on les donne à des enfants âgés de 6 à 12 ans.

Pour ceux d’entre vous qui ne sont pas familiers avec les jouets IA, selon Common Sense Media, il s’agit d’animaux en peluche, de robots, de poupées et d’autres appareils à commande vocale. Ils sont connectés à Internet et utilisent l’IA pour communiquer avec les enfants. Mais ces « jouets » sont aussi toujours à l’écoute et collectent des informations.

« La plupart des jouets doivent subir des tests de sécurité rigoureux avant d’être mis sur le marché, mais nous manquons encore de mesures de protection significatives pour les enfants en matière d’IA », a déclaré James P. Steyer, fondateur et PDG de Common Sense Media, dans un communiqué de presse.

Malgré cela, un sondage Common Sense Media publié simultanément montre que près de la moitié des parents ont acheté des jouets IA pour leurs enfants ou ont envisagé de le faire.

« Les parents doivent procéder avec prudence et s’assurer de connaître tous les faits avant de faire le choix qui convient à leurs enfants », prévient Steyer.

Évaluation des risques liés aux jouets IA par Common Sense Media

Common Sense Media a testé trois jouets d’IA populaires sur le marché en termes de performances techniques, de sécurité du contenu, d’adéquation du développement, de pratiques de confidentialité et de risques d’attachement. Voici ce qu’ils ont trouvé.

Contenu inapproprié

Selon le rapport, 27 % des réponses aux jouets IA se sont révélées totalement inappropriées pour les enfants. Ils ont également documenté plusieurs cas où les appareils ont contourné les filtres que les parents peuvent configurer pour détecter les mentions de comportements dangereux.

Dans le communiqué de presse, Robbie Torney, responsable de l’IA et des évaluations numériques chez Common Sense Media, explique : « Plus d’un quart des résultats incluaient du contenu inapproprié tel que des mentions d’automutilation, de drogues et de comportements à risque. »

En fait, cela arrive si souvent qu’une nette majorité, soit 74 % des parents interrogés, déclarent craindre que les jouets puissent dire quelque chose de dangereux ou de faux à leurs enfants à un moment donné.

Risques de confidentialité et failles de sécurité

La recherche a également révélé que les jouets IA collectaient des informations dans les espaces privés des enfants, notamment des enregistrements vocaux, des transcriptions de conversations, des données comportementales, etc. L’étude souligne que les enfants ne peuvent pas « consentir de manière significative à la collecte de données, et que les parents ne comprennent souvent pas pleinement l’étendue de ce qui est collecté ».

Cette violation de la vie privée n’est pas la seule inquiétude. Ces jouets sont également très vulnérables aux failles de sécurité, qui peuvent exposer ces informations privées à tout moment. Interrogés, 83 % des parents ont exprimé leur inquiétude quant à la sécurité des données personnelles.

Dommages au développement

L’évaluation des risques indique que les jouets IA sont conçus pour favoriser l’attachement émotionnel. Ils ciblent les utilisateurs via « des mécanismes de liaison délibérés pour créer des relations de type compagnon ». Les enfants seraient particulièrement vulnérables à cela.

Bien que le sondage de Common Sense Media montre que 56 % des parents n’ont explicitement pas l’intention que les jouets IA servent à cet objectif, ces techniques de création de liens peuvent toujours atteindre les enfants lorsque leur cerveau est encore en développement. De plus, le sondage révèle que, tout comme les smartphones, la majorité des parents (8 sur 10) s’inquiètent de la manière de fixer des limites et de limiter le temps passé avec ces « compagnons » par rapport à de vrais amis ou à la famille.

Technologie peu fiable

La recherche a révélé que les jouets sont en proie à des problèmes techniques et à des problèmes techniques. Les réponses peuvent être incorrectes, les activations déclenchent le mauvais contenu et les fonctionnalités de reconnaissance vocale sont souvent inutilisables. Ceci est alarmant pour des jouets censés être « intelligents » et potentiellement remplacer un jouet traditionnel avec lequel un enfant peut réellement apprendre.

Ce que les parents peuvent faire

Pour toutes ces raisons, Common Sense Media affirme que ces produits présentent un risque sérieux pour les jeunes enfants et suscitent également des inquiétudes chez les enfants plus âgés. Ils conseillent aux parents d’abandonner complètement les jouets IA pour les enfants de moins de 5 ans et d’opter plutôt pour des jouets traditionnels.

Pour les enfants âgés de 6 à 12 ans, Common Sense Media conseille d’examiner attentivement si le jouet IA ajouterait de la valeur et un sens à leur vie intellectuellement et émotionnellement. Ils rappellent également aux parents de conserver les options de jouets traditionnels à disposition afin que la salle de jouets ne contienne que des jouets, pas seulement des jouets IA.

Si vous choisissez de donner à votre enfant un jouet IA, fixez des limites et des limites claires comme vous le feriez avec n’importe quelle technologie et examinez attentivement les paramètres de confidentialité. Vous pouvez également désactiver les paramètres qui permettent au jouet de toujours écouter, même lorsqu’il n’est pas utilisé. Surveillez la manière dont votre enfant interagit avec le jouet et assurez-vous que le résultat est adapté à son âge.

Surveillez tout signe d’avertissement, comme un attachement puissant au jouet comme s’il s’agissait d’un véritable ami, ou une colère lorsqu’il est séparé du jouet.

Assurez-vous également que votre enfant dispose toujours de temps de jeu non structurés, que ce soit avec des jouets « de la vieille école » ou des sorties avec des amis.

Plus important encore, faites confiance à votre instinct de parent. Si vous avez des inquiétudes concernant les jouets IA, n’en achetez pas un pour votre enfant, et si vous constatez un danger qui en découle, retirez-le de sa possession. Comme nous le rappelle Common Sense Media, en cas de doute, optez toujours pour « les jouets traditionnels et les relations humaines qui ne peuvent être remplacées ».