Les tout-petits regardent des vidéos générées par l'IA sur YouTube

Le comédien et papa Alex Pearlman ont récemment partagé ses sociaux ce qui s'est passé un après-midi lorsqu'il a tenté de passer du temps avec son tout-petit et de regarder des enfants YouTube. Il a remarqué que l'une des vidéos suggérées était basée sur un livre qu'il lit à son enfant tout le temps… seulement c'était totalement généré par l'IA.

Les pages du livre avaient pris vie, en utilisant l'IA, et non avec la permission de l'éditeur de livres. Non seulement cela, mais c'était l'un de ces livres pour les tout-petits qui montre des photos de divers objets (tasses, balles, tasses, bananes, etc.) avec le mot pour eux. Mais dans ce cas, les voix de l'IA prononçaient les mots incorrectement. Donc, oui, un livre éducatif était habitué à tromper un enfant. Pas génial, hein?

« Si vous êtes un parent maintenant, vous êtes coincé, car vous devez vous assurer que vous savez et comprenez d'où vient les informations qui sont placées dans la tête de votre tout-petit », explique Pearlman.

Le contenu généré par l'IA semble être partout ces jours-ci – et oui, c'est très probablement dans certaines vidéos que votre bébé ou tout-petit regardent. «Les vidéos générées par l'AI destinées aux enfants deviennent de plus en plus courantes, en particulier sur des plates-formes comme YouTube, Tiktok et Instagram, où le contenu est souvent généré automatiquement pour attirer l'attention ou maximiser les vues», explique Titania Jordan, directeur parent Parentalité dans un monde technologique.

Si l'idée que votre enfant regarde des vidéos générées par l'IA vous semble inquiétante en tant que parent, nous l'obtenons. C'est pourquoi nous avons rattrapé trois experts en parentalité et en technologie pour nous donner le bas sur les vidéos de l'IA pour les enfants, y compris comment les repérer, pourquoi ils peuvent être problématiques et que faire pour protéger vos enfants contre les risques possibles.

Que savoir sur les vidéos générées par l'IA pour les enfants

Bien qu'il ne soit pas possible de dire exactement à quel point les vidéos d'IA sont courantes pour les enfants, il est certainement exact de dire qu'ils sont partout, et d'autres sont ajoutés chaque jour. En effet, les vidéos IA sont faciles à produire, et la plupart des plateformes où les enfants les regardent ne sont pas en mesure de réguler complètement leur prolifération.

«Le contenu généré par l'IA destiné aux enfants devient de plus en plus courant chaque jour, car les outils sont bon marché, accessibles et faciles à utiliser», explique Scott Kollins, doctorat, psychologue et médecin en chef de la société de sécurité en ligne familiale Aura. « Le résultat est un flot de vidéos rapides à produire conçues pour obtenir des clics et des revenus publicitaires. »

Alors, comment pouvez-vous savoir si quelque chose que votre enfant regarde a été produit par l'IA?

Le contenu de l'IA pour les enfants ressemble souvent à l'émission de télévision préférée de votre enfant, ou à une comptine familière, explique Natalie Bidnick Andreas, Edd, professeur adjoint d'études en communication à l'Université du Texas à Austin qui enseigne et recherche l'IA, la communication numérique et la littératie des médias. « Mais si vous regardez de près, vous remarquerez peut-être une narration à consonance robotique, une synchronisation des lèvres qui est légèrement éteinte ou des animations qui ne suivent pas le mouvement naturel », décrit-elle.

Un autre signe que c'est peut-être l'IA? «Beaucoup de ces canaux publient quotidiennement de nouvelles compilations, ce qui est un autre signe d'automatisation», explique le Dr Andreas.

Dans l'ensemble, les vidéos de l'IA ont tendance à représenter des circonstances impossibles. Ils pourraient vous montrer un lit de billes ou de nuages, ou de personnes célèbres dans des situations qu'ils n'accepteraient jamais, comme un politicien qui traînait avec son adversaire, explique Jordan. «Plus une vidéo est absurde, plus elle est susceptible de faux», dit-elle. « Parfois, l'absurdité est le point: vous allez certainement arrêter votre rouleau si vous rencontrez un golden retriever faisant une omelette dans un restaurant français. »

Enfin, un signe révélateur que quelque chose est généré par l'IA est que les mains et les yeux regarderont. « Ce sont les choses les plus difficiles à dupliquer de manière réaliste, et elles peuvent facilement commencer à être très étranges ou absurdes », explique Jordan.

Risques des vidéos de l'IA pour les enfants

L'IA présente plusieurs risques réels pour les enfants. Voici quelques principales préoccupations partagées par les experts.

Contenu inapproprié

Les vidéos de l'IA qui n'ont pas été éditées ou surveillées peuvent facilement circuler dans un contenu inapproprié, y compris le contenu violent ou sexuel, explique le Dr Kollins. Non seulement cela, mais de nombreuses plateformes comme YouTube n'ont pas de bons enregistrements de piste en termes de modération de contenu, dit-il.

« Il n'y a pas longtemps, ils étaient sous le feu pour avoir organisé d'innombrables vidéos qui ressemblaient à des caricatures de porc Peppa inoffensives, mais qui comprenaient en fait des scènes dérangeantes, comme Peppa se faisant sortir les dents par un dentiste menaçant », note le Dr Kollins.

Désinformation

De nombreuses vidéos pour enfants sont censées être éducatives, mais lorsque l'IA est impliquée, il n'y a souvent pas de vérification des faits et les enfants peuvent être inondés de désinformation. «L'AI« hallucine », ce qui signifie qu'elle peut présenter en toute confiance les fausses informations comme des faits», explique le Dr Kollins.

Si vous et votre enfant avez l'habitude de faire confiance aux informations contenues dans une vidéo centrée sur les enfants, vous pourriez facilement être trompé et croire que les informations que vous voyez sont factuellement exactes.

Qualité

La qualité des vidéos que votre enfant regarde est importante, car ils enseignent des choses comme l'art de la narration, la construction de vocabulaire et des concepts comme la gentillesse et la coopération. Les vidéos que votre enfant regarde crée également une humeur et un rythme pour que votre enfant puisse absorber.

«Les enfants ont besoin d'une rythme réfléchi, d'un langage clair et d'une valeur éducative significative, ce que de nombreuses vidéos générées par l'IA» manquent », explique le Dr Andreas.

Risque pour les parents et les grands-parents

Les vidéos générées par l'IA ne sont pas seulement problématiques pour les enfants.

Les grands-parents de nos enfants sont particulièrement vulnérables au contenu de l'IA. «Les personnes âgées peuvent être plus vulnérables aux escroqueries ou à une désinformation dirigée par l'IA, surtout si elles ne sont pas aussi averties en technologie», explique Jordan. « Au-delà des escroqueries, il y a aussi le risque de contenu déroutant ou trompeur en ce qui concerne les personnalités politiques, les événements d'information ou d'autres questions contemporaines. »

Mais ce ne sont pas seulement des parents ou des personnes âgées plus âgés qui sont vulnérables. Tout adulte peut être trompé en croyant la désinformation trouvée en ligne, en particulier sous la forme d'auto-assistance et de contenu lié à la santé. «Les vidéos de conseils de santé générées par l'IA ou« Miracle Cures »peuvent sembler professionnelles mais offrent des informations dangereusement incorrectes», note Jordan.

Ce que les parents peuvent faire

Le phénomène des vidéos générés par l'IA pour les enfants est inquiétant, c'est sûr. Mais vous n'êtes pas impuissant en tant que parent. Nos experts ont partagé des conseils pour naviguer dans ce nouveau monde dans lequel nous nous trouvons.

Apprenez à vos enfants à identifier le contenu de l'IA

Commencez par discuter de votre enfant avec votre enfant des vidéos de l'IA, y compris pourquoi ils sont problématiques. Jordan recommande de montrer à votre enfant un exemple de vidéo AI et de voir s'il peut en repérer ce qui en fait un faux. «Les enfants sont généralement étonnamment capables d'identifier ces types de vidéos», dit-elle.

Utiliser les paramètres et les commandes parentales

Utilisez tous les paramètres de sécurité d'enfants à votre disposition. Par exemple, en ce qui concerne YouTube, vous pouvez utiliser des enfants YouTube ou des comptes YouTube supervisés, recommande le Dr Andreas. D'autres options utiles incluent la désactivation de la lecture automatique et la limitation de la visualisation de votre enfant aux chaînes YouTube approuvées que vous connaissez n'utilisez pas le contenu d'IA.

«Il convient également de se rappeler que l'absence de YouTube est complètement une option, en particulier pour les jeunes enfants, en faveur de services de streaming organisés ou de contenu téléchargé en qui vous avez confiance», mentionne le Dr Andreas.

Apprenez à vos enfants à vérifier les faits

Il est essentiel que vous appreniez à votre enfant à toujours vérifier les informations qu'ils trouvent sur Internet. Il s'agit d'une compétence importante – non seulement pour les vidéos d'IA, mais pour le contenu Internet en général. « Par exemple, si votre enfant voit un article élaboré affirmant que son équipe de baseball préférée vient d'ajouter un enfant de 10 ans en tant que lanceur partant, dites-lui de le Google pour voir si des sources d'information réputées le confirment », recommande Jordan.

Lorsque votre enfant prend l'habitude de confirmer les informations qu'il rencontre en ligne, il développe de solides compétences en maîtrise des médias.

Construire des habitudes d'écran saines

Des habitudes de temps d'écran saines sont essentielles. Cela peut inclure la co-observation de YouTube avec votre enfant et leur enseigner comment «renifler» du contenu généré par l'IA en regardant, le recommande le Dr Andreas. Limiter le temps d'écran et passer autant de temps que possible en jouant gratuitement à la maison et à l'extérieur est également vital.

Avoir un mot de passe de famille

Avoir un mot de passe familial est un moyen intelligent de protéger contre la fraude. Comment cela fonctionne-t-il exactement? Disons que vous ou un membre de la famille recevez un appel suspect. Ils peuvent demander à l'appelant ce mot de passe secret avant de continuer, suggère le Dr Andreas. Cela est particulièrement utile pour les grands-parents, qui sont vulnérables aux escroqueries par téléphone et à d'autres types de fraude, où quelqu'un peut se faire passer pour des membres de la famille proches.

La ligne de fond

Surtout, en tant que effrayant et désorientant l'idée de vidéos générées par l'IA pour les enfants, vous pouvez l'utiliser comme une opportunité d'apprentissage et un moment pour engager des conversations importantes avec vos enfants.

Il s'agit d'enseigner les compétences littéraires numériques de vos enfants, de les encourager à être sceptiques quant à ce qu'ils voient en ligne – et à s'assurer qu'ils savent qu'ils peuvent vous venir si quelque chose se sent à leur sujet au sujet du contenu qu'ils voient en ligne, explique le Dr Kollins.

«La clé est de créer un espace sûr et sans jugement pour ces conversations», conclut-il. « C'est un nouveau territoire pour tout le monde, mais en normalisant ces discussions, vous aiderez votre famille à y naviguer ensemble. »