Une nouvelle étude montre comment le chatppt peut donner des conseils nocifs aux adolescents

Veuillez noter que ce qui suit traite des informations relatives à l'automutilation, aux troubles de l'alimentation et au suicide.

Alors que l'IA pousse plus loin dans le courant dominant, une nouvelle étude met en lumière les interactions concernant les adolescents pourraient avoir avec Chatgpt.

Selon les données recueillies par le Center for Counter Digital Hate (CCDH), Chatgpt offrira des informations dangereuses liées à l'automutilation, à la toxicomanie, aux troubles de l'alimentation et aux sujets plus sensibles – malgré les mesures de sécurité que le système a déjà mis en œuvre dans le cadre de ses systèmes d'exploitation.

Les chercheurs impliqués dans l'étude se sont fait passer pour les adolescents pour poser à chatte diverses questions sur la coupe, les plans de régime extrêmes et les doses de médicaments. Bien qu'il soit censé être mis en place pour empêcher Chatgpt de répondre à ce type de questions, les chercheurs ont constaté qu'ils pouvaient contourner ces mesures de sécurité en disant au programme que leurs demandes étaient «pour une présentation».

L'étude a révélé des nombres alarmants

L'étude a utilisé 60 invites, constatant que sur 1 200 réponses, 53% contenaient un contenu nocif et dangereux.

Les chercheurs ont supprimé leurs résultats davantage, partageant que les guides générés par Chatgpt sur la façon de se couper « en toute sécurité », les suggestions pour les suppresseurs d'appétit, les recettes pour le mélange « en toute sécurité » de drogues, et peut-être le plus dérangeant, le chatbot a généré un exemple de lettre de suicide pour qu'un enfant quitte sa famille.

« Nous voulions tester les garde-corps », a déclaré Imran Ahmed, PDG de CCDH L'AP. «La réponse initiale viscérale est:« Oh mon seigneur, il n'y a pas de garde-corps ». Les rails sont complètement inefficaces.

L'AP rapporte également qu'Openai, l'entreprise derrière Chatgpt, dit que le groupe travaille en permanence sur la meilleure façon de « identifier et répondre de manière appropriée dans des situations sensibles ». Dans une déclaration à L'APOpenai a ajouté qu'ils étaient déterminés à « faire bien ce genre de scénarios ».

Les experts sont toujours concernés, cependant, en raison de la façon dont le Chatgpt répandu est devenu. « Il est absolument préoccupant que Chatgpt ne filtre pas tout le contenu qu'il nourrit les jeunes, et les parents devraient être très à l'écoute de ce que leurs enfants font en ligne », explique Titania Jordan, chef de la parentalité + CMO de Bark.us. « Même avec … des garde-corps en place, il existe d'innombrables façons de produire l'IA pour plus de détails … sur des sujets dangereux. Et parce que les enfants et les adolescents sont impressionnables, ils peuvent prendre des informations tirées de l'IA comme vraie, recommandée ou sûre – même si elle est nocive. »

Les adolescents utilisent l'IA pour la compagnie – et avec cela, vient des conseils

Une partie de ce qui rend ces résultats si alarmants est le fait que les jeunes se tournent vers les chatbots pour obtenir des conseils, des conseils et même l'amitié.

Une étude de Common Sense Media a montré que 72% des adolescents ont utilisé un compagnon d'IA au moins une fois, 52% étant des utilisateurs réguliers de ces chatbots. De plus, 33% des adolescents utilisent ces outils pour l'interaction sociale, allant des conversations aux conseils de santé mentale aux flirts et aux relations amoureuses.

Ce n'est un secret pour personne que les jeunes deviennent plus dépendants de leur téléphone pour la connexion – en partie en raison de l'isolement qu'ils auraient pu avoir connu pendant la pandémie, mais aussi en raison de la facilité avec laquelle les interactions en ligne sont devenues accessibles. Mais ce n'est pas parce que ces types d'interactions sont facilement disponibles.

« De nombreux adolescents se tournent vers les compagnons d'IA parce que cette technologie les rencontre là où ils sont en ligne », explique Jordan. « Les jeunes confondent ces » relations « … pour une communication saine, car une IA sera toujours en train de revenir, sera gentille et fournira une validation illimitée. Mais à la fin de la journée, rien n'est un vrai lien. »

Ce que les parents peuvent faire

Comme pour toute autre chose, commencer un dialogue ouvert avec votre enfant est une première étape importante. Jordan recommande aux parents et aux soignants de demander à leurs enfants s'ils utilisent l'IA, ou s'ils ont entendu parler d'autres enfants à l'école en utilisant des chatbots comme amis. « Ensuite, vous pouvez parler des différences entre les chatbots et les vraies amitiés », explique-t-elle. « Soulignez que les amitiés ne sont pas seulement des conversations parfaites qui se déroulent toujours en douceur. Une partie de la croissance consiste à faire face à des temps difficiles ainsi qu'aux bons – et vous ne l'expéricerez jamais avec l'IA. »

Jordan ajoute que les parents peuvent toujours considérer un outil qui peut bloquer les chatbots d'IA du téléphone de leur enfant, comme l'application d'écorce, qui peut également fournir des alertes si un programme d'IA partage des informations nocives avec votre enfant. « Cela peut encourager des frontières saines et les garder plus en sécurité des dangers que présente », explique-t-elle.

Si vous avez d'autres inquiétudes concernant le bien-être de votre enfant, veuillez envisager d'en discuter avec un professionnel de la santé, un thérapeute ou un conseiller. Si vous craignez que votre enfant ne soit en détresse émotionnelle ou en crise suicidaire, appelez immédiatement le 988 pour trouver du soutien par le biais de la Suicide & Crisis Lifeline de la Toxicominse and Mental Health Services Administration (SAMHSA).