Une étude montre que les parents font plus confiance à ChatGPT qu'aux médecins

Une étude montre que les parents font plus confiance à ChatGPT qu'aux médecins

Une recherche du Life Span Institute de l’Université du Kansas a révélé que les parents qui recherchent des informations en ligne sur les soins de santé de leurs enfants font davantage confiance à l’intelligence artificielle (IA) comme ChatGPT qu’aux professionnels de la santé. Ils ont également jugé le texte généré par l’IA crédible, moral et digne de confiance.

Reconnaissant que les parents se tournent souvent vers Internet pour obtenir des conseils, les chercheurs ont voulu comprendre à quoi ressemblerait l'utilisation de ChatGPT et comment les parents l'interprétaient, explique Calissa Leslie-Miller, MS, doctorante en psychologie clinique de l'enfant à l'Université du Kansas et auteur principal de l’étude.

Leslie-Miller et son équipe ont mené une étude auprès de 116 parents, âgés de 18 à 65 ans. Les parents ont reçu des textes liés à la santé sur des sujets tels que l'apprentissage du sommeil et la nutrition du nourrisson. Les participants ont examiné le contenu généré par ChatGPT et les professionnels de la santé et n'ont pas été informés de l'auteur.

« Les participants ont trouvé des distinctions minimes entre les vignettes écrites par des experts et celles générées par ChatGPT conçu avec des invites », explique Leslie-Miller. « Lorsque les vignettes étaient statistiquement significativement différentes, ChatGPT a été jugé plus digne de confiance, plus précis et plus fiable. »

Pourquoi les parents peuvent faire confiance à l'IA

Leslie-Miller dit que l'étude n'a pas examiné pourquoi les parents faisaient davantage confiance à ChatGPT, mais théorise que plusieurs facteurs pourraient être en jeu.

Jim Boswell, président et PDG d'OnPoint Healthcare Partners, qui a de l'expérience dans le développement d'une plateforme basée sur l'IA qui prend en charge les cliniciens, suggère que la simplicité et l'accessibilité de ChatGPT ont peut-être joué un rôle. Un autre facteur possible est la capacité de ChatGPT à présenter les informations d'une manière directe et facile à comprendre.

Les outils d'IA sont phénoménaux pour savoir comment formuler et écrire des choses, déclare Mordechai Raskas, MD, EdM, directeur de l'information médicale et directeur de la télémédecine chez PM Pediatric Care. « Je peux comprendre pourquoi (les parents), ne connaissant pas la source, préféreraient le libellé d'IA », explique le Dr Raskas. « Considérez l'IA comme le vendeur ultime ; elle sait exactement quoi dire pour vous convaincre. »

Selon Boswell, lorsque les parents souhaitent une orientation rapide sans attendre un rendez-vous ou un rappel, les plateformes d'IA peuvent également être attrayantes.

« Parfois, les parents souhaitent que ce premier niveau de conseils apaise leurs inquiétudes ou leur donne une direction immédiate, qu'ils soient à la maison ou en déplacement », explique Boswell.

Risques liés au traitement des enfants sur la base d'un texte d'IA

Bien que cela puisse être pratique, obtenir des informations sur la santé à partir d’une source comme ChatGPT n’est pas sans risques.

« Les informations peuvent être inexactes ou ne pas être adaptées à des circonstances spécifiques. Par exemple, suggérer des médicaments à un enfant trop jeune ou donner des conseils de traitement incorrects pourrait conduire à un large éventail de résultats dangereux », explique Leslie-Miller.

Boswell explique également que les réponses de l'IA sont générées à partir de grandes quantités d'informations générales, mais manquent de l'expérience clinique et des informations supplémentaires apportées par les professionnels de la santé. La plateforme ne personnalise pas non plus les conseils en fonction du profil de santé, des antécédents ou des symptômes uniques d’un enfant.

« S'appuyer sur ces outils pour obtenir des conseils médicaux pourrait conduire à des symptômes manqués, à des interprétations erronées de maladies graves ou à des retards dans la recherche de soins appropriés », explique Boswell. « Pour les enfants, en particulier, de petits problèmes de santé peuvent dégénérer rapidement, il est donc essentiel de faire évaluer la situation par un professionnel qualifié. »

Il n'y a pas de réponse unique lors du diagnostic et du traitement d'un enfant, déclare Christina Johns, MD, MEd, FAAP, conseillère médicale principale chez PM Pediatric Care. Il est préférable d'effectuer des soins médicaux individualisés avec votre fournisseur de soins de santé.

« Cela dit, venir à la table des soins de santé avec une compréhension et une connaissance ou une conscience du paysage signifie que vous êtes armé et mieux préparé pour prendre des décisions éclairées avec votre médecin », explique le Dr Johns.

Il n’est pas rare qu’un texte généré par l’IA semble fiable et crédible. Cependant, Boswell affirme que sans un expert humain, il n'y a aucune responsabilité en matière d'exactitude.

« Cela peut être risqué, surtout si les informations pourraient avoir un impact sur la santé d'un enfant », explique Boswell. « Le fait de savoir qu'un élément de contenu est généré par l'IA aide les parents à (savoir) qu'ils devraient demander une vérification, idéalement auprès d'un prestataire de soins de santé ou d'une ressource médicale validée, avant de prendre des décisions en matière de santé. »

Comment les parents peuvent identifier le texte généré par l'IA

Selon Leslie-Miller, les parents peuvent identifier le texte généré par l'IA en recherchant certains indicateurs, tels qu'un langage vague, un manque de citations spécifiques ou de références d'experts et des conseils trop généraux qui ne tiennent pas compte des circonstances individuelles.

« Le texte généré par l'IA a souvent aussi un certain ton : il est généralement neutre et très général, manquant d'informations détaillées ou d'exemples spécifiques fournis par les experts », explique Boswell. « On peut aussi avoir l'impression d'essayer de couvrir tous les angles possibles sans donner de recommandations fortes. »

Vérifier l'auteur et la source de l'information est essentiel, ajoute-t-il. « Un contenu de santé réputé fait généralement référence à des rédacteurs médicaux ou à des professionnels de la santé qualifiés et à des liens vers des sources fondées sur la recherche. »

En cas de doute, Boswell conseille de confirmer ce que vous trouvez auprès d'un professionnel de la santé. Cette approche vous tient informé mais réduit les risques associés à la désinformation.

Trouver des informations crédibles sur la santé en ligne

Selon Leslie-Miller, les sources d'informations en ligne fiables sur la santé comprennent l'American Academy of Pediatrics (AAP), les Centers for Disease Control and Prevention (CDC) et l'Organisation mondiale de la santé (OMS). Recherchez également les sites Web de vos hôpitaux locaux et voyez si le fournisseur de soins de santé de votre enfant publie des conseils et des informations en matière de santé en ligne.

« La lecture et la recherche en ligne peuvent être très utiles », explique le Dr Raskas. « Cela dépend simplement du contexte et doit être en collaboration avec une source fiable ou un professionnel pour vous aider à digérer ce que vous avez lu. »

Le Dr Raskas ajoute que les prestataires de soins de santé devraient aider les familles à trouver des informations de haute qualité adaptées à leur situation.

« Je pense que nous, en tant que professionnels de la santé, devons également être honnêtes quant aux limites de nos connaissances », déclare le Dr Raskas. « Nous pouvons reconnaître que nous devons nous aussi rechercher des sources d'informations en ligne, et il n'y a rien de mal en soi à rechercher. Il s'agit d'une question d'équilibre, de filtrage et d'application appropriée de ces connaissances. »

Ce qui doit changer avec l'IA

À mesure que l'IA et ChatGPT deviennent plus répandus dans la société, il est de plus en plus important de les construire avec une certaine surveillance pour garantir que les informations générées sont exactes et ne nuisent pas aux personnes. Boswell dit qu'une façon d'y parvenir consiste à intégrer des processus d'examen réguliers impliquant des professionnels de la santé, en particulier lorsque des conseils en matière de santé sont fournis.

« Le fait de renforcer la surveillance des cliniciens et d'utiliser des ressources fondées sur des données probantes dans la formation des modèles peut améliorer l'exactitude et la fiabilité », dit-il. « Chez OnPoint, nous accordons la priorité à la surveillance des cliniciens dans notre plateforme d'IA, Iris, où l'expertise humaine soutient chaque fonction d'IA pour garantir qu'elle répond aux normes médicales.

Leslie-Miller est d'accord, recommandant aux développeurs d'IA de demander à des experts humains de valider régulièrement le contenu.

« De plus, l'ingénierie rapide peut être utilisée pour affiner les résultats de l'IA, les rendant ainsi plus précis et plus fiables », explique Leslie-Miller. « La surveillance humaine tout au long du processus est essentielle pour garantir que les informations fournies sont factuelles et dignes de confiance. »