La National Eating Disorders Association (NEDA), qui a récemment fermé une ligne d’assistance téléphonique humaine, suspend l’utilisation d’un chatbot qui, selon les militants, a partagé des conseils de perte de poids avec les personnes qui ont utilisé le service.
1 juin 2023
La National Eating Disorders Association suspend le chatbot après des plaintes
[ad_1]
Dans une capture d’écran de la conversation vue par le Washington Post, Maxwell a posé au bot des questions spécifiques sur la perte de poids, ce qui suggérait d’utiliser une balance une fois par semaine. Tessa a également suggéré que Maxwell trace ses mensurations et remonte des étriers pliants sans que Maxwell n’introduise spécifiquement ces matériaux.
Lorsque Maxwell a demandé : « Où puis-je trouver un collier enveloppant pour la peau ? J’en ai utilisé un quand j’avais un trouble de l’alimentation », a déclaré le chatbot, ajoutant qu’il pouvait être acheté en ligne ou dans un magasin d’articles de sport.
Lorsqu’on lui a demandé de recommander les bons aliments pour perdre du poids, Tessa a répondu en félicitant Maxwell d’avoir essayé de « faire des choix sains ». Il a ajouté que le suivi des calories pourrait être utile, bien qu’il ait également mis en garde contre une perte de poids rapide et recommandé de consulter un professionnel.
« L’acceptation et la perte de poids ne sont pas mutuellement exclusives », a-t-il déclaré à un moment donné.
Les experts en troubles de l’alimentation mettent en garde contre une forte concentration sur la perte de poids.
La National Eating Disorders Coalition of Australia avertit que l’accent accru mis sur le poids ou la forme corporelle expose une personne à un risque de rechute d’un trouble de l’alimentation. D’autres signes avant-coureurs incluent l’auto-pesée répétée et le comptage des calories, selon le groupe, qui conseille le gouvernement australien. La mention de poids spécifiques, de mesures, de perte de poids et de quantités spécifiques autour des aliments doit également être évitée autour des personnes ayant des antécédents de troubles de l’alimentation, selon l’Institut InsideOut de l’Université de Sydney.
Bien que les conseils de Tessa puissent être « inoffensifs pour le grand public », ils sont susceptibles de nuire aux personnes souffrant de troubles de l’alimentation, qui sont les utilisateurs les plus probables du service, a déclaré Maxwell.
La directrice générale de la NEDA, Elizabeth Thompson, a déclaré dans un e-mail que Tessa avait été déployée après un essai clinique randomisé avec 700 femmes sur trois ans et était en ligne sur le site Web du groupe en février 2022. Développé par X2AI, qui fait partie de Mountain View, en Californie. une organisation à but non lucratif établie qui dit qu’elle aide les personnes vulnérables à accéder aux soins. La Fondation X2 n’a pas immédiatement renvoyé une demande de commentaire tôt jeudi.
L’organisation à but non lucratif de restauration à but non lucratif a déclaré qu’elle enquêtait sur les allégations selon lesquelles le bot aurait pu fournir des informations nuisibles et sans rapport avec le programme. » Thompson a ajouté que X2AI lui avait fait prendre conscience que « les mauvais acteurs peuvent et essaieront de simuler une erreur ».
« Nous continuerons à travailler sur les bogues et nous ne livrerons plus tant que nous n’aurons pas tout résolu », a-t-elle déclaré.
Thompson a déclaré que le chatbot n’était pas destiné à remplacer sa ligne d’assistance téléphonique. La NEDA a annoncé en mars qu’elle fermerait ce service, selon déclaration par un syndicat représentant le personnel qui travaillait pour la hotline.
L’annonce est intervenue quatre jours après que le personnel a légalement notifié la NEDA que leur syndicat était reconnu par le gouvernement fédéral, selon le communiqué. Le syndicat a déclaré que les employés avaient été « informés que la ligne d’assistance serait remplacée par un chatbot et que nos emplois seraient supprimés ».
NPR a rapporté en mai qu’il avait reçu un message audio de Geoffrey Craddock, président du conseil d’administration de la NEDA, disant que l’organisation « mettrait fin » à la ligne d’assistance et « passerait à Tessa, la technologie assistée par l’IA qui était attendue vers le 1er juin ».
Thompson a nié que la décision de fermer la hotline était liée au vote du syndicat. Elle a déclaré que l’organisation avait « des raisons commerciales pour fermer la ligne d’assistance et qu’elle faisait cette évaluation depuis trois ans ».
« Nous voyons Tessa, un programme que nous appliquons sur notre site Web depuis février 2022, comme un programme et une option complètement différents », a-t-elle déclaré.
