Dans un commentaire publié par le Journal de l’Association médicale américainedes chercheurs de Rutgers Health, de l’Université Harvard et de l’Université de Pittsburgh discutent de l’impact des applications non réglementées de santé mobile et d’intelligence artificielle (IA) générative qui prétendent contribuer à la réduction de la consommation de substances.
Jon-Patrick Allem, membre du Rutgers Institute for Nicotine and Tobacco Studies, professeur agrégé à la Rutgers School of Public Health et auteur principal du commentaire, se concentre sur la nécessité d’une plus grande surveillance des technologies nouvelles et non testées, telles que la santé mobile et les applications d’IA générative, et pourquoi les marchés publics ont besoin de meilleures règles pour les gérer.
Allem discute de l’idée selon laquelle une plus grande transparence et une réglementation plus stricte pourraient empêcher les gens d’être induits en erreur par des informations présentées comme des informations de santé publique vérifiables.
Quels sont les problèmes liés aux applications mobiles de santé pour la réduction de la consommation de substances ?
La recherche montre que certaines applications mobiles de santé peuvent aider les gens à réduire leur consommation de substances, comme l’alcool, du moins dans des études contrôlées. Mais dans le monde réel, leur impact est limité.
Les magasins d’applications font souvent la promotion de produits qui génèrent des revenus grâce à la publicité plutôt qu’à ceux soutenus par la science, de sorte que les applications les plus visibles sont parfois non testées ou trompeuses en raison de la priorisation des revenus publicitaires.
En conséquence, les applications fondées sur des données probantes peuvent être plus difficiles à trouver. Les examens systématiques des applications de réduction de la consommation de substances montrent systématiquement que la plupart n’utilisent pas d’approches fondées sur des preuves éprouvées. Au lieu de cela, ils font souvent des déclarations audacieuses sur leur efficacité et utilisent un langage à consonance scientifique pour paraître plus crédibles qu’ils ne le sont.
Comment savoir si une application est fondée sur des preuves ?
Pour savoir si une application est fondée sur des preuves, les consommateurs peuvent rechercher des signes spécifiques indiquant que l’application est basée sur des recherches éprouvées, et pas seulement sur des allégations marketing.
Quelques indicateurs seraient que l’application cite des recherches scientifiques (comme une étude évaluée par des pairs), que l’application a été développée par des experts dans le domaine (construite en collaboration avec une université ou un clinicien agréé ou une organisation professionnelle), que l’application a été évaluée de manière indépendante (évaluations publiées dans des revues scientifiques), que l’application suit des normes de données strictes (explication claire de la façon dont les données sont stockées, est conforme à des réglementations comme HIPAA) et/ou que l’application est exempte de promesses exagérées (comme des résultats garantis).
Quel est le paysage actuel de la réglementation et de son application sur le marché des applications ?
Pour l’instant, il y a un manque flagrant d’application de la loi. Étant donné que de nombreuses allégations liées à la santé formulées par les applications mobiles ne sont pas fondées, d’énormes populations de personnes sont vulnérables à la désinformation, ce qui peut entraver le traitement et les chances de guérison des personnes souffrant d’un trouble lié à l’usage de substances.
Quelles sont vos préoccupations concernant l’utilisation de l’IA générative pour les applications de réduction de la consommation de substances ?
L’intégration de l’IA générative dans l’application mobile de santé a inondé le marché de produits non réglementés et non testés en raison du développement et des résultats rapides des outils d’IA générative.
Bien que des modèles à usage général tels que ChatGPT aient démontré que l’accès à des informations précises sur la santé est potentiellement en augmentation, il existe d’importantes lacunes en matière de sécurité. Ces manquements à la sécurité peuvent aller de la fourniture d’informations inexactes sur la santé à l’incapacité de réagir de manière appropriée aux situations de crise, en passant par la normalisation de comportements dangereux.
Que peuvent faire les consommateurs pour se protéger au mieux contre les applications de santé non réglementées ?
Les consommateurs devraient éviter les applications qui utilisent des expressions vagues telles que « cliniquement prouvé » sans détails ni références spécifiques, ou les applications qui utilisent des méthodes qui semblent trop simples ou trop belles pour être vraies.
De quelles manières pourrions-nous renforcer sa surveillance de l’IA générative ?
Une façon potentiellement prometteuse de réglementer le marché actuel des applications de santé consiste à exiger l’approbation de la Food and Drug Administration. Cela signifie que les applications doivent passer par des essais cliniques randomisés et répondre à une norme définie avant d’être mises à la disposition du public.
En attendant, un étiquetage clair est essentiel, car les utilisateurs doivent savoir quelles applications sont étayées par des preuves et lesquelles ne le sont pas. En mettant en place des mesures de protection et des mécanismes d’application appropriés, comme des amendes, des suspensions ou le retrait des produits non conformes des magasins d’applications, nous pouvons garantir que les applications mobiles de santé sont exactes, sûres et responsables.
