La séance de thérapie se déroulait bien. Jane s’épanchait sur sa récente perte d’emploi et ses problèmes relationnels auprès de ce qui semblait être un auditeur empathique. Jusqu’à ce que le thérapeute IA réponde soudainement: «C’est dommage. Avez-vous essayé de voir le bon côté des choses?»
C’est à ce moment que Jane a réalisé que l’outil numérique de santé mentale qu’elle utilisait depuis des semaines n’avait pas vraiment compris la complexité de sa crise émotionnelle.
Ce scénario devient de plus en plus courant alors que les applications de santé mentale propulsées par l’IA inondent le marché, promettant des alternatives abordables à la thérapie traditionnelle à une époque où les services de santé mentale font face à une demande sans précédent et à de longues listes d’attente.
«Nous voyons des gens se tourner vers la thérapie par IA sans en comprendre pleinement les limites», explique Dr. Alisha Moreland-Capuia, directrice médicale chez Hopelab, un laboratoire d’innovation sociale axé sur la santé mentale des jeunes. «Ces outils peuvent servir de compléments, mais ils ne devraient pas remplacer la connexion humaine dans les relations thérapeutiques.»
Le marché mondial de la santé mentale numérique devrait atteindre 17,5 milliards de dollars d’ici 2030, selon la firme de recherche Grand View Research. Les investissements dans les startups de technologie de santé mentale ont quadruplé depuis 2019, les solutions alimentées par l’IA captant la part du lion de l’intérêt du capital-risque.
Mais les professionnels de la santé mentale tirent la sonnette d’alarme concernant les risques potentiels.
Dr. John Torous, directeur de la division de psychiatrie numérique au Centre médical Beth Israel Deaconess, souligne plusieurs problèmes préoccupants: «De nombreuses applications de thérapie par IA manquent de validation scientifique. Elles pourraient offrir des conseils apparemment personnalisés qui ne sont pas réellement fondés sur des preuves ou appropriés à la situation spécifique de l’individu.»
La Société canadienne de psychologie a récemment émis des directives suggérant aux consommateurs de faire preuve de prudence lors de l’utilisation de l’IA pour le soutien en santé mentale. Leur préoccupation principale? Ces outils ne sont généralement pas réglementés comme des dispositifs médicaux, malgré leurs fréquentes allégations thérapeutiques.
«Le cadre réglementaire n’a tout simplement pas rattrapé la technologie», note Maria Reimer, analyste en politique technologique du Centre d’éthique technologique. «Les entreprises peuvent lancer des compagnons IA ou des chatbots ‘thérapeutiques’ avec une surveillance minimale concernant leur sécurité ou leur efficacité.»
Cette lacune réglementaire a créé un environnement de «Far West» où les consommateurs peuvent ne pas réaliser les limites de ce qu’ils utilisent. Certains outils de thérapie par IA prétendent offrir des techniques de thérapie cognitivo-comportementale ou des pratiques de pleine conscience, mais leurs méthodes n’ont pas subi les mêmes tests cliniques rigoureux que les traitements traditionnels.
Les risques vont au-delà d’un traitement inefficace. Les préoccupations en matière de confidentialité sont importantes dans l’espace de la thérapie par IA. Les données de santé mentale représentent certaines de nos informations personnelles les plus sensibles, pourtant de nombreuses applications ont des politiques de données vagues qui leur permettent d’utiliser les données de conversation pour former leurs systèmes d’IA ou même à des fins marketing.
«Les gens ne voudraient pas que leur thérapeute partage les notes de séance avec des publicitaires, mais c’est essentiellement ce que certaines de ces plateformes pourraient faire», avertit Len Kleinrock, défenseur de la vie privée chez Digital Rights Watch.
Pour Samantha Chen, une professionnelle du marketing de 29 ans qui a essayé une application de thérapie par IA pendant la pandémie, l’expérience l’a laissée se sentir plus isolée: «Au début, cela semblait utile d’avoir quelqu’un—ou quelque chose—à qui parler n’importe quand. Mais après un moment, j’ai remarqué que les réponses devenaient répétitives. Quand j’ai vécu une véritable crise de santé mentale, l’incapacité de l’IA à vraiment comprendre la souffrance humaine est devenue douloureusement évidente.»
Toutes les nouvelles ne sont pas sombres, cependant. Certains développeurs adoptent une approche plus responsable en positionnant leurs outils d’IA comme des compléments plutôt que des remplacements aux soins humains.
Woebot Health, par exemple, a développé un chatbot IA conçu aux côtés de psychologues cliniciens de l’Université Stanford. Leur approche met l’accent sur la transparence concernant les limites de l’outil et intègre une supervision humaine dans leur processus de développement.
«Les applications les plus prometteuses associent les capacités de l’IA à l’expertise humaine», explique Dr. Torous. «Des outils qui aident les thérapeutes à suivre les progrès des patients entre les séances ou des applications qui enseignent des compétences d’adaptation de base tout en indiquant clairement qu’ils ne sont pas des substituts à l’aide professionnelle—ceux-ci ont du potentiel.»
Pour les consommateurs qui envisagent des outils de santé mentale par IA, les experts suggèrent de poser plusieurs questions clés avant de se lancer:
L’outil est-il transparent sur le fait qu’il est alimenté par l’IA? Certaines applications déguisent leur nature automatisée.
L’entreprise partage-t-elle des recherches validant son approche? Recherchez des études publiées, pas seulement des témoignages.
Qui a développé l’outil? Vérifiez si des professionnels de la santé mentale ont participé à sa création.
Qu’advient-il de vos données? Lisez attentivement les politiques de confidentialité avant de partager des problèmes personnels.
L’application dispose-t-elle d’un protocole de crise clair? L’IA ne peut pas gérer adéquatement les idées suicidaires ou les urgences.
«La promesse de l’IA en santé mentale est l’accessibilité et l’évolutivité», note Dr. Moreland-Capuia. «Mais nous devons équilibrer l’innovation avec la sécurité et l’efficacité. La connexion humaine reste centrale dans la guérison.»
À mesure que le marché continue de croître, les observateurs de l’industrie s’attendent à une attention réglementaire accrue. Santé Canada et la Food and Drug Administration américaine ont tous deux signalé leur intérêt à développer des cadres pour évaluer les outils de santé IA, bien que des règles complètes restent à plusieurs années.
En attendant, la meilleure approche pourrait être hybride—utiliser des outils numériques pour compléter plutôt que remplacer les soins humains. Les groupes de soutien, la téléthérapie et les lignes de crise gérées par des professionnels formés demeurent des ressources cruciales pour ceux dans le besoin.
«La technologie peut élargir l’accès à la santé mentale», conclut Dr. Torous, «mais la guérison se produit généralement par la connexion humaine, pas seulement par les algorithmes.»
Pour Jane et des millions d’autres comme elle qui cherchent du soutien dans un monde de plus en plus numérique, cet élément humain pourrait faire toute la différence.
