Woebot, un chatbot de santé mentale, teste l’IA générative.

L’application de santé mentale Woebot a été lancée en 2017, à une époque où le terme "chatbot" n’était pas familier et où quelqu’un cherchant un thérapeute ne pouvait que s’imaginer parler à un être humain. Woebot était quelque chose d’excitant et de nouveau : une façon pour les gens d’obtenir un soutien en santé mentale à la demande sous la forme d’un chatbot réactif, empathique et alimenté par l’IA. Les utilisateurs ont découvert que l’avatar robot sympathique les contactait tous les jours, suivait leurs progrès et était toujours disponible pour discuter.

Aujourd’hui, la situation est très différente. La demande de services de santé mentale a explosé tandis que l’offre de cliniciens stagne. Il existe des milliers d’applications qui offrent un soutien automatisé pour la santé mentale et le bien-être. Et ChatGPT a aidé des millions de personnes à expérimenter l’IA conversationnelle.

Mais même si le monde est devenu fasciné par l’IA générative, les gens ont également vu ses inconvénients. En tant qu’entreprise qui repose sur la conversation, Woebot Health a dû décider si l’IA générative pouvait faire de Woebot un meilleur outil, ou si la technologie était trop dangereuse pour être incorporée dans notre produit.

Woebot est conçu pour avoir des conversations structurées à travers lesquelles il fournit des outils basés sur des preuves inspirés de la thérapie cognitivo-comportementale (TCC), une technique qui vise à changer les comportements et les émotions. Tout au long de son histoire, Woebot Health a utilisé la technologie d’une sous-discipline de l’IA connue sous le nom de traitement du langage naturel (NLP). L’entreprise a utilisé l’IA avec art et par design – Woebot utilise le NLP uniquement dans le but de mieux comprendre les textes écrits d’un utilisateur afin de répondre de la manière la plus appropriée, encourageant ainsi les utilisateurs à s’impliquer plus profondément dans le processus.

Woebot, actuellement disponible aux États-Unis, n’est pas un chatbot IA génératif comme ChatGPT. Les différences sont claires à la fois dans le contenu et la structure du bot. Tout ce que Woebot dit a été écrit par des concepteurs de conversation formés aux approches fondées sur des preuves qui collaborent avec des experts cliniques ; ChatGPT génère toutes sortes d’affirmations imprévisibles, dont certaines sont fausses. Woebot s’appuie sur un moteur basé sur des règles qui ressemble à un arbre de décision de trajectoires conversationnelles possibles ; ChatGPT utilise des statistiques pour déterminer quels mots devraient être les suivants, étant donné ce qui a précédé.

Avec ChatGPT, les conversations sur la santé mentale se terminaient rapidement et ne permettaient pas à un utilisateur de s’engager dans les processus psychologiques de changement.

L’approche basée sur les règles nous a bien servis, protégeant les utilisateurs de Woebot des types de conversations chaotiques que nous avons observées avec les premiers chatbots génératifs. Avant ChatGPT, les conversations ouvertes avec des chatbots générateurs étaient insatisfaisantes et facilement détournées. Un exemple célèbre est celui de Microsoft’s Tay, un chatbot qui était censé plaire aux millennials mais est devenu grossier et raciste en moins de 24 heures.

Mais avec l’avènement de ChatGPT à la fin de 2022, nous avons dû nous demander si les nouveaux grands modèles de langage (LLM) alimentant des chatbots comme ChatGPT pouvaient aider notre entreprise à réaliser sa vision. Soudain, des centaines de millions d’utilisateurs tenaient des conversations naturelles avec ChatGPT sur tout et n’importe quoi, y compris leurs émotions et leur santé mentale. Cette nouvelle race de LLM pouvait-elle fournir une alternative générative-IA viable à l’approche basée sur les règles que Woebot a toujours utilisée ? L’équipe IA de Woebot Health, y compris les auteurs de cet article, a été chargée de trouver la réponse.

L’Origine et la Conception de Woebot

Woebot a démarré lorsque la psychologue de recherche clinique Alison Darcy, avec le soutien du pionnier de l’IA Andrew Ng, a dirigé la construction d’un prototype destiné à être un outil de soutien émotionnel pour les jeunes. Darcy et un autre membre de l’équipe fondatrice, Pierre Rappolt, se sont inspirés des jeux vidéo pour trouver des moyens pour l’outil de fournir des éléments de TCC. Beaucoup de leurs prototypes contenaient des éléments de fiction interactive, ce qui a conduit Darcy au paradigme du chatbot. La première version du chatbot a été étudiée dans un essai randomisé contrôlé qui offrait un soutien en santé mentale aux étudiants universitaires. Sur la base des résultats, Darcy a levé 8 millions de dollars auprès de New Enterprise Associates et du AI Fund d’Andrew Ng.

L’application Woebot est destinée à être un complément au soutien humain, pas à le remplacer. Elle a été construite selon un ensemble de principes que nous appelons les croyances fondamentales de Woebot, partagées le jour de son lancement. Ces principes expriment une forte foi en l’humanité et en la capacité de chaque personne à changer, choisir et grandir. L’application ne pose pas de diagnostic, elle ne donne pas de conseils médicaux et n’oblige pas ses utilisateurs à engager des conversations. Au lieu de cela, l’application suit un principe bouddhiste prévalent dans la TCC de "s’asseoir les mains ouvertes" – elle lance des invitations que l’utilisateur peut choisir d’accepter, et encourage le processus plutôt que les résultats. Woebot facilite la croissance de l’utilisateur en posant les bonnes questions aux moments optimaux, et en s’engageant dans une forme d’auto-assistance interactive qui peut se produire n’importe où, n’importe quand.

Leurs parcours de santé mentale. Pour quiconque souhaite parler, nous voulons que la meilleure version possible de Woebot soit là pour eux.

Ces croyances fondamentales ont fortement influencé à la fois l’architecture d’ingénierie de Woebot et son processus de développement de produit. La conception conversationnelle soigneuse est cruciale pour garantir que les interactions respectent nos principes. Les essais à travers une conversation sont lus à haute voix lors de "lectures à table", puis révisés pour mieux exprimer les croyances fondamentales et couler plus naturellement. Le côté utilisateur de la conversation est un mélange de réponses à choix multiples et de "texte libre", ou des endroits où les utilisateurs peuvent écrire ce qu’ils veulent.