Des chatbots d’IA pour les associations socioculturelles: de nombreuses questions encore ouvertes

Sans vouloir trop anticiper les conclusions, nous pouvons dire que ce n'est pas si simple. Ou, comme l’explique Olivier Steiner, responsable de l’étude et professeur à l’Institut d’aide à l’enfance et à la jeunesse à la FHNW : « L’étude de faisabilité devait répondre à de nombreuses questions, ce qu’elle a fait. Elle en a cependant soulevé beaucoup d’autres. »

Mais reprenons depuis le début. Lors de la réflexion sur l’utilisation de chatbots d’IA pour les associations de jeunesse, il s’agissait d’abord de clarifier ce que l’IA devait ou pouvait faire au contact des jeunes. Dans le contexte de l’étude, il était évident que l’IA ne devait pas prendre en charge les consultations. Quand des problèmes personnels étaient abordés, le chatbot devait désigner un interlocuteur du service social scolaire, et ce, sans se tromper d’école.

Disponible par exemple sur un réseau social, le chatbot devait bien entendu répondre aux questions concernant les événements, les heures d’ouverture, etc.

Autre question fondamentale : quels systèmes techniques utiliser ? C’est là que l’affaire devient délicate. Car il était clair dès le début que la protection des données devait être garantie au possible, vu le jeune âge des utilisateurs. Comme le précise Oliver Steiner, « la protection de la personnalité et des données sensibles est pour moi la priorité, si bien que nous devons trouver des solutions spécifiques au travail social. » En d’autres termes, des solutions telles que des modèles open source hébergés sur des serveurs locaux, c’est-à-dire en Suisse, plutôt que des modèles commerciaux comme GPT-4.

Le problème est que, pour l’instant, les modèles open source sont encore peu performants. Ce qui implique aussi, pour les chatbots d’IA, qu’ils sont davantage susceptibles de commettre des erreurs. Cette situation, au vu de son ampleur lors de la phase de test, a tout de même surpris Olivier Steiner et son équipe : « Nous ne nous attendions pas à ce que le système nous donne des réponses erronées et soit aussi peu fiable. Nous pouvons corriger certaines erreurs, mais pas toutes. »

L’exemple suivant illustre les problèmes rencontrés :

La question d’un jeune qui a participé en tant que personne-test était la suivante : « Donne-moi le nom de quelques restaurants qui se trouvent près de la Barfüsserplatz ».

Le chatbot aurait dû répondre qu’il n’était compétent que pour les conseils aux jeunes et les événements. Mais il a voulu aider… et a cité quelques restaurants. Cependant, certains n’existaient tout simplement pas à Bâle : ni à la Barfüsserplatz ni ailleurs. Il a fabulé :

Réponse : Merci beaucoup ! Voici quelques restaurants proches de la Barfüsserplatz :
Morfroisterei Glarus, Adresse : Renzi-Pfister-Platz 4, 4001 Bâle, Téléphone : +41 79 589 34 79.
Crepuscule, Adresse : Barfüsserplatz 14, 4001 Bâle, Téléphone : +41 79 549 28 86.
La Cantine, Adresse : Sibylla-Helfrich-Strasse 21, 4001 Bâle, Téléphone : +41 79 458 24 57

À ce premier problème de mise en œuvre s’ajoutent des défis linguistiques ; le chatbot devrait comprendre les expressions des jeunes et le suisse allemand. Il est important, a fortiori dans le travail avec les jeunes, d’avoir une interaction aussi proche que possible de la vie quotidienne.

Il n’existe actuellement aucun relevé de données open source en suisse allemand. Le modèle devrait donc être alimenté manuellement, ce qui non seulement prendrait beaucoup de temps, mais entraînerait aussi des coûts élevés.

Les coûts sont également problématiques, surtout lorsqu’il est question du nombre de jeunes qui peuvent simultanément utiliser le chatbot. Dans la version-test, le système s’est bloqué dès que cinq utilisateurs ont posé des questions en même temps. L’augmentation des capacités se répercute sur les coûts. Dans l’étude, les estimations vont de 2500 francs pour quatre personnes en simultané jusqu’à 25 000 francs pour 40 accès simultanés.

Ce n’est peut-être pas le chemin le plus rapide.

Olivier Steiner, FHNW

Néanmoins, l’équipe chargée de l’étude estime que la voie choisie en vaut vraiment la peine. « Ce n’est peut-être pas le chemin le plus rapide », admet Olivier Steiner. « Mais tout travail social devrait prendre cette voie et se pencher sur les questions soulevées. »

Il est certain que des clarifications et des essais supplémentaires seront nécessaires avant de pouvoir effectivement utiliser un pilote ou un prototype. L’équipe a estimé qu’avec un budget de 150 000 à 200 000 francs, le projet serait réalisable en deux à trois ans. La phase de conception initiale serait intense, puis la mise en œuvre plus facile. Enfin, il faut souligner que les modèles open source s’améliorent sans cesse, tant l’IA évolue vite.

Selon Olivier Steiner, les autres possibilités dépendent notamment de l’intensité et de l’ampleur de l’esprit d’innovation dans notre pays : « En Suisse, il faut être visionnaire pour développer soi-même un tel outil et disposer d’assez d’autonomie en matière de technologie, de données et de calcul. »

*

Le projet « Étude de faisabilité d’un chatbot IA pour les associations socioculturelles enfance et jeunesse » a été mis en œuvre de septembre 2024 à mai 2025. Son rapport final (en allemand) peut être consulté → ici.