Chatbot IA et RAG : à quoi ça sert vraiment pour une PME

Un chatbot IA, c'est quoi au juste ?

Un chatbot IA est un programme qui comprend une question écrite en langage courant et y répond de la même manière, en s'appuyant sur un grand modèle de langage (LLM) comme ceux de la famille ChatGPT (OpenAI) ou Claude (Anthropic). Contrairement aux anciens chatbots à boutons et arbres de décision, il n'a pas besoin qu'on ait prévu chaque question à l'avance : il interprète la formulation, même approximative.

Le revers, c'est qu'un LLM seul répond à partir de ce qu'il a appris sur Internet jusqu'à une certaine date. Il ne connaît ni vos tarifs, ni vos procédures internes, ni le statut d'une commande. Posé tel quel sur le site d'une PME, il donnera des réponses génériques, parfois fausses, et inventera avec aplomb ce qu'il ignore. C'est précisément ce trou que le RAG vient combler.

Le RAG en clair : faire répondre l'IA sur VOS documents

RAG signifie « Retrieval-Augmented Generation », soit « génération augmentée par la recherche ». L'idée est simple : avant de répondre, le système va d'abord chercher les passages pertinents dans vos propres documents, puis les fournit au LLM en lui demandant de répondre uniquement à partir de ces extraits.

Concrètement, on découpe vos documents (PDF, pages web, fiches produits, procédures, contrats, FAQ) en petits morceaux, on les indexe dans une base spécialisée, et à chaque question le moteur récupère les 3 à 8 passages les plus proches du sujet. Le modèle rédige alors une réponse ancrée dans ces extraits, idéalement avec la source citée.

L'intérêt majeur : le LLM ne « mémorise » pas vos données et n'a pas besoin d'être ré-entraîné. Vous pouvez mettre à jour un PDF le matin, le chatbot en tiendra compte l'après-midi. Et comme la réponse renvoie à un document précis, un humain peut vérifier la source en un clic, ce qui réduit fortement le risque d'erreur inventée.

Cas d'usage concrets pour une PME

Le RAG est rentable dès qu'une équipe répond souvent aux mêmes questions à partir de documents qui existent déjà. Quelques exemples réalistes en PME romande :

• Support client de premier niveau sur le site : horaires, délais, conditions de retour, garanties, à partir de la FAQ et des CGV réelles de l'entreprise.
• Assistant interne pour les collaborateurs : retrouver une procédure, une clause de contrat type, une consigne RH ou une norme métier sans fouiller le serveur de fichiers.
• Aide à l'avant-vente : répondre aux questions techniques récurrentes sur un catalogue produits ou des fiches de prestations.
• Support comptable et administratif interne : retrouver une règle dans un manuel de procédures, croisée avec des outils suisses comme Bexio, Crésus ou Abacus (le chatbot explique la marche à suivre, l'écriture restant faite dans le logiciel métier).
• Tri et préparation de demandes entrantes : reformuler, classer et router un e-mail client vers le bon service, parfois en combinaison avec un outil d'automatisation comme n8n ou Make.

Quelles sont les limites à connaître ?

Un chatbot RAG n'est pas un employé ni un expert. Il reste un outil statistique, avec des limites qu'il faut accepter avant de se lancer.

Il ne vaut que ce que valent vos documents : si une procédure est obsolète ou contradictoire, la réponse le sera aussi. La qualité de l'indexation et du découpage compte autant que le modèle. Et même bien réglé, un LLM peut encore se tromper ou mal interpréter une question ambiguë, d'où l'importance d'afficher les sources et de prévoir une bascule vers un humain.

• Pas fiable à 100 % : à réserver à l'information et au premier niveau, pas aux décisions juridiques, médicales ou financières engageantes sans relecture.
• Sensible aux questions hors périmètre : il faut lui apprendre à dire « je ne sais pas » plutôt qu'à inventer.
• Demande de l'entretien : documents à tenir à jour, réponses à surveiller, périmètre à ajuster dans le temps.
• Pas magique sur des données mal structurées : des scans illisibles passeront par une étape d'OCR, avec une qualité variable.

Sécurité des données : ne pas tout envoyer à un LLM public

C'est le point sensible pour une PME suisse. Utiliser la version grand public et gratuite d'un assistant IA en y copiant des données clients ou des contrats revient à confier ces informations à un tiers, parfois utilisées pour entraîner ses modèles. Pour des données personnelles, cela pose un problème direct au regard de la nLPD.

La bonne pratique est de séparer clairement le « cerveau » (le LLM, qui rédige) de la « mémoire » (vos documents, qui restent chez vous). On passe par les API professionnelles des fournisseurs, dont les conditions excluent en général la réutilisation des données pour l'entraînement, et on filtre ce qui transite : seuls les extraits strictement nécessaires à la réponse sont envoyés, pas toute votre base.

Pour les données les plus sensibles, on peut héberger l'index documentaire en Suisse ou en Europe, anonymiser certains champs avant traitement, et journaliser les échanges. En Suisse romande, des studios spécialisés comme Algoria, à Villeneuve (VD), conçoivent ce type de chatbot en gardant les données chez le client, dans le respect de la nLPD, et en laissant la propriété du code à l'entreprise.

Combien ça coûte et quel effort prévoir ?

Deux postes de coût coexistent : la mise en place (projet) et l'usage (consommation). La mise en place dépend surtout du nombre de sources à connecter et du niveau d'intégration souhaité ; un assistant interne sur un corpus documentaire bien rangé est nettement plus léger qu'un chatbot client relié à plusieurs outils métier.

À l'usage, les API de LLM se facturent au volume de texte traité (les « tokens ») : pour une PME, on parle souvent de quelques dizaines à quelques centaines de francs par mois selon le trafic, auxquels s'ajoute un éventuel hébergement de l'index. L'effort principal côté entreprise n'est pas technique : c'est de rassembler et nettoyer les documents qui serviront de base.

Une approche raisonnable consiste à démarrer petit : un périmètre clair (une FAQ, un manuel), un pilote de quelques semaines, une mesure honnête du taux de bonnes réponses, puis une extension seulement si l'outil tient ses promesses.

• Mise en place : un pilote ciblé reste accessible ; comptez davantage dès qu'il faut connecter plusieurs systèmes et automatiser des actions.
• Usage mensuel : proportionnel au nombre de questions et à la longueur des documents mobilisés.
• Effort interne : préparer et maintenir les documents sources, définir le périmètre, désigner un référent qui relit les réponses.