Assistant IA interne ou chatbot client : deux usages à cadrer séparément

Définir les personnes qui utiliseront l’outil

Un assistant interne accompagne des collaborateurs identifiés dans leur travail : retrouver une procédure, préparer un compte rendu ou expliquer une étape d’un dossier. Les droits peuvent différer entre services, fonctions et projets. Le fait d’appartenir à l’entreprise ne donne pas automatiquement accès à tous ses documents.

Un chatbot client répond à une audience extérieure. Il peut informer un visiteur anonyme à partir de contenus publics, ou accompagner un client connecté sur des informations propres à son compte. Ces deux situations doivent elles-mêmes être distinguées. Une question sur une commande personnelle ne doit pas recevoir une réponse issue d’un autre compte.

Séparer les contenus publics des documents internes

Constituez un ensemble de sources adapté à chaque usage. Les horaires et modalités de contact peuvent être publics. Une procédure interne de négociation ou une note sur un client ne l’est pas nécessairement. Les documents doivent avoir un responsable et un statut permettant de savoir s’ils sont utilisables ou périmés.

Les droits se vérifient avant que les extraits soient fournis au modèle. Lui demander de « ne pas révéler » un document déjà transmis ne constitue pas une séparation d’accès fiable. La fiche OWASP sur les autorisations recommande notamment leur vérification à chaque requête. Cela concerne aussi la consultation des sources et des pièces liées à une réponse.

Délimiter ce que l’outil peut dire et faire

Pour un assistant interne, distinguez la recherche d’information de la modification d’un dossier. Pour un chatbot client, distinguez une explication générale d’un engagement commercial ou d’une action sur un compte. Une réponse bien rédigée n’autorise pas à modifier un contrat ou à promettre un délai qui n’a pas été confirmé.

Une action éventuelle passe par un outil limité, qui vérifie les droits et les informations nécessaires. Un contenu externe ne doit pas pouvoir élargir cette autorisation. L’OWASP décrit le risque d’instructions malveillantes intégrées dans des documents ou messages consultés par un modèle. Les contrôles d’accès et les limites d’action restent donc indépendants du texte de la conversation.

Exemple hypothétique : une question sur une intervention

Un client demande où en est son intervention. Sans identification permettant d’accéder au bon dossier, le chatbot public explique comment joindre l’entreprise ou consulter l’espace prévu. Il ne déduit pas une identité à partir d’un nom fourni dans la conversation et ne révèle pas les notes de l’équipe.

Dans l’espace interne, un collaborateur habilité peut consulter l’état du dossier et les pièces correspondant à son rôle. L’assistant peut en proposer un résumé avec les sources utilisées, en signalant une information manquante. Cet exemple hypothétique décrit deux parcours possibles, pas un service client d’Algoria ni un résultat déjà obtenu par une entreprise.

Construire des tests adaptés à chaque audience

Évaluez les questions fréquentes, les formulations ambiguës, les informations absentes et les documents contradictoires. Pour l’assistant interne, vérifiez surtout que les sources utiles sont retrouvées et que les droits restent corrects d’un utilisateur à l’autre. Une réponse vide face à un document interdit est parfois le comportement attendu.

Pour le chatbot client, testez les réponses qui pourraient engager l’entreprise, les demandes hors périmètre et le passage à une personne. Mesurez séparément la pertinence d’une réponse, la qualité de ses sources et les erreurs d’accès. Un bon résultat moyen ne compense pas la divulgation d’un dossier privé. Conservez les cas de test pour les rejouer après une modification du modèle ou des documents.

Prévoir un relais humain et l’entretien des sources

Lorsque l’outil ne dispose pas d’une réponse fiable, il doit l’indiquer et proposer un passage utile vers une personne. Précisez ce qui sera transmis avec la demande et évitez de demander à l’utilisateur de répéter des informations déjà disponibles et autorisées. Le traitement effectif de cette demande doit rester identifiable.

Chez Algoria, les données et les traitements IA restent en Suisse. Le projet définit également qui entretient les documents, qui examine les réponses signalées et comment suspendre un périmètre devenu incertain. Un assistant interne peut servir de premier terrain d’essai, mais son succès ne valide pas automatiquement une ouverture au public.

• Identifier l’audience et le mode d’identification nécessaire.
• Séparer les sources publiques, internes et propres à chaque client.
• Écrire les réponses et actions qui exigent un relais humain.
• Tester le retrait d’un droit et la suppression d’un document source.
• Prévoir la mise à jour des contenus et le traitement des réponses signalées.