Déployer un assistant IA sur ses propres documents fait souvent envie. La promesse est simple : retrouver vite la bonne information, aider les équipes, mieux répondre aux usagers. Mais entre un outil pratique et un risque de fuite de données, la différence se joue dans l'architecture du projet. Ma conviction est claire : un assistant documentaire n'a de valeur que s'il est utile, maîtrisé et sécurisé.

1. Partir d'un vrai besoin métier, pas d'un effet de mode

Avant de parler de RAG, de modèle ou d'hébergement, il faut poser une question simple : quel problème concret veut-on régler ? Si la réponse reste floue, le projet dérive vite. Un bon point de départ, c'est un cas d'usage précis, limité, vérifiable.

Exemple concret : dans un service de relation usager, les agents doivent retrouver rapidement les règles applicables à une demande sur les déchets, les horaires, les démarches ou les consignes de tri. Un assistant IA peut aider à retrouver la bonne réponse dans une base documentaire interne. En revanche, il ne doit pas décider seul d'une situation individuelle. Dès qu'une réponse touche aux droits d'une personne, l'humain garde la main.

Je conseille de commencer par un périmètre étroit : une documentation stabilisée, quelques utilisateurs, des questions récurrentes. C'est la meilleure façon de tester l'utilité réelle sans exposer inutilement des données sensibles.

2. Construire une base documentaire propre et gouvernée

Un assistant RAG ne vaut pas mieux que les documents qu'on lui confie. Si les fichiers sont obsolètes, contradictoires ou mal classés, l'outil produira des réponses fragiles. La première étape sérieuse consiste donc à trier, qualifier et documenter les sources.

Concrètement, je recommande de vérifier :

  • quels documents sont autorisés dans la base ;
  • qui en est responsable ;
  • à quelle fréquence ils sont mis à jour ;
  • quels niveaux de confidentialité s'appliquent.

Exemple concret : pour un usage autour de l'eau ou de la qualité de l'air, on peut intégrer des procédures internes, des comptes rendus techniques, des notices et des référentiels publics. En revanche, il faut éviter d'y verser sans discernement des échanges informels, des brouillons ou des données personnelles non nécessaires.

C'est aussi là que la responsabilité entre en jeu. Dans mes missions comme dans les actions d'acculturation que je mène, je rappelle un point simple : si l'on ne maîtrise pas ses sources, on ne maîtrise pas les réponses. Et si des publics fragiles sont concernés, la vigilance doit être encore plus forte.

3. Choisir une architecture sobre, souveraine et sécurisée

Le cœur d'une démarche souveraine, c'est de garder la maîtrise des données, des accès et des flux. Cela ne veut pas dire tout compliquer. Cela veut dire faire des choix cohérents : hébergement maîtrisé, outils ouverts quand c'est pertinent, journalisation, gestion des droits, cloisonnement, et intégration de la cybersécurité dès le départ.

Exemple concret : dans un contexte énergie, un assistant peut aider des équipes à consulter plus vite des procédures d'exploitation, des comptes rendus d'intervention ou des référentiels techniques. Ici, il est essentiel de séparer les documents internes, de limiter les profils d'accès, et d'éviter qu'un outil externe aspire des informations sensibles.

Un projet RAG bien conçu doit répondre à quelques questions de base :

  1. Où sont stockés les documents ?
  2. Qui peut interroger l'assistant ?
  3. Quelles traces sont conservées ?
  4. Que se passe-t-il en cas d'erreur ou de réponse incertaine ?

La souveraineté n'est pas un slogan. C'est une suite de décisions concrètes sur l'hébergement, la sécurité et la gouvernance.

4. Tester, former, cadrer les usages

Un assistant IA documentaire ne se déploie pas proprement sans phase de test ni accompagnement. Il faut observer les questions posées, repérer les réponses incomplètes, améliorer les sources et former les utilisateurs. L'acculturation fait partie du projet, au même titre que la technique.

Exemple concret : dans le champ de la mobilité, un assistant peut aider des agents à retrouver des éléments dans des délibérations, des notes techniques ou des guides de procédure. Mais les utilisateurs doivent savoir quand faire confiance à la réponse, quand retourner au document source, et quand demander une validation humaine.

Je recommande toujours trois règles d'usage : l'assistant cite ses sources, l'utilisateur peut vérifier rapidement, et les cas sensibles remontent à une personne responsable. C'est particulièrement important dès que l'on touche à l'accompagnement de publics fragiles, à une aide sociale ou à une décision qui peut avoir un impact direct sur une personne.

Un assistant RAG bien conçu n'est pas une vitrine technologique. C'est un outil de travail. S'il est utile, il fait gagner du temps sur la recherche d'information. S'il est responsable, il laisse toujours la décision à l'humain. S'il est souverain et sécurisé, il protège les données au lieu de les exposer. C'est cette ligne que je défends : une IA concrète, de confiance, au service des usages réels.