La manière la plus simple de faire fuiter des données client dans un système d’IA est aussi la plus banale : copier un contrat, un fil d’e-mails, une note médicale, un dossier de due diligence, un document RH ou une stratégie contentieuse dans un outil de chat grand public parce que la réponse est utile. Le problème de sécurité n’est pas “l’IA” en général. C’est un workflow non maîtrisé.

01 Le vrai risque est le transfert non contrôlé

Lorsqu’une équipe utilise un chatbot public comme espace de travail, elle perd la maîtrise de trois questions concrètes : quelles données sensibles sont sorties de l’organisation, combien de temps elles peuvent être conservées et si le fournisseur peut les utiliser pour améliorer ses modèles. Pour un travail réglementé ou confidentiel, ces questions doivent être traitées avant le premier document.

Le workflow doit faire en sorte que le LLM reçoive le contexte minimal utile, pas tout le dossier.

Un workflow interne crée un transfert contrôlé. Il peut authentifier l’utilisateur, lire les documents depuis des sources autorisées, pseudonymiser les informations personnelles et confidentielles, appeler la bonne configuration d’API, journaliser les opérations et imposer une validation avant tout envoi au client ou toute mise à jour du dossier.

02 Un pipeline de pseudonymisation concret

Le pipeline doit s’exécuter avant l’appel au LLM. D’abord, il qualifie la tâche : résumer, extraire des dates, préparer des questions, comparer des clauses ou rédiger un brouillon. Ensuite, il détecte et remplace les entités sensibles : noms des clients, parties adverses, adresses, téléphones, e-mails, données bancaires, pièces d’identité, références de dossier, numéros d’affaire, données de santé, données RH, conditions commerciales et stratégie confidentielle.

ENTRÉEFichiers autorisés
→
RETRAITPII + secrets
→
LLMContexte minimal
→
REVUEValidation humaine

La version la plus sûre conserve une table de correspondance dans votre propre système : “CLIENT_001” correspond au vrai nom du client, “DATE_003” correspond à l’échéance réelle, etc. Le LLM travaille sur des placeholders. Une fois la réponse produite, votre workflow peut réinjecter uniquement les champs nécessaires, ou conserver une sortie pseudonymisée pour la revue interne.

Les garde-fous utiles incluent des sources documentaires autorisées, une liste de champs qui ne sortent jamais du système, une pseudonymisation déterministe pour les entités répétées, des seuils de confiance, une validation manuelle si la détection est incertaine, des journaux chiffrés et une politique de conservation des fichiers intermédiaires.

03 Les contrôles fournisseur comptent plus que la préférence de marque

Mistral est une option intéressante pour les équipes européennes : l’entreprise est française, indique que les données sont hébergées par défaut dans l’Union européenne, propose un Data Processing Addendum et précise que les données envoyées via les API payantes ne sont pas utilisées pour entraîner les modèles. Mistral distingue aussi l’opt-out d’entraînement de la Zero Data Retention : la ZDR est disponible avec le plan Scale pour les appels d’API stateless, et lorsqu’elle est activée, les entrées et sorties API ne sont pas conservées au-delà de ce qui est nécessaire pour répondre.

Cela ne veut pas dire que tous les produits Mistral ont le même niveau de confidentialité. Les offres gratuites ou les expériences de chat peuvent avoir des comportements différents en matière d’entraînement et de rétention, et les produits stateful comme les agents, fichiers, conversations, bibliothèques ou chats doivent stocker des données pour fonctionner. L’architecture doit donc choisir le bon endpoint et le bon plan, pas seulement le bon logo.

OpenAI fait une distinction similaire : sa documentation API indique que les données envoyées à l’API ne servent pas à entraîner les modèles sauf opt-in, tandis que la rétention standard pour la surveillance des abus varie selon les endpoints et que l’éligibilité à la Zero Data Retention dépend de l’endpoint. ChatGPT côté consommateur dispose de contrôles séparés, dont la désactivation de “Improve the model for everyone”.

04 Pourquoi c’est encore plus important pour les cabinets d’avocats

Oui, un cabinet d’avocats doit être plus strict. Il manipule la confidentialité client, le secret professionnel, des données personnelles sensibles, une stratégie contradictoire, des preuves, des échéances et des communications privilégiées. Un mauvais workflow IA peut produire plusieurs dommages à la fois : risque de fuite de données, perte de confidentialité, faible auditabilité, contenu juridique halluciné et responsabilité floue sur une réponse adressée au client.

Le bon modèle est souvent un workflow sécurisé d’intake juridique ou de tri documentaire : collecter les pièces, retirer ou pseudonymiser les données sensibles, demander au LLM une note structurée, signaler les preuves manquantes, faire remonter les risques et les échéances, puis imposer la validation de l’avocat avant toute mise à jour du dossier, tout e-mail ou toute création de délai.

RÈGLE PRATIQUE

N’envoyez pas de données sensibles brutes à un LLM tant que le contrat fournisseur, l’endpoint, la rétention, les accès et la revue humaine n’ont pas été choisis volontairement.

05 Sources à vérifier