ChatGPT Enterprise ne suffit pas : la couche manquante entre vos documents et vos LLMs

Vendredi, 16h. Un responsable commercial prépare son rendez-vous client de lundi matin. Il ouvre ChatGPT Enterprise et tape : "Quelle est la marge sur notre référence X chez ce client en 2024 ?".

La réponse arrive en trois secondes. Elle est élégante, structurée, et donne un chiffre. Le chiffre est faux. Inventé, en réalité — le modèle n'a jamais vu les fichiers de marge. Personne ne lui a montré.

Ou pire : la réponse est "je n'ai pas accès à ces données". Le commercial sait que les données existent. Elles sont quelque part sur SharePoint, dans un Excel partagé par le contrôle de gestion il y a six mois. Mais ni lui ni ChatGPT ne les retrouvent.

Le commercial part en réunion lundi avec ses propres souvenirs. On parle d'une PME suisse qui paye 30 CHF par utilisateur par mois pour un outil qui n'a pas accès à ce qu'il faut savoir.

C'est l'histoire qu'on entend toutes les semaines. Le problème n'est pas le LLM. Le problème, c'est qu'il y a un trou structurel entre vos documents et l'assistant que vos équipes ouvrent vingt fois par jour. Et ce trou, ChatGPT Enterprise ne le bouche pas. Copilot non plus, sauf dans des conditions rares. Claude for Work encore moins.

On va dire pourquoi, et ce qu'on déploie à la place dans les PME suisses et françaises qu'on accompagne.

Ce que vous obtenez vraiment en achetant ChatGPT Enterprise

ChatGPT Enterprise (et Claude for Work, et M365 Copilot dans une moindre mesure) n'est pas un mauvais produit. C'est un bon produit pour ce qu'il est : un LLM premium avec une couche de gouvernance.

Ce que vous achetez réellement :

• SSO et provisioning via votre IdP (Okta, Entra, Google Workspace).
• Contrôle admin sur les utilisateurs, les workspaces, les usages.
• Engagement contractuel de non-entraînement sur vos données.
• Support dédié, SLA, conformité (SOC 2, GDPR).
• GPTs custom — des assistants spécialisés, avec instructions et quelques fichiers.

Ce que vous N'achetez PAS :

• L'indexation native, continue et citée de vos archives : contrats, BOMs, mails clients, devis, comptes-rendus, normes internes, manuels qualité, fichiers d'offres.
• Le respect granulaire des permissions SharePoint/Drive/Notion/Confluence quand l'utilisateur pose une question.
• La traçabilité à la source sur chaque phrase générée.

Les GPTs custom permettent de charger une vingtaine de fichiers. Au-delà, la qualité décroche. Et "vingt fichiers", pour une PME industrielle ou un cabinet financier, c'est ce qu'on génère en deux jours.

Le résultat sur le terrain est paradoxal : vos équipes utilisent ChatGPT Enterprise pour rédiger — un mail commercial, un compte-rendu, une note de synthèse. Pour chercher ce qui existe déjà dans la boîte, elles continuent à demander à un collègue. Vous payez un outil de génération de texte. Pas un outil de connaissance.

Pourquoi M365 Copilot ne comble pas le manque en PME

Microsoft Copilot a un argument fort sur le papier : il est natif M365. Il voit SharePoint, Outlook, Teams, OneDrive. Quand on regarde la roadmap, on a envie d'y croire.

Sur le terrain, dans les PME qu'on accompagne, on observe trois réalités.

Premièrement, Copilot fonctionne bien quand SharePoint est impeccable. Tagging des documents, métadonnées renseignées, gouvernance des sites, contrôle des permissions, hygiène des bibliothèques. Dans une grande entreprise avec un département gestion documentaire, c'est faisable. Dans une PME de 60 personnes où SharePoint a été monté en 2019 par un stagiaire et empilé depuis, Copilot retourne du bruit. Ou rien.

Deuxièmement, Copilot reste enfermé dans M365. Si vos contrats sont sur DocuSign, vos devis sur un ERP métier, vos tickets clients sur Zendesk, vos specs produit sur Notion, vos mails commerciaux sur un CRM tiers — Copilot ne voit rien. Or 70% de la connaissance utile d'une PME vit hors de M365. (Ordre de grandeur observé en mission, pas une étude académique — chaque boîte est différente, mais le pattern est constant.)

Troisièmement, la facture grossit vite. Copilot, c'est de l'ordre de 30 CHF par siège par mois sur les paliers entreprise, et il faut souvent provisionner large pour les équipes "qui pourraient en avoir besoin". Trois mois plus tard, on regarde l'usage : une fraction réelle des sièges actifs, pour des tâches surtout rédactionnelles.

On a déjà écrit pourquoi les POC IA échouent. Une licence Copilot sous-utilisée, c'est exactement le même mécanisme — sauf que cette fois c'est en production, et la facture tombe tous les mois.

Côté Claude for Work, le constat est identique en miroir : excellent modèle, "Projects" pratiques pour un usage individuel, mais aucune indexation native de vos systèmes documentaires. On reste sur un schéma d'upload manuel. Très bien pour un analyste qui prépare un dossier, inadapté pour 80 personnes qui doivent toutes voir la même version d'un contrat-cadre.

Pourquoi les GPTs custom et les Custom Connectors ne tiennent pas

Face à ce constat, la première tentation des équipes IT est de bricoler. C'est la phase "on fait avec ce qu'OpenAI/Anthropic propose".

Les outils existent :

• GPTs custom chez OpenAI : on uploade des fichiers, on rédige des instructions, on partage.
• Custom Connectors : on branche un endpoint API maison.
• Projects chez Claude : pareil, on alimente un contexte de travail.

En pilote sur dix utilisateurs et trente documents, ça marche. En prod sur 80 personnes et 50'000 documents, ça casse.

Les points qui lâchent :

• Volume. Les GPTs ont des limites de taille de fichiers et de nombre de documents. Quand on dépasse, les performances de recherche s'effondrent silencieusement.
• Maintenance. Qui ré-uploade les fichiers quand le contrôle de gestion sort une nouvelle version du tarifaire ? Personne. Six mois plus tard, le GPT répond avec des données périmées, et personne ne le sait.
• Gouvernance. Un employé qui n'a pas droit à un dossier RH peut très bien interroger un GPT qui l'a en source. Aucune notion de permissions héritées du système de fichiers.
• Traçabilité. Le GPT répond. Sur quoi ? Mystère, le plus souvent. Pas de citation page-précise, pas de lien vers le fichier source dans SharePoint.
• Scaling. Si chaque équipe construit son GPT dans son coin, vous vous retrouvez avec quarante assistants redondants, mal maintenus, sans gouvernance centrale.

C'est du bricolage de pilote. Pas une architecture de production.

Ce qu'il manque : une couche de connaissance

Le vrai trou, c'est une couche de connaissance assise entre vos documents et n'importe quel LLM frontal. Une brique d'infrastructure, pas un assistant de plus.

Ce qu'on attend de cette couche :

• RAG sur vos vrais documents. Indexation continue de SharePoint, Drive, Notion, Confluence, du système de fichiers, du DMS qualité, du CRM, de l'ERP — selon ce qui compte chez vous.
• Citations à la source. Chaque réponse pointe vers le PDF page 12, l'email du 3 mars, la cellule du tableur. Vérifiable en un clic.
• Respect des permissions natives. Si l'utilisateur n'a pas accès à un dossier dans le système source, il ne voit pas son contenu dans les réponses. C'est non-négociable.
• Indépendance du LLM frontal. Vous changez d'avis dans six mois et passez de ChatGPT à Claude ? La couche reste. C'est vos données, pas vos prompts, qui sont le capital.
• Mise à jour incrémentale. Quand un fichier change, il est réindexé en quelques minutes. Pas de batch nocturne qui rate la moitié des deltas.

C'est exactement ce que décrit notre comparatif RAG vs fine-tuning vs MCP : pour la grande majorité des cas PME, la bonne réponse n'est pas de réentraîner un modèle. C'est de bien acheminer le contexte.

L'IA que vos équipes connaissent déjà, branchée sur ce qu'elles cherchent vraiment

L'erreur stratégique qu'on voit le plus, c'est de vouloir remplacer ChatGPT par un outil maison. Ça ne marche pas. Vos équipes ont pris des habitudes. Elles aiment l'interface. Elles veulent ChatGPT, ou Claude, ou Copilot. Pas un "portail IA d'entreprise" que personne n'ouvre.

La bonne approche : garder leur LLM, lui donner accès à vos documents. Via MCP, via plugin, via un connecteur natif. L'utilisateur ne change rien. La couche de connaissance, elle, fait le travail invisible : recherche, filtrage par permissions, classement, citations.

C'est l'idée derrière Atlas, notre knowledge layer. On l'a conçu après deux ans d'observation : les PME n'ont pas besoin d'un nouvel assistant, elles ont besoin que l'assistant qu'elles paient déjà sache enfin lire leurs archives. Atlas indexe ce qui compte (SharePoint, Drive, DMS, CRM, dossiers métier), respecte les permissions natives, et se branche à ChatGPT, Claude, Copilot ou Mistral via MCP. La couche tourne chez vous ou chez nous, en Suisse. Les réponses sont citées. Le LLM frontal devient enfin utile sur vos données.

Comment savoir si vous êtes concerné

Quatre signaux qu'on retrouve sur quasiment toutes les missions diagnostic :

1. Vos équipes "googlent" dans Teams. Quelqu'un poste "Hello, est-ce que quelqu'un sait où est le dernier contrat-cadre avec [client] ?" toutes les deux heures. C'est l'indicateur le plus brutal : votre moteur de recherche d'entreprise, c'est vos collègues.

2. Du "shadow GPT" tourne sur des laptops perso. Vos consultants, vos commerciaux, vos chefs de projet copient-collent des extraits de documents dans ChatGPT personnel pour gagner du temps. Vous l'avez interdit. Ils le font quand même. La donnée fuit.

3. Les réponses non-citées partent en réunion. Quelqu'un sort un chiffre généré par ChatGPT, sans source, et personne ne vérifie. Trois semaines plus tard, on découvre que c'était faux. Risque commercial, risque conformité.

4. Votre facture Copilot grossit alors que l'usage stagne. Vous regardez les dashboards d'usage : 30% des sièges sont actifs. Les 70% restants ouvrent l'outil une fois par mois pour résumer un mail. ROI invisible.

Bonus, signal numéro 5 qu'on voit de plus en plus : les équipes opérationnelles ont arrêté de demander de nouvelles features IA. Elles ont essayé, ça n'a pas répondu à leurs vraies questions, elles ont rangé l'outil. Quand vous arrêtez d'avoir des demandes, ce n'est pas que tout va bien — c'est que personne ne croit plus que l'outil va répondre.

Si vous cochez deux signaux sur quatre, vous avez un problème de couche de connaissance, pas un problème de licence LLM.

---

Alors la question, à poser sans détour à votre comité de direction : quand votre commercial a besoin de la dernière version de la spec produit, le lundi à 8h avant son client, où va-t-il la chercher ?

Si la réponse est "il demande à Sarah" ou "il fouille trois canaux Teams", ChatGPT Enterprise ne va rien changer. Le LLM ne manquait pas. C'est la couche en dessous.