Construire un agent ou un RAG n'est plus le sujet
Après des agents chez grands comptes et startups, la douleur n'était pas l'implémentation. C'était coûts, droits et observabilité — surtout les permissions.
Construire un agent ou un RAG n'est plus le sujet.
J'en ai déployé chez des grands comptes et des startups. La partie technique, c'est faisable rapidement par n'importe quel développeur.
J'ai donné un REX récemment. On m'a demandé « sincèrement, quelles ont été vos difficultés ? »
Pas grand-chose sur l'implémentation d'agents ou de RAG techniquement. Tout sur ce qu'il y a autour.
Les trois couches dures
Coûts et mise à l'échelle. Par exemple Copilot change sa grille tarifaire, on en vient presque à regretter les artisans du code.
Permissions / Droits. Pourquoi Micheline a accès aux contrats de livraison de sous-marins via un agent RAG ? (Exemple choisi au hasard.)
Observabilité / Guardrails. Qui surveille que l'agent a appelé le bon tool ? Qu'il ne propage pas de secrets ? Que la demande est autorisée ?
La partie dure de l'IA en entreprise, ce n'est pas de faire l'agent, c'est faisable en quelques lignes de code. C'est tout ce qu'il y a autour.
On en revient à des problèmes classiques, pour moi une preuve de plus que le sujet n'est plus l'implémentation directe mais plutôt avec quel cadre.
Sur les trois c'est vraiment la partie droits qui représente à mes yeux l'enfer sur terre. Ça met en lumière un vrai problème organisationnel qui ne peut être résolu uniquement par la technique.
C'est quoi le truc qui vous bloque sur vos agents en ce moment : les coûts, les droits, l'observabilité, ou autre chose ?