Le marché français doit gagner en maturité sur l'IA Générative

Le 21 septembre 2023 Google a mis en lumière l'état de l'art de l'IA Générative sur la scène mythique du Casino de Paris. Je vous livre ici les grands enseignements de cette journée, à laquelle j'ai eu la chance de prendre part en tant qu'intervenante à la table ronde partenaires animée par François Weider (Google Cloud), aux côtés de Nicolas de Bellefonds (BCG), Philippe Cordier (CapGemini Invent) et Claire Howlett (Google Cloud).

Le fil rouge de la journée : le faible niveau de maturité du marché français appelle à une accélération de l'acculturation et des expérimentations, rendue possible par l'écosystème technologique et les différents modes d'accompagnement.

Le marché français présente un niveau de maturité faible

Le marché français présente effectivement un niveau de maturité relativement faible dans le domaine de l'IA générative. Selon les données recueillies par le BCG dans le cadre de l'étude Digital Acceleration Index 2023, on constate que sur les 15000 sociétés étudiées, environ 70% des transformations digitales ne parviennent pas à atteindre leurs objectifs. De plus, seulement 20% des dépenses technologiques sont consacrées à l'innovation. Environ 37% des sociétés manquent d'une gouvernance digitale claire, et plus de la moitié (52%) découragent l'utilisation de l'IA générative.

Ces chiffres font écho à ce que nous observons sur le terrain, auprès de nos clients. Malgré la forte médiatisation du sujet, peu de nos interlocuteurs utilisent l'IA Générative pour les aider dans leurs tâches quotidiennes, la déclaration la plus fréquente est : "comme tout le monde, j'ai un peu joué avec ChatGPT, il est bluffant au démarrage, mais rapidement je l'ai trouvé limité." Un des enjeux soulevés est celui de la confiance dans ces technologies et le besoin de conserver un contrôle humain sur ce qui est produit, "don't trust verify". Ce niveau de maturité organisationnel faible est lui en décalage avec l'écosystème technologique qui gagne rapidement en maturité.

Il y a donc urgence à acculturer, tester et apprendre

Pourtant, les entreprises qui réussissent dans l'adoption et l'utilisation de l'IA générative connaissent une croissance plus importante. En effet, elles enregistrent un meilleur EBIT, comparativement à celles qui sont moins matures dans ce domaine. Depuis 2020, ces entreprises ont généré 26 points de valeur supplémentaire par rapport à leurs concurrentes. Une tendance qui devrait se poursuivre puisque cet écart devrait tripler dans les trois prochaines années. (BCG)

Parmi les industries les plus matures dans l'IA générative, nous retrouvons les technologies, médias et télécommunications, le secteur de l'assurance, des technologies de communication et de l'information, la finance et les biens industriels.

Chez WEnvision, nous avons coutume de dire que l'IA ne remplacera pas un humain. En revanche les entreprises qui utilisent l'IA risquent de remplacer celles qui ne l'utilisent pas.

Un écosystème technologique qui répond aux enjeux d'entreprise

Les enjeux principaux relevés par le panel de partenaires sont la sécurisation des données de l'entreprise, la responsabilité liée à l'utilisation des IA génératives, et la maîtrise des coûts financiers et environnementaux. Google Cloud fournit à ses clients des solutions qui permettent de répondre à ces besoins.

La sécurisation des données : il est nécessaire d'interdire l'utilisation des IA génératives grand public, mais ce n'est pas suffisant. L'entreprise doit mettre une alternative robuste, fiable et sécurisée à disposition de ses collaborateurs. Les entreprises peuvent par exemple déployer un Bard d'entreprise à partir des composants disponibles sur Vertex AI. Pour ce qui est de la robustesse, grâce au partenariat entre Google et NVIDIA, Google Cloud peut proposer de grandes capacités de calcul. Concernant la donnée interne, il est essentiel d'intégrer un composant de gouvernance des accès à la donnée dans son architecture de LLM d'entreprise.
La responsabilité : un enjeu majeur est celui de l'hallucination, notamment pour un usage professionnel. L'architecture peut répondre à cette problématique, notamment l'architecture dite "RAG" (Retrieval Augmented Architecture). Un défi important réside dans la maîtrise des résultats produits par l'IA générative, nécessitant un travail d'ingénierie considérable pour "apprivoiser" la machine et développer un système fiable de bout en bout. Cela inclut la mise en place de bases de données vectorisées propriétaires, de filtres, de contexte, d'ingénierie des prompts, de workflows/chaînes, ainsi que l'intégration avec des systèmes de machine learning plus traditionnels.
Maîtrise des coûts : Google répond doublement à cet enjeu par des modèles LLM spécialisés et donc optimisés en terme de taille et par l'accompagnement des clients dans leurs pratiques FinOps et IA responsable. Enfin il a été rappelé que l'IA peut être vue comme un marteau, or un marteau est très performant pour enfoncer un clou mais ne peut pas être utilisé pour visser une ampoule. De même l'IA ne peut pas répondre à toutes les problématiques et il est crucial de conserver une approche frugale et orientée valeur dans la conception de ces applications.

Des accompagnements en synergie

Mettre le pied à l'étrier en matière d'IA peut paraître ardu. Si une majorité des clients présents dans la salle ont pu expérimenter l'IA Générative à travers des PoC, une infime minorité a pu aller la déployer production. Parmi les freins identifiés à travers les multiples retours d'expérience, l'adoption de ces outils et le change management constituent la principale difficulté.

C'est pourquoi chez WEnvision nous axons notre premier produit GenAI sur l'acculturation de tous les acteurs de l'entreprise, Doers, Managers et C-Level. En posant les bases et en alignant toutes les parties prenantes, nous préparons l'organisation à diffuser sereinement cette innovation. Il nous permet également de collecter des cas d'utilisation pertinents et de définir les contours d'un modèle opérationnel grâce au design d'un Center 4 Excellence. Ce produit vient en complément d'un accompagnement plus technique, tant en terme de formation que d'accompagnement aux déploiements de démonstrateurs ou de PoC comme le propose Google Cloud avec sa démarche Jumpstart.

Les premiers cas d'utilisation déployés le plus massivement sont l'IA Générative pour les développeurs, la recherche augmentée dans les corpus documentaires de l'entreprise ou encore les chatbots.

Pour aller plus loin