Des IA génératives d’entreprise, pour limiter risques et shadow AI

Des IA génératives d’entreprise, pour limiter risques et shadow AI

<TendancesTech2024/TECH/GenAI

Interdiction, blocage, bannissement : la presse regorge d'exemples d'entreprises ayant interdit ChatGPT. Si Samsung, Apple, Deutsche Bank, Verizon ou Amazon l'ont fait, c'est qu’il y a une raison : éviter la fuite de données. Il faut considérer les IA génératives grand public comme des photocopieuses en libre accès, qui peuvent à tout moment ressortir vos documents, briefs stratégiques, etc. Elles doivent donc être interdites. Ce qui veut dire que l’entreprise doit fournir un service équivalent dans un cadre sécurisé.

D’une part, parce qu’il serait idiot de se priver du potentiel de l’IA générative, mais aussi de monitorer l’usage qui en est fait. D’autre part, parce que les utilisateurs en entreprise trouvent toujours un moyen de contourner les interdictions lorsqu'ils trouvent quelque chose de beaucoup plus pratique. En l'occurrence, si l'usage de ChatGPT et des autres applications d'IA générative a explosé aussi rapidement, c'est bien parce que ces outils apportent une aide énorme dans le quotidien. Ne pas offrir de solution, c’est s’exposer à l’émergence rapide d’un “shadow AI”, susceptible de mettre l’entreprise à risque.

Une stratégie mixant “make” et “buy”

Plusieurs pistes sont envisageables pour mettre à disposition des environnements professionnels, sécurisés. Aucune ne consiste à développer son propre modèle. Il n’est généralement pas non plus pertinent de le “fine-tuner” pour optimiser son usage : c’est un processus lent et coûteux, à réserver à quelques cas précis.

Partir sur un environnement tout-en-un est possible mais risqué, car on s’en remet alors à un éditeur et sa roadmap, sans possibilité de supervision. L’approche pragmatique que nous préconisons et voyons plutôt se développer dans les entreprises consiste à mixer “make” et “buy”. Autrement dit, s’appuyer sur les ressources des fournisseurs comme Google, Microsoft, Amazon, OpenAI, HuggingFace, Mistral, etc. et consacrer ses efforts à l'assemblage de ces ressources - par exemple une base de données vectorielle pour introduire de la sémantique au sein de ses propres documents, un orchestrateur type Langchain pour enchaîner les appels à des services ou encore des studios pour créer, optimiser et versionner les prompts utilisés.

Expliquer, acculturer

En plus d’interdire et de fournir une solution, il est impératif de communiquer et d’acculturer les collaborateurs à cette technologie et à ses enjeux. Il s’agit de faire comprendre pourquoi les outils grand public sont interdits, de montrer les forces ainsi que les faiblesses et les risques associés à la GenAI (biais, hallucinations, etc.), mais aussi de donner des perspectives sur les futures possibilités techniques qui seront mises à disposition et les cas d’usage qui pourront ainsi être mis en œuvre. Ces réflexions doivent s’inscrire dans un cadrage stratégique, qui lui-même doit respecter la vision et les valeurs de chaque entreprise.

Tendances Technologiques 2024 - WENVISION
Tendances Technologiques 2024

Pour recevoir l'intégrale des Tendances Tech 2024 en PDF, c'est par ici.

Génial ! Vous vous êtes inscrit avec succès.

Bienvenue de retour ! Vous vous êtes connecté avec succès.

Vous êtes abonné avec succès à WENVISION.

Succès ! Vérifiez votre e-mail pour obtenir le lien magique de connexion.

Succès ! Vos informations de facturation ont été mises à jour.

Votre facturation n'a pas été mise à jour.