Le RGESN millésime 2024 est un bon point de départ pour revoir sa stratégie numérique durable et ses pratiques d’éco-conception. Avant de se faire rattraper par les exigences légales...
Embauché il y a 2 ans pour digitaliser les process, Alexandre Aubry raconte tous les changements que cela a induit : transformation de l'organisation, de l'infrastructure matérielle et réseau, ouverture et décommissionnement progressif de l'ERP Cobol...
Nous avons assisté à la conférence client de l'entreprise Orange à Agile en Seine. Cet article vous propose de découvrir comment l'IA Gen devient déjà un atout incontournable chez certains clients.
Les LLM sont des modèles de Machine learning capables de générer du texte, de traduire des langues, d'écrire différents types de contenu créatif et de répondre à des questions de manière pertinente. Ils sont encore en développement, mais ils ont le potentiel de révolutionner la façon dont nous interagissons avec la technologie.
Une architecture d'application LLM basique pour faire un POC est composée de deux éléments principaux : une interface homme-machine (IHM) de chat et un LLM.
L'IHM de chat
L'IHM de chat est une interface simple qui permet à l'utilisateur de communiquer avec le LLM. Elle est généralement basée sur un chat en ligne, où l'utilisateur peut saisir une requête et le LLM répondra avec un texte.
Le LLM
Le LLM est l'algo qui génère le texte. Il est accédé via une API. Il est capable de générer du texte qui est à la fois grammaticalement correct et pertinent pour le contexte de la conversation.
Limitations de l'architecture
Cette architecture est simple et facile à mettre en place, mais elle présente un certain nombre de limitations.
Sécurité : L'IHM de chat est généralement ouverte à tous, ce qui signifie que n'importe qui peut interagir avec le LLM. Cela peut poser un problème de sécurité, car le LLM peut être utilisé pour générer du contenu malveillant ou offensant.
Précision : Le LLM est formé sur un ensemble de données spécifique, ce qui signifie qu'il peut ne pas être précis pour tous les types de tâches.
Performances : Le LLM peut être lent à répondre, ce qui peut être frustrant pour l'utilisateur.
Conclusion
Cette architecture est utile pour tester un LLM ou faire des démonstrations en interne. Cependant, elle ne doit pas être mise entre les mains d'un utilisateur final. Pour une application LLM en production, il est important de prendre en compte les limitations de cette architecture et de mettre en place des mesures de sécurité et de précision supplémentaires.
Le RGESN millésime 2024 est un bon point de départ pour revoir sa stratégie numérique durable et ses pratiques d’éco-conception. Avant de se faire rattraper par les exigences légales...
Embauché il y a 2 ans pour digitaliser les process, Alexandre Aubry raconte tous les changements que cela a induit : transformation de l'organisation, de l'infrastructure matérielle et réseau, ouverture et décommissionnement progressif de l'ERP Cobol...
Nous avons assisté à la conférence client de l'entreprise Orange à Agile en Seine. Cet article vous propose de découvrir comment l'IA Gen devient déjà un atout incontournable chez certains clients.
Matrice Impact vs Effort, Méthode MoSCoW, Scorings RICE & ICE vous aideront à évaluer et prioriser vos projets de data science, pour maximiser les chances d'un résultat satisfaisant - et aligné avec les objectifs stratégiques de l'entreprise.