Smartday IA : IA générative, LLM et vectorisation – prenez le contrôle !

SMARTDAY IA – LES INSIGHTS

📍 Date & Lieu : 13 février 2025, George V – Paris

Entre nécessaires innovations, adaptation organisationnelle, conduite du changement, quête de retours sur investissement tangibles et anticipation des réglementations, cet événement a mis en lumière des leviers clés pour tirer parti de l’IA tout en garantissant une adoption responsable, éthique et souveraine

Remerciements

  • Guillaume Bizet, Head of Cloud Migration Factory & AI enthusiast, Société Générale
  • Aldrick Zappellini, Directeur Data & IA et Chief Data Officer, Groupe Crédit Agricole
  • Aurélien Barthe, Chief Data Officer, Direction Data et IA, MGEN
  • Anne Gradvohl, Head of Innovation, Groupe Vyv
  • Aurélie Vanheuverzwyn, Directrice exécutive – Data et Méthodes, Médiamétrie
  • Matthieu Gourvès, Directeur Practice IA, Smartpoint

TRANSFORMATION DES DONNÉES EN SAVOIRS ACTIONNABLES

L’IA est présentée comme un outil crucial pour transformer de grandes quantités de données en informations exploitables, ce qui est un enjeu majeur pour les entreprises. Il a été question également de stack technologique dont les LLM et les RAG, expliquant leur rôle dans le traitement et l’analyse des données.

IMPACT DE L’IA GÉNÉRATIVE

L’arrivée de l’IA générative a été décrite comme une “déflagration” qui a accéléré les processus d’adoption technologique. L’IA bouleverse les équilibres organisationnels, nécessitant une réévaluation des processus et une attention particulière à la souveraineté des données.

RÉORGANISATION ET ADAPTATION

Les entreprises ont dû s’adapter rapidement à l’IA générative, impliquant divers départements (RSSI, DPO, DSI, RH) pour aborder des sujets comme l’éthique, la sécurité et l’alignement stratégique. Cela a nécessité une collaboration interdisciplinaire pour gérer les impacts notamment sur les processus métiers.

STRATÉGIE D’ADOPTION MAÎTRISÉE

Une approche prudente et réfléchie est nécessaire pour intégrer l’IA, en s’assurant que l’adoption est maîtrisée et alignée avec les objectifs stratégiques de l’entreprise.

FORMATION ET CONDUITE DU CHANGEMENT

L’importance de la formation et de l’accompagnement des équipes est soulignée, notamment pour les managers et les différents métiers.

La conduite du changement est cruciale pour intégrer l’IA de manière efficace et pour gérer les impacts culturels et organisationnels. D’ailleurs, un intervenant a expliqué qu’une académie Data/IA a été créée pour développer les compétences avec déjà une première promotion. Il est à noter que des modules de formation adaptés aux différents niveaux et métiers sont en cours de développement.

DESIGN STRATÉGIQUE

Tout comme la formation à l’IA générative doit infuser dans les métiers, il est crucial de mettre l’utilisateur au cœur de chaque projet et de penser en termes de besoins plutôt que de solutions. Le design stratégique doit être intégré dans les directions offres et marketing et toutes les directions qui développent des offres, des services ; et pas seulement restée cantonnée dans les directions data ou digitales. C’est absolument nécessaire pour développer au sein des projets des expériences utilisateurs positives.

DIVERSITÉ ET SOUVERAINETÉ

L’événement a également abordé la nécessité de créer de la diversité dans l’écosystème technologique, souvent non européen, et de se concentrer sur la souveraineté des données, en particulier dans le contexte de la réindustrialisation. L’IA générative est en effet dominée par quelques acteurs majeurs, posant des enjeux de dépendance aux modèles propriétaires. Pour favoriser l’innovation européenne, des alternatives open-source et locales émergent, comme Deepseek (licence MIT), bien que les modèles réellement open-source restent limités aux Small Language Models (SLM).

ENVIRONNEMENT ET FRUGALITÉ

Les impacts environnementaux de l’IA, et en particulier de l’IA générative, sont également au cœur des préoccupations. Même s’il est impossible d’avoir des informations précises sur les coûts environnementaux d’entraînement et d’utilisation des LLM, des initiatives se développent : la mise en place de calculettes carbone, les démarches Green IT et FinOps pour superviser et optimiser les ressources, le Green Code pour minimiser l’impact environnemental dans les pratiques de développement, le choix d’instances cloud localisées dans des pays ayant un mix énergétique moins carboné. En effet, même au sein de l’UE, toutes les zones ne sont pas équivalentes en intensité carbone. La France dispose d’un mix énergétique de 5 à 10 fois moins carboné que l’Irlande ou l’Allemagne (source : Electricity Maps), mais AWS privilégie Francfort pour le déploiement initial de ses modèles, obligeant certaines entreprises à patienter pour une alternative moins carbonée.

RETOUR SUR INVESTISSEMENT DE L’IA (ROI)

Avant de déployer l’IA à grande échelle, il est essentiel de comprendre les besoins et de quantifier le retour sur investissement potentiel, bien que la littérature sur le sujet soit encore limitée.

L’importance du cadrage de projets liés à l’IA a été soulignée dans plusieurs interventions.

  1. Durée et approfondissement du cadrage : Il est mentionné que dans de grandes organisations – comme une banque – un cadrage efficace ne peut pas être réalisé en une semaine. Un cadrage approfondi peut prendre deux à trois mois, mais il est crucial pour bien comprendre et exprimer les attentes métiers. Cela permet de s’assurer que l’IA générative est réellement nécessaire et que le problème à résoudre est bien identifié.
  2. Introspection et questionnement : Il est important d’intégrer un questionnement vaste et profond dès le début du projet. Cela implique de ne pas se précipiter dans l’utilisation de l’IA sans avoir bien compris les besoins réels et les contraintes organisationnelles.
  3. Méthodologie et suivi : Le cadrage doit inclure une méthodologie claire pour évaluer la valeur des projets, en tenant compte des aspects qualitatifs et quantitatifs. Il est essentiel de vérifier après la mise en production si les estimations faites lors du cadrage se réalisent en termes de productivité ou de bénéfices.
  4. Accompagnement des Chefs de Projet : Les chefs de projet doivent être équipés et accompagnés tout au long des phases du projet, de l’identification du cas d’usage au suivi post-industrialisation. Cela inclut l’utilisation de méthodes et d’outils adaptés à l’impact du projet.
  5. Conduite du changement : La conduite du changement est particulièrement importante pour les projets d’IA générative, en raison de leurs impacts sur les outils, l’organisation, la culture et les compétences. Un bon cadrage doit prévoir ces aspects pour assurer le succès du projet.

IA ACT

Enfin, l’AI Act été mentionné dans le contexte de la préparation et de l’adaptation des entreprises aux exigences réglementaires liées à l’intelligence artificielle. Les intervenants ont échangé sur la manière dont leurs organisations anticipent les exigences de l’AI Act, en mettant en place des démarches et des structures internes avant même l’arrivée des textes réglementaires, comme la création de Design Authorities pour la data et l’IA. Il a été question de la transcription des exigences de l’AI Act, avec une réflexion sur la manière de les intégrer dans un cadre normatif interne. Les intervenants ont souligné l’importance de ne pas simplement se conformer aux exigences minimales, mais d’ajouter leur propre vision pour un cadre plus robuste. Un point a été soulevé concernant la gestion des risques, notamment les risques élevés, où l’AI Act ne fournit que peu de directives. Les organisations ont donc pris l’initiative d’aller au-delà des exigences minimales pour assurer une meilleure gestion des risques.

POUR CONCLURE

L’IA générative s’impose comme un levier de transformation majeur dans toutes les entreprises, mais son adoption doit être encadrée par une gouvernance stricte, une approche éthique et une optimisation des ressources. La clé du succès réside dans une intégration progressive, sécurisée et alignée avec les besoins métiers.

IA générative, LLM et vectorisation – quelle adoption par les entreprises ?

Par Smartpoint, ESN spécialisée dans la Data

L’intelligence artificielle (IA) est désormais bien plus qu’une promesse futuriste. Si le Machine Learning et le Deep Learning ont déjà largement contribué à des cas d’usage en production dans la plupart des secteurs, l’IA générative s’impose comme un game changer, redéfinissant les standards de productivité, d’innovation et de collaboration. En 2025, elle marque l’avènement d’une nouvelle ère industrielle où les entreprises devront impérativement s’adapter pour rester compétitives.

Une stack technologique spécifique pour exploiter pleinement l’IA générative

Pour industrialiser l’IA générative et en tirer un maximum de valeur, il est indispensable de s’appuyer sur une stack technologique robuste et adaptée. Les bases vectorielles, comme Pinecone, Weaviate ou Milvus (open-source) pour ne citer qu’elles, permettent de stocker et de récupérer efficacement les embeddings, qui sont essentiels pour des applications comme la Retrieval-Augmented Generation (RAG). Grâce à ces bases de données, les entreprises peuvent optimiser la recherche contextuelle et améliorer les performances des LLM.

Les modèles d’embedding et les LLM eux-mêmes constituent une autre composante essentielle. Des solutions open-source, telles que Hugging Face Transformers, offrent une grande flexibilité avec à une large bibliothèque de modèles préentraînés comme BERT ou GPT. Pour les entreprises qui recherchent des solutions SaaS prêtes à l’emploi, OpenAI (GPT-4) ou Anthropic (Claude) figurent parmi les meilleures options disponibles à date mais l’écosystème évolue très vite.

Une gouvernance IT-métiers pour une IA efficace

La mise en oeuvre d’une IA générative efficace repose autant sur la technologie que sur la manière dont les équipes collaborent. Les entreprises doivent dépasser les silos entre l’IT et les métiers pour favoriser une adoption fluide. La DSI joue un rôle central dans cette transformation, en garantissant une gouvernance solide et en facilitant l’acculturation des équipes métiers. Cette acculturation est essentielle pour sensibiliser les collaborateurs au potentiel de l’IA et pour identifier les cas d’usage à forte valeur ajoutée.

Chaque projet doit être évalué en fonction de son impact business et de sa faisabilité technologique. En parallèle, les entreprises doivent gérer les initiatives non officielles (Shadow IA) qui peuvent générer des risques si elles ne sont pas correctement encadrées.

Industrialisation et responsabilité, des enjeux de taille

Passer des expérimentations à une mise à l’échelle industrielle reste un obstacle majeur pour les organisations. Cela nécessite de surmonter des défis techniques, organisationnels et financiers. Les coûts, par exemple, doivent être maîtrisés grâce à une gestion précise des infrastructures. Des solutions cloud comme Azure AI, AWS ou Google Cloud AI permettent aux entreprises de payer à l’usage, mais nécessitent une planification rigoureuse pour éviter les dérives budgétaires.

L’impact environnemental est un autre enjeu crucial. Les modèles d’IA, notamment les LLM, consomment énormément d’énergie. Des outils comme CodeCarbon (open-source) permettent de mesurer et de réduire cette empreinte carbone, aidant ainsi les entreprises à adopter une approche plus durable.

Enfin, l’éthique et la transparence sont des piliers incontournables de l’industrialisation de l’IA. Les biais présents dans les modèles doivent être identifiés et corrigés, tandis que les décisions algorithmiques doivent être explicables.

L’IA générative, un levier stratégique pour le leadership

Les entreprises qui maîtrisent les technologies d’IA générative, des LLM aux bases vectorielles, s’imposeront comme des leaders dans leur secteur. Elles ne gagneront pas seulement en efficacité opérationnelle, mais établiront également de nouveaux standards en matière d’innovation et de responsabilité.

Chez Smartpoint, ESN spécialisée dans la Data, nos experts et consultants accompagnent les DSI et leurs équipes dans cette transformation technologique, en intégrant des solutions qui renforcent une approche encore plus data-driven et orientée résultats.

Êtes-vous prêt à relever le défi de l’industrialisation de l’IA ? Venez en discuter lors de notre prochain Smartday avec des intervenants prestigieux.

IA GEN LLM vectorisation

L’adoption de l’IA Générative par les entreprises

L’adoption de l’IA générative s’accélère à un rythme effréné. En 2024, 25 % des entreprises avaient déjà déployé des capacités d’IA générative dans certaines ou toutes leurs fonctions, contre seulement 6 % en 2023. Par ailleurs, 80 % des organisations ont augmenté leurs investissements dans cette technologie par rapport à l’année précédente. Ces chiffres montrent que l’IA générative est en train de devenir une priorité stratégique pour les entreprises, notamment dans des secteurs comme la banque, la santé, le retail et l’industrie manufacturière.

Demain commence aujourd’hui

Pour tirer pleinement parti de ces technologies révolutionnaires, les entreprises doivent investir dans la compréhension des données, l’analytique avancée et les compétences. Se faire accompagner par des professionnels, c’est se donner les capacités de s’adapter à un paysage technologique en évolution rapide et pour rester compétitives à long terme.

l’industrialisation de l’IA générative, des LLM et de la vectorisation n’est pas seulement une opportunité technologique, mais une nécessité stratégique pour les entreprises qui souhaitent rester à la pointe de l’innovation en 2025 et au-delà.


Vous vous interrogez sur quelle démarche adopter ? Quelle architecture ou quels outils choisir ? Vous avez besoin de compétences spécifiques sur vos projets ? Challengez-nous !

Les champs obligatoires sont indiqués avec *.

    Prénom*

    Nom*

    Société*

    E-mail*

    Téléphone*

    Objet*

    Message