Autonomiser les clients grâce à l’IA Gen : Leçons de Live Intelligence

En 2023, suite au lancement de ChatGPT quelques mois plus tôt, l’intérêt pour le potentiel de l’IA générative (GenAI) était particulièrement fort chez Orange Business. C’est cette volonté d’en apprendre davantage sur les capacités de la technologie qui a motivé l’entreprise à rejoindre le programme Early Access pour Copilot de Microsoft 365 en septembre de la même année – initialement limité à 300 salariés, le pilote a été étendu à 600 en 2024.

Dans le cadre de son approche responsable, Orange Business s’est préoccupée très tôt de la gestion des données personnelles et de la souveraineté des données. À l’époque, il n’existait pas de versions Enterprise des grands modèles de langage (LLM) – tout fonctionnait sur le cloud public. L’entreprise a également constaté une utilisation croissante de ChatGPT parmi ses propres collaborateurs et s’est inquiétée des risques de sécurité liés à cette « GenAI fantôme ». Orange Business a alors rapidement décidé de lancer son propre outil de GenAI interne, qui a la suite donné naissance à la plateforme commerciale Live Intelligence.

L’entreprise a rapidement compris que la création de valeur dépendait de l’adoption, et que l’adoption reposait elle sur la confiance – une intuition que les recherches du secteur ont depuis confirmée. Orange Business a placé la confiance, à travers une gouvernance portée par la direction, et l’accès démocratisé à la technologie au cœur de son déploiement de GenAI.

Orange Business a établi un cadre technique et juridique robuste garantissant qu’aucune donnée soumise à un LLM ne soit stockée ou réutilisée – les données sont traitées uniquement pour générer une réponse à chaque requête. Pour renforcer cet engagement, l’entreprise a mis en place une charte d’IA responsable définissant des principes clairs et transversaux pour l’usage de l’IA. Orange Business a également mis l’accent sur la formation des employés, insistant sur les pratiques éthiques et réglementaires en matière de données. Par exemple, l’utilisation de la GenAI pour des tâches telles que le classement des CV pour les offres d’emploi a été explicitement interdite. En fixant des règles claires et transparentes sur l’usage approprié de la GenAI, l’entreprise a permis à ses salariés d’exploiter cette technologie de manière sécurisée, conforme et responsable.

Avec ces garde-fous en place, Orange Business a ouvert l’accès à son outil de GenAI à plus de 80 000 collaborateurs. Trouver le bon équilibre entre sécurité et accessibilité était essentiel. Trop de contraintes à l’usage d’un outil de GenAI approuvé poussent naturellement les salariés vers des alternatives non autorisées – un risque que l’entreprise voulait justement éviter. C’est pourquoi elle a fait de la conception de Live Intelligence une priorité, en proposant une interface fluide et intuitive. En l’intégrant à son système d’authentification unique (Single Sign-On), elle a supprimé la nécessité de création de nouveaux comptes ou mots de passe, garantissant un accès sans effort pour tous. Cette simplicité d’accès a joué un rôle essentiel dans l’adoption de la solution à l’échelle de l’entreprise.

La responsabilité du développement des cas d’usage s’est élargie, passant des décideurs de haut niveau et des équipes d’experts aux contributeurs des unités opérationnelles. Une fois les garde-fous en place, Orange Business a compris que les collaborateurs de terrain étaient les mieux placés pour repérer les leviers d’impact les plus prometteurs pour la GenAI.

Plutôt que de contrôler strictement l’usage de la GenAI, l’entreprise a choisi de travailler main dans la main avec des départements clés, tels que les RH, la finance et le marketing, afin d’identifier les domaines où cette technologie pourrait générer le plus de valeur. 

Le tableau de bord Live Intelligence offre une vue d’ensemble anonymisée des assistants GenAI les plus utilisés et utiles, ce qui facilite leur industrialisation et leur déploiement à l’échelle de l’entreprise. Certains outils, comme l’assistant générateur de PowerPoint, particulièrement plébiscité, ont été conçus par les équipes centrales, mais de nombreux autres assistants GenAI sont nés d’initiatives locales, portées par les besoins du terrain.

Live Intelligence offre une grande flexibilité dans la gestion budgétaire liés à la GenAI, permettant un pilotage très fin des ressources IA, en fonction des besoins et du niveau d’utilisation de chaque utilisateur. Chaque utilisateur final dispose d’un budget personnel, contenant un certain nombre de tokens. Les tokens sont de petites unités de données – un mot, un caractère, ou même une partie d’une image ou d’un clip audio – que les modèles GenAI utilisent pour traiter l’information et générer des réponses. Orange Business estime que ce système reflète plus fidèlement le coût réel de la GenAI, tandis que les clients de Live Intelligence indiquent qu’il contribue à optimiser les dépenses associées à leurs projets de GenAI.

Mais les tokens ne mesurent pas seulement l’usage : ils révèlent aussi le véritable coût environnemental de la GenAI. Chaque token traité par un modèle se traduit par une consommation d’énergie, des émissions de carbone et une consommation d’eau. Live Intelligence rend cet impact visible. La plateforme estime l’empreinte carbone propre à chaque LLM via un tableau de bord personnel, encourageant ainsi une utilisations plus responsable de l’IA – une fonctionnalité régulièrement saluée par les utilisateurs.

Deux ans après son lancement, Live Intelligence poursuit sa croissance constante et compte plus de 15 000 utilisateurs quotidiens et 50 000 utilisateurs mensuels. Plus de 20 000 agents IA personnels ont été créés, dont environ 300 ont été industrialisés en agents « officiels » par les équipes centrales, permettant aux salariés d’économiser en moyenne plus de deux heures par semaine. Le personnel de terrain développe également des agents IA pour des métiers spécifiques, comme par exemple pour les ingénieurs de terrain. Cette adoption massive a également posé les bases de la prochaine étape passionnante du parcours GenAI de l’entreprise : l’IA agentique.