Table of Contents
In a rush? Download the PDF for later
Download the e-BookIntroduction
L'IA est inévitable. Mais son potentiel s'accompagne de risques sérieux.
L'IA, les grands modèles de langage (LLM) et les agents autonomes transforment déjà le monde des affaires. Nous entrons dans une ère où les travailleurs du savoir consacrent moins de temps aux tâches administratives et répétitives, et davantage à la création de valeur pour l'entreprise.
Les dirigeants d'entreprise en perçoivent le potentiel et s'y engagent pleinement. Une étude PwC révèle que près de la moitié des entreprises du Fortune 1000 ont pleinement intégré l'IA dans leurs produits.
Les gains potentiels en productivité et en efficacité sont considérables — mais les risques potentiels en matière de conformité, de sécurité et d'exploitation le sont tout autant. Les DSI doivent trouver le juste équilibre entre aller trop vite et s'exposer à des catastrophes, et aller trop lentement et se laisser distancer par leurs concurrents.
Les modèles de gouvernance traditionnels sont trop rigides, trop frileux face au risque et trop dépendants des comités pour suivre le rythme de l'innovation en matière d'IA. Vous avez besoin de visibilité, de flexibilité et de contrôle grâce à des outils qui évoluent aussi vite que votre stack technologique.
Ce guide explore les principaux risques introduits par l'IA et la manière de les atténuer et de les minimiser. Nous montrerons comment des entreprises mettent ces idées en pratique dès aujourd'hui.
Voici comment vous assurer que votre déploiement de l'IA est transformateur, et non destructeur.
1 : Les workflows agentiques apportent de nouveaux défis
La dernière disruption en matière d'IA concerne les workflows agentiques : l'utilisation d'agents IA autonomes pour accomplir des tâches sans intervention humaine.
L'engouement pour les workflows agentiques est à son comble. Dans un sondage auprès de 1 500 responsables informatiques, 96 % d'entre eux ont déclaré qu'ils prévoyaient d'accroître leur utilisation des agents IA au cours de l'année à venir. Ces investissements représentent une part importante des budgets informatiques prévisionnels : une autre enquête mondiale a révélé qu'un tiers des entreprises s'attendent à dépenser 25 millions de dollars ou plus en IA en 2025.
Il est indéniable que les agents IA peuvent être incroyablement utiles. Ils peuvent répondre aux demandes des clients, créer des rapports et exécuter des processus internes de manière autonome. Vos équipes peuvent ainsi déléguer les tâches répétitives à l'IA, y compris des workflows complexes exécutés sur plusieurs applications.
Mais l'autonomie qui rend les workflows agentiques si attrayants introduit également de nouveaux risques. Les agents IA pourraient accéder à des données sensibles et les utiliser de manière non conforme, par exemple en exposant des informations à des personnes ou des parties qui ne sont pas autorisées à y accéder. Les agents pourraient également fournir des informations incorrectes susceptibles de placer votre entreprise dans une situation délicate sur le plan éthique, voire juridique.
Par exemple, le chatbot d'Air Canada a inventé un coupon au cours d'une conversation. Lorsque la compagnie aérienne a refusé d'honorer la remise, le voyageur a intenté une action en justice — et a gagné. Le tribunal a statué qu'Air Canada était légalement responsable de ce que son chatbot avait dit aux clients.
2 : Quatre vecteurs de risque clés liés à l'IA
À mesure que l'IA s'intègre davantage dans les opérations quotidiennes, les DSI doivent être avertis et pleinement préparés à faire face à de nouveaux risques. Ceux-ci se répartissent en quatre grandes catégories :
- Vulnérabilités de sécurité. Les agents IA peuvent opérer au sein des applications comme entre elles, ce qui en fait des cibles de choix pour les attaques. Ils sont généralement non déterministes, ce qui rend difficile l'application des principes traditionnels de modélisation des menaces de sécurité ou d'examen de conception. Sans surveillance suffisante, ils pourraient être utilisés pour exporter des données, effectuer des modifications introuvables, et même accorder des privilèges d'administrateur à des acteurs malveillants.
- Manquements à la conformité. Les agents peuvent ignorer les étapes imposées par la conformité dans les workflows. Ils peuvent mal gérer les données personnelles (PII), trahissant la confiance de vos clients et enfreignant potentiellement les lois sur la confidentialité. Ils peuvent omettre de documenter des processus nécessitant une piste d'audit électronique, ou supprimer des données que votre entreprise est légalement tenue de conserver.
- « Shadow AI. » De la même façon que les employés utilisent des logiciels non autorisés, les équipes peuvent désormais déployer des outils d'IA sans supervision informatique, créant des systèmes fragmentés et ingouvernables.
- Prolifération des logiciels et dégradation de l'expérience. L'expérience utilisateur peut se dégrader à mesure que les outils d'IA se multiplient. La superposition des outils et le manque de clarté des workflows frustrent les employés et nuisent à la productivité, tout en gaspillant potentiellement un budget informatique précieux.
Les DSI ont l'habitude de gérer ce type de risques, mais les agents autonomes nécessitent une supervision plus poussée qu'une solution SaaS classique. Les gouverner exigera une connaissance continue et contextuelle de leur comportement.
3 : Pourquoi la gouvernance traditionnelle ne suffit pas
La plupart des organisations tenteront de gérer ces risques avec des méthodes éprouvées qui fonctionnent pour d'autres types de logiciels. Vous pourriez imposer davantage de formations aux employés, restreindre l'accès aux outils et rédiger des pages de politiques d'utilisation. Mais si ces efforts constituent une part nécessaire de la conformité légale et réglementaire pour les employés, ils restent insuffisants face aux workflows agentiques.
Même si vous pouvez certainement entraîner un agent IA avec votre documentation de sensibilisation à la sécurité, rien ne garantit que cet entraînement sera efficace. Les politiques ne peuvent pas couvrir toutes les éventualités. Les audits manuels ne peuvent pas suivre un comportement susceptible d'évoluer de manière autonome d'un instant à l'autre.
Les workflows agentiques nécessitent une supervision qui soit :
- En temps réel. Sachez comment vos agents fonctionnent et interagissent avec les utilisateurs.
- Comportementale. Surveillez les actions, pas seulement les résultats.
- Actionnable. Ayez la capacité d'intervenir et d'améliorer.
Pendo a fait ses preuves en aidant les DSI à réduire les risques liés aux logiciels. Voici comment nous aidons les entreprises à relever les défis qu'apporte l'ère agentique.
4 : Une approche analytique de la gestion des risques liés à l'IA
Et si vous pouviez analyser vos agents IA de la même manière quantitative et basée sur les données que vous le faites pour l'activité des utilisateurs ? Et si vous pouviez examiner en détail la façon dont vos collaborateurs utilisent les agents IA, identifier les comportements à risque et appliquer des guides pour les atténuer ?
Pendo Agent Analytics est conçu pour analyser le comportement des agents que vous créez et des agents que vous achetez, afin de s'assurer qu'ils stimulent la productivité et le chiffre d'affaires sans introduire de risques. Il est facile de voir comment les utilisateurs interagissent avec les agents IA — si les utilisateurs tirent de la valeur de ces assistants IA, à quoi ils servent et s'ils génèrent de la valeur.
Pour les agents que vous créez, Pendo Agent Analytics aide à accroître l'adoption, à améliorer vos décisions en matière de feuille de route IA et à relier directement votre travail d'ingénierie sur les agents IA aux résultats commerciaux. Pour les agents que vous achetez, Pendo peut également contribuer à stimuler l'adoption, à améliorer la productivité, à comprendre l'utilisation de l'IA au sein de votre organisation et à réduire les risques.
Pendo est conçu pour vous aider à exploiter toute la valeur de vos logiciels. Désormais, cette fonctionnalité s'étend également aux workflows agentiques.
Thomson Reuters' la division fiscale et comptable a déployé un moteur de recherche optimisé par l'IA pour sa plateforme Checkpoint Edge. Elle avait besoin de comprendre comment les utilisateurs interagissaient avec cette nouvelle fonctionnalité afin d'améliorer la pertinence du moteur de recherche.
Elle a utilisé Pendo pour obtenir des informations quantitatives sur l'expérience de recherche, puis a corrélé les résultats avec les scores NPS afin d'obtenir une vue d'ensemble. Ces données ont permis à son équipe de développement d'améliorer ses capacités d'IA et de garantir que les utilisateurs obtiennent le contenu le plus pertinent à chaque recherche.
5 : Démontrer le ROI avec Pendo
Les dépenses inutiles représentent un risque majeur pour tout achat de logiciel, et les solutions d'IA ne font pas exception. Si votre organisation dispose d'un écosystème technologique fragmenté avec des dizaines d'applications d'IA, savoir simplement ce qui est utilisé ou non peut s'avérer difficile.
Pendo facilite la réponse aux questions essentielles que les DSI se posent sur l'adoption agentique au sein de leurs équipes :
- Les agents font-ils gagner du temps aux utilisateurs sur les workflows et processus clés ?
- Les agents réduisent-ils les coûts et contribuent-ils à augmenter les revenus ?
- Libèrent-ils les équipes pour qu'elles se consacrent à des tâches à plus forte valeur ajoutée ?
- Augmentent-ils les résultats tels que les tâches accomplies et les conversions ?
L'analytique pilotée par l'IA de Pendo offre une visibilité réelle sur chacune de ces questions, ainsi que les outils nécessaires pour agir sur ces insights, le tout dans une solution fluide et intégrée.
Demandbase, une plateforme go-to-market de premier plan, a intégré des agents IA dans sa plateforme pour aider ses clients à travailler plus rapidement et à conclure davantage de pipeline. Ils avaient besoin d'observer la façon dont les utilisateurs interagissaient avec les agents et de recueillir des retours en contexte.
Pendo a facilité l'obtention des insights dont Demandbase avait besoin. « Nous recevons des retours directement au sein du produit, au moment même où les utilisateurs interagissent avec les agents, » a déclaré Chad Holdorf, VP Produit chez Demandbase. « Nous apprenons si cela les aide à faire leur travail, si cela fait réellement avancer le pipeline. Ce type de retour est essentiel pour créer les bons agents et les améliorer rapidement. »
Conclusion : adopter l'IA de manière intelligente
Il est clair que l'IA est bien plus qu'une tendance passagère ou une « prochaine grande révolution ». Il s'agit très probablement d'un changement fondamental dans la façon dont votre organisation fonctionne. Les DSI ont pour mission de guider leurs organisations à travers la transformation par l'IA, de manière intelligente et sécurisée.
Pendo est prêt à vous aider à naviguer dans l'ère agentique. Grâce à Pendo Agent Analytics et au reste de la plateforme Pendo, vous pouvez gagner en visibilité sur le comportement des agents et sur la façon dont vos utilisateurs interagissent avec la technologie, et prendre les mesures nécessaires pour optimiser les deux.
En définitive, Pendo vous aide à réduire les risques liés à l'IA et à maximiser le potentiel que les workflows agentiques peuvent apporter à votre organisation.
Inscrivez-vous dès aujourd'hui et commencez à utiliser Pendo gratuitement.
