Note de la rédaction : Le texte suivant est un article de Chuck Kesler, Responsable de la sécurité des systèmes d'information de Pendo.

L'intelligence artificielle transforme l'entreprise plus rapidement que toute autre technologie que j'ai vue au cours de ma carrière. Comme l'avènement d'Internet dans les années 1990 et l'essor du cloud computing dans les années 2010, elle crée des opportunités incroyables pour transformer notre façon de travailler. Elle s'accompagne également de nouveaux risques et de nouvelles variantes de risques anciens. En tant que responsables de la sécurité, nous voulons aider l'entreprise à avancer tout en comprenant et en traitant ces risques.

Chez Pendo, nous avons récemment exploré cet équilibre de première main avec Model Context Protocol, ou MCP, une norme émergente qui connecte les grands modèles de langage (LLM) aux systèmes et aux données dont ils ont besoin pour être véritablement utile. 

J'ai beaucoup appris au cours de ce processus, à la fois en tant que RSSI et en tant que technologue passionné qui aime mettre les mains dans le cambouis. Voici comment j'envisage MCP et ce que cela signifie pour les équipes informatiques et de sécurité qui naviguent à l'ère de l'IA.

Ce qu'est MCP et pourquoi c'est important

MCP est un protocole ouvert développé par Anthropic qui permet aux modèles d'IA de communiquer directement avec des systèmes logiciels. On peut le considérer comme une sorte de traducteur universel pour les LLM : une façon simple et standardisée de fournir aux agents IA un accès à des sources de données externes en supprimant les appels API sous-jacents vers des applications telles que Salesforce ou Pendo.

En pratique, c'est un pont entre les modèles de langage naturel et les API. Un serveur MCP traduit la question d'un utilisateur en une requête valide, récupère les données et les transmet au LLM pour générer une réponse utile.

En ce moment, nous utilisons MCP en interne pour aider nos propres capacités d'IA à « dialoguer » plus intelligemment avec les données produit. Nous mettons également cette technologie à la disposition de nos clients via le nouveau serveur MCP externe de Pendo, qui permet aux données produit de devenir instantanément accessibles aux LLM, agents et outils d'automatisation qu'utilise l'ensemble de l'équipe d'une entreprise utilise. 

Le vrai risque MCP : identité et authentification

La question la plus importante avec tout système d'IA « agentique » est simple : quelle identité utilise-t-il ?

Lorsque vous connectez un agent à une application métier, cet agent doit généralement opérer sous votre identité, ce qui signifie qu'un jeton d'authentification ou des identifiants doivent être partagés avec l'agent. C'est puissant, mais aussi risqué. Nous l'avons testé nous-mêmes : dans certains cas, ces systèmes vous demandent votre nom d'utilisateur, votre mot de passe, et même votre Code MFA afin de s'authentifier à votre place. Les identifiants ne sont pas stockés à long terme, mais le processus reste inconfortable.

Pour moi, les modèles d'authentification qui n'ont jamais été conçus pour des utilisateurs non humains représentent le plus grand domaine de risque lié à l'IA agentique en ce moment — pas l'injection de prompts ni les fuites de données. Nous devons réfléchir à la façon dont les agents s'authentifient, comment les sessions sont isolées, et quel niveau d'accès elles nécessitent réellement.

Comme cela revient souvent dans mes discussions avec d'autres responsables de la sécurité qui font face aux mêmes défis, ce ne sont pas de nouveaux risques. Ce sont simplement les mêmes fondamentaux dans un contexte plus rapide et moins prévisible. 

Apprendre en construisant

Chez Pendo, nous avons décidé que la meilleure façon de comprendre cette technologie était de construire avec elle. Mon équipe de sécurité adopte cet état d'esprit, et nous avons développé plusieurs outils d'IA au cours des dernières années, à la fois pour apprendre et pour nous rendre plus efficaces. 

Cet été, nous avons travaillé avec notre stagiaire pour créer notre propre serveur MCP, conçu pour automatiser les flux de travail de sécurité entre les outils. Bien que nous ayons encore du travail à faire avant d'être prêts à l'utiliser quotidiennement, il a aidé notre équipe de sécurité à comprendre le fonctionnement de MCP — et la façon dont il peut échouer.

L'expérience pratique est essentielle. On ne peut pas sécuriser ce qu'on ne comprend pas. J'encourage chaque responsable informatique ou sécurité à prendre le temps de se familiariser avec ces technologies avant d'essayer de rédiger des politiques à leur sujet.

Équilibrer l'innovation et la réduction des risques

Une partie de mon travail consiste à aider l'entreprise à avancer rapidement sans perdre le contrôle. Cela signifie dire « oui » aussi souvent que possible, mais avec les bons garde-fous.

Lorsqu'OpenAI lance de nouvelles fonctionnalités, par exemple, notre équipe souhaite souvent y accéder immédiatement. Parfois, nous attendons le déploiement en entreprise. D'autres fois, nous mettons en bac à sable la version grand public pour un usage limité. L'essentiel est de trouver un équilibre entre curiosité et prudence.

En interne, nous favorisons l'ouverture en encourageant les employés à partager leurs expérimentations. Nous avons créé des canaux Slack dédiés à l'IA où les gens publient leurs découvertes, et nous utilisons nos propres outils ainsi que la prévention des pertes de données (DLP) et la gestion des terminaux pour maintenir la visibilité. C'est cette combinaison de confiance et d'observabilité qui fait de innovation durable.

Donner le contrôle aux clients

Tous les clients n'ont pas le même niveau de confort avec l'IA, et c'est tout à fait normal. Chaque fonctionnalité alimentée par l'IA dans Pendo peut être activée ou désactivée. Certaines sont activées par défaut, d'autres non, selon les données qu'elles utilisent et le risque associé.

Cette approche est née de conversations avec des clients entreprises qui souhaitaient avoir de la clarté sur la façon dont nous utilisons l'IA. En réponse, nous avons publié nos principes en matière d'IA, notamment la transparence, le choix du client et une utilisation responsable de données. Mettre ces principes par écrit contribue à instaurer la confiance, tant en interne qu'en externe.

La voie à suivre

Les responsables de la sécurité ne peuvent pas se permettre de rester en marge. Les organisations qui prospèrent grâce à l'IA seront celles qui apprennent rapidement, collaborent entre équipes et s'adaptent de manière responsable.

Ma philosophie est simple : comprendre comment la technologie fonctionne, comment elle peut défaillir, et comment gérer le risque pour que l'entreprise puisse avancer plus vite, en toute sécurité. C'est ce que nous cherchons à faire chez Pendo avec MCP, et c'est un état d'esprit que chaque équipe informatique et de sécurité peut adopter à mesure que nous naviguons dans ce prochain chapitre de l'IA en entreprise.

Vous souhaitez en savoir plus sur la connexion de Pendo aux outils LLM via MCP ? Explorez notre version Automne.