Nota del editor: El siguiente es un artículo de Chuck Kesler, Director de Seguridad de la Información de Pendo.

La inteligencia artificial está transformando las empresas más rápido que cualquier tecnología que haya visto en mi carrera. Al igual que la llegada de Internet en la década de 1990 y el auge de la computación en la nube en la de 2010, está creando oportunidades increíbles para transformar la manera en que trabajamos. También conlleva nuevos riesgos y nuevas variantes de riesgos conocidos. Como líderes de seguridad, queremos ayudar al negocio a avanzar mientras comprendemos y abordamos estos riesgos.

En Pendo, recientemente hemos estado explorando este equilibrio de primera mano con Model Context Protocol, o MCP, un estándar emergente que conecta los modelos de lenguaje grande (LLM) con los sistemas y datos que necesitan para ser verdaderamente útil. 

He aprendido mucho a través de ese proceso, tanto como CISO como tecnólogo de toda la vida al que le gusta ensuciarse las manos. Así es como pienso sobre MCP y lo que significa para los equipos de TI y seguridad que navegan en la era de la IA.

Qué es MCP y por qué importa

MCP es un protocolo abierto desarrollado por Anthropic que permite a los modelos de IA comunicarse directamente con sistemas de software. Puedes considerarlo como una especie de traductor universal para los LLM: una forma simple y estandarizada de proporcionar a los agentes de IA acceso a fuentes de datos externas, eliminando las llamadas de API subyacentes a aplicaciones como Salesforce o Pendo.

En la práctica, es un puente entre los modelos de lenguaje natural y las API. Un servidor MCP traduce la pregunta de un usuario en una consulta válida, recupera los datos y los devuelve al LLM para generar una respuesta útil.

En este momento, estamos usando MCP internamente para ayudar a que nuestras propias capacidades de IA "hablen" con los datos de producto de manera más inteligente. También estamos poniendo la tecnología a disposición de nuestros clientes a través del nuevo servidor MCP externo de Pendo, que permite que los datos de producto sean instantáneamente accesibles para los LLM, agentes y herramientas de automatización que el equipo general de una empresa usa. 

El riesgo real de MCP: identidad y autenticación

La pregunta más importante con cualquier sistema de IA «agéntico» es simple: ¿De quién es la identidad que utiliza?

Cuando conectas un agente a una aplicación empresarial, ese agente generalmente necesita operar bajo tu identidad, lo que significa que un token de autenticación o credenciales deben compartirse con el agente. Eso es poderoso, pero también riesgoso. Lo hemos probado nosotros mismos: en algunos casos, estos sistemas te solicitarán tu nombre de usuario, contraseña e incluso tu código MFA para que puedan autenticarse como usted. Las credenciales no se almacenan a largo plazo, pero el proceso sigue sintiéndose incómodo.

Para mí, los modelos de autenticación que nunca fueron diseñados para usuarios no humanos son el mayor área de riesgo en torno a la IA agéntica en este momento—no la inyección de prompts ni la filtración de datos. Necesitamos pensar detenidamente en cómo se autentican los agentes, cómo se aíslan las sesiones y cuánto acceso realmente necesitan.

Como suele surgir en mis conversaciones con otros líderes de seguridad que están trabajando en estos mismos desafíos, estos no son riesgos nuevos. Son simplemente los mismos fundamentos en un contexto más rápido y menos predecible. 

Aprender construyendo

En Pendo, decidimos que la mejor manera de entender esta tecnología era construir con ella. Mi equipo de seguridad adopta esta mentalidad, y hemos desarrollado varias herramientas de IA durante los últimos años, tanto para aprender como para ser más efectivos. 

Este verano, trabajamos con nuestro pasante para construir un servidor MCP propio, diseñado para automatizar flujos de trabajo de seguridad entre herramientas. Si bien aún tenemos trabajo por hacer antes de estar listos para usarlo a diario, ayudó a nuestro equipo de seguridad a aprender cómo funciona MCP y cómo puede fallar.

La experiencia práctica es esencial. No se puede proteger algo que no se comprende. Animo a todo líder de TI o seguridad a dedicar tiempo a estas tecnologías antes de intentar redactar políticas sobre ellas.

Equilibrar la innovación y la reducción de riesgos

Parte de mi trabajo es ayudar a la empresa a moverse rápido sin perder el control. Eso significa decir "sí" con la mayor frecuencia posible, pero con los controles adecuados.

Cuando OpenAI lanza nuevas funciones, por ejemplo, nuestro equipo a menudo quiere acceso de inmediato. A veces esperamos el lanzamiento empresarial. Otras veces, ponemos en un entorno de prueba la versión para consumidores para un uso limitado. La clave es equilibrar la curiosidad con la precaución.

Internamente, fomentamos la apertura alentando a los empleados a compartir con qué están experimentando. Hemos creado canales de Slack dedicados a la IA donde las personas publican sus descubrimientos, y utilizamos nuestras propias herramientas junto con la prevención de pérdida de datos (DLP) y la gestión de endpoints para mantener la visibilidad. Esa combinación de confianza y observabilidad es lo que hace que innovación sostenible.

Dando control a los clientes

No todos los clientes tienen el mismo nivel de comodidad con la IA, y eso está bien. Cada función impulsada por IA en Pendo puede activarse o desactivarse. Algunas están habilitadas de forma predeterminada, otras no, dependiendo de los datos que manejan y el riesgo asociado.

Ese enfoque surgió de conversaciones con clientes empresariales que querían claridad sobre cómo usamos la IA. En respuesta, publicamos nuestros principios de IA, que incluyen transparencia, elección del cliente y uso responsable de datos. Poner esos principios por escrito ayuda a generar confianza, tanto interna como externamente.

El camino por delante

Los líderes de seguridad no pueden permitirse quedarse al margen. Las organizaciones que prosperarán con la IA serán aquellas que aprendan rápidamente, colaboren entre equipos y se adapten de manera responsable.

Mi filosofía es simple: entender cómo funciona la tecnología, cómo falla y cómo gestionar el riesgo para que el negocio pueda avanzar más rápido y de forma segura. Eso es lo que buscamos hacer en Pendo con MCP, y es una mentalidad que cada equipo de TI y seguridad puede adoptar mientras navegamos este próximo capítulo de la IA empresarial.

¿Quieres obtener más información sobre cómo conectar Pendo a herramientas LLM a través de MCP? Explora nuestro Lanzamiento de Otoño.