Nota do Editor: O texto a seguir é uma postagem de Chuck Kesler, Diretor de Segurança da Informação da Pendo.

A inteligência artificial está transformando as empresas mais rapidamente do que qualquer tecnologia que já vi em minha carreira. Assim como o advento da Internet nos anos 1990 e a ascensão da computação em nuvem nos anos 2010, ela está criando oportunidades incríveis para transformar a forma como trabalhamos. Também traz novos riscos e novas variações de riscos antigos. Como líderes de segurança, queremos ajudar o negócio a avançar enquanto compreendemos e abordamos esses riscos.

Na Pendo, exploramos recentemente esse equilíbrio em primeira mão com o Model Context Protocol, ou MCP, um padrão emergente que conecta grandes modelos de linguagem (LLMs) aos sistemas e dados de que precisam para ser verdadeiramente útil. 

Aprendi muito ao longo desse processo, tanto como CISO quanto como tecnólogo de longa data que gosta de colocar a mão na massa. Veja como penso sobre o MCP e o que ele significa para as equipes de TI e segurança que navegam pela era da IA.

O que é o MCP e por que ele importa

MCP é um protocolo aberto desenvolvido pela Anthropic que permite que modelos de IA se comuniquem diretamente com sistemas de software. Você pode pensar nele como uma espécie de tradutor universal para LLMs: uma maneira simples e padronizada de fornecer aos agentes de IA acesso a fontes de dados externas, removendo as chamadas de API subjacentes a aplicativos como Salesforce ou Pendo.

Na prática, é uma ponte entre modelos de linguagem natural e APIs. Um servidor MCP traduz a pergunta do usuário em uma consulta válida, recupera os dados e os repassa ao LLM para gerar uma resposta útil.

Agora, estamos usando o MCP internamente para ajudar nossas próprias capacidades de IA a "conversar" com dados de produto de forma mais inteligente. Também estamos disponibilizando a tecnologia para nossos clientes por meio do novo servidor MCP externo da Pendo, que permite que os dados de produto se tornem instantaneamente acessíveis aos LLMs, agentes e ferramentas de automação que a equipe mais ampla de uma empresa uses. 

O risco real do MCP: Identidade e autenticação

A pergunta mais importante em qualquer sistema de IA "agêntico" é simples: De qual identidade ele está fazendo uso?

Quando você conecta um agente a um aplicativo de negócios, esse agente normalmente precisa operar sob sua identidade, o que significa que um token de autenticação ou credenciais precisam ser compartilhados com o agente. Isso é poderoso, mas também arriscado. Testamos isso nós mesmos: em alguns casos, esses sistemas solicitarão seu nome de usuário, senha e até mesmo seu código MFA para que possam se autenticar como você. As credenciais não são armazenadas por longo prazo, mas o processo ainda parece desconfortável.

Para mim, os modelos de autenticação que nunca foram projetados para usuários não humanos são a maior área de risco em torno da IA agêntica no momento—não a injeção de prompt ou o vazamento de dados. Precisamos pensar em como os agentes se autenticam, como as sessões são isoladas e quanto acesso elas realmente precisam.

Como frequentemente surge nas minhas discussões com outros líderes de segurança que estão enfrentando esses mesmos desafios, esses não são riscos novos. São apenas os mesmos fundamentos em um contexto mais rápido e menos previsível. 

Aprendendo construindo

Na Pendo, decidimos que a melhor forma de entender essa tecnologia era construir com ela. Minha equipe de segurança adota essa mentalidade, e desenvolvemos várias ferramentas de IA ao longo dos últimos anos, tanto para aprender quanto para nos tornarmos mais eficazes. 

Neste verão, trabalhamos com nosso estagiário para construir um servidor MCP próprio, projetado para automatizar fluxos de trabalho de segurança entre ferramentas. Embora ainda tenhamos algumas etapas a concluir antes de utilizá-lo diariamente, o processo ajudou nossa equipe de segurança a entender como o MCP funciona — e como ele pode falhar.

A experiência prática é essencial. Você não pode proteger algo que não entende. Encorajo todo líder de TI ou segurança a dedicar tempo para conhecer essas tecnologias antes de tentar elaborar políticas sobre elas.

Equilibrando inovação e redução de riscos

Parte do meu trabalho é ajudar a empresa a avançar rapidamente sem perder o controle. Isso significa dizer "sim" com a maior frequência possível, mas com as proteções certas.

Quando a OpenAI lança novos recursos, por exemplo, nossa equipe frequentemente quer acesso imediato. Às vezes esperamos pelo lançamento corporativo. Em outras ocasiões, colocamos a versão para consumidores em sandbox para uso limitado. A chave é equilibrar a curiosidade com a cautela.

Internamente, promovemos a abertura incentivando os funcionários a compartilhar com o que estão experimentando. Criamos canais dedicados de IA no Slack onde as pessoas publicam descobertas, e usamos nossas próprias ferramentas junto com prevenção contra perda de dados (DLP) e gerenciamento de endpoints para manter a visibilidade. Essa combinação de confiança e observabilidade é o que torna inovação sustentável.

Dando controle aos clientes

Nem todo cliente tem o mesmo nível de conforto com IA, e tudo bem. Cada recurso com tecnologia de IA no Pendo pode ser ativado ou desativado. Alguns são habilitados por padrão, outros não, dependendo dos dados que acessam e do risco associado.

Essa abordagem surgiu de conversas com clientes corporativos que queriam clareza sobre como usamos a IA. Em resposta, publicamos nossos princípios de IA, incluindo transparência, escolha do cliente e uso responsável de dados. Colocar esses princípios por escrito ajuda a construir confiança, tanto internamente quanto externamente.

O caminho à frente

Os líderes de segurança não podem se dar ao luxo de ficar à margem. As organizações que prosperarão com a IA serão aquelas que aprendem rapidamente, colaboram entre equipes e se adaptam de forma responsável.

Minha filosofia é simples: entender como a tecnologia funciona, como ela falha e como gerenciar o risco para que o negócio possa avançar mais rápido, com segurança. É isso que estamos buscando fazer na Pendo com o MCP, e é uma mentalidade que toda equipe de TI e segurança pode adotar enquanto navegamos por este próximo capítulo da IA empresarial.

Quer saber mais sobre como conectar o Pendo a ferramentas de LLM via MCP? Explore nosso Autumn Release.