Wie IT- und Sicherheitsverantwortliche MCP einsetzen können, ohne das Risiko aus den Augen zu verlieren

Anmerkung der Redaktion: Der folgende Beitrag stammt von Chuck Kesler, Chief Information Security Officer bei Pendo.

Künstliche Intelligenz verändert Unternehmen schneller als jede andere Technologie, die ich in meiner Karriere erlebt habe. Wie das Aufkommen des Internets in den 1990er Jahren und der Aufstieg des Cloud-Computing in den 2010er Jahren schafft sie unglaubliche Möglichkeiten, unsere Arbeitsweise zu transformieren. Sie bringt aber auch neue Risiken und neue Varianten alter Risiken mit sich. Als Sicherheitsverantwortliche wir wollen das Unternehmen voranbringen und dabei diese Risiken verstehen und angehen.

Bei Pendo haben wir dieses Gleichgewicht kürzlich aus erster Hand mit Model Context Protocol, oder MCP, einem aufkommenden Standard, der große Sprachmodelle (LLMs) mit den Systemen und Daten verbindet, die sie benötigen, um wirklich useful. 

Ich habe in diesem Prozess viel gelernt, sowohl als CISO als auch als lebenslanger Technologe, der gerne selbst Hand anlegt. So denke ich über MCP nach und was es für IT- und Sicherheitsteams bedeutet, die sich im KI-Zeitalter zurechtfinden müssen.

Was MCP ist und warum es wichtig ist

MCP ist ein offenes Protokoll, das von Anthropic entwickelt wurde und es KI-Modellen ermöglicht, direkt mit Softwaresystemen zu kommunizieren. Man kann es sich als eine Art Universalübersetzer für LLMs vorstellen: ein einfacher, standardisierter Weg, KI-Agenten Zugang zu externen Datenquellen zu verschaffen, indem die zugrunde liegenden API-Aufrufe an Anwendungen wie Salesforce oder Pendo.

In der Praxis ist es eine Brücke zwischen natürlichen Sprachmodellen und APIs. Ein MCP-Server übersetzt die Frage eines Nutzers in eine gültige Abfrage, ruft die Daten ab und gibt sie an das LLM zurück, um eine nützliche Antwort zu generieren.

Derzeit nutzen wir MCP intern, um unseren eigenen KI-Funktionen zu helfen, „intelligenter" mit Produktdaten zu kommunizieren. Wir stellen die Technologie auch unseren Kunden über Pendos neuen externen MCP-Server zur Verfügung, der es ermöglicht, dass Produktdaten sofort für die LLMs, Agenten und Automatisierungstools zugänglich werden, die das gesamte Team eines Unternehmensverwendet. 

Das eigentliche MCP-Risiko: Identität und Authentifizierung

Die wichtigste Frage bei jedem „agentischen" KI-System ist einfach: Wessen Identität wird verwendet?

Wenn Sie einen Agenten mit einer Geschäftsanwendung verbinden, muss dieser Agent in der Regel unter Ihrer Identität agieren, was bedeutet, dass ein Authentifizierungstoken oder Anmeldedaten mit dem Agenten geteilt werden müssen. Das ist leistungsstark, aber auch riskant. Wir haben dies selbst getestet: In einigen Fällen werden Sie von diesen Systemen nach Ihrem Benutzernamen, Ihrem Passwort und sogar nach Ihrer MFA-Code, damit sie sich als Sie authentifizieren können. Die Anmeldedaten werden nicht dauerhaft gespeichert, aber der Vorgang fühlt sich dennoch unangenehm an.

Für mich sind Authentifizierungsmodelle, die nie für nicht-menschliche Nutzer konzipiert wurden, derzeit das größte Risikofeld rund um agentische KI – nicht Prompt-Injection oder Datenlecks. Wir müssen durchdenken, wie Agenten sich authentifizieren, wie Sitzungen isoliert werden und wie viel Zugriff sie wirklich benötigen.

Wie in meinen Gesprächen mit anderen Sicherheitsverantwortlichen, die mit denselben Herausforderungen zu kämpfen haben, immer wieder zur Sprache kommt: Das sind keine neuen Risiken. Es sind dieselben Grundprinzipien in einem schnelleren, weniger vorhersehbaren Kontext. 

Lernen durch Aufbauen

Bei Pendo haben wir entschieden, dass der beste Weg, diese Technologie zu verstehen, darin besteht, mit ihr zu bauen. Mein Sicherheitsteam verfolgt diese Denkweise, und wir haben in den letzten Jahren mehrere KI-Tools entwickelt – sowohl um zu lernen als auch um uns effektiver zu machen. 

In diesem Sommer haben wir gemeinsam mit unserem Praktikanten einen eigenen MCP-Server entwickelt, der darauf ausgelegt ist, Sicherheits-Workflows über verschiedene Tools hinweg zu automatisieren. Obwohl wir noch einige Arbeit vor uns haben, bevor wir ihn täglich einsetzen können, hat er unserem Sicherheitsteam geholfen zu verstehen, wie MCP funktioniert – und wie es scheitern kann.

Praktische Erfahrung ist unerlässlich. Man kann nichts absichern, was man nicht versteht. Ich empfehle jedem IT- oder Sicherheitsverantwortlichen, sich mit diesen Technologien vertraut zu machen, bevor er versucht, Richtlinien dazu zu formulieren.

Innovation und Risikominimierung in Balance bringen

Ein Teil meiner Arbeit besteht darin, dem Unternehmen zu helfen, schnell voranzukommen, ohne die Kontrolle zu verlieren. Das bedeutet, so oft wie möglich „Ja" zu sagen, aber mit den richtigen Leitplanken.

Wenn OpenAI neue Funktionen veröffentlicht, möchte unser Team beispielsweise oft sofort Zugang dazu. Manchmal warten wir auf den Enterprise-Rollout. In anderen Fällen testen wir die Verbraucherversion in einer Sandbox für einen eingeschränkten Einsatz. Der Schlüssel liegt darin, Neugier und Vorsicht in Einklang zu bringen.

Intern fördern wir Offenheit, indem wir Mitarbeiter ermutigen, ihre Experimente zu teilen. Wir haben dedizierte KI-Slack-Kanäle eingerichtet, in denen Entdeckungen gepostet werden, und wir nutzen unsere eigenen Tools zusammen mit Data Loss Prevention (DLP) und Endpoint-Management, um die Transparenz zu wahren. Diese Kombination aus Vertrauen und Beobachtbarkeit ist es, die innovation nachhaltig.

Kunden die Kontrolle geben

Nicht jeder Kunde hat das gleiche Komfortniveau mit KI, und das ist in Ordnung. Jede KI-gestützte Funktion in Pendo kann ein- oder ausgeschaltet werden. Einige sind standardmäßig aktiviert, andere nicht, abhängig von den Daten, die sie berühren, und dem damit verbundenen Risiko.

Dieser Ansatz entstand aus Gesprächen mit Unternehmenskunden, die Klarheit darüber wollten, wie wir KI einsetzen. Als Reaktion darauf haben wir unsere KI-Grundsätze veröffentlicht, darunter Transparenz, Kundenentscheidung und verantwortungsvoller Einsatz von Daten. Diese Grundsätze schriftlich festzuhalten hilft, Vertrauen aufzubauen – sowohl intern als auch extern.

Der Weg nach vorne

Sicherheitsverantwortliche können es sich nicht leisten, an der Seitenlinie zu stehen. Die Organisationen, die mit KI erfolgreich sein werden, sind jene, die schnell lernen, teamübergreifend zusammenarbeiten und verantwortungsvoll handeln.

Meine Philosophie ist einfach: Verstehen, wie die Technologie funktioniert, wie sie versagt und wie man das Risiko managt, damit das Unternehmen schneller und sicher vorankommen kann. Das ist es, was wir bei Pendo mit MCP anstreben – und es ist eine Denkweise, die jedes IT- und Sicherheitsteam übernehmen kann, während wir dieses nächste Kapitel der KI im Unternehmen gestalten.

Möchten Sie mehr darüber erfahren, wie Sie Pendo über MCP mit LLM-Tools verbinden können? Entdecken Sie unser Autumn Release.