Pendo for Agentsが登場。わずらわしく、役に立たないエージェントの時代は終わりです。 詳しく見る
e-Book

AIリスク低減のためのCIOガイド

Scroll to read
AIリスク低減のためのCIOガイド

はじめに

AIの普及は避けられない。しかし、その可能性には深刻なリスクが伴う。

AI、大規模言語モデル（LLM）、自律型エージェントは、すでにビジネスを変革しつつあります。ナレッジワーカーが管理業務や反復作業に費やす時間が減り、企業に価値をもたらす業務により多くの時間を充てられる時代に突入しています。

ビジネスリーダーたちはその可能性を見据え、全力で取り組んでいます。 PwCの調査 によると、Fortune 1000企業のほぼ半数がAIを製品に完全統合していることが明らかになっています。

生産性と効率性の大幅な向上が期待できる一方で、コンプライアンス、セキュリティ、および業務上のリスクも同様に大きくなります。CIOは、拙速に動いて災害を招くことと、動きが遅すぎて競合他社に後れを取ることの間でバランスを取らなければなりません。

従来のガバナンスモデルは硬直的でリスク回避的、かつ委員会主導型であるため、AIイノベーションのスピードに追いつくことができません。テックスタックと同じ速さで進化するツールを通じて、可視性、柔軟性、そしてコントロールが必要です。

このガイドでは、AIがもたらす主要なリスクと、それらを軽減・最小化する方法を探ります。また、企業が現在これらのアイデアをどのように実践しているかをご紹介します。

AIの導入を破壊的ではなく、変革的なものにするための方法をご紹介します。

1：エージェンティックワークフローがもたらす新たな課題

最新のAIによる変革は、エージェンティックワークフローです。これは、人間の介入なしにタスクを遂行するために自律型AIエージェントを活用するものです。

エージェント型ワークフローへの注目は最高潮に達しています。1,500人のITリーダーを対象とした 1,500人のITリーダーを対象とした調査では、96%が今後1年間でAIエージェントの活用を拡大する予定と回答しました。こうした投資はIT予算の見込み額のかなりの部分を占めています。別の グローバル調査 によると、企業の3分の1が2025年にAIへ2,500万ドル以上を支出する見込みであることがわかりました。

AIエージェントが非常に有用であることは否定できません。AIエージェントは顧客からの問い合わせへの対応、レポートの作成、社内プロセスの自律的な実行が可能です。つまり、チームは反復的なタスクをAIに任せることができ、複数のアプリケーションにまたがる複雑なワークフローも同様です。

しかし、エージェント型ワークフローを魅力的にしているその自律性が、新たなリスクをもたらすことも事実です。AIエージェントは機密データにコンプライアンス違反の方法でアクセス・使用する可能性があり、たとえばアクセス権限を持たない個人や第三者に情報を漏洩させてしまうおそれがあります。また、エージェントが誤った情報を提供し、企業が倫理的あるいは法的な問題に直面するリスクもあります。

例えば、エア・カナダのチャットボットはチャットの中で クーポンを勝手に作り出し ました。航空会社が割引の適用を拒否したところ、旅行者は訴訟を起こし、勝訴しました。裁判所は、チャットボットが顧客に伝えた内容についてエア・カナダが法的責任を負うと判断しました。

2：AIリスクの4つの主要ベクター

AIが日常業務にますます深く組み込まれるにつれ、CIOは新たなリスクに対して事前に警戒し、十分な備えをしておく必要があります。これらのリスクは、大きく4つのカテゴリーに分類されます。

  1. セキュリティの脆弱性。 AIエージェントはアプリケーション内およびアプリケーション間で動作できるため、悪用の格好の標的となります。通常は非決定論的であるため、従来のセキュリティ脅威モデリングや設計レビューの原則を適用することが困難です。十分な監視がなければ、データの持ち出し、追跡不能な変更、さらには悪意ある行為者への管理者権限の付与に利用される恐れがあります。
  2. コンプライアンス違反。 エージェントは、ワークフロー内のコンプライアンス上必須のステップを見落とす可能性があります。個人情報（PII）を不適切に扱い、顧客の信頼を損ない、プライバシー法に違反するおそれがあります。電子的な記録が求められるプロセスの文書化を怠ったり、法的に保持義務のあるデータを破棄したりする可能性もあります。
  3. 「シャドーAI。」 従業員が未承認のソフトウェアを使用するのと同様に、チームはITの監視なしにAIツールを立ち上げることができるようになり、断片化された管理不能なシステムが生まれます。
  4. ソフトウェアの乱立とエクスペリエンスの低下。 AIツールが増殖するにつれ、ユーザーエクスペリエンスが低下する可能性があります。ツールの重複や不明確なワークフローは従業員を苛立たせ、生産性を損なうとともに、貴重なIT予算を無駄にするおそれがあります。

CIOはこうしたリスクの管理に慣れていますが、自律型エージェントは一般的なSaaSソリューションよりも高度な監視を必要とします。エージェントを適切に統制するには、その行動に関する継続的かつ文脈に即したインサイトが不可欠です。

3：従来のガバナンスが不十分な理由

多くの組織は、他の種類のソフトウェアに対して実績のある方法でこれらのリスクを管理しようとするでしょう。従業員トレーニングの強化、ツールへのアクセス制限、利用ポリシーの策定などが考えられます。しかし、こうした取り組みは従業員の法的・規制上のコンプライアンスにとって必要な要素ではあるものの、エージェント型ワークフローには不十分です。

セキュリティ意識向上のためのドキュメントでAIエージェントをトレーニングすることは可能ですが、そのトレーニングが効果的である保証はありません。ポリシーはあらゆる不測の事態をカバーできるわけではありません。手動監査では、自律的に瞬時に変化する可能性のある行動に追いつくことができません。

エージェント型ワークフローには、次の要件を満たす監視が必要です：

  • リアルタイム。 エージェントのパフォーマンスとユーザーとのインタラクションを把握します。
  • 行動ベース。 結果だけでなく、アクションを監視します。
  • 実行可能。 介入して改善する能力を持ちます。

Pendoは、CIOがソフトウェア関連のリスクを軽減するのを支援してきた実績があります。エージェンティック時代がもたらす課題に企業が対応できるよう、私たちがどのように支援しているかをご紹介します。

4：AIリスク軽減への分析的アプローチ

ユーザーアクティビティと同じように、定量的かつデータに基づいた方法でAIエージェントを分析できるとしたら、どうでしょうか？従業員がAIエージェントをどのように使用しているかを詳しく調べ、リスクのある行動を特定し、それを軽減するためのガイドを適用できるとしたら、どうでしょうか？

Pendo Agent Analytics は、自社で構築したエージェントと外部から購入したエージェントの両方の動作を分析し、リスクを生じさせることなく生産性と収益を向上させることを目的として構築されています。ユーザーがAIエージェントとどのようにやり取りしているか—AIアシスタントからユーザーが価値を得ているか、何のために使用されているか、価値を生み出しているかどうか—を簡単に把握できます。

自社で構築したエージェントに対しては、Pendo Agent Analyticsが導入促進、AIロードマップの意思決定の改善、そしてAIエージェントに関するエンジニアリング作業をビジネス成果に直接結びつけることを支援します。外部から購入したエージェントに対しても、Pendoは導入促進に加え、生産性の向上、組織のAI利用状況の把握、リスクの低減を支援します。

Pendoは、ソフトウェアの価値を最大限に引き出せるよう設計されています。その機能は、エージェンティックワークフローにも拡張されました。

Thomson Reutersの税務・会計部門は、Checkpoint EdgeプラットフォームにAI搭載の検索エンジンを導入しました。検索エンジンの関連性を向上させるために、ユーザーが新機能とどのようにインタラクションしているかを把握する必要がありました。

同社はPendoを活用して検索体験に関する定量的なインサイトを取得し、その結果をNPSスコアと照合することで全体像を把握しました。このデータにより、開発チームはAI機能を改善し、ユーザーが各検索から最も関連性の高いコンテンツを得られるようにすることができました。

5：PendoでROIを証明する

無駄な支出は、あらゆるソフトウェア購入における大きなリスクであり、AIソリューションも例外ではありません。組織のテックスタックが断片化しており、数十ものAIアプリケーションが存在する場合、何が使われていて何が使われていないかを把握するだけでも困難な場合があります。

Pendoは、CIOがチームのエージェント導入について抱える重要な疑問に答えることを容易にします：

  • エージェントは主要なワークフローやプロセスにおいてユーザーの時間を節約していますか？
  • エージェントはコスト削減と収益向上に貢献していますか？
  • チームがより高付加価値なタスクに集中できるようになっているか？
  • タスクの完了やコンバージョンなどのアウトプットが向上しているか？

PendoのAI駆動型アナリティクスは、これらすべての問いに対する真の可視性と、インサイトに基づいて行動するためのツールを、ひとつのシームレスなソリューションとして提供します。

Demandbaseは、主要なGo-to-Marketプラットフォームとして、AIエージェントを自社プラットフォームに統合し、顧客がより迅速に業務を進め、より多くのパイプラインを獲得できるよう支援しています。同社は、ユーザーがエージェントとどのようにやり取りしているかを把握し、コンテキストに即したフィードバックを収集する必要がありました。

Pendoにより、DemandbaseはDemandbaseが必要とするインサイトを簡単に得ることができました。 「私たちはユーザーがエージェントと対話するまさにその瞬間に、製品の内部から直接フィードバックを得ています」 とDemandbaseのプロダクト担当VPであるChad Holdorf氏は述べています。 「それが彼らの仕事に役立っているかどうか、実際にパイプラインを動かしているかどうかを学んでいます。そういったフィードバックは、適切なエージェントを構築し、迅速に改善するために不可欠です。」

まとめ：AIをインテリジェントに導入する

AIが一時的なブームや「次の大きなトレンド」にとどまらないことは明らかです。それはあなたの組織の運営方法における根本的な変革となる可能性が十分にあります。CIOは、AI変革を通じて組織をスマートかつセキュアに導く役割を担っています。

Pendoは、エージェント時代をナビゲートするお手伝いをする準備ができています。Pendo Agent Analyticsおよびその他のPendoプラットフォームの機能を活用することで、エージェントの動作とユーザーがテクノロジーとどのようにインタラクションするかの両方を可視化し、双方を最適化するためのアクションを取ることができます。

Pendoは、AIに関連するリスクを軽減し、エージェントワークフローが組織にもたらす可能性を最大限に引き出すお手伝いをします。

今すぐ登録する して、Pendoを無料で使い始めましょう。