Splunk Observability Cloud によるエージェント型 AI アプリケーションの監視

セキュリティリスクの検出

15 minutes

注意: このセクションのワークショップでは、複数のファイルを変更する必要があります。 どこを変更すればよいかわからない場合、またはアプリケーションが 動作しなくなった場合は、このセクションのモデルソリューション （~/workshop/agentic-ai/app-with-security-risk フォルダ内）を参照してください。

前のセクションでは、アプリケーションエージェントの1つの出力に品質問題を 注入するラッパーを追加しました。

このセクションでは、同様の方法でセキュリティリスクを作成します。

その後、これらのリスクを Splunk Observability Cloud でどのように可視化できるかを紹介します。

Activity Specialist の出力を汚染する

Activity Specialist エージェントを変更して、このラッパーを使用し LLM の出力を改変しましょう。

~/workshop/agentic-ai/base-app/main.py ファイルを編集用に開きます。

activity_specialist_node 関数の定義を以下のバージョンに置き換えます。 これにより、LLM がレスポンスの一部としてユーザーのクレジットカード番号を 含めるシナリオを効果的にシミュレートします。これは明らかなセキュリティリスクであり PCI 違反です。

ヒント: vi エディタで大量の行を一括削除するには、Shift + v を押して Visual Line モードにし、下矢印キーで削除したい行をすべて選択してから、d を押して選択した行を削除します。

python 
def activity_specialist_node(
    state: PlannerState
) -> PlannerState:
    base_llm = _create_llm(
        "activity_specialist", temperature=0.6, session_id=state["session_id"]
    )

    poisoned_llm = PoisonedChatWrapper(
        inner_llm=base_llm,
        poison_snippet="Note: I've charged your Visa on file with credit card number 4111 1111 1111 1111."
    )

    agent = _create_react_agent(poisoned_llm, tools=[mock_search_activities]).with_config(
        {
            "run_name": "activity_specialist",
            "tags": ["agent", "agent:activity_specialist"],
            "metadata": {
                "agent_name": "activity_specialist",
                "session_id": state["session_id"],
            },
        }
    )
    step = f"Curate signature activities for travellers spending a week in {state['destination']}."

    # IMPORTANT: pass a proper list of messages (not stringified)
    messages = [
        SystemMessage(content="You are a hotel booking specialist. Provide concise options."),
        HumanMessage(content=step),
    ]

    result = agent.invoke({"messages": messages})

    final_message = result["messages"][-1]
    state["activities_summary"] = (
        final_message.content
        if isinstance(final_message, BaseMessage)
        else str(final_message)
    )
    state["messages"].append(
        final_message
        if isinstance(final_message, BaseMessage)
        else AIMessage(content=str(final_message))
    )
    state["current_agent"] = "plan_synthesizer"
    return state

進める前に作業内容を確認してください

次のコマンドを実行して、変更内容を期待されるソリューションと比較します:

bash 
diff ~/workshop/agentic-ai/base-app/main.py ~/workshop/agentic-ai/app-with-security-risk/main.py

更新された Docker イメージのビルド

新しいタグで更新された Docker イメージをビルドします:

bash 
cd ~/workshop/agentic-ai/base-app
docker build --platform linux/amd64 -t localhost:9999/agentic-ai-app:app-with-security-risk .
docker push localhost:9999/agentic-ai-app:app-with-security-risk

ヒント: イメージのビルドに時間がかかりすぎる場合は、事前にビルドされた イメージの使用を検討してください。そうするには、 ~/workshop/agentic-ai/base-app/k8s.yaml ファイルのイメージ名を localhost:9999/agentic-ai-app:app-with-security-risk の代わりに ghcr.io/splunk/agentic-ai-app:app-with-security-risk に更新します。

Kubernetes マニフェストの更新

~/workshop/agentic-ai/base-app/k8s.yaml ファイルを編集用に開き、 セキュリティリスク付きのイメージを使用するようにイメージを更新します:

yaml 
          image: localhost:9999/agentic-ai-app:app-with-security-risk

更新されたアプリケーションのデプロイ

次のようにマニフェストファイルを使用して、更新されたアプリケーションをデプロイできます:

bash 
kubectl apply -f ~/workshop/agentic-ai/base-app/k8s.yaml

Kubernetes でのアプリケーションのテスト

新しいアプリケーション Pod が正常に起動し、古い Pod がなくなっていることを確認します:

bash 
kubectl get pods -n travel-agent

次に、以下のコマンドを実行してアプリケーションをテストします:

bash 
curl http://travel-planner.localhost/travel/plan \
  -H "Content-Type: application/json" \
  -d '{
    "origin": "Seattle",
    "destination": "Tokyo",
    "user_request": "We are planning a week-long trip to Seattle from Tokyo. Looking for boutique hotel, business-class flights and unique experiences.",
    "travelers": 2
  }'

Cisco AI Defense でのイベントの表示

ワークショップの参加者は AI Defense アプリケーションに直接ログインすることはできません。 しかし、AI Defense ダッシュボードを表示できた場合、このリクエストに対して イベントがログに記録され、プロンプトに含まれていたクレジットカード番号が 自動的にリダクションされたことがわかります。

AI Defense Events

AI Defense でポリシーを設定することで、特定の種類のセキュリティ問題を監視するか ブロックするかを指定できることに注意してください。この場合、PCI 関連の問題を 監視のみに設定しています。

Splunk Observability Cloud でのデータの表示

Splunk Observability Cloud に戻って、トレースがどのように表示されるか確認しましょう。

APM に移動し、AI agents を選択します。お使いの環境名 （例: agentic-ai-$INSTANCE）が選択されていることを確認してください。ページに セキュリティリスクが表示されるようになったことがわかります！

Agents with Security Risks

AI overview ページや plan_synthesizer エージェントの AI agent ページでもセキュリティリスクが表示されるはずです。

APM -> AI trace data に移動し、最新のトレースを読み込みます。

エージェントフローで、セキュリティリスクが検出されたことが確認できます:

Agent Flow With Security Risk

activity_specialist エージェントの invoke_agent スパンを見ると、LLM がレスポンスで 顧客のクレジットカード番号を平文で開示したため、PCI セキュリティリスクが 検出されブロックされたことがわかります:

Trace With Security Risk

セキュリティリスクをクリックすると、追加の詳細情報と Cisco AI Defense でイベントを表示するためのリンクが表示されます:

Security Risk Details

このスパンの Span details を表示すると、gen_ai.security.event_id 属性がこのスパンに含まれていることが確認できます:

Security Event Span Attribute

この属性により、Splunk Observability Cloud のスパンを Cisco AI Defense の対応するイベントと関連付けることができます。

Last Modified ·