Splunk Observability Cloud によるエージェント型 AI アプリケーションの監視

このハンズオンワークショップでは、Splunk Observability Cloud を使用してエージェント型 AI アプリケーションを監視する方法を紹介します。OpenTelemetry Collector のデプロイ、LangChain を使用した Python アプリケーションの計装、品質の問題やセキュリティリスクを特定するための LLM インタラクションの評価設定について学びます。

Splunk Observability for AI は、AI アプリケーションスタックのパフォーマンス、品質、セキュリティ、 コストを監視します。以下の機能が含まれます

• AI Agent Monitoring - LLM およびエージェント型アプリケーションのパフォーマンス、品質、セキュリティ、コストを監視します。
• AI Infrastructure Monitoring - AI インフラストラクチャの健全性、可用性、消費量（使用量）を監視します。

このワークショップでは、Splunk Observability Cloud でこれらの機能をデプロイし、活用するためのハンズオン体験を提供します。以下の内容が含まれます

• Azure アカウントを Splunk Observability Cloud に接続して、AI インフラストラクチャ関連のメトリクスを取得する方法を理解します。
• AI インフラストラクチャに関連するすぐに使えるダッシュボードとナビゲーターを探索します。
• LangChain と LangGraph で構築されたエージェント型 AI アプリケーションのアーキテクチャを確認します。
• エージェント型 AI アプリケーションをデプロイし、OpenTelemetry で計装する練習をします。
• Splunk Observability Cloud でメトリクス、トレース、ログを使用してエージェントのパフォーマンスを理解する方法を探索します。
• エージェント型 AI アプリケーションを変更してツールコールとエージェントを使用する練習をします。
• アプリケーションに品質の問題を追加し、セマンティック品質評価を使用して Splunk Observability Cloud で検出する練習をします。
• アプリケーションに AI Defense の計装とセキュリティリスクを追加し、Splunk Observability Cloud で検出する練習をします。