Workshop

メトリクス、トレース、ログの確認

Splunk Observability Cloud でトレースデータを表示する #

Splunk Observability Cloud で APM に移動し、Service Map を選択します。 お使いの環境名が選択されていることを確認してください（例: ai-pod-workshop-participant-1）。
以下のようなサービスマップが表示されるはずです:

右側のメニューで Traces をクリックします。次に、実行時間が長いトレースの1つを選択します。以下の例のように表示されるはずです:

このトレースは、ユーザーの質問（例: “How much memory does the NVIDIA H200 have?"）に対する回答を返すためにアプリケーションが実行したすべてのインタラクションを示しています。

例えば、アプリケーションが Weaviate ベクトルデータベース内で質問に関連するドキュメントを検索するために類似性検索を実行した箇所を確認できます。

また、ベクトルデータベースから取得したコンテキストを含め、アプリケーションが LLM に送信するプロンプトをどのように作成したかも確認できます:

注意: トレースのウォーターフォールビューに chat および invoke_workflow の AI インタラクションが表示されない場合、または右側に AI details タブが表示されない場合は、有効にする必要がある superpowers についてインストラクターに確認してください。

最後に、LLM からのレスポンス、所要時間、使用された入力トークンと出力トークンの数を確認できます:

メトリクスが Splunk に送信されていることを確認する #

Splunk Observability Cloud で Dashboards に移動し、Built-in dashboard groups に含まれている Cisco AI PODs Dashboard を検索します。 NIM FOR LLMS タブに移動し、ダッシュボードがお使いの OpenShift クラスター名でフィルタリングされていることを確認します。以下の例のようにチャートにデータが表示されているはずです: