Expand description
§Prometheus 監視メトリクスモジュール
リクエスト数、レイテンシ、バッチサイズ、質問タイプ、および確信度分布の メトリクス計測と Prometheus エクスポーターのセットアップを提供する。
Constants§
- METRIC_
BATCH_ SIZE - バッチサイズ(質問数)メトリクス名。
- METRIC_
CONFIDENCE_ SCORE - 判定確信度スコア分布メトリクス名。
- METRIC_
DAG_ EXECUTION_ DURATION_ SECONDS - DAG 全体実行時間(秒)メトリクス名。
- METRIC_
DAG_ NODE_ DURATION_ SECONDS - DAG ノード別実行時間(秒)メトリクス名。
- METRIC_
DAG_ NODE_ EXECUTIONS_ TOTAL - DAG ノード実行回数メトリクス名。
- METRIC_
GATING_ ROUTES_ TOTAL - 確信度ゲーティングルーティング数メトリクス名。
- METRIC_
HIERARCHICAL_ EARLY_ EXIT_ TOTAL - 粗密ルーティング大分類 Early-Exit 回数メトリクス名。
- METRIC_
HIERARCHICAL_ SOFT_ BEAM_ TOTAL - 粗密ルーティング Soft-Beam 発動回数メトリクス名。
- METRIC_
HTTP_ DURATION_ SECONDS - HTTP 全体処理時間(秒)メトリクス名。
- METRIC_
INFERENCE_ DURATION_ SECONDS - 推論エンジン処理時間(秒)メトリクス名。
- METRIC_
QUESTION_ TYPE_ TOTAL - 質問プリミティブ別処理数メトリクス名。
- METRIC_
REQUESTS_ TOTAL - リクエスト総数メトリクス名。
Functions§
- record_
confidence - 判定確信度スコアを記録する。
- record_
dag_ execution - DAG 全体の実行所要時間(秒)を記録する。
- record_
dag_ node_ execution - DAG ノードごとの実行所要時間(秒)および実行数を記録する。
- record_
gating_ route - 確信度ゲーティングのルーティング結果数を記録する。
- record_
hierarchical_ early_ exit - 粗密ルーティングにおける大分類 Early-Exit 発動数を記録する。
- record_
hierarchical_ soft_ beam - 粗密ルーティングにおける Soft-Beam (Top-2 マージ救済) 発動数を記録する。
- record_
http_ duration - HTTP レスポンス全体の所要時間(秒)を記録する。
- record_
http_ request - HTTP リクエスト完了カウンターを記録する。
- record_
inference_ metrics - 推論エンジンの所要時間(秒)およびバッチサイズを記録する。
- record_
question_ type - 質問プリミティブ別の処理数を記録する。
- setup_
metrics_ recorder - Prometheus メトリクスレコーダーを初期化し、テキストレンダリング用ハンドルを取得する。