Struct InferenceOutput 

pub struct InferenceOutput {
    pub answers: IndexMap<String, Answer>,
    pub usage: Usage,
    pub routing_summary: Option<SystemRoutingSummary>,
    pub cache_status: &'static str,
    pub cache_hit: bool,
    pub state_key: Option<u64>,
}

コア推論パイプラインの実行結果サマリー。

Fields

answers: IndexMap<String, Answer>

各質問に対応する判定結果マップ。

usage: Usage

トークン消費統計。

routing_summary: Option<SystemRoutingSummary>

確信度ゲーティングサマリー (有効時のみ)。

cache_status: &'static str

State キャッシュステータス文字列 (“HIT”, “MISS”, “BYPASS”)。

cache_hit: bool

キャッシュがヒットしたかどうかのフラグ。

state_key: Option<u64>

対象 State のキャッシュキー (任意)。

Implementations

impl InferenceOutput

pub fn to_headers(&self) -> HeaderMap

共通レスポンスヘッダー群 (キャッシュ状態および State ハッシュ) を生成する。

Trait Implementations

impl Clone for InferenceOutput

fn clone(&self) -> InferenceOutput

Returns a duplicate of the value.

fn clone_from(&mut self, source: &Self)

Performs copy-assignment from source.

impl Debug for InferenceOutput

fn fmt(&self, f: &mut Formatter<'_>) -> Result

Formats the value using the given formatter.