Struct CandidateEmbeddingCache 

pub struct CandidateEmbeddingCache { /* private fields */ }

事前エンコードされた候補埋め込みベクトルを保持・照会するキャッシュ。

各候補の静的なテキスト説明文に対する正規化済みベクトルをキャッシュし、 推論時の内積計算をミリ秒未満で完了させる。

Implementations

impl CandidateEmbeddingCache

pub fn new() -> Self

空のキャッシュを作成する。

pub fn insert(&mut self, key: impl Into<String>, vector: Vec<f32>) -> Result<()>

ベクトルを登録する。自動的に L2 正規化が行われる。

引数

• key: 候補識別子。
• mut vector: 埋め込みベクトル。

pub fn get(&self, key: &str) -> Option<&[f32]>

登録済みベクトルを取得する。

pub fn dimension(&self) -> usize

ベクトルの次元数を取得する。

pub fn len(&self) -> usize

登録されている候補数を取得する。

pub fn is_empty(&self) -> bool

キャッシュが空であるかを判定する。

pub fn cosine_similarity(v1: &[f32], v2: &[f32]) -> f32

2 つの L2 正規化済みベクトル間のコサイン類似度 (内積) を計算する。

Trait Implementations

impl Clone for CandidateEmbeddingCache

fn clone(&self) -> CandidateEmbeddingCache

Returns a duplicate of the value.

fn clone_from(&mut self, source: &Self)

Performs copy-assignment from source.

impl Debug for CandidateEmbeddingCache

fn fmt(&self, f: &mut Formatter<'_>) -> Result

Formats the value using the given formatter.

impl Default for CandidateEmbeddingCache

fn default() -> CandidateEmbeddingCache

Returns the “default value” for a type.