Struct StateCacheManager 

pub struct StateCacheManager { /* private fields */ }

並行 State 特徴量キャッシュマネージャー。

xxHash3 による高速キー計算と、moka の TinyLFU/LRU 並行キャッシュにより、 複数スレッドからの同時参照をロックフリーに処理し、バイト重み付き退避を行う。

Implementations

impl StateCacheManager

pub fn new( max_capacity_bytes: u64, ttl_secs: u64, compression_mode: CacheCompressionMode, ) -> Self

新規キャッシュマネージャーを初期化する。

引数

• max_capacity_bytes: 最大常駐メモリ容量（バイト数）。
• ttl_secs: エントリの有効期限（秒数）。
• compression_mode: キャッシュ圧縮モード。

pub fn compute_key(state_text: &str) -> u64

State テキストから xxHash3 (64-bit) ハッシュキーを高速算出する。

AVX2、AVX-512、ARM NEON 命令により、8kトークンのテキストでも1μs未満で完了する。

引数

• state_text: State 原文テキスト。

pub fn get(&self, key: u64) -> Option<Arc<CachedStateFeatures>>

指定されたキーの特徴量を取得する。

引数

• key: xxHash3 キー。

pub fn insert(&self, key: u64, features: Arc<CachedStateFeatures>)

特徴量をキャッシュに登録する。

引数

• key: xxHash3 キー。
• features: キャッシュエントリ。

pub fn contains_key(&self, key: u64) -> bool

指定されたキーが存在するかを判定する。

pub fn invalidate(&self, key: u64)

指定されたキーのエントリを無効化（削除）する。

pub fn clear(&self)

全キャッシュエントリを破棄する。

pub fn entry_count(&self) -> u64

現在保持しているキャッシュエントリ数を取得する。

pub fn weighted_size(&self) -> u64

キャッシュ内の総メモリ占有バイト数を取得する。

pub fn compression_mode(&self) -> CacheCompressionMode

設定されている圧縮モードを取得する。

pub fn run_pending_tasks(&self)

保留中のキャッシュメンテナンスタスク（退避、カウント更新等）を直ちに同期実行する。