Struct SessionConfig 

pub struct SessionConfig {
    pub preferred_providers: Vec<ExecutionProvider>,
    pub intra_threads: Option<usize>,
    pub inter_threads: Option<usize>,
    pub parallel_execution: bool,
    pub optimization_level: OptimizationLevel,
    pub enable_mem_arena: bool,
    pub pool_size: usize,
    pub optimized_model_path: Option<PathBuf>,
}

ONNX Runtime セッション構築設定。

Fields

preferred_providers: Vec<ExecutionProvider>

優先的に試行する Execution Provider の順序付きリスト。

intra_threads: Option<usize>

単一オペレータ内の並列スレッド数 (intra_op)。None の場合は物理コア数から自動算出。

inter_threads: Option<usize>

複数オペレータ間の並列スレッド数 (inter_op)。None の場合は自動設定 (通常は 1)。

parallel_execution: bool

グラフ内の並列実行モード (false で Sequential、true で Parallel)。

optimization_level: OptimizationLevel

グラフ最適化レベル。

enable_mem_arena: bool

CPU メモリアリーナの有効化。

pool_size: usize

並行推論用セッションプールサイズ (デフォルト: 1)。

optimized_model_path: Option<PathBuf>

最適化済みモデルグラフのディスク保存・キャッシュパス (任意)。

Implementations

impl SessionConfig

pub fn auto() -> Self

ホスト環境の物理コア数に基づき、スレッド数を自動計算した設定を生成する。

pub fn cpu_only() -> Self

CPU 推論に特化した設定を生成する。

pub fn for_tier1() -> Self

Tier 1 (130M-INT8) モデル向けの推奨セッション設定を生成する。

軽量モデルの短時間フォワードパス (~12ms) においてスレッド同期オーバーヘッドを抑えるため、 intra_threads の上限を 4 スレッドに制限する。

pub fn for_tier2() -> Self

Tier 2 (310M-INT8) モデル向けの推奨セッション設定を生成する。

計算負荷の高い GEMM 演算を高速化するため、物理コア数に応じて最大 8 スレッドまで割り当てる。

pub fn with_auto_threads(self) -> Self

現在のセッションプール数に基づき、スレッド数を自動計算して適用する。

pub fn with_threads(self, intra: Option<usize>, inter: Option<usize>) -> Self

スレッド数を明示指定したビルダーメソッド。

pub fn with_parallel_execution(self, parallel: bool) -> Self

並列実行フラグを指定したビルダーメソッド。

pub fn with_optimization_level(self, level: OptimizationLevel) -> Self

最適化レベルを指定したビルダーメソッド。

pub fn with_memory_arena(self, enable: bool) -> Self

メモリアリーナ有効化フラグを指定したビルダーメソッド。

pub fn with_pool_size(self, size: usize) -> Self

セッションプールサイズを指定したビルダーメソッド。

pub fn with_optimized_model_path(self, path: impl Into<PathBuf>) -> Self

最適化済みモデルの保存・キャッシュパスを指定したビルダーメソッド。

Trait Implementations

impl Clone for SessionConfig

fn clone(&self) -> SessionConfig

Returns a duplicate of the value.

fn clone_from(&mut self, source: &Self)

Performs copy-assignment from source.

impl Debug for SessionConfig

fn fmt(&self, f: &mut Formatter<'_>) -> Result

Formats the value using the given formatter.

impl Default for SessionConfig

fn default() -> Self

Returns the “default value” for a type.