Expand description
§推論セッション設定モジュール
ONNX Runtime セッションの Execution Provider 優先度、 スレッド並列数、グラフ最適化レベル、メモリアリーナなどの構成パラメータを定義する。
Structs§
- Session
Config - ONNX Runtime セッション構築設定。
Enums§
- Execution
Provider - 利用可能な Execution Provider (実行バックエンド) の指定。
- Optimization
Level - グラフ最適化レベル。
Functions§
- auto_
intra_ threads - システムの物理コア数とセッションプール数から最適な
intra_threadsを算出する。