Skip to main content

Module session

Module session 

Source
Expand description

§ONNX Runtime 推論セッション管理モジュール

エクスポート済み ONNX モデルグラフのライフサイクル、入力テンソル整合性検証、 ゼロコピーテンソルバインド、およびセッションプールによる高並列フォワードパスを提供する。

Structs§

InferenceEngine
スレッドセーフな ONNX Runtime 推論エンジン。