Skip to main content

Module serve

Module serve 

Source
Expand description

§HTTP API サーバー起動コマンド

TypeSafe AI Jev 互換 HTTP API サーバーを初期化し、 指定されたモデルと Execution Provider でエンドポイントを提供する。

Structs§

ServeArgs
サーバー起動オプション構造体。

Functions§

parse_provider
文字列から Execution Provider をパースする。
run_serve
HTTP サーバー起動処理を実行する。
validate_model_dir
モデルディレクトリの完全性を検証する。