Module batch 

複数質問バッチトークナイズモジュール

単一の State に対する複数質問のプレフィックス共有エンコード、 可変長系列および可変長候補数の動的パディング、 ならびに ONNX Runtime 入力テンソル平坦化バッファの生成を提供する。

Structs

BatchTokenizedQuestions

複数質問を一括パッキングしたバッチトークナイズ結果構造体。