Skip to main content

CudaGraphStepMode

Type Alias CudaGraphStepMode 

Source
pub type CudaGraphStepMode = StepGraphMode;
Expand description

fandhe_ai_backend_cuda::graph::StepGraphMode の再公開(composition root。イシュー #1350)。framework-compare の bench-fandhe が --graph stream-only 起動時に「環境変数 FANDHE_AI_CUDA_GRAPH_STEP= stream-only が実際に反映されたか」を確認するために使う診断用途の 公開面(docs/compat-api-scope.md §0)。set_cuda_graph_step_enabled と異なり API からモードを設定する手段はない(stream-only は環境 変数専用の中間状態。fandhe_ai_backend_cuda::graph モジュール冒頭 コメント参照)。

Aliased Type§

pub enum CudaGraphStepMode {
    Off,
    StreamOnly,
    On,
}

Variants§

§

Off

既定。legacy stream・capture なし。

§

StreamOnly

created stream で初期化するが capture はしない(イシュー #1350 の診断状態。モジュール冒頭コメント参照)。

§

On

created stream で初期化し、update 区間を capture・再利用する。