Faster-WAM に対応した WAMotor 推論高速化
WAMotor の著者は Faster-WAM 向けの投機的推論実装を公開しました。追加のドラフトモデルを訓練せず、ノイズ除去の速度を再利用します。3 種類のシミュレーションで評価されています。
以前の公開情報
論文では、このモデルの通常のフローマッチング推論を比較基準にしています。
今回の発表
著者は RTX 5090 を使用し、標準推論と WAMotor を動作チャンクの推論レイテンシーと平均タスク成功率で比較しました。 LIBERO (40 タスク × 50 試行) — 275.85 → 90.10 ms (3.06×), 98.60% → 99.20% RoboTwin 2.0 (50 タスク、標準・ランダム化の各設定で 100 試行) — 282.09 → 98.70 ms (2.86×), 92.45% → 92.05% LIBERO-Plus (7 種類の分布変化、10,030 インスタンス × 3 試行) — 282.62 → 90.33 ms (3.13×), 74.52% → 75.05%
Faster-WAM は未来の文脈を 1 回でキャッシュし、投機的なノイズ除去時に映像と動作を疎に相互作用させます。 WAMotor の既定実装はノイズ除去 10 ステップ、BF16、Shift-5 を使用します。Euler 更新 1 回の後に投機を開始し、ステップ幅の中央値で閾値 0.01 を調整します。投機窓の上限はノイズ除去ステップ数です。有効化には --speculative を指定します。LIBERO-Plus のスクリプトは既定で 15% を抽出し、シード 42 で各 1 回試行します。上記の数値は論文の全件評価です。 上流では LIBERO と LIBERO-Plus 向けに step 021700、RoboTwin 2.0 向けに step 029355 を公開しています。WAMotor 論文には評価対象の正確なハッシュ値の記載がありません。 リポジトリには LIBERO/LIBERO-Plus 用の 2 カメラ設定と、RoboTwin 用の 3 カメラ設定があります。モードは one_pass_future_cache です。
