論文の概要: TOAST: Stochastic Robot Action Tokenization for Autoregressive Vision-Language-Action Models

• arxiv url: http://arxiv.org/abs/2610.00899v1
• Date: Thu, 01 Oct 2026 01:28:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:23.839445
• Title: TOAST: Stochastic Robot Action Tokenization for Autoregressive Vision-Language-Action Models
• Title（参考訳）: TOAST: 自己回帰型視覚言語行動モデルのための確率的ロボット行動トークン化
• Abstract要約: 自己回帰視覚ランゲージ・アクションモデルはしばしば、連続したロボットの動作を離散トークンシーケンスとして表現する。 FASTは、様々な時間周波数を含むアクションを比較的少ないトークンにコンパクトに符号化することで、この表現を大幅に改善した。 この表現冗長性を活用すれば、政策学習が向上するかどうかを検討する。
• 参考スコア（独自算出の注目度）: 2.877144102525726
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Autoregressive Vision-Language-Action models often represent continuous robot actions as discrete token sequences, enabling action prediction with standard next-token objectives. FAST has substantially improved this representation by compactly encoding action containing diverse temporal frequencies into relatively few tokens. However, while such compression reduces the number of action tokens required for autoregressive prediction, it does not necessarily improve the efficiency of policy learning from limited demonstrations. In particular, FAST typically assigns a single deterministic tokenization to each quantized action sequence, although multiple token sequences can represent and decode to the same robot motion. We investigate whether exploiting this representational redundancy can improve policy learning. In this paper, we propose TOkenization of Action sequences with STochastic sampling (TOAST), a stochastic action tokenization method that samples alternative tokenizations of the same quantized action sequence during policy training. This diversifies the discrete supervision while preserving the underlying robot action and requires no additional demonstrations. Experiments on LIBERO show that TOAST consistently improves over its deterministic counterpart, with the improvement increasing as training data decreases, achieving a 6.8 point gain in success rate when only 1/16 of training data is available. Across four real-robot manipulation tasks, TOAST further improves mean success rate by 15.8 points over the deterministic counterpart. These results demonstrate the effectiveness of stochastic action tokenization for autoregressive robot policy learning, particularly when training data are limited.
• Abstract（参考訳）: 自己回帰型ビジョン・ランゲージ・アクションモデルは、しばしば独立したトークンシーケンスとして連続したロボットアクションを表現し、標準的な次の目標を持つアクション予測を可能にする。 FASTは、様々な時間周波数を含むアクションを比較的少ないトークンにコンパクトに符号化することで、この表現を大幅に改善した。 しかし、このような圧縮は自己回帰予測に必要なアクショントークンの数を減少させるが、限られたデモンストレーションから政策学習の効率を必ずしも改善しない。 特に、FASTは1つの決定論的トークン化を各量子化アクションシーケンスに割り当てるが、複数のトークンシーケンスは同じロボットの動きを表現・デコードすることができる。 この表現冗長性を活用すれば、政策学習が向上するかどうかを検討する。 本稿では、政策訓練中に同一の量子化されたアクションシーケンスの代替トークン化をサンプリングする確率的アクショントークン化法である、統計的サンプリング(TOAST)を用いたアクションシーケンスのTokenizationを提案する。 これは、ロボットの動作を維持しながら、個別の監督を多様化させ、追加のデモンストレーションを必要としない。 LIBEROの実験では、TOASTは決定論的手法よりも一貫して改善され、トレーニングデータが減少するにつれて改善され、トレーニングデータの1/16しか利用できない場合、成功率の6.8ポイントが達成される。 4つの実ロボット操作タスクの中で、TOASTは決定論的タスクよりも平均成功率を15.8ポイント向上させる。 これらの結果から, 自己回帰型ロボット政策学習における確率的行動トークン化の有効性が示された。

関連論文リスト

• Behavior-Aligned Action Tokenization for Robot Policy Learning [9.37360970873363]
  自己回帰型ロボットポリシーは、観察から個別のアクショントークンを予測することによって、継続的な制御を学習する。 本研究では,対応する動作チャンクを選択し,その量子化座標を再構成とともに整列させる行動適応型行動トークン化(BAAT)を提案する。 履歴条件付き拡散復号器はこれらのトークンから連続的なアクションチャンクを再構成し、下流の自己回帰ポリシーはそれらを予測することを学ぶ。
  論文  参考訳（メタデータ） (2026-09-23T08:12:03Z)
• OAT: Ordered Action Tokenization [44.20363344414952]
  自己回帰ポリシーは、離散的な抽象化、トークンレベルの推論、柔軟な推論を可能にすることで、スケーラブルなロボット学習のための魅力的な基盤を提供する。 既存のアプローチは、極端に長いトークン配列を生成する分析的な離散化法や、構造を持たない学習された潜在トークン化器に依存する。 本研究では,アクショントークン化のための3つのデシラタ(高圧縮,全復調性,左から右への因果的に順序付けられたトークン空間)を特定し,オーダードアクショントークン化(OAT)を導入する。 OATはレジスタを持つ変圧器、有限スカラー量子を用いて、アクションチャンクを順序付けられたトークン列に識別する
  論文  参考訳（メタデータ） (2026-02-04T05:01:04Z)
• OmniSAT: Compact Action Token, Faster Auto Regression [70.70037017501357]
  我々は、コンパクトで転送可能なアクション表現を学ぶOmni Swift Action Tokenizerを紹介する。 その結果、離散トークン化はトレーニングシーケンスを6.8$times$に短縮し、ターゲットエントロピーを低下させる。
  論文  参考訳（メタデータ） (2025-10-08T03:55:24Z)
• Physical Autoregressive Model for Robotic Manipulation without Action Pretraining [65.8971623698511]
  我々は、自己回帰ビデオ生成モデルを構築し、物理自己回帰モデル(PAR)を提案する。 PARは、アクション事前トレーニングを必要とせず、物理力学を理解するために、ビデオ事前トレーニングに埋め込まれた世界の知識を活用する。 ManiSkillベンチマークの実験は、PARがPushCubeタスクで100%の成功率を達成したことを示している。
  論文  参考訳（メタデータ） (2025-08-13T13:54:51Z)
• FAST: Efficient Action Tokenization for Vision-Language-Action Models [98.15494168962563]
  離散コサイン変換に基づくロボット動作のための圧縮に基づく新しいトークン化手法を提案する。 FASTをベースとしたFAST+は,100万個のリアルロボットアクショントラジェクトリに基づいて訓練されたユニバーサルロボットアクショントークンである。
  論文  参考訳（メタデータ） (2025-01-16T18:57:04Z)
• BiKC: Keypose-Conditioned Consistency Policy for Bimanual Robotic Manipulation [48.08416841005715]
  両面操作に適したキーポーズ条件の整合性ポリシーを導入する。 階層的な模倣学習フレームワークであり、ハイレベルなキープレース予測器と低レベルな軌道生成器から構成される。 シミュレーションおよび実世界の実験結果から,提案手法は成功率と運用効率の点で基準法を超越していることが示された。
  論文  参考訳（メタデータ） (2024-06-14T14:49:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。