論文の概要: CAP: Codebook-Aligned Prediction for Tokenized Robot Policies
- arxiv url: http://arxiv.org/abs/2610.09178v1
- Date: Tue, 06 Oct 2026 22:28:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.634181
- Title: CAP: Codebook-Aligned Prediction for Tokenized Robot Policies
- Title(参考訳): CAP:Tokenized Robot Policiesのコードブックによる予測
- Abstract要約: アクショントークン化は、ロボットアクションを自己回帰的にモデル化できる離散シンボルに変換する。
既存のトークンーベースのポリシーは、一般的にトークンーが学習した潜在コード構造を無視します。
本稿では,トークンのコードベクトルをポリシークラスプロトタイプとして直接再利用するCodebook-Aligned Prediction (CAP)を紹介する。
- 参考スコア(独自算出の注目度): 6.4642902322192315
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Action tokenization converts continuous robot actions into discrete symbols that can be modeled autoregressively. However, existing tokenizer-based policies typically ignore the tokenizer's learned latent code structure: after tokenization, the policy treats tokens as unrelated class indices and learns a new classifier from scratch. We show that this discarded structure is valuable. We introduce Codebook-Aligned Prediction (CAP), a method that directly reuses the tokenizer's code vectors as policy class prototypes while leaving the tokenizer and policy backbone otherwise unchanged. Across four quantizer families, three simulation benchmarks, and two real-robot tasks, CAP consistently improves task success over standard token classification heads while holding the tokenizer (and therefore its reconstruction quality) fixed. Our analysis further shows that these gains are not explained by higher token accuracy or changes in the policy head alone. Instead, reusing the tokenizer codebook provides the policy with valuable information about the tokenizer's learned latent structure across tokens, making token prediction errors more benign in action space and improving the representations learned by the policy backbone. These results suggest that action tokenizers learn useful action-aware latent structure beyond discrete targets that should be preserved when training downstream policies.
- Abstract(参考訳): アクショントークン化は、連続ロボットのアクションを自己回帰的にモデル化できる離散シンボルに変換する。
トークン化後、このポリシーはトークンを無関係なクラスインデックスとして扱い、新しい分類器をゼロから学習する。
この廃棄された構造は価値があることを示す。
Codebook-Aligned Prediction (CAP)は、トークンのコードベクトルをポリシークラスプロトタイプとして直接再利用する手法であり、トークンとポリシーのバックボーンは変わらない。
4つの量子化器ファミリー、3つのシミュレーションベンチマーク、2つの実ロボットタスクにおいて、CAPはトークン化器を固定した状態で標準的なトークン分類ヘッドよりもタスクの成功を継続的に改善する。
さらに分析したところ、これらの利得はより高いトークンの正確性やポリシーの先頭だけの変化によって説明されないことがわかった。
代わりに、トークン発行者のコードブックを再利用することで、トークン間でのトークン発行者の学習した潜在構造に関する貴重な情報を提供し、トークン予測エラーをアクション空間でより良質にし、ポリシーバックボーンによって学習された表現を改善する。
これらの結果は、下流ポリシーのトレーニング時に保存すべき個別のターゲットを超えて、アクショントークンライザが有用なアクション認識潜在構造を学ぶことを示唆している。
関連論文リスト
- Beyond Reconstruction: What Matters in Action Tokenization for Robot Policies? [6.4642902322192315]
本稿では,下流予測可能性とロバスト性の向上を目標として,再建を戦略的に強化するトークン化学習手法であるProActを紹介する。
Robomimic、LIBERO、RoboTwinのベンチマーク、およびさまざまなトークン化アーキテクチャ全体において、ProActはロールアウトの成功を平均11.3ポイント改善している。
これらの改善はビジョン・ランゲージ・アクション・ポリシーや実世界のロボット操作にも寄与し、それぞれ平均利得は21.8ポイント、36.7%となった。
論文 参考訳(メタデータ) (2026-10-06T22:12:53Z) - Ordered Action Tokens for Visuomotor Policy Learning [47.37773778249323]
アクショントークン化は、連続したロボットアクションチャンクを離散トークンにマッピングする。
本稿では,高圧縮,全復調性,順序付きトークン空間を満足する,学習されたアクショントークン化ツールであるOrdered Action Tokenization(OAT)を紹介する。
OATは一貫して強力なポリシー性能を提供し、推論時に大幅な柔軟性を提供します。
論文 参考訳(メタデータ) (2026-07-23T07:04:51Z) - Unlearning What Matters: Token-Level Attribution for Precise Language Model Unlearning [5.454773103061359]
TokenUnlearnはトークンレベルの属性フレームワークで、クリティカルトークンを特定し、選択的にターゲットする。
提案手法は,マスキングによる知識認識信号とエントロピー認識信号を組み合わせて,正確なトークン選択のための重要スコアを得る。
論文 参考訳(メタデータ) (2026-05-01T02:59:03Z) - OAT: Ordered Action Tokenization [44.20363344414952]
自己回帰ポリシーは、離散的な抽象化、トークンレベルの推論、柔軟な推論を可能にすることで、スケーラブルなロボット学習のための魅力的な基盤を提供する。
既存のアプローチは、極端に長いトークン配列を生成する分析的な離散化法や、構造を持たない学習された潜在トークン化器に依存する。
本研究では,アクショントークン化のための3つのデシラタ(高圧縮,全復調性,左から右への因果的に順序付けられたトークン空間)を特定し,オーダードアクショントークン化(OAT)を導入する。
OATはレジスタを持つ変圧器、有限スカラー量子を用いて、アクションチャンクを順序付けられたトークン列に識別する
論文 参考訳(メタデータ) (2026-02-04T05:01:04Z) - Broken Tokens? Your Language Model can Secretly Handle Non-Canonical Tokenizations [83.93566096400723]
ランダムにサンプリングされたトークン化が与えられた場合、命令調整されたモデルは元の性能の最大93.4%を維持している。
文字レベルのセグメンテーションは文字列操作とコード理解タスクを最大+14%改善する。
右列桁のグルーピングは、大数の算術を+33%向上させる。
論文 参考訳(メタデータ) (2025-06-23T18:02:26Z) - Dense Policy: Bidirectional Autoregressive Learning of Actions [51.60428100831717]
本稿では,行動予測における自己回帰的政策の新たなパラダイムを確立するために,Dense Policyと呼ばれる双方向拡張学習手法を提案する。
軽量なエンコーダのみのアーキテクチャを使用して、アクションシーケンスを初期単一フレームからターゲットシーケンスへ粗い方法で反復的に展開する。
実験により、我々の密集した政策は自己回帰学習能力に優れており、既存の全体的生成ポリシーを超越できることが示された。
論文 参考訳(メタデータ) (2025-03-17T14:28:08Z) - SEP: Self-Enhanced Prompt Tuning for Visual-Language Model [93.94454894142413]
SEP(Self-Enhanced Prompt Tuning)という新しいアプローチを導入する。
SEPは、テキストレベルの埋め込みと視覚レベルの埋め込みの両方を強化するために、差別的な事前知識を明示的に取り入れている。
様々なベンチマークやタスクの総合的な評価は、プロンプトチューニングにおけるSEPの有効性を確認している。
論文 参考訳(メタデータ) (2024-05-24T13:35:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。