論文の概要: Understanding Behavior Cloning with Action Quantization
- arxiv url: http://arxiv.org/abs/2603.20538v1
- Date: Fri, 20 Mar 2026 22:22:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-24 19:11:38.960898
- Title: Understanding Behavior Cloning with Action Quantization
- Title(参考訳): 行動量子化による行動クローンの理解
- Authors: Haoqun Cao, Tengyang Xie,
- Abstract要約: 我々は、量子化誤差が地平線に沿ってどのように伝播するかを分析し、統計的サンプルの複雑さと相互作用する。
量子化された行動とログロスを用いた行動クローニングが最適なサンプル複雑性を実現することを示す。
また,ポリシーのスムーズさを必要とせずに,エラー境界を確実に改善するモデルベース拡張を提案する。
- 参考スコア(独自算出の注目度): 12.649414799403054
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Behavior cloning is a fundamental paradigm in machine learning, enabling policy learning from expert demonstrations across robotics, autonomous driving, and generative models. Autoregressive models like transformer have proven remarkably effective, from large language models (LLMs) to vision-language-action systems (VLAs). However, applying autoregressive models to continuous control requires discretizing actions through quantization, a practice widely adopted yet poorly understood theoretically. This paper provides theoretical foundations for this practice. We analyze how quantization error propagates along the horizon and interacts with statistical sample complexity. We show that behavior cloning with quantized actions and log-loss achieves optimal sample complexity, matching existing lower bounds, and incurs only polynomial horizon dependence on quantization error, provided the dynamics are stable and the policy satisfies a probabilistic smoothness condition. We further characterize when different quantization schemes satisfy or violate these requirements, and propose a model-based augmentation that provably improves the error bound without requiring policy smoothness. Finally, we establish fundamental limits that jointly capture the effects of quantization error and statistical complexity.
- Abstract(参考訳): 行動クローニングは機械学習の基本的なパラダイムであり、ロボット工学、自律運転、生成モデルにわたる専門家によるデモンストレーションからポリシー学習を可能にする。
トランスフォーマーのような自己回帰モデルは、大きな言語モデル(LLM)から視覚言語アクションシステム(VLA)まで、極めて効果的であることが証明されている。
しかし、連続的な制御に自己回帰モデルを適用するには、量子化による行動の離散化が必要である。
本稿では,この実践の理論的基礎を提供する。
我々は、量子化誤差が地平線に沿ってどのように伝播するかを分析し、統計的サンプルの複雑さと相互作用する。
本稿では, 量子化動作とログロスを用いた動作クローニングが, 既存の下界に適合する最適なサンプル複雑性を実現し, 動的に安定であり, ポリシーが確率的滑らか性条件を満たすことを条件として, 量子化誤差に多項式水平依存性のみを生じさせることを示す。
異なる量子化スキームがこれらの要件を満たすか違反するかをさらに特徴付け、ポリシーのスムーズさを必要とせずにエラー境界を確実に改善するモデルベース拡張を提案する。
最後に,量子化誤差と統計的複雑性の影響を共同で捉えるための基本的な限界を確立する。
関連論文リスト
- Quantization-Aware Collaborative Inference for Large Embodied AI Models [67.66340659245186]
大規模人工知能モデル(LAIM)は、AIアプリケーションを具現化するためのコアインテリジェンスエンジンとしてますます見なされている。
この問題に対処するために、具体化されたAIシステムに対する量子化対応協調推論(コ推論)について検討する。
論文 参考訳(メタデータ) (2026-02-13T16:08:19Z) - An Empirical Study of World Model Quantization [34.94388089174202]
DINO-WMを用いた世界モデル量子化の系統的研究を行った。
我々は、幅広いビット幅、量子化の粒度、最大50イテレーションまでの計画地平線を含む様々な視覚的計画タスクについて実験を行う。
その結果,世界モデルにおける量子化効果は,標準精度やビット幅トレードオフを超えていることがわかった。
論文 参考訳(メタデータ) (2026-02-02T13:54:03Z) - Drift No More? Context Equilibria in Multi-Turn LLM Interactions [58.69551510148673]
コンテキストドリフト(Contexts drift)とは、ターン間のゴール一貫性のある振る舞いからモデルが出力する出力の段階的なばらつきである。
シングルターンエラーとは異なり、ドリフトは時間的に展開し、静的な評価指標では捉えにくい。
マルチターンドリフトは、避けられない崩壊というよりも、制御可能な平衡現象として理解できることを示す。
論文 参考訳(メタデータ) (2025-10-09T04:48:49Z) - Merge-Friendly Post-Training Quantization for Multi-Target Domain Adaptation [7.193483612237862]
本研究では,誤差障壁のレンズを通したモデルマージにおける量子化の影響を解析する。
マルチターゲット領域適応のためのモデルマージを考慮に入れた,新しい学習後量子化 HDRQ - Hessian および遠方正則化量子化を提案する。
提案手法は, 損失面を平坦化し, モデルマージの円滑化を図っている。
論文 参考訳(メタデータ) (2025-05-29T17:00:56Z) - A Model-Based Approach to Imitation Learning through Multi-Step Predictions [8.888213496593556]
モデル予測制御に着想を得たモデルベース模倣学習フレームワークを提案する。
本手法は,従来のクローン型数値ベンチマークよりも優れる。
提案手法の複雑さと誤差境界について理論的に保証し,その収束特性について考察する。
論文 参考訳(メタデータ) (2025-04-18T02:19:30Z) - Learning with Imperfect Models: When Multi-step Prediction Mitigates Compounding Error [25.387541996071093]
小さな予測ミスが時間の経過とともに蓄積される複合的エラーは、学習ベースの制御において大きな課題となる。
複合化エラーを軽減する1つのアプローチは、シングルステップモデルの自己回帰ロールアウトに頼るのではなく、マルチステップ予測を直接訓練することである。
モデルクラスが適切に特定され,システムダイナミクスを正確に捉えている場合,単一ステップモデルの方が予測誤差が低いことを示す。
一方、モデルクラスが部分可観測性のために不特定である場合、直接多段階予測器はバイアスを著しく低減し、単一ステップのアプローチより優れている。
論文 参考訳(メタデータ) (2025-04-02T14:18:52Z) - Generalization Bounds of Surrogate Policies for Combinatorial Optimization Problems [53.03951222945921]
我々はスムーズな(摂動された)ポリシーを解析し、線形オラクルが使用する方向に対して制御されたランダムな摂動を付加する。
我々の主な貢献は、過剰リスクを摂動バイアス、統計的推定誤差、最適化誤差に分解する一般化境界である。
車両のスケジューリングやスムーズ化がトラクタブルトレーニングと制御された一般化の両方を可能にしていることを示す。
論文 参考訳(メタデータ) (2024-07-24T12:00:30Z) - Distributionally Robust Model-based Reinforcement Learning with Large
State Spaces [55.14361269378122]
強化学習における3つの大きな課題は、大きな状態空間を持つ複雑な力学系、コストのかかるデータ取得プロセス、トレーニング環境の展開から現実の力学を逸脱させることである。
広範に用いられているKullback-Leibler, chi-square, および全変分不確実性集合の下で, 連続状態空間を持つ分布ロバストなマルコフ決定過程について検討した。
本稿では,ガウス過程と最大分散削減アルゴリズムを用いて,多出力名目遷移力学を効率的に学習するモデルベースアプローチを提案する。
論文 参考訳(メタデータ) (2023-09-05T13:42:11Z) - Flexible Model Aggregation for Quantile Regression [92.63075261170302]
量子回帰は、予測の不確実性を定量化する必要性によって動機付けられた統計学習の基本的な問題である。
条件付き量子モデルの任意の数を集約する手法について検討する。
この論文で検討するモデルはすべて、現代のディープラーニングツールキットに適合します。
論文 参考訳(メタデータ) (2021-02-26T23:21:16Z) - Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。
分散による離散乗法雑音のパラメータによく現れることを示す。
最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
論文 参考訳(メタデータ) (2020-06-11T09:58:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。