論文の概要: Rethinking Latent Representations in Behavior Cloning: An Information Bottleneck Approach for Robot Manipulation

• arxiv url: http://arxiv.org/abs/2502.02853v2
• Date: Mon, 17 Feb 2025 04:04:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-18 14:03:11.259797
• Title: Rethinking Latent Representations in Behavior Cloning: An Information Bottleneck Approach for Robot Manipulation
• Title（参考訳）: 行動クローンにおける潜在表現の再考--ロボット操作のための情報ボトルネックアプローチ
• Authors: Shuanghao Bai, Wanqi Zhou, Pengxiang Ding, Wei Zhao, Donglin Wang, Badong Chen,
• Abstract要約: 行動クローニング(BC)は、ロボット操作において広く採用されている視覚模倣学習手法である。 我々は,潜在表現における冗長性を定量化し緩和するために相互情報を導入する。 本研究は, 様々な方法, バックボーン, 実験環境における潜在表現の冗長性に関する最初の包括的研究である。
• 参考スコア（独自算出の注目度）: 34.46089300038851
• License:
• Abstract: Behavior Cloning (BC) is a widely adopted visual imitation learning method in robot manipulation. Current BC approaches often enhance generalization by leveraging large datasets and incorporating additional visual and textual modalities to capture more diverse information. However, these methods overlook whether the learned representations contain redundant information and lack a solid theoretical foundation to guide the learning process. To address these limitations, we adopt an information-theoretic perspective and introduce mutual information to quantify and mitigate redundancy in latent representations. Building on this, we incorporate the Information Bottleneck (IB) principle into BC, which extends the idea of reducing redundancy by providing a structured framework for compressing irrelevant information while preserving task-relevant features. This work presents the first comprehensive study on redundancy in latent representations across various methods, backbones, and experimental settings, while extending the generalizability of the IB to BC. Extensive experiments and analyses on the CortexBench and LIBERO benchmarks demonstrate significant performance improvements with IB, underscoring the importance of reducing input data redundancy and highlighting its practical value for more practical applications. Project Page: https://baishuanghao.github.io/BC-IB.github.io.
• Abstract（参考訳）: 行動クローニング(BC)は、ロボット操作において広く採用されている視覚模倣学習手法である。 現在のBCアプローチは、大きなデータセットを活用し、より多様な情報を取得するために、視覚的およびテキスト的モダリティを追加することで、一般化を強化することが多い。 しかし、これらの手法は、学習された表現が冗長な情報を含み、学習プロセスを導くためのしっかりとした理論的基盤が欠如しているかどうかを見落としている。 これらの制約に対処するため、我々は情報理論的な視点を採用し、相互情報を導入し、潜在表現における冗長性を定量化し緩和する。 タスク関連機能を保ちながら,無関係な情報を圧縮する構造化フレームワークを提供することで,冗長性の低減という考え方を拡張したBC(Information Bottleneck)の原則を取り入れた。 この研究は、様々な方法、バックボーン、実験的な設定にまたがる潜伏表現における冗長性に関する最初の包括的研究であり、IBの一般化可能性(英語版)をBCに拡張している。 CortexBench と LIBERO ベンチマークの大規模な実験と分析は、入出力データの冗長性を低減し、より実用的なアプリケーションに実用的価値を強調することの重要性を強調し、IB による大幅な性能向上を示している。 プロジェクトページ: https://baishuanghao.github.io/BC-IB.github.io

関連論文リスト

• Elastic Information Bottleneck [34.90040361806197]
  情報ボトルネックは表現学習における情報理論の原則である。 IB正則化器とDIB正則化器の間を補間する弾性情報ボトルネック(EIB)を提案する。 シミュレーションと実データ実験により、IB は IB や DIB よりも優れたドメイン適応結果が得られることが示された。
  論文  参考訳（メタデータ） (2023-11-07T12:53:55Z)
• Disentangled Representation Learning with Transmitted Information Bottleneck [57.22757813140418]
  textbfDisTIB (textbfTransmitted textbfInformation textbfBottleneck for textbfDisd representation learning) は情報圧縮と保存のバランスを保った新しい目的である。
  論文  参考訳（メタデータ） (2023-11-03T03:18:40Z)
• Robust Saliency-Aware Distillation for Few-shot Fine-grained Visual Recognition [57.08108545219043]
  サンプルが少ない新しいサブカテゴリを認識することは、コンピュータビジョンにおいて不可欠で挑戦的な研究課題である。 既存の文献は、ローカルベースの表現アプローチを採用することでこの問題に対処している。 本稿では,ロバスト・サリエンシ・アウェア蒸留法(RSaD)を提案する。
  論文  参考訳（メタデータ） (2023-05-12T00:13:17Z)
• Recognizable Information Bottleneck [31.993478081354958]
  Information Bottlenecks (IB)は、情報圧縮によって見えないデータに一般化する表現を学習する。 IBは、空の一般化境界のため、現実のシナリオにおける一般化を保証できない。 本稿では、認識可能性批判を通じて表現の認識性を規則化する認識可能情報ボトルネック(RIB)を提案する。
  論文  参考訳（メタデータ） (2023-04-28T03:55:33Z)
• Representation Learning in Deep RL via Discrete Information Bottleneck [39.375822469572434]
  本研究では,タスク非関連情報の存在下で,潜在状態を効率的に構築するために,情報のボトルネックを利用する方法について検討する。 本稿では,RepDIBとよばれる変動的および離散的な情報のボトルネックを利用して,構造化された因子化表現を学習するアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2022-12-28T14:38:12Z)
• Masked Reconstruction Contrastive Learning with Information Bottleneck Principle [9.136962881499734]
  コントラスト学習(CL)は、自己指導型学習において大きな力を示している。 現在のCLモデルは、正と負のペアを区別する能力のみを学ぶことに偏っている。 CLモデルを改善するために,Masked Reconstruction Contrastive Learning(MRCL)モデルを提案する。
  論文  参考訳（メタデータ） (2022-11-15T15:20:52Z)
• Variational Distillation for Multi-View Learning [104.17551354374821]
  我々は,多視点表現学習における2つの重要な特徴を利用するために,様々な情報ボトルネックを設計する。 厳密な理論的保証の下で,本手法は,観察とセマンティックラベルの内在的相関の把握を可能にする。
  論文  参考訳（メタデータ） (2022-06-20T03:09:46Z)
• Information-Theoretic Odometry Learning [83.36195426897768]
  生体計測推定を目的とした学習動機付け手法のための統合情報理論フレームワークを提案する。 提案フレームワークは情報理論言語の性能評価と理解のためのエレガントなツールを提供する。
  論文  参考訳（メタデータ） (2022-03-11T02:37:35Z)
• Information-Bottleneck-Based Behavior Representation Learning for Multi-agent Reinforcement learning [16.024781473545055]
  深層強化学習では、他のエージェントの十分かつコンパクトな情報を抽出し、アルゴリズムの効率的な収束と拡張性を達成することが重要である。 本稿では,多エージェント強化学習(IBORM)のための他のエージェントの行動表現学習を行い,低次元マッピングエンコーダを明示的に求める。
  論文  参考訳（メタデータ） (2021-09-29T04:22:49Z)
• Which Mutual-Information Representation Learning Objectives are Sufficient for Control? [80.2534918595143]
  相互情報は、データの表現を学習するために魅力的な形式を提供する。 本稿では,最適政策の学習と表現のための状態表現の十分性について定式化する。 意外なことに、これらの2つの目的は、MDPの構造に関する軽度で一般的な仮定を前提に、不十分な表現をもたらす可能性がある。
  論文  参考訳（メタデータ） (2021-06-14T10:12:34Z)
• Heterogeneous Contrastive Learning: Encoding Spatial Information for Compact Visual Representations [183.03278932562438]
  本稿では,エンコーディング段階に空間情報を加えることで,対照的な目的と強いデータ拡張操作の間の学習の不整合を緩和する効果的な手法を提案する。 提案手法は,視覚表現の効率を向上し,自己指導型視覚表現学習の今後の研究を刺激する鍵となるメッセージを提供する。
  論文  参考訳（メタデータ） (2020-11-19T16:26:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。