論文の概要: Bootstrap Theory of Representational Emergence: Explanatory Insufficiency as a Driver of Representation Learning and World Models
- arxiv url: http://arxiv.org/abs/2606.07303v1
- Date: Fri, 05 Jun 2026 14:21:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-08 14:33:29.773622
- Title: Bootstrap Theory of Representational Emergence: Explanatory Insufficiency as a Driver of Representation Learning and World Models
- Title(参考訳): 表現創発のブートストラップ理論:表現学習と世界モデル駆動者としての説明不全
- Authors: Jacques Raynal, Pierre Slangen, Elsa Raynal, Jacques Margerit,
- Abstract要約: 本稿では,既存の表現が説明に不十分になった場合に,新しい表現がどのように生じるかを記述するフレームワークであるBootstrap Theory of Representational Emergence(TBER)を紹介する。
TBERは説明不全を表現遷移の正のシグナルとして同定する。
本稿では,表現学習,潜伏空間,基礎モデル,世界モデル,デジタル双生児,適応生物学系,科学的発見への応用について論じる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Representation learning is central to modern machine learning, enabling transitions from handcrafted features to learned embeddings, latent spaces, foundation models, world models, and digital twins. Yet most research examines how representations are optimized after a representational framework has been selected, while less attention is given to when a new level of representation becomes necessary. We introduce the Bootstrap Theory of Representational Emergence (TBER), a framework describing how new representations arise when existing ones become explanatorily insufficient. In this view, representational innovation is not only driven by more data, larger models, or greater computational power, but also by persistent explanatory gaps: situations in which a representation can still describe observations but can no longer make their organization or transformations intelligible. TBER identifies explanatory insufficiency as a positive signal for representational transition. A representation becomes insufficient not because it is necessarily false, but because its explanatory domain has been exceeded. The bootstrap dynamic follows a recursive sequence: observations reveal anomalies; anomalies expose insufficiencies; insufficiencies motivate new representations; and these new representations generate further observations and possible new insufficiencies.We formalize this process through five stages: stabilized observation, anomaly detection, recognition of explanatory insufficiency, representational emergence, and provisional stabilization. We discuss applications to representation learning, latent spaces, foundation models, world models, digital twins, adaptive biological systems, and scientific discovery. TBER suggests that future AI systems may benefit from mechanisms for detecting the explanatory limits of their own internal representations.
- Abstract(参考訳): 表現学習は現代の機械学習の中心であり、手工芸品から学習した埋め込み、潜伏空間、基礎モデル、世界モデル、デジタルツインへの移行を可能にする。
しかし、ほとんどの研究は、表現フレームワークが選択された後、どのように表現が最適化されるかを検討するが、新しい表現レベルが必要になったときにはあまり注目されない。
本稿では,既存の表現が説明に不十分になった場合に,新しい表現がどのように生じるかを記述するフレームワークであるBootstrap Theory of Representational Emergence(TBER)を紹介する。
この観点では、表現的革新は、より多くのデータ、より大きなモデル、より大きな計算力によって駆動されるだけでなく、永続的な説明的ギャップによっても引き起こされる。
TBERは説明不全を表現遷移の正のシグナルとして同定する。
表現は必ずしも偽であるからではなく、説明領域が超えたからである。
ブートストラップのダイナミクスは, 異常を明らかにする, 異常を露呈する; 異常を露呈する; 新たな表現を動機付ける; 新たな表現は, さらなる観察と新たな不十分を生じさせる; このプロセスを, 安定化された観察, 異常検出, 説明不能の認識, 表現的出現, 仮安定化の5段階で定式化する。
本稿では,表現学習,潜伏空間,基礎モデル,世界モデル,デジタル双生児,適応生物学系,科学的発見への応用について論じる。
TBERは、将来のAIシステムは、自身の内部表現の説明的限界を検出するメカニズムの恩恵を受ける可能性があることを示唆している。
関連論文リスト
- Beyond the Black Box: Identifiable Interpretation and Control in Generative Models via Causal Minimality [52.57416398859353]
因果的最小性は、明確な因果的解釈と頑健でコンポーネント単位で識別可能な制御を持つ拡散視覚と自己回帰言語モデルの潜在表現を許容できることを示す。
我々は階層的選択モデルのための新しい理論的枠組みを導入し、より高レベルな概念は低レベルの変数の制約された構成から生まれる。
これらの因果的基礎を持つ概念は、きめ細かいモデルステアリングのレバーとして機能し、透明で信頼性の高いシステムへの道を開く。
論文 参考訳(メタデータ) (2025-12-11T14:59:14Z) - Continuous Representation Methods, Theories, and Applications: An Overview and Perspectives [55.22101595974193]
近年,実世界のデータ固有の構造を特徴付ける新しいパラダイムとして,連続表現法が登場している。
本総説では, 基礎関数表現, 統計モデル, テンソル関数分解, 暗黙的神経表現などの連続表現法設計, (ii) 近似誤差解析, 収束特性, 暗黙的正規化などの連続表現の理論的基礎, (iii) コンピュータビジョン, グラフィックス, バイオインフォマティクス, リモートセンシングなどの連続表現の現実的応用について述べる。
論文 参考訳(メタデータ) (2025-05-21T07:50:19Z) - Disentangling Representations through Multi-task Learning [0.0]
分類タスクを最適に解決するエージェントにおいて,不整合表現の出現を保証する実験および理論的結果を提供する。
マルチタスクに訓練されたRNNにおいて、これらの予測を実験的に検証し、連続的な誘引子の形で非絡み合った表現を学習する。
私たちは、トランスフォーマーが特に、そのユニークな世界理解能力を説明するような、無関係な表現に向いていることに気付きました。
論文 参考訳(メタデータ) (2024-07-15T21:32:58Z) - Understanding Self-Predictive Learning for Reinforcement Learning [61.62067048348786]
強化学習のための自己予測学習の学習ダイナミクスについて検討する。
本稿では,2つの表現を同時に学習する新しい自己予測アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-12-06T20:43:37Z) - Causal Reasoning Meets Visual Representation Learning: A Prospective
Study [117.08431221482638]
解釈可能性の欠如、堅牢性、分布外一般化が、既存の視覚モデルの課題となっている。
人間レベルのエージェントの強い推論能力にインスパイアされた近年では、因果推論パラダイムの開発に多大な努力が注がれている。
本稿では,この新興分野を包括的に概観し,注目し,議論を奨励し,新たな因果推論手法の開発の急激さを先導することを目的とする。
論文 参考訳(メタデータ) (2022-04-26T02:22:28Z) - A Tutorial on Learning Disentangled Representations in the Imaging
Domain [13.320565017546985]
汎用表現学習のアプローチとして, 遠方表現学習が提案されている。
適切な汎用表現は、控えめな量のデータを使用して、新しいターゲットタスクに対して容易に微調整できる。
解離表現はモデル説明可能性を提供し、変動要因の根底にある因果関係を理解するのに役立つ。
論文 参考訳(メタデータ) (2021-08-26T21:44:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。