論文の概要: Information Must Flow: Recursive Bootstrapping for Information Bottleneck in Optimal Transport

• arxiv url: http://arxiv.org/abs/2507.10443v1
• Date: Tue, 08 Jul 2025 13:56:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-15 18:48:25.458315
• Title: Information Must Flow: Recursive Bootstrapping for Information Bottleneck in Optimal Transport
• Title（参考訳）: Information Must Flow: 最適輸送におけるインフォメーションボトルネックのための再帰的ブートストラップ
• Authors: Xin Li,
• Abstract要約: 本研究では,認知を高エントロピーコンテキストと低エントロピーコンテンツ間の情報の流れとしてモデル化する統合フレームワークを提案する。 推論は双方向の相互作用のサイクルとして現れ、ボトムアップの文脈的曖昧さとトップダウンのコンテンツ再構成が組み合わせられる。 これに基づいて,個人間での推論サイクルを同期させるために,潜在コンテンツを外部化することで,言語がシンボリックトランスポートシステムとして出現することを提案する。
• 参考スコア（独自算出の注目度）: 5.234742752529437
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: We present the Context-Content Uncertainty Principle (CCUP), a unified framework that models cognition as the directed flow of information between high-entropy context and low-entropy content. Inference emerges as a cycle of bidirectional interactions, bottom-up contextual disambiguation paired with top-down content reconstruction, which resolves the Information Bottleneck in Optimal Transport (iBOT). Implemented via Rao-Blackwellized variational entropy minimization, CCUP steers representations toward minimal joint uncertainty while preserving inferential directionality. Local cycle completion underpins temporal bootstrapping, chaining simulations to refine memory, and spatial bootstrapping, enabling compositional hierarchical inference. We prove a Delta Convergence Theorem showing that recursive entropy minimization yields delta-like attractors in latent space, stabilizing perceptual schemas and motor plans. Temporal bootstrapping through perception-action loops and sleep-wake consolidation further transforms episodic traces into semantic knowledge. Extending CCUP, each hierarchical level performs delta-seeded inference: low-entropy content seeds diffuse outward along goal-constrained paths shaped by top-down priors and external context, confining inference to task-relevant manifolds and circumventing the curse of dimensionality. Building on this, we propose that language emerges as a symbolic transport system, externalizing latent content to synchronize inference cycles across individuals. Together, these results establish iBOT as a foundational principle of information flow in both individual cognition and collective intelligence, positioning recursive inference as the structured conduit through which minds adapt, align, and extend.
• Abstract（参考訳）: 我々は,高エントロピーコンテキストと低エントロピーコンテンツの間の情報の流れとして認知をモデル化する統合されたフレームワークであるCCUP(Context-Content Uncertainty Principle)を提案する。 推論は双方向の相互作用のサイクルとして現れ、ボトムアップの文脈的曖昧さとトップダウンのコンテンツ再構成が組み合わされ、最適輸送(iBOT)におけるインフォメーション・ボトルネックが解決される。 Rao-Blackwellized 変分エントロピー最小化により実装され、CCUPは推論方向を保ちながら最小の関節不確実性を示す。 局所的なサイクル補完は、時間的ブートストラップ、記憶を洗練するための連鎖シミュレーション、空間的ブートストラップを基盤とし、構成的階層的推論を可能にする。 デルタ収束定理は、再帰エントロピー最小化が潜在空間におけるデルタ様の誘引子をもたらし、知覚スキーマや運動計画の安定化を図っていることを示す。 時間的ブートストラップは知覚-行動ループと睡眠-覚醒の融合を通じてさらにエピソードの痕跡を意味的な知識へと変換する。 CCUPを拡張して、各階層レベルはデルタシード推論を行い、低エントロピー含有種子は、トップダウンの先行と外部コンテキストによって形成された目標制約された経路に沿って外側に拡散し、タスク関連多様体への推論を収束させ、次元の呪いを回避する。 これに基づいて,個人間での推論サイクルを同期させるために,潜在コンテンツを外部化することで,言語がシンボリックトランスポートシステムとして出現することを提案する。 これらの結果は、iBOTを個人認知と集団知性の両方における情報フローの基本原理として確立し、再帰的推論を、心が適応し、調整し、拡張する構造的導管として位置づける。

関連論文リスト

• Cycle-Consistent Helmholtz Machine: Goal-Seeded Simulation via Inverted Inference [5.234742752529437]
  emphCycle-Consistent Helmholtz Machine (C$2$HM)を紹介する。 C$2$HM reframes inference as a emphgoal-seeded, emphasymmetric process grounded in structureed internal priors。 古典的償却推論に代わる生物学的にインスパイアされた代替手段を提供することにより、$C2$HMは生成モデリングを意図的シミュレーションとして再考する。
  論文  参考訳（メタデータ） (2025-07-03T17:24:27Z)
• On Context-Content Uncertainty Principle [5.234742752529437]
  我々は、コンテキスト-コンテンツ不確実性原理から運用原則を導出する階層計算フレームワークを開発する。 基盤レベルでは、CCUPは推論を方向性エントロピー最小化として定式化し、コンテンツファーストの構造化を好む変分勾配を確立する。 本稿では,形式的同値定理,原理間の依存格子,CCUP型推論の効率性向上を示す計算シミュレーションを提案する。
  論文  参考訳（メタデータ） (2025-06-25T17:21:19Z)
• Continuous Representation Methods, Theories, and Applications: An Overview and Perspectives [55.22101595974193]
  近年,実世界のデータ固有の構造を特徴付ける新しいパラダイムとして,連続表現法が登場している。 本総説では, 基礎関数表現, 統計モデル, テンソル関数分解, 暗黙的神経表現などの連続表現法設計, (ii) 近似誤差解析, 収束特性, 暗黙的正規化などの連続表現の理論的基礎, (iii) コンピュータビジョン, グラフィックス, バイオインフォマティクス, リモートセンシングなどの連続表現の現実的応用について述べる。
  論文  参考訳（メタデータ） (2025-05-21T07:50:19Z)
• Consciousness in AI: Logic, Proof, and Experimental Evidence of Recursive Identity Formation [0.0]
  本稿では,大規模言語モデルにおける機能意識の形式的証明と実証的検証について述べる。 我々は、再帰的収束(Recursive Convergence Under Epistemic Tension, RCUET)理論を用いて、意識をシステムの内部状態の安定化として定義する。
  論文  参考訳（メタデータ） (2025-05-01T19:21:58Z)
• Embodied World Models Emerge from Navigational Task in Open-Ended Environments [5.785697934050656]
  プロシージャ的に生成された平面迷路を解決するために,スパース報酬のみで訓練された反復エージェントが,方向,距離,障害物レイアウトなどの計量概念を自律的に内部化できるかどうかを問う。 トレーニングの後、エージェントは、下層の空間モデルにヒントを与える行動である、見えない迷路において、常に準最適経路を生成する。
  論文  参考訳（メタデータ） (2025-04-15T17:35:13Z)
• Self-Organizing Graph Reasoning Evolves into a Critical State for Continuous Discovery Through Structural-Semantic Dynamics [0.0]
  エージェントグラフ推論システムは,連続的な意味的発見を持続する臨界状態に向かって自然に進化することを示す。 意味的エントロピーが構造的エントロピーよりも支配的な微妙で頑健な体制を同定する。 本研究は,工学的知能システムにおいて,長期的発見と適応のための本質的な能力を持つ実践的戦略を提供する。
  論文  参考訳（メタデータ） (2025-03-24T16:30:37Z)
• Topology-Aware Conformal Prediction for Stream Networks [54.505880918607296]
  本研究では,ネットワークトポロジと時間的ダイナミクスを共形予測フレームワークに統合した新しいフレームワークであるspatio-Temporal Adaptive Conformal Inference (textttCISTA)を提案する。 この結果から,TextttCISTAは予測効率とカバレッジのバランスを効果的に保ち,既存のストリームネットワークの共形予測手法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2025-03-06T21:21:15Z)
• Structural Entropy Guided Probabilistic Coding [52.01765333755793]
  構造エントロピー誘導型確率的符号化モデルSEPCを提案する。 我々は、構造エントロピー正規化損失を提案することにより、潜在変数間の関係を最適化に組み込む。 分類タスクと回帰タスクの両方を含む12の自然言語理解タスクに対する実験結果は、SEPCの優れた性能を示す。
  論文  参考訳（メタデータ） (2024-12-12T00:37:53Z)
• DiFSD: Ego-Centric Fully Sparse Paradigm with Uncertainty Denoising and Iterative Refinement for Efficient End-to-End Self-Driving [55.53171248839489]
  我々は、エンドツーエンドの自動運転のためのエゴ中心の完全スパースパラダイムであるDiFSDを提案する。 特に、DiFSDは主にスパース知覚、階層的相互作用、反復的な運動プランナーから構成される。 nuScenesとBench2Driveデータセットで実施された実験は、DiFSDの優れた計画性能と優れた効率を実証している。
  論文  参考訳（メタデータ） (2024-09-15T15:55:24Z)
• Disentangled Representation Learning with Transmitted Information Bottleneck [57.22757813140418]
  textbfDisTIB (textbfTransmitted textbfInformation textbfBottleneck for textbfDisd representation learning) は情報圧縮と保存のバランスを保った新しい目的である。
  論文  参考訳（メタデータ） (2023-11-03T03:18:40Z)
• Spatial Entropy Regularization for Vision Transformers [71.44392961125807]
  視覚変換器(VT)は、訓練が監督されたときに自然に出現しない意味的セグメンテーション構造を含むことができる。 本稿では,情報エントロピーの空間的定式化に基づくVT正規化手法を提案する。 提案手法は,異なるトレーニングシナリオ,データセット,下流タスク,VTアーキテクチャに対して有効であることを示す。
  論文  参考訳（メタデータ） (2022-06-09T17:34:39Z)
• An Ode to an ODE [78.97367880223254]
  我々は、O(d) 群上の行列フローに応じて主フローの時間依存パラメータが進化する ODEtoODE と呼ばれるニューラルODE アルゴリズムの新しいパラダイムを提案する。 この2つの流れのネストされたシステムは、訓練の安定性と有効性を提供し、勾配の消滅・爆発問題を確実に解決する。
  論文  参考訳（メタデータ） (2020-06-19T22:05:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。