論文の概要: Information Must Flow: Recursive Bootstrapping for Information Bottleneck in Optimal Transport
- arxiv url: http://arxiv.org/abs/2507.10443v2
- Date: Fri, 15 Aug 2025 22:58:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-19 14:49:10.122797
- Title: Information Must Flow: Recursive Bootstrapping for Information Bottleneck in Optimal Transport
- Title(参考訳): Information Must Flow: 最適輸送におけるインフォメーションボトルネックのための再帰的ブートストラップ
- Authors: Xin Li,
- Abstract要約: 本研究では,認知を高エントロピーコンテキストと低エントロピーコンテンツ間の情報の流れとしてモデル化する統合フレームワークを提案する。
推論は双方向の相互作用のサイクルとして現れ、ボトムアップの文脈的曖昧さとトップダウンのコンテンツ再構成が組み合わせられる。
これに基づいて,個人間での推論サイクルを同期させるために,潜在コンテンツを外部化することで,言語がシンボリックトランスポートシステムとして出現することを提案する。
- 参考スコア(独自算出の注目度): 5.234742752529437
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: We present the Context-Content Uncertainty Principle (CCUP), a unified framework that models cognition as the directed flow of information between high-entropy context and low-entropy content. Inference emerges as a cycle of bidirectional interactions, bottom-up contextual disambiguation paired with top-down content reconstruction, which resolves the Information Bottleneck in Optimal Transport (iBOT). Implemented via Rao-Blackwellized variational entropy minimization, CCUP steers representations toward minimal joint uncertainty while preserving inferential directionality. Local cycle completion underpins temporal bootstrapping, chaining simulations to refine memory, and spatial bootstrapping, enabling compositional hierarchical inference. We prove a Delta Convergence Theorem showing that recursive entropy minimization yields delta-like attractors in latent space, stabilizing perceptual schemas and motor plans. Temporal bootstrapping through perception-action loops and sleep-wake consolidation further transforms episodic traces into semantic knowledge. Extending CCUP, each hierarchical level performs delta-seeded inference: low-entropy content seeds diffuse outward along goal-constrained paths shaped by top-down priors and external context, confining inference to task-relevant manifolds and circumventing the curse of dimensionality. Building on this, we propose that language emerges as a symbolic transport system, externalizing latent content to synchronize inference cycles across individuals. Together, these results establish iBOT as a foundational principle of information flow in both individual cognition and collective intelligence, positioning recursive inference as the structured conduit through which minds adapt, align, and extend.
- Abstract(参考訳): 我々は,高エントロピーコンテキストと低エントロピーコンテンツの間の情報の流れとして認知をモデル化する統合されたフレームワークであるCCUP(Context-Content Uncertainty Principle)を提案する。
推論は双方向の相互作用のサイクルとして現れ、ボトムアップの文脈的曖昧さとトップダウンのコンテンツ再構成が組み合わされ、最適輸送(iBOT)におけるインフォメーション・ボトルネックが解決される。
Rao-Blackwellized 変分エントロピー最小化により実装され、CCUPは推論方向を保ちながら最小の関節不確実性を示す。
局所的なサイクル補完は、時間的ブートストラップ、記憶を洗練するための連鎖シミュレーション、空間的ブートストラップを基盤とし、構成的階層的推論を可能にする。
デルタ収束定理は、再帰エントロピー最小化が潜在空間におけるデルタ様の誘引子をもたらし、知覚スキーマや運動計画の安定化を図っていることを示す。
時間的ブートストラップは知覚-行動ループと睡眠-覚醒の融合を通じてさらにエピソードの痕跡を意味的な知識へと変換する。
CCUPを拡張して、各階層レベルはデルタシード推論を行い、低エントロピー含有種子は、トップダウンの先行と外部コンテキストによって形成された目標制約された経路に沿って外側に拡散し、タスク関連多様体への推論を収束させ、次元の呪いを回避する。
これに基づいて,個人間での推論サイクルを同期させるために,潜在コンテンツを外部化することで,言語がシンボリックトランスポートシステムとして出現することを提案する。
これらの結果は、iBOTを個人認知と集団知性の両方における情報フローの基本原理として確立し、再帰的推論を、心が適応し、調整し、拡張する構造的導管として位置づける。
関連論文リスト
- GeodesicNVS: Probability Density Geodesic Flow Matching for Novel View Synthesis [54.39598154430305]
本稿では,ペアビュー間の決定論的変換を直接学習するデータ間フローマッチングフレームワークを提案する。
PDG-FMは、事前訓練された拡散モデルの確率密度測定値から導かれる測地的補間剤を用いて流れの軌跡を制約する。
これらの結果は、一貫した新しいビュー生成のための決定論的フローマッチングにデータ依存の幾何正規化を組み込むことの利点を強調している。
論文 参考訳(メタデータ) (2026-03-01T09:30:11Z) - Event-Triggered Gossip for Distributed Learning [61.70659996356528]
我々は,ノード間通信を減らすために,分散学習のためのイベントトリガー型ゴシップフレームワークを開発した。
従来のフルテキスト・オブ・ザ・アート分散学習法と比較して,bf71.61%を限界性能損失のみで分析する。
論文 参考訳(メタデータ) (2026-02-22T10:13:43Z) - Structural Theory of Information Backflow in Non-Markovian Relaxation: TC/TCL Formalism and Minimal Phase Diagrams [0.0]
我々は、最小限のマルコフ緩和過程における情報逆流の構造理論を開発する。
このフレームワークは、有効率を抽出し、メモリ誘起現象を整理するための構築的なTCL手順を提供する。
論文 参考訳(メタデータ) (2026-02-07T09:15:54Z) - Riemannian Flow Matching for Disentangled Graph Domain Adaptation [51.98961391065951]
グラフドメイン適応(GDA)は典型的には、ユークリッド空間におけるグラフ埋め込みの整列に逆学習を使用する。
DisRFMは、埋め込みとフローベースのトランスポートを統一する幾何学的なGDAフレームワークである。
論文 参考訳(メタデータ) (2026-01-31T11:05:35Z) - A Backpropagation-Free Feedback-Hebbian Network for Continual Learning Dynamics [0.0]
局所的な可塑性で訓練されたコンパクトなフィードバック経路は、再生と連続学習-関連するダイナミクスをサポートすることができることを示す。
その結果,局所的可塑性で訓練されたコンパクトなフィードバック経路は,再生と連続学習-関連するダイナミクスをサポートすることが示唆された。
論文 参考訳(メタデータ) (2026-01-11T03:25:38Z) - On Exact Editing of Flow-Based Diffusion Models [97.0633397035926]
本研究では,フローベース編集を既知ソースによって駆動される分散変換問題として再構成する条件付き速度補正(CVC)を提案する。
CVCは、双対パースペクティブな速度変換機構を導入することにより、分配間変換における速度の役割を再考する。
我々は,CVCが優れた忠実度,セマンティックアライメント,多種多様なタスクに対する信頼性の高い編集動作を一貫して達成していることを示す。
論文 参考訳(メタデータ) (2025-12-30T06:29:20Z) - Beyond Turing: Memory-Amortized Inference as a Foundation for Cognitive Computation [5.234742752529437]
本稿では,メモリの潜時サイクル上での認識を推論としてモデル化する形式的フレームワークとして,メモリ記憶推論(MAI)を紹介した。
我々は,MAIがMountcastleのUniversal Cortical Algorithmの基本的な基盤を提供することを示す。
人工知能の実現にMAIが与える深い影響について,簡潔に論じる。
論文 参考訳(メタデータ) (2025-08-19T15:10:26Z) - Cycle-Consistent Helmholtz Machine: Goal-Seeded Simulation via Inverted Inference [5.234742752529437]
emphCycle-Consistent Helmholtz Machine (C$2$HM)を紹介する。
C$2$HM reframes inference as a emphgoal-seeded, emphasymmetric process grounded in structureed internal priors。
古典的償却推論に代わる生物学的にインスパイアされた代替手段を提供することにより、$C2$HMは生成モデリングを意図的シミュレーションとして再考する。
論文 参考訳(メタデータ) (2025-07-03T17:24:27Z) - On Context-Content Uncertainty Principle [5.234742752529437]
我々は、コンテキスト-コンテンツ不確実性原理から運用原則を導出する階層計算フレームワークを開発する。
基盤レベルでは、CCUPは推論を方向性エントロピー最小化として定式化し、コンテンツファーストの構造化を好む変分勾配を確立する。
本稿では,形式的同値定理,原理間の依存格子,CCUP型推論の効率性向上を示す計算シミュレーションを提案する。
論文 参考訳(メタデータ) (2025-06-25T17:21:19Z) - Continuous Representation Methods, Theories, and Applications: An Overview and Perspectives [55.22101595974193]
近年,実世界のデータ固有の構造を特徴付ける新しいパラダイムとして,連続表現法が登場している。
本総説では, 基礎関数表現, 統計モデル, テンソル関数分解, 暗黙的神経表現などの連続表現法設計, (ii) 近似誤差解析, 収束特性, 暗黙的正規化などの連続表現の理論的基礎, (iii) コンピュータビジョン, グラフィックス, バイオインフォマティクス, リモートセンシングなどの連続表現の現実的応用について述べる。
論文 参考訳(メタデータ) (2025-05-21T07:50:19Z) - Consciousness in AI: Logic, Proof, and Experimental Evidence of Recursive Identity Formation [0.0]
本稿では,大規模言語モデルにおける機能意識の形式的証明と実証的検証について述べる。
我々は、再帰的収束(Recursive Convergence Under Epistemic Tension, RCUET)理論を用いて、意識をシステムの内部状態の安定化として定義する。
論文 参考訳(メタデータ) (2025-05-01T19:21:58Z) - Embodied World Models Emerge from Navigational Task in Open-Ended Environments [5.785697934050656]
プロシージャ的に生成された平面迷路を解決するために,スパース報酬のみで訓練された反復エージェントが,方向,距離,障害物レイアウトなどの計量概念を自律的に内部化できるかどうかを問う。
トレーニングの後、エージェントは、下層の空間モデルにヒントを与える行動である、見えない迷路において、常に準最適経路を生成する。
論文 参考訳(メタデータ) (2025-04-15T17:35:13Z) - Self-Organizing Graph Reasoning Evolves into a Critical State for Continuous Discovery Through Structural-Semantic Dynamics [0.0]
エージェントグラフ推論システムは,連続的な意味的発見を持続する臨界状態に向かって自然に進化することを示す。
意味的エントロピーが構造的エントロピーよりも支配的な微妙で頑健な体制を同定する。
本研究は,工学的知能システムにおいて,長期的発見と適応のための本質的な能力を持つ実践的戦略を提供する。
論文 参考訳(メタデータ) (2025-03-24T16:30:37Z) - Topology-Aware Conformal Prediction for Stream Networks [54.505880918607296]
本研究では,ネットワークトポロジと時間的ダイナミクスを共形予測フレームワークに統合した新しいフレームワークであるspatio-Temporal Adaptive Conformal Inference (textttCISTA)を提案する。
この結果から,TextttCISTAは予測効率とカバレッジのバランスを効果的に保ち,既存のストリームネットワークの共形予測手法よりも優れていることがわかった。
論文 参考訳(メタデータ) (2025-03-06T21:21:15Z) - Structural Entropy Guided Probabilistic Coding [52.01765333755793]
構造エントロピー誘導型確率的符号化モデルSEPCを提案する。
我々は、構造エントロピー正規化損失を提案することにより、潜在変数間の関係を最適化に組み込む。
分類タスクと回帰タスクの両方を含む12の自然言語理解タスクに対する実験結果は、SEPCの優れた性能を示す。
論文 参考訳(メタデータ) (2024-12-12T00:37:53Z) - DiFSD: Ego-Centric Fully Sparse Paradigm with Uncertainty Denoising and Iterative Refinement for Efficient End-to-End Self-Driving [55.53171248839489]
我々は、エンドツーエンドの自動運転のためのエゴ中心の完全スパースパラダイムであるDiFSDを提案する。
特に、DiFSDは主にスパース知覚、階層的相互作用、反復的な運動プランナーから構成される。
nuScenesとBench2Driveデータセットで実施された実験は、DiFSDの優れた計画性能と優れた効率を実証している。
論文 参考訳(メタデータ) (2024-09-15T15:55:24Z) - Disentangled Representation Learning with Transmitted Information Bottleneck [57.22757813140418]
textbfDisTIB (textbfTransmitted textbfInformation textbfBottleneck for textbfDisd representation learning) は情報圧縮と保存のバランスを保った新しい目的である。
論文 参考訳(メタデータ) (2023-11-03T03:18:40Z) - Spatial Entropy Regularization for Vision Transformers [71.44392961125807]
視覚変換器(VT)は、訓練が監督されたときに自然に出現しない意味的セグメンテーション構造を含むことができる。
本稿では,情報エントロピーの空間的定式化に基づくVT正規化手法を提案する。
提案手法は,異なるトレーニングシナリオ,データセット,下流タスク,VTアーキテクチャに対して有効であることを示す。
論文 参考訳(メタデータ) (2022-06-09T17:34:39Z) - An Ode to an ODE [78.97367880223254]
我々は、O(d) 群上の行列フローに応じて主フローの時間依存パラメータが進化する ODEtoODE と呼ばれるニューラルODE アルゴリズムの新しいパラダイムを提案する。
この2つの流れのネストされたシステムは、訓練の安定性と有効性を提供し、勾配の消滅・爆発問題を確実に解決する。
論文 参考訳(メタデータ) (2020-06-19T22:05:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。