論文の概要: The Information-Theoretic Imperative: Compression and the Epistemic Foundations of Intelligence
- arxiv url: http://arxiv.org/abs/2510.25883v1
- Date: Wed, 29 Oct 2025 18:28:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-31 16:05:09.539013
- Title: The Information-Theoretic Imperative: Compression and the Epistemic Foundations of Intelligence
- Title(参考訳): 情報理論的インペラティブ:圧縮と認識基盤
- Authors: Christian Dittrich, Jennifer Flygare Kinne,
- Abstract要約: 既存のフレームワークは、インテリジェンスへの圧縮の中央集中に収束するが、なぜこのプロセスが因果構造の発見を強制するかは明らかになっていない。
このギャップに対処するための2段階のフレームワークを導入します。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Existing frameworks converge on the centrality of compression to intelligence but leave underspecified why this process enforces the discovery of causal structure rather than superficial statistical patterns. We introduce a two-level framework to address this gap. The Information-Theoretic Imperative (ITI) establishes that any system persisting in uncertain environments must minimize epistemic entropy through predictive compression: this is the evolutionary "why" linking survival pressure to information-processing demands. The Compression Efficiency Principle (CEP) specifies how efficient compression mechanically selects for generative, causal models through exception-accumulation dynamics, making reality alignment a consequence rather than a contingent achievement. Together, ITI and CEP define a causal chain: from survival pressure to prediction necessity, compression requirement, efficiency optimization, generative structure discovery, and ultimately reality alignment. Each link follows from physical, information-theoretic, or evolutionary constraints, implying that intelligence is the mechanically necessary outcome of persistence in structured environments. This framework yields empirically testable predictions: compression efficiency, measured as approach to the rate-distortion frontier, correlates with out-of-distribution generalization; exception-accumulation rates differentiate causal from correlational models; hierarchical systems exhibit increasing efficiency across abstraction layers; and biological systems demonstrate metabolic costs that track representational complexity. ITI and CEP thereby provide a unified account of convergence across biological, artificial, and multi-scale systems, addressing the epistemic and functional dimensions of intelligence without invoking assumptions about consciousness or subjective experience.
- Abstract(参考訳): 既存のフレームワークは、知性への圧縮の中央集中に収束するが、なぜこのプロセスが表面的な統計パターンよりも因果構造の発見を強制するのかは明確になっていない。
このギャップに対処するための2段階のフレームワークを導入します。
ITI (Information-theoretic Imperative) は、不確実な環境に持続するシステムは、予測的圧縮を通じててんかんのエントロピーを最小化しなければならないと定めている。
圧縮効率原理(Compression efficiency Principle, CEP)は、圧縮が例外蓄積力学を通して生成因果モデルに対して機械的にいかに効率良く選択するかを規定するものであり、現実のアライメントは一時的な達成というよりは結果である。
ITIとCEPは共に、生存圧力から予測の必要性、圧縮要求、効率の最適化、生成的構造発見、最終的に現実の整列まで、因果連鎖を定義している。
それぞれのリンクは、物理的、情報理論、または進化的な制約から成り、知性は構造化された環境における永続性の機械的に必要となる結果であることを示している。
圧縮効率は、速度歪みフロンティアへのアプローチとして測定され、分布外一般化と相関し、例外蓄積速度は相関モデルと因果関係を区別する。
ITIとCEPは、生物学的、人工的、マルチスケールのシステムにまたがる収束の統一的な説明を提供し、意識や主観的経験に関する仮定を呼び起こさずに、知能の認識的、機能的な次元に対処する。
関連論文リスト
- On the Interaction of Compressibility and Adversarial Robustness [25.58735050707295]
我々は、ニューロンレベルの空間性やスペクトル圧縮性など、様々な形態の圧縮性が、敵の強靭性にどのように影響するかを分析する。
これらの圧縮形式は、敵が活用できる表現空間において、少数の高感度な方向を誘導できることを示す。
本研究は, 構造圧縮性とロバスト性の間に根本的緊張関係があることを示し, 効率的かつセキュアなモデル設計のための新しい経路を提案する。
論文 参考訳(メタデータ) (2025-07-23T17:35:48Z) - Algorithmic causal structure emerging through compression [53.52699766206808]
因果関係,対称性,圧縮の関係について検討する。
我々は、学習と圧縮の既知の関係を因果モデルが識別できないような環境に構築し、一般化する。
我々はアルゴリズム因果関係を因果関係の代替的定義として定義する。
論文 参考訳(メタデータ) (2025-02-06T16:50:57Z) - An Information-Theoretic Regularizer for Lossy Neural Image Compression [20.939331919455935]
ロスシー画像圧縮ネットワークは、特定の歪み制約に固執しながら、画像の潜伏エントロピーを最小限にすることを目的としている。
本稿では、負条件源エントロピーをトレーニング対象に組み込むことにより、ニューラル画像圧縮タスクの新たな構造正規化手法を提案する。
論文 参考訳(メタデータ) (2024-11-23T05:19:27Z) - Causal Representation Learning from Multimodal Biomedical Observations [57.00712157758845]
バイオメディカルデータセットの理解を容易にするために,マルチモーダルデータに対するフレキシブルな識別条件と原理的手法を開発した。
主要な理論的貢献は、モジュラリティ間の因果関係の構造的空間性である。
実世界のヒト表現型データセットの結果は、確立された生物医学研究と一致している。
論文 参考訳(メタデータ) (2024-11-10T16:40:27Z) - Spectral chaos bounds from scaling theory of maximally efficient quantum-dynamical scrambling [44.99833362998488]
複雑な量子系のエルゴード定常状態への進化に関する重要な予想は、スクランブルとして知られるこの過程が最も効率的であるときに普遍的な特徴を取得することである。
このシナリオでは、完全なスクランブルダイナミクスに沿ったスペクトル相関の正確な自己相似性を具現化して、スペクトル統計量に対する単一パラメータスケーリング理論を開発する。
スケーリング予測は特権プロセスと一致し、他の動的スクランブルシナリオのバウンダリとして機能し、すべての時間スケールで非効率または不完全なスクランブルを定量化できるようにする。
論文 参考訳(メタデータ) (2023-10-17T15:41:50Z) - Discovering Latent Causal Variables via Mechanism Sparsity: A New
Principle for Nonlinear ICA [81.4991350761909]
ICA(Independent component analysis)は、この目的を定式化し、実用的な応用のための推定手順を提供する手法の集合を指す。
潜伏変数は、潜伏機構をスパースに正則化すれば、置換まで復元可能であることを示す。
論文 参考訳(メタデータ) (2021-07-21T14:22:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。