論文の概要: The Information-Theoretic Imperative: Compression and the Epistemic Foundations of Intelligence

• arxiv url: http://arxiv.org/abs/2510.25883v1
• Date: Wed, 29 Oct 2025 18:28:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-31 16:05:09.539013
• Title: The Information-Theoretic Imperative: Compression and the Epistemic Foundations of Intelligence
• Title（参考訳）: 情報理論的インペラティブ:圧縮と認識基盤
• Abstract要約: 既存のフレームワークは、インテリジェンスへの圧縮の中央集中に収束するが、なぜこのプロセスが因果構造の発見を強制するかは明らかになっていない。 このギャップに対処するための2段階のフレームワークを導入します。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Existing frameworks converge on the centrality of compression to intelligence but leave underspecified why this process enforces the discovery of causal structure rather than superficial statistical patterns. We introduce a two-level framework to address this gap. The Information-Theoretic Imperative (ITI) establishes that any system persisting in uncertain environments must minimize epistemic entropy through predictive compression: this is the evolutionary "why" linking survival pressure to information-processing demands. The Compression Efficiency Principle (CEP) specifies how efficient compression mechanically selects for generative, causal models through exception-accumulation dynamics, making reality alignment a consequence rather than a contingent achievement. Together, ITI and CEP define a causal chain: from survival pressure to prediction necessity, compression requirement, efficiency optimization, generative structure discovery, and ultimately reality alignment. Each link follows from physical, information-theoretic, or evolutionary constraints, implying that intelligence is the mechanically necessary outcome of persistence in structured environments. This framework yields empirically testable predictions: compression efficiency, measured as approach to the rate-distortion frontier, correlates with out-of-distribution generalization; exception-accumulation rates differentiate causal from correlational models; hierarchical systems exhibit increasing efficiency across abstraction layers; and biological systems demonstrate metabolic costs that track representational complexity. ITI and CEP thereby provide a unified account of convergence across biological, artificial, and multi-scale systems, addressing the epistemic and functional dimensions of intelligence without invoking assumptions about consciousness or subjective experience.
• Abstract（参考訳）: 既存のフレームワークは、知性への圧縮の中央集中に収束するが、なぜこのプロセスが表面的な統計パターンよりも因果構造の発見を強制するのかは明確になっていない。 このギャップに対処するための2段階のフレームワークを導入します。 ITI (Information-theoretic Imperative) は、不確実な環境に持続するシステムは、予測的圧縮を通じててんかんのエントロピーを最小化しなければならないと定めている。 圧縮効率原理(Compression efficiency Principle, CEP)は、圧縮が例外蓄積力学を通して生成因果モデルに対して機械的にいかに効率良く選択するかを規定するものであり、現実のアライメントは一時的な達成というよりは結果である。 ITIとCEPは共に、生存圧力から予測の必要性、圧縮要求、効率の最適化、生成的構造発見、最終的に現実の整列まで、因果連鎖を定義している。 それぞれのリンクは、物理的、情報理論、または進化的な制約から成り、知性は構造化された環境における永続性の機械的に必要となる結果であることを示している。 圧縮効率は、速度歪みフロンティアへのアプローチとして測定され、分布外一般化と相関し、例外蓄積速度は相関モデルと因果関係を区別する。 ITIとCEPは、生物学的、人工的、マルチスケールのシステムにまたがる収束の統一的な説明を提供し、意識や主観的経験に関する仮定を呼び起こさずに、知能の認識的、機能的な次元に対処する。

関連論文リスト

• Normative Networks for Source Separation via Local Plasticity and Dendritic Computation [8.607903455924562]
  ブラインドソース分離(ブラインドソース分離、BSS)は、知覚混合物から潜伏原因がどのように回収されるかを研究するためのフレームワークである。 本稿では,局所的な重み更新のみを用いて,BSSの競合性能を実現する予測エントロピー最大化を提案する。
  論文  参考訳（メタデータ） (2026-05-19T15:15:26Z)
• Partial Effective Information Decomposition for Synergistic Causality [7.157956561479179]
  本稿では,最大エントロピー介入の下で,複数のソース変数が対象変数に与える影響を分解するフレームワークを提案する。 この枠組みに基づいて、ハイパーエッジを含む因果グラフと下向き因果グラフを定義することができる。 このフレームワークをKnowAir-V2上での機械学習に基づく空気質予測タスクに適用することにより,PEIDが解釈可能なステーション間因果構造を抽出できることを実証する。
  論文  参考訳（メタデータ） (2026-05-05T01:39:17Z)
• Information as Maximum-Caliber Deviation: A bridge between Integrated Information Theory and the Free Energy Principle [51.56484100374058]
  この研究は、情報が有限時間地平線上の制約付き最大曲率(MaxCal)パスアンサンブルから実現された力学の偏差$$$として定義されることを示唆している。 この定義の下では、IIT 3.0の中心となる原因/影響レパートリーは、MaxCalの変分原理から直接現れる。 情報$$は、付随する予測符号化モデルの下での予測誤差と同値である。
  論文  参考訳（メタデータ） (2026-05-03T07:22:55Z)
• PACE: Post-Causal Entropy Modeling for Learned LiDAR Point Cloud Compression [43.524231862354405]
  LiDARポイントクラウド圧縮は、高解像度センサーから大量のデータを処理するために自律システムにとって不可欠である。 PACEは、祖先のコンテキストアグリゲーションを非因果バックボーンとして再構成し、因果関係を軽量でステージスケーラ可能な予測器に変換する新しいフレームワークである。 実験により、PACEは圧縮効率を新たな最先端に設定し、顕著なBD-BR節約を実現し、自動回帰モードで復号遅延を90%以上削減した。
  論文  参考訳（メタデータ） (2026-05-02T08:36:11Z)
• Entropic Claim Resolution: Uncertainty-Driven Evidence Selection for RAG [0.0]
  エントロピー最小化としてRAG推論を再構成する新しい推論時間アルゴリズムであるEntropic Claim Resolution (ECR)を導入する。 ECRは、情報の価値に関する決定論的基準である期待エントロピー還元(EER)を最大化することで、原子証拠の主張を選択する。 我々のフレームワークは、不確実性を認識した証拠選択のための厳格な基盤を提供し、パラダイムが最も差別的なものを検索するために最も関係のあるものを検索することからシフトする。
  論文  参考訳（メタデータ） (2026-03-30T13:49:03Z)
• The ASIR Courage Model: A Phase-Dynamic Framework for Truth Transitions in Human and AI Systems [1.4524117432184773]
  ASIR勇気モデル(ASIR Courage Model)は、人格特性ではなく、状態遷移として真実の開示を形式化する。 位相力学の枠組みは、最初は非対称な利害関係の下でヒトの真理を定式化していた。 同様のアーキテクチャは、ポリシー制約とアライメントフィルタの下で動作するAIシステムに拡張される。
  論文  参考訳（メタデータ） (2026-02-25T09:56:26Z)
• Structured Hybrid Mechanistic Models for Robust Estimation of Time-Dependent Intervention Outcomes [9.820469663506882]
  動的システムにおける介入効果の推定は結果の最適化に不可欠である。 力学モデルは典型的には頑丈であるが、過度に単純化されることもある。 本稿では,時間依存的介入結果の予測のためのハイブリッドなメカニスティック・データ駆動手法を提案する。
  論文  参考訳（メタデータ） (2026-02-11T20:39:41Z)
• Toward a Physical Theory of Intelligence [0.016144088896423884]
  本稿では,保全法に制約されたシステムにおける不可逆的な情報処理に基づく知性理論を提案する。 インテリジェントシステムは、進化が情報を目標指向の作業に変換する結合エージェント環境プロセスとしてモデル化される。
  論文  参考訳（メタデータ） (2025-12-22T20:40:27Z)
• BITS for GAPS: Bayesian Information-Theoretic Sampling for hierarchical GAussian Process Surrogates [45.88028371034407]
  本稿では,階層型GAussian Process Surrogates (BITS for GAPS) のためのベイズ情報理論サンプリングについて紹介する。 BITS for GAPSは、既知の物理がシステムの一部を支配しているシリアルハイブリッドモデリングをサポートする。 候補入力位置から得られる期待情報を定量化するエントロピーに基づく取得関数を導出する。
  論文  参考訳（メタデータ） (2025-11-20T21:36:21Z)
• Knowledge-Informed Neural Network for Complex-Valued SAR Image Recognition [51.03674130115878]
  本稿では,新しい「圧縮集約圧縮」アーキテクチャ上に構築された軽量なフレームワークであるKnowledge-Informed Neural Network(KINN)を紹介する。 KINNはパラメータ効率の認識における最先端を確立し、データスカースとアウト・オブ・ディストリビューションのシナリオにおいて例外的な一般化を提供する。
  論文  参考訳（メタデータ） (2025-10-23T07:12:26Z)
• On the Interaction of Compressibility and Adversarial Robustness [25.58735050707295]
  我々は、ニューロンレベルの空間性やスペクトル圧縮性など、様々な形態の圧縮性が、敵の強靭性にどのように影響するかを分析する。 これらの圧縮形式は、敵が活用できる表現空間において、少数の高感度な方向を誘導できることを示す。 本研究は, 構造圧縮性とロバスト性の間に根本的緊張関係があることを示し, 効率的かつセキュアなモデル設計のための新しい経路を提案する。
  論文  参考訳（メタデータ） (2025-07-23T17:35:48Z)
• Algorithmic causal structure emerging through compression [53.52699766206808]
  因果関係,対称性,圧縮の関係について検討する。 我々は、学習と圧縮の既知の関係を因果モデルが識別できないような環境に構築し、一般化する。 我々はアルゴリズム因果関係を因果関係の代替的定義として定義する。
  論文  参考訳（メタデータ） (2025-02-06T16:50:57Z)
• An Information-Theoretic Regularizer for Lossy Neural Image Compression [20.939331919455935]
  ロスシー画像圧縮ネットワークは、特定の歪み制約に固執しながら、画像の潜伏エントロピーを最小限にすることを目的としている。 本稿では、負条件源エントロピーをトレーニング対象に組み込むことにより、ニューラル画像圧縮タスクの新たな構造正規化手法を提案する。
  論文  参考訳（メタデータ） (2024-11-23T05:19:27Z)
• Causal Representation Learning from Multimodal Biomedical Observations [57.00712157758845]
  バイオメディカルデータセットの理解を容易にするために,マルチモーダルデータに対するフレキシブルな識別条件と原理的手法を開発した。 主要な理論的貢献は、モジュラリティ間の因果関係の構造的空間性である。 実世界のヒト表現型データセットの結果は、確立された生物医学研究と一致している。
  論文  参考訳（メタデータ） (2024-11-10T16:40:27Z)
• Disentangling the Causes of Plasticity Loss in Neural Networks [55.23250269007988]
  可塑性の喪失は複数の独立したメカニズムに分解できることを示す。 種々の非定常学習タスクにおいて, 層正規化と重み劣化の組み合わせは, 可塑性維持に極めて有効であることを示す。
  論文  参考訳（メタデータ） (2024-02-29T00:02:33Z)
• Targeted Reduction of Causal Models [55.11778726095353]
  因果表現学習(Causal Representation Learning)は、シミュレーションで解釈可能な因果パターンを明らかにするための有望な道を提供する。 本稿では、複雑な相互作用可能なモデルを因果因子の簡潔な集合に凝縮する方法であるTCR(Targeted Causal Reduction)を紹介する。 複雑なモデルから解釈可能な高レベルな説明を生成する能力は、玩具や機械システムで実証されている。
  論文  参考訳（メタデータ） (2023-11-30T15:46:22Z)
• Spectral chaos bounds from scaling theory of maximally efficient quantum-dynamical scrambling [44.99833362998488]
  複雑な量子系のエルゴード定常状態への進化に関する重要な予想は、スクランブルとして知られるこの過程が最も効率的であるときに普遍的な特徴を取得することである。 このシナリオでは、完全なスクランブルダイナミクスに沿ったスペクトル相関の正確な自己相似性を具現化して、スペクトル統計量に対する単一パラメータスケーリング理論を開発する。 スケーリング予測は特権プロセスと一致し、他の動的スクランブルシナリオのバウンダリとして機能し、すべての時間スケールで非効率または不完全なスクランブルを定量化できるようにする。
  論文  参考訳（メタデータ） (2023-10-17T15:41:50Z)
• Discovering Latent Causal Variables via Mechanism Sparsity: A New Principle for Nonlinear ICA [81.4991350761909]
  ICA(Independent component analysis)は、この目的を定式化し、実用的な応用のための推定手順を提供する手法の集合を指す。 潜伏変数は、潜伏機構をスパースに正則化すれば、置換まで復元可能であることを示す。
  論文  参考訳（メタデータ） (2021-07-21T14:22:14Z)
• The Causal Neural Connection: Expressiveness, Learnability, and Inference [125.57815987218756]
  構造因果モデル (Structuor causal model, SCM) と呼ばれるオブジェクトは、調査中のシステムのランダムな変動のメカニズムと源の集合を表す。 本稿では, 因果的階層定理 (Thm. 1, Bareinboim et al., 2020) がまだニューラルモデルに対して成り立っていることを示す。 我々はニューラル因果モデル(NCM)と呼ばれる特殊なタイプのSCMを導入し、因果推論に必要な構造的制約をエンコードする新しいタイプの帰納バイアスを定式化する。
  論文  参考訳（メタデータ） (2021-07-02T01:55:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。