論文の概要: The Predictive-Causal Gap: An Impossibility Theorem and Large-Scale Neural Evidence

• arxiv url: http://arxiv.org/abs/2605.05029v1
• Date: Wed, 06 May 2026 15:25:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-07 18:41:07.905536
• Title: The Predictive-Causal Gap: An Impossibility Theorem and Large-Scale Neural Evidence
• Title（参考訳）: 予測カジュアルギャップ:不合理性理論と大規模ニューラルエビデンス
• Abstract要約: 本稿では,予測表現学習における系統的障害モードについて報告する。 線形ガウス力学を予測するためにトレーニングされた2695のニューラルネットワーク構成に対して、最適なエンコーダは、モデル化するシステムではなく、環境を追跡する。
• 参考スコア（独自算出の注目度）: 1.8867357521563244
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We report a systematic failure mode in predictive representation learning. Across 2695 neural network configurations trained to predict linear-Gaussian dynamics, the optimal encoder tracks the environment rather than the system it is meant to model. The mean causal fidelity -- the fraction of encoder sensitivity allocated to system degrees of freedom -- is 0.49, and only 2.5% of configurations exceed 0.70. The failure intensifies with dimension: at N=100, the optimal encoder becomes causally blind (fidelity ~10^{-8}) while achieving 92% lower prediction error than the causal representation. We prove this is not an optimization artifact but a structural property of the predictive objective: when environment modes are slower or less noisy than system modes, every minimizer of the population risk encodes the former. The set of dynamics exhibiting this predictive-causal gap is open and of positive measure in parameter space. In a nonlinear Duffing-GRU sweep, unconstrained predictors learn environment-dominant representations in 55% of tasks (95% CI 41--68%) versus 24% under operational grounding (p=2.3e-3); the median out-of-distribution MSE inflation under environment shift is 1.82x versus 1.00x. Operational grounding -- restricting the loss to system observables -- partially suppresses the gap, but causal fidelity is never recovered without an explicit system-environment boundary. The results identify the predictive-causal gap as a structural limit of learning, with implications for self-supervised representation learning, world models, and the scaling paradigm.
• Abstract（参考訳）: 本稿では,予測表現学習における系統的障害モードについて報告する。 線形ガウス力学を予測するためにトレーニングされた2695のニューラルネットワーク構成に対して、最適なエンコーダは、モデル化するシステムではなく、環境を追跡する。 システム自由度に割り当てられるエンコーダ感度の比率の平均因果密度は0.49であり、構成の2.5%しか0.70を超えていない。 N=100では、最適エンコーダは因果表現よりも92%低い予測誤差を達成しつつ、因果盲(フィデリティ~10^{-8})となる。 環境モードがシステムモードよりも遅いかノイズが少ない場合、人口リスクの最小化が前者を符号化する。 この予測因果ギャップを示すダイナミクスの集合は開であり、パラメータ空間における正の測度である。 非線形ダッフィングGRUスイープでは、制約のない予測者は55%(95% CI 41--68%)と24%(p=2.3e-3)のタスクで環境に優越した表現を学習する。 運用上の接地 -- システムオブザーバブルへの損失を制限する -- は、部分的にギャップを抑えるが、因果的忠実性は、明示的なシステム環境境界なしには回復されない。 その結果,予測・因果的ギャップは学習の構造的限界であり,自己指導型表現学習,世界モデル,スケーリングパラダイムに影響を及ぼすことがわかった。

関連論文リスト

• Adversarial Vulnerabilities in Neural Operator Digital Twins: Gradient-Free Attacks on Nuclear Thermal-Hydraulic Surrogates [4.190153363488523]
  運用者学習モデルは、原子力とエネルギーシステムのためのデジタルツインの予測コアとして浮上している。 神経オペレーターは、境界条件に対する感受性を生かした極端にスパースな摂動に対して非常に脆弱であることを示す。 本研究は,演算子学習モデルにおいてこれまで見過ごされていた攻撃面を明らかにし,これらのモデルが標準検証以上の保証を必要とすることを確かめるものである。
  論文  参考訳（メタデータ） (2026-03-23T19:35:17Z)
• Pedestrian Crossing Intent Prediction via Psychological Features and Transformer Fusion [6.689013818004752]
  歩行者意図予測のための軽量・社会的情報アーキテクチャを提案する。 ハイウェイエンコーダ、コンパクト 4-token Transformer、グローバル セルフアテンション プーリングを使って、4つの行動ストリーム(アテンション、位置、状況、相互作用)を融合する。 提案手法は、モダリティに依存しない、ビジョン言語パイプラインとの統合が容易で、リソース制約のあるプラットフォーム上でのリスク認識の意図予測に適している。
  論文  参考訳（メタデータ） (2026-03-20T00:19:34Z)
• Robust Physics Discovery from Highly Corrupted Data: A PINN Framework Applied to the Nonlinear Schrödinger Equation [0.0]
  重騒音条件下でのNVIDIA Schrodinger Equation(LSEN)から物理パラメータを復元できるディープラーニングフレームワークを実証する。 相対誤差が0.2%未満の非線形係数ベータを500個のスパースサンプルデータポイントのみを用いて再構成する。 その結果,物理学に基づく正則化は高い測定の不確実性に対して有効なフィルタとして機能することが示唆された。
  論文  参考訳（メタデータ） (2026-01-07T18:43:11Z)
• Latent Sculpting for Zero-Shot Generalization: A Manifold Learning Approach to Out-of-Distribution Anomaly Detection [2.8547732086436306]
  教師付きディープラーニングの基本的限界は「一般化崩壊」である 階層型2段階表現学習フレームワークであるLatent Sculptingを提案する。 我々は「浸潤」のシナリオについて88.89%の検知率を報告した。
  論文  参考訳（メタデータ） (2025-12-19T11:37:02Z)
• Learning When the Concept Shifts: Confounding, Invariance, and Dimension Reduction [5.38274042816001]
  観測データでは、分布シフトは観測されていない共起因子によって駆動されることが多い。 このことは、観測データを用いた領域適応問題の研究を動機付けます。 学習した低次元部分空間を用いて、ターゲットとソースのリスクの間にほぼ理想的なギャップを生じさせるモデルを示す。
  論文  参考訳（メタデータ） (2024-06-22T17:43:08Z)
• Rejection via Learning Density Ratios [50.91522897152437]
  拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。 そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。 私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
  論文  参考訳（メタデータ） (2024-05-29T01:32:17Z)
• Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
  ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。 我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。 我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
  論文  参考訳（メタデータ） (2023-10-02T03:25:32Z)
• Monotonicity and Double Descent in Uncertainty Estimation with Gaussian Processes [52.92110730286403]
  限界確率はクロスバリデーションの指標を思い起こさせるべきであり、どちらもより大きな入力次元で劣化すべきである、と一般的に信じられている。 我々は,ハイパーパラメータをチューニングすることにより,入力次元と単調に改善できることを証明した。 また、クロスバリデーションの指標は、二重降下の特徴である質的に異なる挙動を示すことも証明した。
  論文  参考訳（メタデータ） (2022-10-14T08:09:33Z)
• Combating Mode Collapse in GANs via Manifold Entropy Estimation [70.06639443446545]
  Generative Adversarial Networks (GAN) は、様々なタスクやアプリケーションにおいて魅力的な結果を示している。 GANのモード崩壊問題に対処するための新しいトレーニングパイプラインを提案する。
  論文  参考訳（メタデータ） (2022-08-25T12:33:31Z)
• Neuro-Symbolic Entropy Regularization [78.16196949641079]
  構造化予測では、目的は構造化されたオブジェクトをエンコードする多くの出力変数を共同で予測することである。 エントロピー正則化(Entropy regularization)という1つのアプローチは、決定境界が低確率領域にあるべきであることを示唆している。 我々は、モデルが有効対象を確実に予測することを奨励する損失、ニューロシンボリックエントロピー正規化を提案する。
  論文  参考訳（メタデータ） (2022-01-25T06:23:10Z)
• Towards an Understanding of Benign Overfitting in Neural Networks [104.2956323934544]
  現代の機械学習モデルは、しばしば膨大な数のパラメータを使用し、通常、トレーニング損失がゼロになるように最適化されている。 ニューラルネットワークの2層構成において、これらの良質な過適合現象がどのように起こるかを検討する。 本稿では,2層型ReLUネットワーク補間器を極小最適学習率で実現可能であることを示す。
  論文  参考訳（メタデータ） (2021-06-06T19:08:53Z)
• Attribute-Guided Adversarial Training for Robustness to Natural Perturbations [64.35805267250682]
  本稿では,属性空間への分類器の露出を最大化するために,新しいサンプルを生成することを学習する逆学習手法を提案する。 我々のアプローチは、ディープニューラルネットワークが自然に発生する摂動に対して堅牢であることを可能にする。
  論文  参考訳（メタデータ） (2020-12-03T10:17:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。