論文の概要: Causality as the Statistical Conscience of Artificial Intelligence: From Pearl's Ladder to Trustworthy Machines
- arxiv url: http://arxiv.org/abs/2605.24076v1
- Date: Fri, 22 May 2026 16:48:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-26 19:50:17.579798
- Title: Causality as the Statistical Conscience of Artificial Intelligence: From Pearl's Ladder to Trustworthy Machines
- Title（参考訳）: 人工知能の統計的良心としての因果性:パールから信頼できる機械へ
- Authors: Ernest Fokoué,
- Abstract要約: 現代の人工知能は、膨大なコーパスに統計リスク関数を最適化することで、顕著な予測力を達成する。
しかし、このギャップは真の知性から切り離され、因果関係と相関関係を区別できない。
本稿では、因果推論はAIの必然的な統計的良心であると主張する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern Artificial Intelligence achieves remarkable predictive power by optimizing statistical risk functionals over vast corpora. Yet a gap separates this from genuine intelligence: the inability to distinguish correlation from causation. This paper argues that causal inference (identifying mechanisms invariant under intervention) is AI's indispensable statistical conscience. Without causal grounding, AI systems are correlation machines: powerful in familiar domains, brittle under distribution shift, and biased in high-stakes settings. Three contributions develop this argument. First, a Statistical Necessity Theorem for Causal Generalization: any algorithm achieving out-of-distribution generalization must encode causal structure, formalizing the distinction between prediction P(Y|X) and intelligence P(Y|do(X)). Second, a unified framework connects Pearl's do-calculus, the Potential Outcomes framework, Double Machine Learning, and Invariant Risk Minimization as a family of Causal Statistical Estimators, each identifying interventional distributions under different assumptions. Third, three AI failure modes (hallucination in large language models, reward hacking in reinforcement learning from human feedback, and degradation under distribution shift) are manifestations of causal blindness, each admitting a principled statistical remedy. Trustworthy AI is, at its core, a problem of causal statistics. The statistical community is not merely equipped to solve it -- it is the only community with the foundational tools to do so rigorously.
- Abstract（参考訳）: 現代の人工知能は、膨大なコーパスに統計リスク関数を最適化することで、顕著な予測力を達成する。
しかし、このギャップは真の知性から切り離され、因果関係と相関関係を区別できない。
本稿では、因果推論(介入下で不変なメカニズムの同定)がAIの必然的統計的良心であると主張している。
因果的根拠がなければ、AIシステムは相関マシンである – 慣れ親しんだドメインでは強力で、分散シフトでは脆く、高レベルの設定では偏りがある。
この議論には3つの貢献がある。
まず、因果一般化のための統計的必要定理:分布外一般化を達成するアルゴリズムは因果構造を符号化し、予測 P(Y|X) と知性 P(Y|do(X)) の区別を定式化しなければならない。
第2に、パールのdo-calculus、潜在的アウトカムフレームワーク、ダブル機械学習、および因果統計推定器のファミリーとしての不変リスク最小化を結合し、それぞれ異なる仮定の下で介入分布を識別する。
第3に、3つのAI障害モード(大規模な言語モデルでの幻覚、人間のフィードバックからの強化学習における報酬ハッキング、分布シフトによる劣化)は因果盲症の症状であり、それぞれに原則化された統計的治療が認められる。
信頼できるAIは、その中核として、因果統計の問題である。
統計的なコミュニティは、単にそれを解決できるだけのものではない -- 厳格に行う基礎的なツールを備えた唯一のコミュニティである。
関連論文リスト
- Causal Bias Detection in Generative Artificial Intelligence [15.736899098702972]
我々は、生成AIにおける因果フェアネスの問題を形式化し、共通の理論的枠組みの下で標準ML設定と統一する。
我々は, (a) 異なる因果経路と (b) 生成モデルのメカニズムによる実世界のメカニズムの置き換えの両方に沿って, 公正な影響の粒度の定量化を可能にする新たな因果分解結果を導出した。
論文 参考訳（メタデータ） (2026-05-12T00:36:53Z) - Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。
本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
論文 参考訳（メタデータ） (2026-05-04T14:26:28Z) - Statistical Inference via Generative Models: Flow Matching and Causal Inference [0.0]
生成AIは目覚ましい経験的な成功を収めてきたが、統計学の観点から見れば、しばしば不透明である。
この本は、フローマッチングを中心的な例として、統計言語における生成AIを再解釈する。
論文 参考訳（メタデータ） (2026-03-09T22:56:02Z) - No Intelligence Without Statistics: The Invisible Backbone of Artificial Intelligence [0.0]
人工知能(AI)の急速な発展は、しばしばコンピュータ科学と工学から生まれた革命として描かれる。
本稿では、統計学の分野が機械学習と現代AIに欠かせない基礎を提供すると体系的に主張する。
論文 参考訳（メタデータ） (2025-10-22T03:47:30Z) - Learning Causality for Modern Machine Learning [2.093689302081589]
過去数十年間、経験的リスク最小化による機械学習は、学習において大きな能力を示してきた。
ERMは、変更の理解と処理方法の因果関係のモデリングを避けます。
本稿では,現代の機械学習において,より広範なタスクの因果性を取り入れ,実現する方法を検討する。
論文 参考訳（メタデータ） (2025-06-13T21:03:49Z) - Advancing Counterfactual Inference through Nonlinear Quantile Regression [77.28323341329461]
ニューラルネットワークで実装された効率的かつ効果的な対実的推論のためのフレームワークを提案する。
提案手法は、推定された反事実結果から見つからないデータまでを一般化する能力を高める。
複数のデータセットで実施した実証実験の結果は、我々の理論的な主張に対する説得力のある支持を提供する。
論文 参考訳（メタデータ） (2023-06-09T08:30:51Z) - Causality Inspired Representation Learning for Domain Generalization [47.574964496891404]
本稿では、ドメイン一般化問題を形式化する一般的な構造因果モデルを提案する。
我々の目標は、入力から因果因子を抽出し、不変因果機構を再構築することである。
理想的な因果因子は、非因果的要因から分離され、共同独立であり、分類に十分な因果的要因である。
論文 参考訳（メタデータ） (2022-03-27T08:08:33Z) - Adversarial Robustness through the Lens of Causality [105.51753064807014]
ディープニューラルネットワークの敵対的脆弱性は、機械学習において大きな注目を集めている。
我々は、因果関係を敵対的脆弱性の軽減に組み込むことを提案する。
我々の手法は、敵の脆弱性を緩和するために因果性を利用する最初の試みと見なすことができる。
論文 参考訳（メタデータ） (2021-06-11T06:55:02Z) - Causal Expectation-Maximisation [70.45873402967297]
ポリツリーグラフを特徴とするモデルにおいても因果推論はNPハードであることを示す。
我々は因果EMアルゴリズムを導入し、分類的表現変数のデータから潜伏変数の不確かさを再構築する。
我々は、反事実境界が構造方程式の知識なしにしばしば計算できるというトレンドのアイデアには、目立たずの制限があるように思える。
論文 参考訳（メタデータ） (2020-11-04T10:25:13Z) - General stochastic separation theorems with optimal bounds [68.8204255655161]
分離性の現象が明らかになり、機械学習で人工知能(AI)システムのエラーを修正し、AI不安定性を分析するために使用された。
エラーやエラーのクラスタは、残りのデータから分離することができる。
AIシステムを修正する能力は、それに対する攻撃の可能性も開き、高次元性は、同じ分離性によって引き起こされる脆弱性を誘発する。
論文 参考訳（メタデータ） (2020-10-11T13:12:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。