論文の概要: Learning Causality for Modern Machine Learning

• arxiv url: http://arxiv.org/abs/2506.12226v1
• Date: Fri, 13 Jun 2025 21:03:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-17 17:28:45.498723
• Title: Learning Causality for Modern Machine Learning
• Title（参考訳）: 最新の機械学習のための学習因果関係
• Authors: Yongqiang Chen,
• Abstract要約: 過去数十年間、経験的リスク最小化による機械学習は、学習において大きな能力を示してきた。 ERMは、変更の理解と処理方法の因果関係のモデリングを避けます。 本稿では,現代の機械学習において,より広範なタスクの因果性を取り入れ,実現する方法を検討する。
• 参考スコア（独自算出の注目度）: 2.093689302081589
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: In the past decades, machine learning with Empirical Risk Minimization (ERM) has demonstrated great capability in learning and exploiting the statistical patterns from data, or even surpassing humans. Despite the success, ERM avoids the modeling of causality the way of understanding and handling changes, which is fundamental to human intelligence. When deploying models beyond the training environment, distribution shifts are everywhere. For example, an autopilot system often needs to deal with new weather conditions that have not been seen during training, An Al-aided drug discovery system needs to predict the biochemical properties of molecules with respect to new viruses such as COVID-19. It renders the problem of Out-of-Distribution (OOD) generalization challenging to conventional machine learning. In this thesis, we investigate how to incorporate and realize the causality for broader tasks in modern machine learning. In particular, we exploit the invariance implied by the principle of independent causal mechanisms (ICM), that is, the causal mechanisms generating the effects from causes do not inform or influence each other. Therefore, the conditional distribution between the target variable given its causes is invariant under distribution shifts. With the causal invariance principle, we first instantiate it to graphs -- a general data structure ubiquitous in many real-world industry and scientific applications, such as financial networks and molecules. Then, we shall see how learning the causality benefits many of the desirable properties of modern machine learning, in terms of (i) OOD generalization capability; (ii) interpretability; and (iii) robustness to adversarial attacks. Realizing the causality in machine learning, on the other hand, raises a dilemma for optimization in conventional machine learning, as it often contradicts the objective of ERM...
• Abstract（参考訳）: 過去数十年間、経験的リスク最小化(Empirical Risk Minimization, ERM)による機械学習は、データから統計パターンを学習し、活用する、あるいは人間を超えた、優れた能力を示してきた。 成功にもかかわらず、ERMは人間の知性の基本である変化を理解し、対処する方法の因果関係のモデリングを避けている。 トレーニング環境を越えてモデルをデプロイする場合、分散シフトは至る所にある。 例えば、自動操縦システムでは、訓練中に見られていない新しい気象条件に対処する必要がある場合が多いが、アル支援された薬物発見システムは、新型コロナウイルスなどの新しいウイルスに関する分子の生化学的性質を予測する必要がある。 従来の機械学習に挑戦するOOD(Out-of-Distribution)の一般化の問題に対処する。 本稿では,現代の機械学習において,より広範なタスクの因果性を取り入れ,実現する方法を検討する。 特に、独立因果機構(ICM)の原理によって示唆される不変性、すなわち、原因から影響を生じる因果機構は、互いに知らせたり影響したりしない。 したがって、その原因が与えられた対象変数間の条件分布は、分布シフトの下で不変である。 因果不変の原則により、我々はまずそれをグラフにインスタンス化します -- 現実の多くの業界や金融ネットワークや分子などの科学応用で広く使われている一般的なデータ構造です。 次に,現代機械学習の望ましい性質の多くを,因果関係の学習がいかに有用であるかを考察する。 (i)OOD一般化能力 (二)解釈可能性、及び (三)敵の攻撃に対する頑強さ 一方、機械学習の因果性を実現することは、従来の機械学習における最適化のジレンマを引き起こす。

関連論文リスト

• Mechanism learning: Reverse causal inference in the presence of multiple unknown confounding through front-door causal bootstrapping [0.8901073744693314]
  機械学習(ML)予測モデルの最大の制限は、変数間の因果関係ではなく、関連性を取り戻すことである。 本稿では,前向きの因果ブートストラップを用いて観測データを分解する機構学習を提案する。 提案手法は,完全合成,半合成,実世界のデータセットを用いて,信頼性,不偏性,因果的ML予測器を検出できることを実証する。
  論文  参考訳（メタデータ） (2024-10-26T03:34:55Z)
• Ecosystem-level Analysis of Deployed Machine Learning Reveals Homogeneous Outcomes [72.13373216644021]
  本研究では,機械学習の社会的影響を,特定の文脈に展開されるモデルの集合を考慮し検討する。 デプロイされた機械学習はシステム障害を起こしやすいため、利用可能なすべてのモデルに排他的に誤分類されているユーザもいます。 これらの例は、エコシステムレベルの分析が、機械学習の社会的影響を特徴づける独自の強みを持っていることを示している。
  論文  参考訳（メタデータ） (2023-07-12T01:11:52Z)
• Pessimism meets VCG: Learning Dynamic Mechanism Design via Offline Reinforcement Learning [114.36124979578896]
  オフライン強化学習アルゴリズムを用いて動的メカニズムを設計する。 我々のアルゴリズムは悲観主義の原理に基づいており、オフラインデータセットのカバレッジについて軽度な仮定しか必要としない。
  論文  参考訳（メタデータ） (2022-05-05T05:44:26Z)
• The worst of both worlds: A comparative analysis of errors in learning from data in psychology and machine learning [17.336655978572583]
  機械学習(ML)が誤診や複製の危機に直面しているという最近の懸念は、ML研究で公表された主張の一部が対面価値で評価できないことを示唆している。 教師付きMLにおける研究の関心事は、実験科学における複製危機と共通している。
  論文  参考訳（メタデータ） (2022-03-12T18:26:24Z)
• Systematic Evaluation of Causal Discovery in Visual Model Based Reinforcement Learning [76.00395335702572]
  AIと因果関係の中心的な目標は、抽象表現と因果構造を共同で発見することである。 因果誘導を研究するための既存の環境は、複雑なタスク固有の因果グラフを持つため、この目的には適していない。 本研究の目的は,高次変数の学習表現と因果構造の研究を促進することである。
  論文  参考訳（メタデータ） (2021-07-02T05:44:56Z)
• Towards Causal Representation Learning [96.110881654479]
  機械学習とグラフィカル因果関係の2つの分野が生まれ、別々に発展した。 現在、他分野の進歩の恩恵を受けるために、クロスポリン化と両方の分野への関心が高まっている。
  論文  参考訳（メタデータ） (2021-02-22T15:26:57Z)
• Learning Robust Models Using The Principle of Independent Causal Mechanisms [26.79262903241044]
  ICMの原理から目的関数を導出する勾配学習フレームワークを提案する。 理論的、実験的に、このフレームワークで訓練されたニューラルネットワークは、環境間で不変な関係に重点を置いていることを示す。
  論文  参考訳（メタデータ） (2020-10-14T15:38:01Z)
• Vulnerability Under Adversarial Machine Learning: Bias or Variance? [77.30759061082085]
  本研究では,機械学習が訓練された深層ニューラルネットワークのバイアスと分散に与える影響について検討する。 我々の分析は、ディープニューラルネットワークが対向的摂動下で性能が劣っている理由に光を当てている。 本稿では,計算処理の複雑さをよく知られた機械学習手法よりも低く抑えた,新しい逆機械学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-08-01T00:58:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。