論文の概要: Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution

• arxiv url: http://arxiv.org/abs/2605.02640v1
• Date: Mon, 04 May 2026 14:26:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-05 20:33:50.332783
• Title: Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution
• Title（参考訳）: 不変の衝突と因果関係から生まれる信頼できるAIが解決する
• Authors: Ruta Binkyte, Ivaxi Sheth, Zhijing Jin, Mohammad Havaei, Bernhard Schölkopf, Mario Fritz,
• Abstract要約: 公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。 本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
• 参考スコア（独自算出の注目度）: 80.98492754957466
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As artificial intelligence (AI), including machine learning (ML) models and foundation models (FMs), is increasingly deployed in high-stakes domains, ensuring their trustworthiness has become a central challenge. However, the core trustworthy AI objectives, such as fairness, robustness, privacy, and explainability, are hard to achieve simultaneously, especially while preserving utility. This position paper argues that causality is necessary to understand and balance trade-offs in performance and multiple objectives of trustworthy AI. We ground our arguments in re-interpreting trustworthy AI trade-offs as incompatible invariance requirements under different changes to the data-generating process. We then illustrate that causality provides a unifying framework for understanding how trade-offs in trustworthy AI arise, and how they can be softened or resolved through selective invariance. This perspective applies to both classical ML models and large-scale FMs. Our paper discusses how causal assumptions may be applied explicitly or implicitly in modern large-scale systems. Finally, we outline open challenges and opportunities for using causality to build more trustworthy AI.
• Abstract（参考訳）: 機械学習(ML)モデルやファンデーションモデル(FM)を含む人工知能(AI)は、ハイステークなドメインにますますデプロイされているため、信頼性が中心的な課題になっている。 しかし、公正性、堅牢性、プライバシー、説明可能性といった、信頼性の高いAIの目標は、特に実用性を維持しながら同時に達成することは困難である。 このポジションペーパーでは、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じている。 我々は、信頼できるAIトレードオフを、データ生成プロセスの異なる変更の下で、互換性のない不変性要件として再解釈することを議論する。 次に、因果関係は、信頼できるAIのトレードオフがどのように発生し、選択的不変性を通じてそれらを軟化または解決するかを理解するための統一的なフレームワークを提供する、と説明します。 この観点は古典的MLモデルと大規模FMの両方に適用できる。 本稿では,現代の大規模システムにおいて因果仮定をどのように明示的に,あるいは暗黙的に適用するかを論じる。 最後に、我々は因果関係を利用してより信頼できるAIを構築するためのオープンな課題と機会を概説する。

関連論文リスト

• Causality Is Key to Understand and Balance Multiple Goals in Trustworthy ML and Foundation Models [91.24296813969003]
  本稿では,機械学習に因果的手法を取り入れて,信頼性の高いMLの主要な原則間のトレードオフをナビゲートすることを提唱する。 我々は、信頼できるMLと基礎モデルの両方において、複数の競合する目標のバランスをとるためには、因果的アプローチが不可欠であると主張する。
  論文  参考訳（メタデータ） (2025-02-28T14:57:33Z)
• Never trust, always verify : a roadmap for Trustworthy AI? [12.031113181911627]
  我々はAIベースのシステムのコンテキストにおける信頼を検証し、AIシステムが信頼に値するものとなることの意味を理解する。 我々は、AIに対する信頼(resp. zero-trust)モデルを提案し、AIシステムの信頼性を保証するために満足すべき特性のセットを提案する。
  論文  参考訳（メタデータ） (2022-06-23T21:13:10Z)
• Trustworthy AI [75.99046162669997]
  入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。 我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
  論文  参考訳（メタデータ） (2020-11-02T20:04:18Z)
• Formalizing Trust in Artificial Intelligence: Prerequisites, Causes and Goals of Human Trust in AI [55.4046755826066]
  我々は、社会学の対人信頼(すなわち、人間の信頼)に着想を得た信頼のモデルについて議論する。 ユーザとAIの間の信頼は、暗黙的あるいは明示的な契約が保持する信頼である。 我々は、信頼できるAIの設計方法、信頼が浮かび上がったかどうか、保証されているかどうかを評価する方法について論じる。
  論文  参考訳（メタデータ） (2020-10-15T03:07:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。