論文の概要: Epistemic Trustworthiness in Generative AI: A Normative Framework for Warranted Reliance in High-Stakes Workflows
- arxiv url: http://arxiv.org/abs/2608.05602v2
- Date: Sun, 09 Aug 2026 22:23:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 13:55:18.665597
- Title: Epistemic Trustworthiness in Generative AI: A Normative Framework for Warranted Reliance in High-Stakes Workflows
- Title（参考訳）: ジェネレーティブAIにおけるエピステマティック・トラストネス--高度なワークフローにおける警告信頼のためのノルマティブ・フレームワーク
- Abstract要約: ジェネレーティブAIシステムは、高度な専門的なコンテキストにますますデプロイされている。
既存のフレームワークでは、AI出力が正確か、公正か、説明可能か、安全か、あるいはユーザによって信頼されているかを問う。
システムに信頼に値するものにするためには,信頼の欠如が不可欠だ,と私たちは主張する。
- 参考スコア（独自算出の注目度）: 20.544778365691503
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Generative AI systems are increasingly deployed in high-stakes professional contexts, where their outputs shape what users believe, how they reason, and what they treat as settled. This raises a central question for responsible AI: under what conditions is reliance on generative AI outputs epistemically warranted rather than behaviourally induced? Existing frameworks largely ask whether AI outputs are accurate, fair, explainable, safe, or trusted by users. These questions remain necessary, and each can contribute to warranted reliance. However, they do not directly specify warranted reliance as a distinct evaluative target: the conditions under which users are justified in treating AI outputs as inputs into their own reasoning. We argue that this requires an account of epistemic trustworthiness: what makes a system epistemically worthy of reliance. Drawing on philosophical accounts of trustworthiness as competence and audience-orientation, we develop a constitutive normative framework comprising three jointly necessary and non-fungible conditions. First, epistemic humility requires systems to represent and communicate the limits of their competence. Second, epistemic access requires systems to enable users to inspect, question, and contest outputs in context. Third, resistance to epistemic injustice requires systems to recognise users as legitimate epistemic agents and avoid marginalising their knowledge and experience. Through real-world case analyses in legal reasoning, medical reasoning, and hiring, we show how failures of epistemic humility, epistemic access, and resistance to epistemic injustice can produce consequential harms that standard measures of accuracy, fairness, and usability do not address on their own. We conclude by outlining design and evaluation implications for GenAI systems organised around epistemically warranted reliance rather than output correctness alone.
- Abstract（参考訳）: 生成型AIシステムは、ユーザの信じるもの、理由、そして彼らが解決したものとして扱うものを、アウトプットが形作る、高度なプロフェッショナルな状況において、ますます多くデプロイされている。
これは、責任あるAIに対する中心的な疑問を提起する: 生成的AIの出力に依存する条件は、行動によって引き起こされるのではなく、エピステマティックに保証されるか?
既存のフレームワークは、AIのアウトプットが正確か、公平か、説明可能か、安全か、あるいはユーザから信頼されているか、を問うことが多い。
これらの質問は依然として必要であり、それぞれが保証された信頼に貢献することができる。
しかし、ユーザーはAI出力を自身の推論への入力として扱うことを正当化される。
私たちは、これがエピステマティックな信頼性の考慮を必要とする、と論じています。
コンピテンスとオーディエンス指向としての信頼性の哲学的説明に基づいて,我々は,3つの共同で必要かつ不可解な条件からなる構成的規範的枠組みを構築した。
第一に、先天的な謙虚さは、その能力の限界を表現し、伝達するシステムを必要とする。
第二に、疫学アクセスは、ユーザがコンテキスト内でアウトプットを検査、質問、コンテストできるシステムを必要とする。
第三に、先天的な不正に対する抵抗は、ユーザーを正統な先天的なエージェントとして認識し、知識と経験を損なわないようシステムに要求する。
法的推論,医学的推論,雇用における実世界の事例分析を通じて,疫学的謙虚さ,疫学的アクセス,および疫学的不正に対する抵抗の失敗が,標準的な正確性,公正性,ユーザビリティの尺度がそれ自身で対処できないような連続的な害をもたらすことを示す。
我々は,出力の正確性のみではなく,認識的に保証された信頼度を中心に構成されたGenAIシステムの設計と評価の意義を概説して結論付けた。
関連論文リスト
- Validity, Reliability, and Transparency in Artificial Intelligence Regulation [2.588958866512272]
記事は、現代のAIは、構築の妥当性、欠点、代表性、流通のシフト、公正なトレードオフに関する懸念を提起している。
我々は、比例評価とデプロイメント承認の前提条件として推論が機能すべきであると主張している。
論文 参考訳（メタデータ） (2026-08-06T09:36:15Z) - Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。
本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
論文 参考訳（メタデータ） (2026-05-04T14:26:28Z) - AI Integrity: A New Paradigm for Verifiable AI Governance [3.7184769644515896]
AIシステムは、医療、法律、防衛、教育における高い意思決定をますます形作っている。
既存のガバナンスパラダイム – AI倫理、AI安全性、AIアライメント – は共通の制限を共有している。
本稿では、AIシステムのオーソリティスタックが汚職、汚染、操作、バイアスから保護されている状態として定義された概念であるAIインテグリティを紹介する。
論文 参考訳（メタデータ） (2026-04-13T06:45:30Z) - Why Avoid Generative Legal AI Systems? Hallucination, Overreliance, and their Impact on Explainability [0.0]
本稿では, 法的な職業における生成型AIシステムの展開には, 幻覚と過信の重大なリスクのため, 強い抑制が必要であることを論じる。
この分析の中心はジェネレーティブ法定AI(GLAI)の定義である。
論文 参考訳（メタデータ） (2026-03-16T21:40:43Z) - Architecting Trust in Artificial Epistemic Agents [6.054175970982164]
我々は、知識創造、キュレーション、合成の実践に対するAIエージェントの潜在的影響は、AIの評価とガバナンスのシフトを必要とすると主張している。
本稿では,情緒的AIエージェントの信頼性の構築と育成を目的としたフレームワークを提案する。
この規範的なロードマップは、将来のAIシステムが堅牢で包括的な知識エコシステムにおいて信頼できるパートナーとして機能することを保証するための道筋を提供する。
論文 参考訳（メタデータ） (2026-03-03T13:12:33Z) - AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。
我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。
我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
論文 参考訳（メタデータ） (2025-11-27T16:56:04Z) - Epistemic Deference to AI [0.01692139688032578]
AIシステムの中には、人工てんかん(AEA)がある、と私は主張する。
AEAは、ユーザの独立したてんかんに対する完全な代替ではなく、貢献的な理由として機能すべきである。
実際には要求されているが、このアカウントはAIの推論が正当化されるタイミングを決定するための原則化された方法を提供する。
論文 参考訳（メタデータ） (2025-10-23T22:55:51Z) - Rigor in AI: Doing Rigorous AI Work Requires a Broader, Responsible AI-Informed Conception of Rigor [83.99510317617694]
我々は、厳格なAI研究と実践が持つべきものに対するより広範な概念が必要とされると論じている。
我々は,AIコミュニティの作業に関する対話に有用な言語とフレームワークを提供することを目標としている。
論文 参考訳（メタデータ） (2025-06-17T15:44:41Z) - Causal Responsibility Attribution for Human-AI Collaboration [62.474732677086855]
本稿では,人間のAIシステムにおける責任を体系的に評価するために,構造因果モデル(SCM)を用いた因果的枠組みを提案する。
2つのケーススタディは、多様な人間とAIのコラボレーションシナリオにおけるフレームワークの適応性を示している。
論文 参考訳（メタデータ） (2024-11-05T17:17:45Z) - Engineering Trustworthy AI: A Developer Guide for Empirical Risk Minimization [53.80919781981027]
信頼できるAIのための重要な要件は、経験的リスク最小化のコンポーネントの設計選択に変換できる。
私たちは、AIの信頼性の新たな標準を満たすAIシステムを構築するための実用的なガイダンスを提供したいと思っています。
論文 参考訳（メタデータ） (2024-10-25T07:53:32Z) - Trustworthy AI [75.99046162669997]
入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。
我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
論文 参考訳（メタデータ） (2020-11-02T20:04:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。