論文の概要: Whose Ground Truth? Embracing Ambiguity in Human-Centered AI

• arxiv url: http://arxiv.org/abs/2610.10805v1
• Date: Wed, 07 Oct 2026 19:05:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.637134
• Title: Whose Ground Truth? Embracing Ambiguity in Human-Centered AI
• Title（参考訳）: 人類中心型AIにおける曖昧さ
• Abstract要約: 我々は、もっともらしい人間の判断の解釈空間をモデル化する方向へのシフトを求める。 この視点は、AIシステムがどのように表現され、学習され、評価され、デプロイされ、管理されるかを導くべきである、と私たちは主張する。
• 参考スコア（独自算出の注目度）: 0.9451733568421955
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: As AI systems increasingly interact with people and make decisions about them, understanding human interpretations becomes an important part of developing human-centered AI. Conventional machine learning and AI systems are largely developed under the assumption that a single definitive ground truth exists, with variability in human annotations often resolved through aggregation or treated as noise. However, for many human-centered tasks, human interpretation is inherently ambiguous, and multiple interpretations of the same input may be simultaneously reasonable and valid. Reducing such ambiguity to a single target risks overlooking meaningful information about the diversity of human perception, judgment, and experience. In this position paper, we call for a shift towards modeling the interpretation space of plausible human judgments, while distinguishing meaningful ambiguity from annotation noise. We argue that this perspective should guide how AI systems are represented, learned, evaluated, deployed, and governed, supporting more human-centered AI that better reflects the diversity of human interpretation.
• Abstract（参考訳）: AIシステムが人々と対話し、それらについて意思決定するようになると、人間の解釈を理解することは、人間中心のAIを開発する上で重要な要素となる。 従来の機械学習とAIシステムは、単一の決定的な基盤真理が存在するという前提のもと、主に開発されている。 しかしながら、多くの人間中心のタスクでは、人間の解釈は本質的に曖昧であり、同じ入力の複数の解釈は同時に合理的かつ有効である。 このような曖昧さを単一の目標に減らすことは、人間の知覚、判断、経験の多様性に関する有意義な情報を見渡すことになる。 本論文では,アノテーションノイズと有意なあいまいさを区別しつつ,可否判断の解釈空間をモデル化する方向へのシフトを求める。 この視点は、AIシステムがどのように表現され、学習され、評価され、デプロイされ、管理されるかを示し、人間の解釈の多様性を反映したより人間中心のAIをサポートするべきである、と私たちは主張する。

関連論文リスト

• Thesis Proposal: Toward a Human-Centered and Perspective-Aware Framework for Reproducible ML Evaluation and AI Alignment [4.886462623872524]
  人間中心のAIシステムを構築する際には、意見の相違を考慮することが不可欠である。 診断はしばしば主観的な人間の意見から生じ、自身のアイデンティティ、信念、社会的環境によって変化する。 再現可能なML評価とAIアライメントのための人間中心・視点対応フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-08-31T14:12:23Z)
• Explicit World Models for Reliable Human-Robot Collaboration [13.90528067304433]
  私たちは、信頼できるエンボディドAIの問題に対して、根本的に異なるタックを取ります。 我々は人間とロボットの相互作用の動的な、曖昧で主観的な性質を強調した。
  論文  参考訳（メタデータ） (2026-01-05T00:58:19Z)
• Aligning Generalisation Between Humans and Machines [74.120848518198]
  AI技術は、科学的発見と意思決定において人間を支援することができるが、民主主義と個人を妨害することもある。 AIの責任ある使用と人間-AIチームへの参加は、AIアライメントの必要性をますます示している。 これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
  論文  参考訳（メタデータ） (2024-11-23T18:36:07Z)
• Rolling in the deep of cognitive and AI biases [1.556153237434314]
  我々は、AIが設計、開発、デプロイされる状況とは切り離せない社会技術システムとして理解する必要があると論じる。 我々は、人間の認知バイアスがAIフェアネスの概観の中核となる急進的な新しい方法論に従うことで、この問題に対処する。 我々は、人間にAIバイアスを正当化する新しいマッピングを導入し、関連する公正度と相互依存を検出する。
  論文  参考訳（メタデータ） (2024-07-30T21:34:04Z)
• Position: Towards Bidirectional Human-AI Alignment [109.57781720848669]
  我々は、人間とAIの双方向的・動的関係を説明するために、研究コミュニティは「調整」を明確に定義し、批判的に反映すべきであると主張する。 このフレームワークは、AIと人間の価値を整合させる従来の取り組みを取り入れているだけでなく、人間とAIを整合させるという、重要で未解明の次元も導入しています。
  論文  参考訳（メタデータ） (2024-06-13T16:03:25Z)
• Towards Human-AI Deliberation: Design and Evaluation of LLM-Empowered Deliberative AI for AI-Assisted Decision-Making [47.33241893184721]
  AIによる意思決定において、人間はしばしばAIの提案を受動的にレビューし、それを受け入れるか拒否するかを決定する。 意思決定における人間-AIの意見の対立に関する議論と人間のリフレクションを促進する新しい枠組みであるHuman-AI Deliberationを提案する。 人間の熟考の理論に基づいて、この枠組みは人間とAIを次元レベルの意見の引用、熟考的議論、意思決定の更新に携わる。
  論文  参考訳（メタデータ） (2024-03-25T14:34:06Z)
• Learning Human-like Representations to Enable Learning Human Values [11.236150405125754]
  我々は,人間とAIエージェントの表現的アライメントが人的価値の学習に与える影響を考察する。 このような表現的アライメントは、パーソナライゼーションの文脈において、人間の価値を安全に学習し、探索する上で有効であることを示す。
  論文  参考訳（メタデータ） (2023-12-21T18:31:33Z)
• Human Evaluation of Interpretability: The Case of AI-Generated Music Knowledge [19.508678969335882]
  我々は、芸術と人文科学におけるAIが発見する知識/ルールを評価することに注力する。 本稿では,洗練された記号的/数値的対象として表現されたAI生成音楽理論/ルールの人間生成言語解釈を収集し,評価する実験手法を提案する。
  論文  参考訳（メタデータ） (2020-04-15T06:03:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。