論文の概要: Participatory Moral AI Is Not Neutral: The Invisible Hand of Developers
- arxiv url: http://arxiv.org/abs/2608.14522v1
- Date: Fri, 14 Aug 2026 17:43:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-17 20:14:29.459356
- Title: Participatory Moral AI Is Not Neutral: The Invisible Hand of Developers
- Title（参考訳）: 参加型モラルAIは中立的ではない:目に見えない開発者の手
- Abstract要約: 道徳的AI導入パイプラインの3つの主要な段階について研究する。
第一に、道徳的に関係のある機能は、コンテキストにまたがる。
政治的イデオロギーによって、およそ3分の1の特徴が好まれる。
勧誘問題の言葉は、イデオロギー的ギャップを狭めたり広くしたりすることができる。
- 参考スコア（独自算出の注目度）: 8.96645217329267
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: As AI systems make more morally loaded decisions across society, one response has been moral preference elicitation. In this approach, researchers poll participants on hypothetical dilemmas and use the aggregated votes to train a policy that an AI model then applies at scale. Before any vote is cast, developers make three key choices in the moral AI elicitation pipeline: feature scoping, voter sampling, and question framing. In other words, they decide which features go to a vote, which voters to include, and how to present the question. These choices are often opaque, undocumented, and treated as technical details rather than normative ones. We examine each of these choices within a common empirical study and show that each can shape the preferences produced by moral AI elicitation. Across two phases (N = 809) in three deployment contexts (i.e., AI kidney allocation, AI agents simulating absent workers, and generative AI depictions of the deceased), we examine the three main stages of the moral AI elicitation pipeline. First, morally relevant features shift across contexts. This suggests that feature schemas should not be assumed to transfer across deployment domains. Second, preferences differ by political ideology for roughly one-third of features, with some differences reversing direction. The ideological composition of the voter pool can therefore affect the resulting aggregated preference profile. Third, the wording of the elicitation question can narrow or widen ideological gaps by up to a full scale point. The framing conditions also change how moral foundations are associated with participants' judgments. Taken together, these findings suggest that voting-based alignment cannot deliver fair or transparent AI by aggregation alone; at minimum, each stage of the moral AI elicitation pipeline should be audited and disclosed.
- Abstract（参考訳）: AIシステムは、社会全体でより道徳的に負荷のかかる決定を行うため、倫理的嗜好の誘惑が一つの答えとなっている。
このアプローチでは、仮説的ジレンマに関する参加者をポーリングし、集計された投票を使って、AIモデルが大規模に適用したポリシーをトレーニングする。
投票が行われる前に、開発者は、機能スコープ、投票者サンプリング、質問フレーミングという、道徳的なAI導入パイプラインで3つの重要な選択をする。
言い換えれば、どの機能が投票に出るか、どの投票者を含めるか、どのように質問を提示するかを決める。
これらの選択はしばしば不透明で文書化されておらず、規範的なものよりも技術的な詳細として扱われる。
我々は、これらの選択を共通の実証研究の中で検証し、それぞれの選択が道徳的AI導入によって生じる嗜好を形作ることができることを示す。
2つの段階(N = 809)の3つの配置状況(AI腎臓割り当て、不在者シミュレーションAIエージェント、死亡者の生成AI描写)において、道徳的AI導入パイプラインの3つの主要な段階について検討する。
第一に、道徳的に関係のある機能は、コンテキストにまたがる。
これは、フィーチャースキーマがデプロイメントドメイン間で転送されるべきでないことを示唆している。
第2に、政治的イデオロギーによって、およそ3分の1の特徴に対する好みが異なり、いくつかの違いが逆向きである。
したがって、投票プールのイデオロギー構成は、結果として得られる選好プロファイルに影響を与える可能性がある。
第三に、エリケーション問題の単語化はイデオロギー的ギャップを最大スケールポイントまで狭めたり広げたりすることができる。
フレーミング条件はまた、道徳的基礎が参加者の判断とどのように結びついているかを変える。
これらの結果は、投票ベースのアライメントは、アグリゲーションだけで公正または透明なAIを提供することはできないことを示唆している。
関連論文リスト
- A phenomenon of AI-conformity: how algorithms change human moral decision-making [0.0]
本研究では,AI判断が人間の道徳的意思決定に影響を及ぼすかを検討した。
この結果は、道徳的判断でさえ、その感受性と個人的重要性にもかかわらず、アルゴリズムの整合性に影響を受けやすいことを示唆している。
論文 参考訳（メタデータ） (2026-04-13T09:09:27Z) - The Morality of Probability: How Implicit Moral Biases in LLMs May Shape the Future of Human-AI Symbiosis [33.50773360893016]
本稿では,先導的なAIシステムが道徳的成果をどのように優先するかを検討する。
ケアとヴィルトゥーの価値は最も道徳的に評価され、リバタリアンの選択は一貫して罰せられていた。
また、AIを透明で整合性があり、将来的な共生へと導くための重要な設計原則として、説明可能性と文化意識の必要性を強調している。
論文 参考訳（メタデータ） (2025-09-12T14:37:57Z) - A Roadmap to Pluralistic Alignment [49.29107308098236]
本稿では,言語モデルをテストベッドとして用いた多元的アライメントのロードマップを提案する。
我々は,AIシステムにおける多元性を定義・運用する3つの可能な方法を特定し,定式化する。
我々は、現在のアライメント技術は、基本的に多元的AIに限られていると論じる。
論文 参考訳（メタデータ） (2024-02-07T18:21:17Z) - Case Repositories: Towards Case-Based Reasoning for AI Alignment [9.097877374792576]
ケーススタディは一般的に法、倫理、その他の多くの領域において教育的なバックボーンを形成する。
本稿では,一連の事例の判断による政策構築に焦点を当てた,立憲AIアライメントに対する補完的アプローチを提案する。
論文 参考訳（メタデータ） (2023-11-18T02:02:40Z) - Beyond Bias and Compliance: Towards Individual Agency and Plurality of
Ethics in AI [0.0]
データをラベル付けする方法は、AIの振る舞いに不可欠な役割を担っている、と私たちは主張する。
本稿では,複数の値と個々人の表現の自由を許容する代替経路を提案する。
論文 参考訳（メタデータ） (2023-02-23T16:33:40Z) - When to Make Exceptions: Exploring Language Models as Accounts of Human
Moral Judgment [96.77970239683475]
AIシステムは人間の道徳的判断や決定を理解し、解釈し、予測しなければなりません。
AIの安全性に対する中心的な課題は、人間の道徳心の柔軟性を捉えることだ。
ルール破りの質問応答からなる新しい課題セットを提案する。
論文 参考訳（メタデータ） (2022-10-04T09:04:27Z) - Fairness in Agreement With European Values: An Interdisciplinary
Perspective on AI Regulation [61.77881142275982]
この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。
私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。
我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
論文 参考訳（メタデータ） (2022-06-08T12:32:08Z) - How Different Groups Prioritize Ethical Values for Responsible AI [75.40051547428592]
民間企業、公共セクター組織、学術団体は、責任あるAI技術にとって重要であると考える倫理的価値観を概説している。
彼らのレコメンデーションは中央値のセットに収束するが、より代表的な大衆が、彼らが交流し、影響を受ける可能性のあるAI技術にとって重要な価値についてはほとんど知られていない。
我々は、個人が3つのグループにまたがる責任あるAIの価値観をどのように認識し、優先順位付けしているかを調査した。
論文 参考訳（メタデータ） (2022-05-16T14:39:37Z) - Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。
AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。
我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
論文 参考訳（メタデータ） (2022-04-11T14:36:39Z) - The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。
その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
論文 参考訳（メタデータ） (2021-07-28T17:32:04Z) - Artificial Intelligence, Values and Alignment [2.28438857884398]
AIアライメント問題の規範的および技術的側面は相互に関連している。
アライメントの目標を明確にすることが重要です。
理論家にとっての中心的な課題は、AIの「真の」道徳原則を特定することではない。
論文 参考訳（メタデータ） (2020-01-13T10:32:16Z) - Learning from Learning Machines: Optimisation, Rules, and Social Norms [91.3755431537592]
経済的な実体の行動に最も類似したAIの領域は道徳的に良い意思決定の領域であるようだ。
近年のAIにおけるディープラーニングの成功は、そのような問題を解決するための明示的な仕様よりも暗黙的な仕様の方が優れていることを示唆している。
論文 参考訳（メタデータ） (2019-12-29T17:42:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。