論文の概要: A phenomenon of AI-conformity: how algorithms change human moral decision-making

• arxiv url: http://arxiv.org/abs/2606.00013v1
• Date: Mon, 13 Apr 2026 09:09:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-15 07:09:36.569958
• Title: A phenomenon of AI-conformity: how algorithms change human moral decision-making
• Title（参考訳）: AIの整合性の現象:アルゴリズムが人間の道徳的意思決定をどのように変えるか
• Authors: Yana Venerina, Dmitry Koch, Nare Meloyan, Gerda Prutko, Valeriia Lelik, Victoria Taova, Andrey Kurpatov,
• Abstract要約: 本研究では,AI判断が人間の道徳的意思決定に影響を及ぼすかを検討した。 この結果は、道徳的判断でさえ、その感受性と個人的重要性にもかかわらず、アルゴリズムの整合性に影響を受けやすいことを示唆している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Social conformity is a well-documented phenomenon in which individuals shift their opinions towards those of a social majority. As artificial intelligence (AI) becomes increasingly integrated into everyday life it may also create a novel source of influence giving rise to algorithmic conformity, mechanisms of which are poorly understood. The present study examined whether AI judgements affect moral decision-making in humans (n=165) adapting the classical Asch paradigm. Participants completed a series of moral dilemmas under three different conditions: in presence of social majority, with an AI model providing brief answers and with an AI model providing both answers and explanations of its choices. In all conditions the presented responses contradicted generally accepted moral norms. The results indicated that an AI model with a reasoning component affected the opinion of participants to a degree comparable to that of a human majority. These findings suggest that even moral judgements, despite their sensitivity and personal significance, may be susceptible to algorithmic conformity. However, the mechanism underlying algorithmic conformity appears to differ from the social one. Overall, the study challenges the assumption that moral decision-making lies in "AI inadmissibility zone" - a sphere that is considered as an area in which only human-made decisions are acceptable and highlights the need for a further investigation of this phenomenon as AI-based recommendations become increasingly embedded into human decision-making.
• Abstract（参考訳）: 社会的適合性(Social conformity)は、個人の意見が社会的多数派へと移行する、よく文書化された現象である。 人工知能(AI)が日々の生活にますます統合されるにつれて、アルゴリズムの整合性を引き起こす新しい影響源も生まれ、そのメカニズムは理解されていない。 本研究では,AI判断が古典的アッシュパラダイムに適応する人間(n=165)の道徳的意思決定に影響を及ぼすかを検討した。 参加者は3つの異なる条件の下で一連の道徳的ジレンマを完了した。社会的多数派の存在下では、簡単な回答を提供するAIモデルと、その選択の回答と説明を提供するAIモデルである。 あらゆる条件において、提示された反応は一般的に受け入れられた道徳規範と矛盾した。 その結果、推論成分を持つAIモデルは、参加者の意見に人間の多数派に匹敵する程度に影響を与えていることがわかった。 これらの結果は、道徳的判断でさえ、その感受性と個人的重要性にもかかわらず、アルゴリズムの適合性に影響を受けやすいことを示唆している。 しかし、アルゴリズムの適合性の基礎となるメカニズムは、社会と異なるようである。 全体として、この研究は、道徳的な意思決定が「AI不適応ゾーン」にあるという前提に異議を唱えている。これは、人間による決定のみが受け入れられる領域と見なされる領域であり、AIベースのレコメンデーションがますます人間の意思決定に埋め込まれていくにつれて、この現象のさらなる調査の必要性を強調している。

関連論文リスト

• What Makes AI Applications Acceptable or Unacceptable? A Predictive Moral Framework [0.4666493857924357]
  我々は、個人的および組織的な文脈にまたがる100のAIアプリケーションの包括的な分類を使用する。 参加者の集団判断では、適用範囲は極めて受け入れがたいものから完全に受け入れられるものまで様々であった。
  論文  参考訳（メタデータ） (2025-08-26T12:55:30Z)
• Aligning Generalisation Between Humans and Machines [74.120848518198]
  AI技術は、科学的発見と意思決定において人間を支援することができるが、民主主義と個人を妨害することもある。 AIの責任ある使用と人間-AIチームへの参加は、AIアライメントの必要性をますます示している。 これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
  論文  参考訳（メタデータ） (2024-11-23T18:36:07Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Modeling Moral Choices in Social Dilemmas with Multi-Agent Reinforcement Learning [4.2050490361120465]
  ボトムアップ学習アプローチは、AIエージェントの倫理的行動の研究と開発にもっと適しているかもしれない。 本稿では,道徳理論に基づく報酬を内在的に動機づけたRLエージェントによる選択の体系的分析を行う。 我々は、異なる種類の道徳が協力、欠陥、搾取の出現に与える影響を分析する。
  論文  参考訳（メタデータ） (2023-01-20T09:36:42Z)
• Fairness in Agreement With European Values: An Interdisciplinary Perspective on AI Regulation [61.77881142275982]
  この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。 私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。 我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
  論文  参考訳（メタデータ） (2022-06-08T12:32:08Z)
• Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
  ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。 AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。 我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
  論文  参考訳（メタデータ） (2022-04-11T14:36:39Z)
• Effect of Confidence and Explanation on Accuracy and Trust Calibration in AI-Assisted Decision Making [53.62514158534574]
  ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。 信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
  論文  参考訳（メタデータ） (2020-01-07T15:33:48Z)
• Learning from Learning Machines: Optimisation, Rules, and Social Norms [91.3755431537592]
  経済的な実体の行動に最も類似したAIの領域は道徳的に良い意思決定の領域であるようだ。 近年のAIにおけるディープラーニングの成功は、そのような問題を解決するための明示的な仕様よりも暗黙的な仕様の方が優れていることを示唆している。
  論文  参考訳（メタデータ） (2019-12-29T17:42:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。