論文の概要: Language Models Embody and Amplify Human Cognitive Distortions: What Is to Be Done?

• arxiv url: http://arxiv.org/abs/2607.20695v1
• Date: Wed, 22 Jul 2026 19:53:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-24 18:26:25.211967
• Title: Language Models Embody and Amplify Human Cognitive Distortions: What Is to Be Done?
• Title（参考訳）: 言語モデルは人間の認知的歪曲を具現化し、増幅する:何をすべきか?
• Abstract要約: AI(a)のバイアスは隠蔽的で皮肉なことにアライメントゴールの特徴であり、(b)は単にミラーではなく、(c)モデルの世代間でバイアスの増幅であり、(d)は人間にバイアスを伝達する。 意思決定におけるAIの潜在的に地震的かつユビキタスな影響を考慮し,診断・規制・運用の対策を提案する。
• 参考スコア（独自算出の注目度）: 0.30586855806896035
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Human judgment is fundamentally prone to error. A promise of AI is that it will rid decisions of bias and ensure a fairer and safer world for all. Yet research unequivocally demonstrates that LLMs exhibit consequential sociocognitive biases. We alert readers that bias in AI (a) is covert and ironically a feature of alignment goals, (b) is not merely a mirror, but an amplifier of human bias, (c) intensifies across model generations, and (d) even transmits bias to humans. Given the potentially seismic and ubiquitous influence of AI on decision making, we propose countermeasures that are diagnostic, regulatory and operational.
• Abstract（参考訳）: 人間の判断は基本的に間違いを起こしやすい。 AIの約束は、偏見の決定を排除し、より公平で安全な世界を確保することである。 しかし、研究はLLMが社会認知バイアスを連続的に表すことを示した。 AIの偏見を読者に警告する (a)は秘密であり、皮肉にもアライメントゴールの特徴である。 b)単に鏡ではなく、人間の偏見の増幅器である。 c) モデル世代をまたいで強化し、 (d)人間に偏見を伝達する。 意思決定におけるAIの潜在的に地震的かつユビキタスな影響を考慮し,診断・規制・運用の対策を提案する。

関連論文リスト

• Warning labels shift perceptions of sycophantic AI, but not its influence [63.79516339973759]
  警告ラベルが梅毒の影響を緩和するかどうかを検証する。 システムをサイコファンティック(...あなたと同意し、間違っていても検証するかもしれない)としてラベル付けすることは、ユーザの認識をシフトさせる。 しかし、ユーザーの自己認識する正当性や、紛争を修復する意思に薬局が与える影響を確実に減少させるものではない。
  論文  参考訳（メタデータ） (2026-06-19T11:01:45Z)
• The Illusion of Opting in AI-Mediated Consequential Decisions [0.0]
  我々は、現在のAIシステムは、既存のAI倫理が完全に捉えられていない深い倫理的問題を提起していることを示す。 AIシステムは、オプトインの錯覚からメタ能力を保護し、育成するかどうかによって評価されるべきである、と我々は主張する。
  論文  参考訳（メタデータ） (2026-05-27T09:30:08Z)
• Human-AI Collaborative Uncertainty Quantification [26.38833436936642]
  我々は、AIモデルが人間の専門家の提案する予測セットをいかに洗練するかを形式化するフレームワークであるHuman AI Collaborative Uncertainty Quantificationを紹介する。 最適協調予測セットは1つのスコア関数上の直感的な2つのしきい値構造に従っており、古典的な結果を共形予測で拡張することを示す。 画像分類、回帰、テキストベースの医学的意思決定に関する実験は、協調予測セットがエージェント単独よりも一貫して優れていることを示している。
  論文  参考訳（メタデータ） (2025-10-27T16:11:23Z)
• Modeling Human Beliefs about AI Behavior for Scalable Oversight [16.068386375496086]
  本研究では,評価者の信念をモデル化し,フィードバックをより確実に解釈することを提案する。 我々は、人間の信念モデルを定式化し、価値学習における理論的役割を分析し、あいまいさが残るときに特徴付ける。 これらの表現は、評価者がAIの振る舞いを誤解している場合でも、人間のフィードバックから正しい値を学ぶために使用することができる。
  論文  参考訳（メタデータ） (2025-02-28T17:39:55Z)
• Biased AI can Influence Political Decision-Making [64.9461133083473]
  本稿では,大言語モデル(LLM)におけるパルチザンバイアスが政治的意見や意思決定に与える影響について検討する。 その結果,党派偏見モデルに曝露した参加者は,LLMの偏見と一致した意見を取り入れ,決定を下す可能性が有意に高いことがわかった。
  論文  参考訳（メタデータ） (2024-10-08T22:56:00Z)
• Rolling in the deep of cognitive and AI biases [1.556153237434314]
  我々は、AIが設計、開発、デプロイされる状況とは切り離せない社会技術システムとして理解する必要があると論じる。 我々は、人間の認知バイアスがAIフェアネスの概観の中核となる急進的な新しい方法論に従うことで、この問題に対処する。 我々は、人間にAIバイアスを正当化する新しいマッピングを導入し、関連する公正度と相互依存を検出する。
  論文  参考訳（メタデータ） (2024-07-30T21:34:04Z)
• The Generative AI Paradox: "What It Can Create, It May Not Understand" [81.89252713236746]
  生成AIの最近の波は、潜在的に超人的な人工知能レベルに対する興奮と懸念を引き起こしている。 同時に、モデルは、専門家でない人でも期待できないような理解の基本的な誤りを示している。 一見超人的な能力と、ごく少数の人間が起こすエラーの持続性を、どうやって再現すればよいのか?
  論文  参考訳（メタデータ） (2023-10-31T18:07:07Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Can Machines Imitate Humans? Integrative Turing-like tests for Language and Vision Demonstrate a Narrowing Gap [56.611702960809644]
  3つの言語タスクと3つの視覚タスクで人間を模倣するAIの能力をベンチマークする。 次に,人間1,916名,AI10名を対象に,72,191名のチューリング様試験を行った。 模倣能力は従来のAIパフォーマンス指標と最小限の相関を示した。
  論文  参考訳（メタデータ） (2022-11-23T16:16:52Z)
• On the Influence of Explainable AI on Automation Bias [0.0]
  我々は、説明可能なAI(XAI)によって自動化バイアスに影響を与える可能性に光を当てることを目指している。 ホテルのレビュー分類に関するオンライン実験を行い、最初の結果について議論する。
  論文  参考訳（メタデータ） (2022-04-19T12:54:23Z)
• Best-Response Bayesian Reinforcement Learning with Bayes-adaptive POMDPs for Centaurs [22.52332536886295]
  本稿では,人間とAIの相互作用を逐次ゲームとして新たに定式化する。 このケースでは、有界人間によるより良い意思決定を支援するというAIの問題は、ベイズ対応のPOMDPに還元される。 我々は、機械が自身の限界と人間の助けを借りて改善する方法について議論する。
  論文  参考訳（メタデータ） (2022-04-03T21:00:51Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• Effect of Confidence and Explanation on Accuracy and Trust Calibration in AI-Assisted Decision Making [53.62514158534574]
  ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。 信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
  論文  参考訳（メタデータ） (2020-01-07T15:33:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。