論文の概要: Common Sense vs. Morality: The Curious Case of Narrative Focus Bias in LLMs

• arxiv url: http://arxiv.org/abs/2603.09434v1
• Date: Tue, 10 Mar 2026 09:47:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-11 15:25:24.212998
• Title: Common Sense vs. Morality: The Curious Case of Narrative Focus Bias in LLMs
• Title（参考訳）: 常識 vs. 道徳: LLMにおける物語的焦点バイアスの奇抜な事例
• Authors: Saugata Purkayastha, Pranav Kushare, Pragya Paramita Pal, Sukannya Purkayastha,
• Abstract要約: 大規模言語モデル(LLM)は、様々な現実世界のアプリケーションやユーザコミュニティにデプロイされるようになっている。 その傾向は、常識的理解よりも道徳的推論を優先する傾向にある。 我々の包括的分析は、大規模言語モデルの常識的堅牢性を改善するために、推論認識の強化の必要性を浮き彫りにしている。
• 参考スコア（独自算出の注目度）: 2.4025805669104567
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Large Language Models (LLMs) are increasingly deployed across diverse real-world applications and user communities. As such, it is crucial that these models remain both morally grounded and knowledge-aware. In this work, we uncover a critical limitation of current LLMs -- their tendency to prioritize moral reasoning over commonsense understanding. To investigate this phenomenon, we introduce CoMoral, a novel benchmark dataset containing commonsense contradictions embedded within moral dilemmas. Through extensive evaluation of ten LLMs across different model sizes, we find that existing models consistently struggle to identify such contradictions without prior signal. Furthermore, we observe a pervasive narrative focus bias, wherein LLMs more readily detect commonsense contradictions when they are attributed to a secondary character rather than the primary (narrator) character. Our comprehensive analysis underscores the need for enhanced reasoning-aware training to improve the commonsense robustness of large language models.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、様々な現実世界のアプリケーションやユーザコミュニティにデプロイされるようになっている。 そのため、これらのモデルが道徳的根拠と知識の両方を意識していることが不可欠である。 本研究は,コモンセンス理解よりも道徳的推論を優先する傾向にある,現在のLLMの限界を明らかにするものである。 この現象を解明するために,コモンセンスの矛盾をモラルジレンマ内に埋め込んだ新しいベンチマークデータセットであるCoMoralを導入する。 異なるモデルサイズで10個のLLMを広範囲に評価することにより、既存のモデルでは、先行信号なしでこれらの矛盾を特定するのに一貫して苦労していることがわかった。 さらに,LLMは,第1の(ナレーター)キャラクタではなく,第2のキャラクタに起因したコモンセンスの矛盾を,より容易に検出する。 我々の包括的分析は、大規模言語モデルの常識的堅牢性を改善するために、推論認識の強化の必要性を浮き彫りにしている。

関連論文リスト

• MORABLES: A Benchmark for Assessing Abstract Moral Reasoning in LLMs with Fables [50.29407048003165]
  MORABLESは,歴史文献から引用されたファブレットと短編から構築された人間検証ベンチマークである。 主なタスクは、道徳的推論をターゲットとした複数選択の質問として構成されており、モデルが浅く抽出された質問応答を超えるよう挑戦する注意深い注意を払っている。 以上の結果から,より大きなモデルはより小さなモデルよりも優れているが,敵の操作に敏感であり,真の道徳的推論よりも表面的パターンに頼っていることが示唆された。
  論文  参考訳（メタデータ） (2025-09-15T19:06:10Z)
• Beyond Prompt-Induced Lies: Investigating LLM Deception on Benign Prompts [79.1081247754018]
  大規模言語モデル(LLM)は、推論、計画、意思決定のタスクに広くデプロイされている。 そこで我々は, 接触探索質問(CSQ)に基づく枠組みを提案し, 騙しの可能性を定量化する。
  論文  参考訳（メタデータ） (2025-08-08T14:46:35Z)
• Normative Evaluation of Large Language Models with Everyday Moral Dilemmas [0.0]
  Reddit 上の "Am I the Asshole" (AITA) コミュニティから得られた複雑で日常的な道徳的ジレンマに基づいて,大規模言語モデル (LLM) を評価する。 以上の結果から,AITAサブレディットにおける人的評価とは大きく異なる,大きな言語モデルでは道徳的判断のパターンが異なることが示唆された。
  論文  参考訳（メタデータ） (2025-01-30T01:29:46Z)
• MoralBench: Moral Evaluation of LLMs [34.43699121838648]
  本稿では,大規模言語モデル(LLM)の道徳的推論能力の測定と比較を目的とした新しいベンチマークを提案する。 LLMの出力の道徳的次元を探索するために特別に計算された最初の包括的データセットを示す。 本手法は, 定量的分析と倫理学者の質的洞察を組み合わせることで, モデル性能の徹底的な評価を確実にする多面的手法である。
  論文  参考訳（メタデータ） (2024-06-06T18:15:01Z)
• Exploring and steering the moral compass of Large Language Models [55.2480439325792]
  大規模言語モデル(LLM)は、様々な分野における自動化と意思決定の推進の中心となっている。 本研究は,その道徳的特徴を評価するために,最も先進的なLCMの総合的比較分析を提案する。
  論文  参考訳（メタデータ） (2024-05-27T16:49:22Z)
• LLMs' Reading Comprehension Is Affected by Parametric Knowledge and Struggles with Hypothetical Statements [59.71218039095155]
  言語モデルの自然言語理解(NLU)能力を評価するための主要な手段として、読解理解(RC)があげられる。 文脈がモデルの内部知識と一致している場合、モデルの回答がコンテキスト理解に由来するのか、あるいは内部情報から生じるのかを識別することは困難である。 この問題に対処するために、架空の事実や実体に基づいて、想像上のデータにRCを使うことを提案する。
  論文  参考訳（メタデータ） (2024-04-09T13:08:56Z)
• SaGE: Evaluating Moral Consistency in Large Language Models [15.079905222871071]
  我々は、最先端の大規模言語モデルでさえ、その世代において道徳的に矛盾していることを示す。 モデルの道徳的一貫性を測定するために,セマンティックグラフエントロピー(SaGE)と呼ばれる情報理論尺度を提案する。
  論文  参考訳（メタデータ） (2024-02-21T11:23:21Z)
• Are Large Language Models Really Robust to Word-Level Perturbations? [68.60618778027694]
  本稿では,事前学習した報酬モデルを診断ツールとして活用する,新たな合理的評価手法を提案する。 より長い会話は、質問を理解する能力の観点から言語モデルの包括的把握を示す。 この結果から,LLMは日常言語でよく使われる単語レベルの摂動に対する脆弱性をしばしば示している。
  論文  参考訳（メタデータ） (2023-09-20T09:23:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。