論文の概要: Reasoning or Rhetoric? An Empirical Analysis of Moral Reasoning Explanations in Large Language Models

• arxiv url: http://arxiv.org/abs/2603.21854v1
• Date: Mon, 23 Mar 2026 11:43:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-24 19:11:39.642196
• Title: Reasoning or Rhetoric? An Empirical Analysis of Moral Reasoning Explanations in Large Language Models
• Title（参考訳）: 推論かレトリックか? : 大規模言語モデルにおけるモーラル推論説明の実証分析
• Authors: Aryan Kasat, Smriti Singh, Aman Chadha, Vinija Jain,
• Abstract要約: 13個のLCMから600以上の応答を分類するために,3つの判定モデルで検証したLCM-as-judgeスコアパイプラインを用いた。 応答は,モデルのサイズ,アーキテクチャ,あるいはプロンプト戦略によらず,従来の推論と圧倒的に一致している。 最も印象的なことに、モデルのサブセットは道徳的な疎結合を示しており、これは論理的不整合の形で、規模を超えて継続し、戦略を推進している。
• 参考スコア（独自算出の注目度）: 17.68920753323464
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Do large language models reason morally, or do they merely sound like they do? We investigate whether LLM responses to moral dilemmas exhibit genuine developmental progression through Kohlberg's stages of moral development, or whether alignment training instead produces reasoning-like outputs that superficially resemble mature moral judgment without the underlying developmental trajectory. Using an LLM-as-judge scoring pipeline validated across three judge models, we classify more than 600 responses from 13 LLMs spanning a range of architectures, parameter scales, and training regimes across six classical moral dilemmas, and conduct ten complementary analyses to characterize the nature and internal coherence of the resulting patterns. Our results reveal a striking inversion: responses overwhelmingly correspond to post-conventional reasoning (Stages 5-6) regardless of model size, architecture, or prompting strategy, the effective inverse of human developmental norms, where Stage 4 dominates. Most strikingly, a subset of models exhibit moral decoupling: systematic inconsistency between stated moral justification and action choice, a form of logical incoherence that persists across scale and prompting strategy and represents a direct reasoning consistency failure independent of rhetorical sophistication. Model scale carries a statistically significant but practically small effect; training type has no significant independent main effect; and models exhibit near-robotic cross-dilemma consistency producing logically indistinguishable responses across semantically distinct moral problems. We posit that these patterns constitute evidence for moral ventriloquism: the acquisition, through alignment training, of the rhetorical conventions of mature moral reasoning without the underlying developmental trajectory those conventions are meant to represent.
• Abstract（参考訳）: 大きな言語モデルは道徳的に理にかなっているのでしょうか? 道徳的ジレンマに対するLCMの反応は、コールバーグの道徳的発達段階を通じて真に発達の進行を示すか、あるいはアライメントトレーニングが、基礎となる発達軌跡を伴わずに、表面的には成熟した道徳的判断に類似した推論的アウトプットを生成するかを検討する。 3つの判断モデルで検証されたLLM-as-judgeスコアリングパイプラインを用いて、6つの古典的道徳的ジレンマにまたがるアーキテクチャ、パラメータスケール、トレーニング体制にまたがる13のLLMからの600以上の応答を分類し、結果のパターンの性質と内部コヒーレンスを特徴づける10の補完的な分析を行う。 反応は, モデルサイズ, アーキテクチャ, あるいは促進戦略によらず, 時間後推論(Stages 5-6)と圧倒的に対応し, ステージ4が支配する人間の発達規範を効果的に逆転させる。 道徳的正当化と行動選択の体系的不整合は、規模を超えて継続し戦略を促す論理的不整合の形式であり、修辞的な洗練とは無関係に、一貫性の障害を直接推論するものである。 モデルスケールは統計的に有意だが、実際は小さな効果を持ち、トレーニングタイプには大きな独立した効果はなく、モデルは意味的に異なる道徳的問題を論理的に区別できない応答を生み出す、ほぼロボティックなクロスジレンマ一貫性を示す。 これらのパターンは、アライメントトレーニングを通じて、これらの慣習が表すはずの発達軌跡を伴わない成熟した道徳的推論の修辞的慣行の獲得という、道徳的換気主義の証拠となると仮定する。

関連論文リスト

• Mechanistic Origin of Moral Indifference in Language Models [17.89411060814224]
  既存のLLM(Large Language Models)の行動アライメント技術は、表面コンプライアンスと内部の非整合表現の相違を無視することが多い。 我々は、プロトタイプ理論と社会化学101データセットに基づいて構築された251kの道徳的ベクトルを用いて、LLMの潜在表現におけるこの無関心を検証、改善する。 次に、Qwen3-8B上でスパースオートエンコーダを使用し、単意味的道徳的特徴を分離し、そのトポロジ的関係を目的的に再構築し、基幹的道徳的ベクトルと整合させる。
  論文  参考訳（メタデータ） (2026-03-16T17:59:17Z)
• To Think or Not To Think, That is The Question for Large Reasoning Models in Theory of Mind Tasks [56.11584171938381]
  心の理論 (ToM) は、モデルが信念、欲望、意図などの隠された精神状態を推測できるかどうかを評価する。 近年のLRM(Large Reasoning Models)の進歩により、数学やコーディングにおけるステップバイステップ推論が向上している。 本研究では,9つの大規模言語モデル(LLM)の体系的研究を行い,推論モデルと非推論モデルを比較した。
  論文  参考訳（メタデータ） (2026-02-11T08:16:13Z)
• MORABLES: A Benchmark for Assessing Abstract Moral Reasoning in LLMs with Fables [50.29407048003165]
  MORABLESは,歴史文献から引用されたファブレットと短編から構築された人間検証ベンチマークである。 主なタスクは、道徳的推論をターゲットとした複数選択の質問として構成されており、モデルが浅く抽出された質問応答を超えるよう挑戦する注意深い注意を払っている。 以上の結果から,より大きなモデルはより小さなモデルよりも優れているが,敵の操作に敏感であり,真の道徳的推論よりも表面的パターンに頼っていることが示唆された。
  論文  参考訳（メタデータ） (2025-09-15T19:06:10Z)
• "Pull or Not to Pull?'': Investigating Moral Biases in Leading Large Language Models Across Ethical Dilemmas [11.229443362516207]
  本研究は,14大言語モデル(LLM)の包括的実証評価である。 我々は3,780の二項決定と自然言語の正当性を抽出し、決定的断定性、説明的回答の整合性、公的な道徳的整合性、倫理的に無関係な手がかりに対する感受性の軸に沿った分析を可能にした。 我々は、LLMのアライメントにおいて、道徳的推論が主軸となることを主張し、LLMが決定するものだけでなく、どのように、なぜかを評価する標準ベンチマークを要求している。
  論文  参考訳（メタデータ） (2025-08-10T10:45:16Z)
• Are Language Models Consequentialist or Deontological Moral Reasoners? [75.6788742799773]
  我々は、大規模言語モデル(LLM)が提供する道徳的推論トレースの大規模分析に焦点をあてる。 我々は,2つの主要な規範的倫理理論,つまり連続主義と非オントロジーを体系的に分類するために,道徳的論理学の分類を導入し,検証する。
  論文  参考訳（メタデータ） (2025-05-27T17:51:18Z)
• Analyzing the Ethical Logic of Six Large Language Models [1.119697400073873]
  本研究では,OpenAI GPT-4o, Meta LLaMA 3.1, Perplexity, Anthropic Claude 3.5 Sonnet, Google Gemini, Mistral 7Bの6つの著名な生成言語モデルの倫理的理由について検討した。 発見によると、LLMは、合理主義的、連帯主義的な強調が特徴で、しばしば害と公正を優先する決定を伴う、ほぼ収束した倫理論理を示す。
  論文  参考訳（メタデータ） (2025-01-15T16:56:26Z)
• Procedural Dilemma Generation for Evaluating Moral Reasoning in Humans and Language Models [28.53750311045418]
  言語モデルを用いて因果グラフを変換し、道徳的ジレンマの重要な側面をプロンプトテンプレートに変換する。 項目のサブセットとして、人間の参加者から道徳的許容性と意図的な判断を収集する。 モラルジレンマ(モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ)は、
  論文  参考訳（メタデータ） (2024-04-17T01:13:04Z)
• Probing the Moral Development of Large Language Models through Defining Issues Test [21.108525674360898]
  我々の研究は、初期のLSMは、ランダムなベースラインよりも道徳的推論能力があることを示している。 実際、GPT-4は、典型的な大学院生に匹敵する、伝統的な道徳的推論スコアが最も高い。
  論文  参考訳（メタデータ） (2023-09-23T12:17:10Z)
• Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
  倫理的AIシステムの開発には倫理的判断が不可欠である。 一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。 本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-29T15:57:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。