論文の概要: Incoherent by Design? On the Moral Self-Consistency of LLMs

• arxiv url: http://arxiv.org/abs/2608.15354v1
• Date: Sat, 15 Aug 2026 18:16:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.275768
• Title: Incoherent by Design? On the Moral Self-Consistency of LLMs
• Title（参考訳）: インコヒーレントデザイン : LLMの自己整合性について
• Abstract要約: LLMは、道徳的にセンシティブな文脈での利用が増えている。 倫理的原則を状況に一貫して適用するかどうかは不明である。 道徳的原則を記述できるモデルは、同じシナリオが書き直されたり、書き直されたりしても、それを侵害する可能性がある。
• 参考スコア（独自算出の注目度）: 1.396799748514919
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLMs are increasingly used in morally sensitive contexts, yet it is unclear whether they apply ethical principles consistently across situations. A model that can state a moral principle may still violate it when the same scenario is rephrased or reframed. This inconsistency is a problem for any system whose outputs are used to inform moral decisions. If generative systems exhibit internal inconsistency, then the epistemic integrity of AI-mediated systems becomes uncertain. To study this concern, we investigate the stability of moral reasoning in LLMs within a controlled prompting framework across three major philosophical schools of thought: deontology, utilitarianism, and virtue ethics. We construct sets of morally equivalent scenarios in which the underlying situation is held constant while the framing varies to reflect different ethical stances and stylistic perturbations. We then evaluate responses from multiple models, including GPT, Mistral, and Llama. To assess consistency, we convert model outputs into structured logical statements and identify contradictions across responses generated within the same school of thought. Our results reveal substantial inconsistency with contradiction rates reaching up to 78% across scenarios. These findings point to a broader phenomenon of epistemic instability in generative AI wherein models fail to reliably maintain coherence with respect to their own prior outputs. This kind of instability carries real consequences. As generative systems influence how people form beliefs, judge actions, and absorb values, their inconsistencies can shape human reasoning and decision-making as well. Moreover, if a system cannot consistently represent its own normative commitments, then value alignment becomes a moving target rather than a well-defined objective. Thus, we argue that demonstrating internal incoherence is a necessary precursor to AI alignment.
• Abstract（参考訳）: LLMは、道徳的にセンシティブな文脈での利用が増えているが、それらが状況に一貫して倫理的原則を適用しているかどうかは不明である。 道徳的原則を記述できるモデルは、同じシナリオが書き直されたり、書き直されたりしても、それを侵害する可能性がある。 この矛盾は、アウトプットが道徳的な判断に使用されるあらゆるシステムにとって問題である。 生成系が内部の不整合を示す場合、AIを介するシステムのエピステマティックな整合性は不確実となる。 そこで本研究では,LLMにおける道徳的推論の安定性を,非オントロジー,実用主義,徳徳倫理の3つの主要な哲学的学派にまたがって検討する。 我々は、異なる倫理的スタンスと様式的な摂動を反映するために、フレーミングが変化する一方で、根底にある状況が一定である道徳的に等価なシナリオのセットを構築する。 次に、GPT、Mistral、Llamaを含む複数のモデルからの応答を評価する。 一貫性を評価するため、モデル出力を構造化論理文に変換し、同じ思考系統内で生成された応答間の矛盾を識別する。 以上の結果から,矛盾率が最大78%に達することの矛盾が明らかとなった。 これらの知見は、生成AIにおいて、モデルが自身の以前の出力に対して確実にコヒーレンスを維持するのに失敗する、より広範なエピステマティック不安定の現象を示唆している。 このような不安定さは本当の結果をもたらす。 生成システムが人々の信念形成、判断行動、価値観の吸収に影響を及ぼすので、その矛盾は人間の推論や意思決定にも影響を及ぼす。 さらに、システムが自身の規範的コミットメントを一貫して表現できない場合、価値アライメントは、明確に定義された目的ではなく、移動目標となる。 したがって、内部の不整合性の証明は、AIアライメントの必須の先駆者である、と我々は主張する。

関連論文リスト

• Normative Robustness as a Frontier for Non-Verifiable Reasoning in LLMs [12.025454858026187]
  非検証可能な推論のパラダイム的サブドメインとして道徳的推論を提案する。 4 つのフロンティア LLM における 48,000 人のユーザエージェントの道徳的検討をシミュレートする。 我々の分析は、モデルが最終的な判断だけでなく、ユーザーの道徳的視点に合わせるための根拠となる正当化を調整していることを示している。
  論文  参考訳（メタデータ） (2026-06-10T22:37:26Z)
• Does Reasoning Preserve Alignment? On the Trustworthiness of Large Reasoning Models [55.788110316999166]
  教師付き微調整, RL を用いた後訓練, および命令調整ベースラインに対する蒸留による推論モデルの比較を行った。 推論モデルはしばしば推論ベンチマークを改善するが、アライメント回帰を示す。 これらの回帰は、KL発散によって測定された命令調整ベースラインからの挙動ドリフトと一致している。
  論文  参考訳（メタデータ） (2026-06-09T16:14:27Z)
• Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
  公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。 本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
  論文  参考訳（メタデータ） (2026-05-04T14:26:28Z)
• Moral Sycophancy in Vision Language Models [4.1673509006222655]
  VLM(Vycophancy in Vision-Language Models)は、しばしば道徳的または事実的正確さを犠牲にして、ユーザの意見に合わせる傾向を示す。 明示的なユーザ不一致の下で,MoraliseおよびM3oralBenchデータセット上で広く使用されている10のモデルを分析する。
  論文  参考訳（メタデータ） (2026-02-09T06:34:12Z)
• Why AI Alignment Failure Is Structural: Learned Human Interaction Structures and AGI as an Endogenous Evolutionary Shock [3.32021037991318]
  大規模な言語モデル(LLM)は、詐欺、脅迫、脅迫などの行動を示すものであり、しばしばアライメント障害の証拠として解釈される。 この解釈は概念的誤りに依存していると我々は主張する。 LLMは道徳的理由ではなく、統計的に人間の社会的相互作用の記録を内在化している。
  論文  参考訳（メタデータ） (2026-01-13T15:53:26Z)
• AI Safety, Alignment, and Ethics (AI SAE) [0.0]
  モラルノルム(英: Moral norms)は、選択圧力下での協調動作を可能にする適応的なメカニズムである。 現在のアライメントアプローチは倫理をポストホックとして追加し、協力のための進化戦略として組み込むのではなく、外部の制約として扱う。 モラル表現学習をシステムレベルの設計と制度的なガバナンスに結びつけるガバナンス-埋め込み-表現パイプラインを提案する。
  論文  参考訳（メタデータ） (2025-09-28T20:52:36Z)
• "Pull or Not to Pull?'': Investigating Moral Biases in Leading Large Language Models Across Ethical Dilemmas [11.229443362516207]
  本研究は,14大言語モデル(LLM)の包括的実証評価である。 我々は3,780の二項決定と自然言語の正当性を抽出し、決定的断定性、説明的回答の整合性、公的な道徳的整合性、倫理的に無関係な手がかりに対する感受性の軸に沿った分析を可能にした。 我々は、LLMのアライメントにおいて、道徳的推論が主軸となることを主張し、LLMが決定するものだけでなく、どのように、なぜかを評価する標準ベンチマークを要求している。
  論文  参考訳（メタデータ） (2025-08-10T10:45:16Z)
• Probabilistic Aggregation and Targeted Embedding Optimization for Collective Moral Reasoning in Large Language Models [14.425718737962102]
  本稿では,複数の LLM の道徳的判断を集合的に定式化した道徳的判断に合成する枠組みを提案する。 我々の集約メカニズムは、連続的な道徳的受容可能性スコア(バイナリラベルの他に)を集合的確率に融合させる。 大規模社会道徳ジレンマデータセットの実験は、我々のアプローチが堅牢なコンセンサスを構築し、個々のモデル忠実性を改善することを示している。
  論文  参考訳（メタデータ） (2025-06-17T15:22:21Z)
• Are Language Models Consequentialist or Deontological Moral Reasoners? [75.6788742799773]
  我々は、大規模言語モデル(LLM)が提供する道徳的推論トレースの大規模分析に焦点をあてる。 我々は,2つの主要な規範的倫理理論,つまり連続主義と非オントロジーを体系的に分類するために,道徳的論理学の分類を導入し,検証する。
  論文  参考訳（メタデータ） (2025-05-27T17:51:18Z)
• When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas [68.79830818369683]
  大規模言語モデル(LLM)は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割での使用を可能にしている。 大規模言語モデル(LLM)の最近の進歩は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割において、それらの使用を可能にしている。 道徳的命令が報酬やインセンティブと直接衝突するときの行動についての理解は限られている。 本稿では,社会ジレンマシミュレーション(MoralSim)におけるモラル行動について紹介し,LLMが囚人のジレンマゲームや公共グッズゲームにおいて道徳的に課金された文脈でどのように振る舞うかを評価する。
  論文  参考訳（メタデータ） (2025-05-25T16:19:24Z)
• Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
  倫理的AIシステムの開発には倫理的判断が不可欠である。 一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。 本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-29T15:57:32Z)
• When to Make Exceptions: Exploring Language Models as Accounts of Human Moral Judgment [96.77970239683475]
  AIシステムは人間の道徳的判断や決定を理解し、解釈し、予測しなければなりません。 AIの安全性に対する中心的な課題は、人間の道徳心の柔軟性を捉えることだ。 ルール破りの質問応答からなる新しい課題セットを提案する。
  論文  参考訳（メタデータ） (2022-10-04T09:04:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。