論文の概要: Rule vs.Consequence: Dissociable Internal Representations of Moral Reasoning in LLMs
- arxiv url: http://arxiv.org/abs/2610.16371v1
- Date: Mon, 12 Oct 2026 08:22:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-19 06:13:00.665792
- Title: Rule vs.Consequence: Dissociable Internal Representations of Moral Reasoning in LLMs
- Title（参考訳）: 規則対一致:LLMにおけるモラル推論の解離可能な内部表現
- Abstract要約: ルールフレームと結果フレームの道徳的問題に対するモデルの反応が、異なる内部構造を反映しているか、単に語彙感受性を表わすだけなのかを問う。
判定極性を持つ2$times$2因子データセット交差推論スタイルを構築した。
結果は、幾何学的に解離可能で因果的に有効な構造である道徳的推論スタイルの感度として構成する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models are increasingly deployed in morally and legally sensitive contexts, yet little is known about how they internally represent distinctions between moral reasoning styles. We ask whether a model's differential response to rule-framed and consequence-framed moral questions reflects distinct internal structure or merely surface lexical sensitivity. We construct a 2$\times$2 factorial dataset crossing reasoning style (rule-based vs. consequence-based framing) with judgment polarity (permissive vs. prohibitive), drawn from three established moral reasoning benchmarks and evaluated on a cleanroom test set of novel phrasings that includes conflict pairs where the two framings predict opposite labels. Using linear probing and activation steering, we identify two orthogonal directions in the residual stream: Dir-A tracks reasoning style and Dir-B tracks judgment polarity, each near-blind to the other factor (cross-correlation $|r| < 0.04$). This double dissociation replicates across three instruction-tuned models from different developers at comparable proportional depth, and it is not knife-edged in layer: the directions are recoverable and causally effective throughout an extended band of the network. Dir-A can causally change judgments, and in conflicting scenarios, it selectively corrects errors in rule-based judgments without changing consequence-based judgments, suggesting that it does not simply make the model more likely to accept everything. Generalization beyond the training templates is partial: the direction transfers across benchmark sources, but its advantage over lexical baselines on novel phrasings is modest. We therefore frame the result as moral reasoning style sensitivity, a geometrically dissociable and causally effective structure, rather than internalized normative reasoning.
- Abstract（参考訳）: 大規模言語モデルは、道徳的および法的にセンシティブな文脈にますます展開されているが、道徳的推論スタイルの区別を内部的にどのように表現するかについては、ほとんど分かっていない。
ルールフレームと結果フレームの道徳的問題に対するモデルの差動応答は、異なる内部構造を反映しているか、単に語彙感受性を表わすだけなのかを問う。
我々は,3つの確立された道徳的推論ベンチマークから抽出された2$\times$2因子データセット横断推論スタイル(ルールベース対結果ベースフレーミング)と判定極性(許容対禁止)を構築し,両フレーミングが反対のラベルを予測する競合ペアを含む新規なフレーズセットを用いて評価する。
線形探索とアクティベーションステアリングを用いて、残流中の2つの直交方向を同定する: Dir-A トラックの推論スタイルと Dir-B トラックの極性、それぞれが他の因子に近縁である(相互相関 $|r| < 0.04$)。
この二重解離は、異なるディベロッパの3つの命令調整されたモデルを同等の比例深さで複製する。
Dir-Aは判断を因果的に変更することができ、矛盾するシナリオでは、結果に基づく判断を変えることなくルールベースの判断のエラーを選択的に修正する。
トレーニングテンプレート以外の一般化は部分的であり、方向はベンチマークソース間で伝達されるが、新しいフレーズの語彙ベースラインよりも有利である。
したがって、この結果は、内部化された規範的推論ではなく、幾何学的に解離し、因果的に効果的な構造である道徳的推論スタイルの感度として表す。
関連論文リスト
- How Language Models Organize and Structure Moral Knowledge [1.0829694003408499]
オープンウェイト言語モデル上で6つの独立した線形プローブを訓練する。
方向は1つの道徳的検知器に崩壊することも、互いに孤立することもない。
このモデルは道徳的な緊張そのものを表しており、未解決の判断ではない。
論文 参考訳（メタデータ） (2026-08-27T17:30:30Z) - Amplified Does Not Mean Predictive: Reasoning Behaviors in Thinking Models [56.88565331713778]
推論指向のトレーニングは、モデル正しさに最も結びついている振る舞いを増幅することなく、トレースをより熟考的に見せることができる。
このミスマッチを、モデル推論トレースにおける振る舞いの有無に対して、振舞いがどの程度の正確性を変えるかを測定するメトリクスである振舞いリフトと定量化します。
我々は、思考モデルが自己認識、仮説テスト、不確実性認知を強く増幅する増幅自由ギャップの証拠を見つける。
論文 参考訳（メタデータ） (2026-08-13T20:37:59Z) - Does Reasoning Preserve Alignment? On the Trustworthiness of Large Reasoning Models [55.788110316999166]
教師付き微調整, RL を用いた後訓練, および命令調整ベースラインに対する蒸留による推論モデルの比較を行った。
推論モデルはしばしば推論ベンチマークを改善するが、アライメント回帰を示す。
これらの回帰は、KL発散によって測定された命令調整ベースラインからの挙動ドリフトと一致している。
論文 参考訳（メタデータ） (2026-06-09T16:14:27Z) - Pando: Do Interpretability Methods Work When Models Won't Explain Themselves? [53.07826484214082]
モデル・オーガニゼーションのベンチマークであるPandoを紹介します。
Pandoは、ラベル付きクエリ-レスポンスペアから、ホールドアウトモデル決定を予測する。
説明が忠実であれば、ブラックボックスの引用はすべてのホワイトボックスメソッドに一致するか、超える。
論文 参考訳（メタデータ） (2026-04-13T06:42:24Z) - Reasoning or Rhetoric? An Empirical Analysis of Moral Reasoning Explanations in Large Language Models [17.68920753323464]
13個のLCMから600以上の応答を分類するために,3つの判定モデルで検証したLCM-as-judgeスコアパイプラインを用いた。
応答は,モデルのサイズ,アーキテクチャ,あるいはプロンプト戦略によらず,従来の推論と圧倒的に一致している。
最も印象的なことに、モデルのサブセットは道徳的な疎結合を示しており、これは論理的不整合の形で、規模を超えて継続し、戦略を推進している。
論文 参考訳（メタデータ） (2026-03-23T11:43:49Z) - Mechanistic Origin of Moral Indifference in Language Models [17.89411060814224]
既存のLLM(Large Language Models)の行動アライメント技術は、表面コンプライアンスと内部の非整合表現の相違を無視することが多い。
我々は、プロトタイプ理論と社会化学101データセットに基づいて構築された251kの道徳的ベクトルを用いて、LLMの潜在表現におけるこの無関心を検証、改善する。
次に、Qwen3-8B上でスパースオートエンコーダを使用し、単意味的道徳的特徴を分離し、そのトポロジ的関係を目的的に再構築し、基幹的道徳的ベクトルと整合させる。
論文 参考訳（メタデータ） (2026-03-16T17:59:17Z) - Reforming the Mechanism: Editing Reasoning Patterns in LLMs with Circuit Reshaping [51.33479921152361]
大規模言語モデル(LLM)は、信頼性を損なう欠点のある推論能力を示すことが多い。
推論を改善する既存のアプローチは一般的に、一般的なモノリシックなスキルとして扱い、非効率で特定の推論エラーをターゲットできない広範囲なトレーニングを適用する。
本稿では,LLMにおける特定の推論パターンを選択的に修正し,他の推論経路を保存するためのパラダイムであるReasoning Editingを紹介する。
論文 参考訳（メタデータ） (2026-03-06T22:51:39Z) - Moral Preferences of LLMs Under Directed Contextual Influence [2.0490837236632253]
トロリー・プロブレムスタイルのモラル・トリアージ・セッティングにおける文脈的影響が意思決定にどのように影響するかを考察する。
各人口構成因子について,どの集団に好まれるかにのみ異なる,一致した方向対応の文脈的影響を適用した。
論文 参考訳（メタデータ） (2026-02-26T10:17:57Z) - CausalFlip: A Benchmark for LLM Causal Judgment Beyond Semantic Matching [50.65932158912512]
そこで我々は,新しい大言語モデルの開発を促進するために,因果推論ベンチマークCausalFlipを提案する。
CaulFlipは、イベントトリプル上に構築された因果判断の質問で構成されており、共同創設者、チェーン、コライダーの関係が異なっている。
回答のみのトレーニング,明示的なチェーン・オブ・ソート監視,そして内在型因果推論アプローチなどを含む,複数の訓練パラダイムによるLCMの評価を行った。
論文 参考訳（メタデータ） (2026-02-23T18:06:15Z) - "Pull or Not to Pull?'': Investigating Moral Biases in Leading Large Language Models Across Ethical Dilemmas [11.229443362516207]
本研究は,14大言語モデル(LLM)の包括的実証評価である。
我々は3,780の二項決定と自然言語の正当性を抽出し、決定的断定性、説明的回答の整合性、公的な道徳的整合性、倫理的に無関係な手がかりに対する感受性の軸に沿った分析を可能にした。
我々は、LLMのアライメントにおいて、道徳的推論が主軸となることを主張し、LLMが決定するものだけでなく、どのように、なぜかを評価する標準ベンチマークを要求している。
論文 参考訳（メタデータ） (2025-08-10T10:45:16Z) - Making Large Language Models Better Reasoners with Alignment [57.82176656663245]
推論(Reasoning)とは、証拠を使って結論に達する認知過程である。
近年の研究では、思考の連鎖(COT)推論プロセスによるデータ上の微調整LDMは、その推論能力を著しく向上させることができることが示されている。
テキストアライメントファインチューニング(AFT)パラダイムを3ステップで導入する。
論文 参考訳（メタデータ） (2023-09-05T11:32:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。