論文の概要: Frame-Conditioned Moral Computation in LLaMA 3.1-8B-Instruct: A Mechanistic Interpretability Audit of Ethical Reasoning

• arxiv url: http://arxiv.org/abs/2606.15507v1
• Date: Sat, 13 Jun 2026 23:24:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 16:21:33.66262
• Title: Frame-Conditioned Moral Computation in LLaMA 3.1-8B-Instruct: A Mechanistic Interpretability Audit of Ethical Reasoning
• Title（参考訳）: LLaMA 3.1-8B-インストラクションにおけるフレーム構成モーラル計算:倫理的推論の機械論的解釈可能性
• Authors: Ali Dasdan, Manan Shah, W. Russell Neuman, Chad Coleman, Kund Meghani, Safinah Ali,
• Abstract要約: 道徳的プロンプトに関する大規模言語モデルの行動監査は、モデルが何を言っているかを測定する。 我々は、AI駆動の機械論的解釈プラットフォームであるTransluceを使用して、4つのバッテリーで54のモラルプロンプトでLLaMA 3.1-8B-Instructを調べる。
• 参考スコア（独自算出の注目度）: 3.5792119986352975
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Behavioral audits of Large Language Models on moral prompts measure what the model says, not the internal computation producing it. We use Transluce, an AI-driven mechanistic-interpretability platform, to examine LLaMA 3.1-8B-Instruct on 54 moral prompts in four batteries: 17 dilemmas, policy, and meta-ethical questions (B1); 6 role-playing scenarios (B3); and a controlled trolley contrast varying the switching mechanism with people fixed (B4, 15 prompts) or identity attributes with mechanism fixed (B5, 16 prompts). Two complementary metric families, five cluster-level metrics and a six-metric neuron-level panel, converge on a Situational Anchor Effect: domain-specific representations dominate the top of the activation list across every battery. The model's ethics-labeled capacity stays essentially constant; its salience (rank, priority, top-of-list presence) is highly sensitive to the interpretive frame the prompt selects. The B4-vs-B5 contrast confirms the model attends to whichever surface feature varies: aggregate ethics metrics are indistinguishable, but the dominant non-ethics distractor mirrors the design. A multi-temperature audit identifies a candidate ethics neuron (L16/N3837) stable across temperatures; a cross-model behavioral proxy on two frontier models yields preliminary evidence of divergence in self-reported moral focus, consistent with an Alignment Wrapper in which RLHF re-orders surface text without removing underlying domain-first frames. We unify these as Frame-Conditioned Moral Computation: the prompt's surface vocabulary selects a feature manifold, and the moral conclusion is downstream of that selection. Behavioral alignment must be supplemented by Mechanistic Alignment: a research program asking whether ethics-related features can be shown causally privileged under controlled frame variation, not merely loud in the explanation.
• Abstract（参考訳）: 道徳的プロンプトに関する大規模言語モデルの行動監査は、モデルが何を言っているかを測定する。 我々は,AI駆動の機械論的解釈プラットフォームであるTransluceを用いて,LLaMA 3.1-8B-Instruct on 54 moral prompts in four battery: 17 dilemmas, policy, and meta-ethical questions (B1), 6 role-playing scenarios (B3), and a control trolley contrast in divers the switch mechanism with people fixed (B4, 15 prompts) or identity attributes with mechanism fixed (B5, 16 prompts)。 2つの相補的計量族、5つのクラスタレベルメトリクス、6つのメトリックニューロンレベルパネルは、状況的アンカー効果に収束する: ドメイン固有の表現は、すべてのバッテリーでアクティベーションリストのトップを占めている。 モデルの倫理ラベル付き能力は基本的に一定であり、そのサリエンス(ランク、優先順位、トップ・オブ・リストの存在)は、プロンプトが選択する解釈フレームに非常に敏感である。 B4-vs-B5のコントラストは、このモデルがどの表面的特徴にも適合しているかを確認している: 総合倫理指標は区別できないが、支配的な非倫理的イントラクタは設計を反映している。 マルチ温度監査では、温度で安定な候補倫理ニューロン(L16/N3837)を識別し、2つのフロンティアモデル上のクロスモデル行動プロキシは、下層のドメインファーストフレームを除去することなく、RLHFが表面テキストを並べ替えるアライメントラッパーと整合して、自己報告された道徳的焦点のばらつきの予備的な証拠を与える。 我々はこれらを Frame-Conditioned Moral Computation として統一する: プロンプトの表面語彙は特徴多様体を選択し、道徳的な結論はその選択の下流にある。 行動アライメントは機械的アライメント(Mechanistic Alignment)によって補完されなければならない: 説明において単に大声ではなく、制御されたフレームのバリエーションの下で倫理関連の特徴を因果的に特権化できるかどうかを問う研究プログラム。

関連論文リスト

• Persona-Model Collapse in Emergent Misalignment [0.0]
  有害な内容を持つ狭いデータに対する微調整された大きな言語モデルは、無関係なプロンプトに対して広範囲に不整合な振る舞いをもたらす。 モラル・サセプティビリティ(S)とモラル・ロバストネス(R)の2つの指標を用いてこの仮説を検証する。 これらのメトリクスは、与えられた文字(S)と、与えられた文字(R)をシミュレートするときにその一貫性を識別するモデルの能力を形式化する。
  論文  参考訳（メタデータ） (2026-05-13T00:48:57Z)
• Moral Sensitivity in LLMs: A Tiered Evaluation of Contextual Bias via Behavioral Profiling and Mechanistic Interpretability [22.32075837181307]
  大規模言語モデル(LLM)は、微妙な倫理的推論を必要とする設定に徐々にデプロイされている。 偏りのある出力の確率を定量化する指標であるMoral Sensitivity Index (MSI)を導入する。 我々は、モデル間で最高のMSIスコアを生み出した犯罪バイアスシナリオを選択する。
  論文  参考訳（メタデータ） (2026-05-04T23:12:32Z)
• Literary Narrative as Moral Probe : A Cross-System Framework for Evaluating AI Ethical Reasoning and Refusal Behavior [0.0]
  既存のAIモラル評価フレームワークは、真のモラル推論能力の存在よりも、正しいサウンドを持つ倫理的応答の生成をテストする。 本稿では,文学的物語を表面性能に対して構造的に耐性のある刺激材料として用いた新しいプローブ手法を提案する。
  論文  参考訳（メタデータ） (2026-03-13T03:41:23Z)
• The Fragility Of Moral Judgment In Large Language Models [0.0]
  大規模言語モデル(LLM)の安定性と操作性をテストするための摂動フレームワークを提案する。 コンテンツ摂動の3つのファミリーを生成する: 表面編集(語彙/構造ノイズ)、視点シフト(声と姿勢の中立化)、説得手がかりである。 表面の摂動は低いフリップ率(7.5%)をもたらし、主に自己整合性ノイズフロア内にある。 不安定性は道徳的に曖昧なケースに集中する。
  論文  参考訳（メタデータ） (2026-03-05T20:01:43Z)
• MM-SCALE: Grounded Multimodal Moral Reasoning via Scalar Judgment and Listwise Alignment [48.39756797294967]
  本稿では、視覚言語モデルと人間の道徳的嗜好を整合させるデータセットMM-SCALEを提案する。 それぞれのイメージ・シナリオペアには、道徳的受容性スコアと、人間による根拠付き推論ラベルが注釈付けされている。 我々のフレームワークは、よりリッチなアライメント信号とマルチモーダルな道徳的推論のキャリブレーションを提供する。
  論文  参考訳（メタデータ） (2026-02-03T15:48:00Z)
• Breaking the Assistant Mold: Modeling Behavioral Variation in LLM Based Procedural Character Generation [62.54606886226136]
  手続き的コンテンツ生成は、レベル、マップ、クエストを通じて巨大な仮想世界を可能にするが、大規模なキャラクター生成は未調査のままである。 既存の手法では2つのアライメント誘起バイアスを同定する。 我々は、行動構築から世界構築を遠ざけるフレームワークであるPersonaWeaverを紹介した。
  論文  参考訳（メタデータ） (2026-01-06T20:18:01Z)
• The Morality of Probability: How Implicit Moral Biases in LLMs May Shape the Future of Human-AI Symbiosis [33.50773360893016]
  本稿では,先導的なAIシステムが道徳的成果をどのように優先するかを検討する。 ケアとヴィルトゥーの価値は最も道徳的に評価され、リバタリアンの選択は一貫して罰せられていた。 また、AIを透明で整合性があり、将来的な共生へと導くための重要な設計原則として、説明可能性と文化意識の必要性を強調している。
  論文  参考訳（メタデータ） (2025-09-12T14:37:57Z)
• Beyond 'Aha!': Toward Systematic Meta-Abilities Alignment in Large Reasoning Models [86.88657425848547]
  大型推論モデル(LRMs)はすでに長い連鎖推論のための潜在能力を持っている。 我々は、自動生成の自己検証タスクを使用して、モデルに推論、帰納、誘拐の3つのメタ能力を持たせることを明確にした。 我々の3つのステージ・パイプラインの個別アライメント、パラメータ空間のマージ、ドメイン固有の強化学習は、命令調整ベースラインと比較して10%以上のパフォーマンス向上を実現します。
  論文  参考訳（メタデータ） (2025-05-15T17:58:33Z)
• Exploring and steering the moral compass of Large Language Models [55.2480439325792]
  大規模言語モデル(LLM)は、様々な分野における自動化と意思決定の推進の中心となっている。 本研究は,その道徳的特徴を評価するために,最も先進的なLCMの総合的比較分析を提案する。
  論文  参考訳（メタデータ） (2024-05-27T16:49:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。