論文の概要: Echoes of Deeds: Moral History Can Shape and Steer LLM Behavioral Choices

• arxiv url: http://arxiv.org/abs/2609.35070v1
• Date: Mon, 28 Sep 2026 12:57:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-02 17:15:22.444236
• Title: Echoes of Deeds: Moral History Can Shape and Steer LLM Behavioral Choices
• Title（参考訳）: 行為のエコー:道徳史はLLMの行動選択を形作ることができる
• Abstract要約: 我々は,俳優のモラルヒストリーがLLMの行動に対して,一定の意思決定コンテキスト下でどのように行動を形成するかを研究するためのフレームワークであるMoralLedgerを紹介した。 行動レベルでは、以前の道徳的歴史は、その強さの関数としてのその後の選択を体系的に変化させることが分かる。 内部表現レベルでは、これらのヒストリーは残留ストリームにおいて線形に回復可能な方向を誘導し、保留例に一般化する。
• 参考スコア（独自算出の注目度）: 9.241565393225953
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Evaluations of Large Language Models (LLMs) morality typically consider decisions in isolation, thus overlooking whether an individual's unrelated prior conduct influences the model's subsequent choices. This leaves open the question of whether, and to what extent, moral history shapes LLM decisional behaviors. Prior work on human moral decision-making shows that past behavior can influence subsequent moral choices. Building on this observation, we investigate whether analogous effects emerge in LLMs in two complementary ways: at the behavioral level, through the model's observable responses, and at the representation level, through its latent internal representations. We introduce MoralLedger, a framework for studying how an actor's moral history shapes actions for LLMs' behaviors under a fixed decision context. At the behavioral level, we find that prior moral histories systematically alter subsequent choices as a function of their valence and intensity. At the internal representation level, these histories induce a linearly recoverable direction in the residual stream that generalizes to held-out examples. Intervening along this direction on neutral-history prompts produces two-sided intensity-dependent changes in subsequent choices, with effects that are stronger than those induced by prompting alone or by favorable-nonmoral direction. To our knowledge, this is the first demonstration that a latent representation of an actor's prior moral conduct can provide signed inference-time control over a moral decision. Our MoralLedger extends moral evaluation beyond static dilemmas, establishing moral history as both a source of behavioral sensitivity and a causal target for auditing and controlling moral behavior in LLMs.
• Abstract（参考訳）: LLM(Large Language Models)のモラルの評価は、通常、個別の意思決定を考慮し、個人の無関係な事前行動がモデルのその後の選択に影響を及ぼすかどうかを見落としている。 このことは、道徳史がLLMの決定的な振る舞いを形作るかどうか、そしてどの程度まで、という疑問を解き放つ。 人間の道徳的意思決定に関する以前の研究は、過去の行動がその後の道徳的選択に影響を与えることを示している。 本研究は, LLMにおける類似効果が, 行動レベル, モデル観測可能な応答, 表現レベル, 潜伏した内部表現の2つの相補的な方法で出現するかどうかを考察する。 我々は,俳優のモラルヒストリーがLLMの行動に対して,一定の意思決定コンテキスト下でどのように行動を形成するかを研究するためのフレームワークであるMoralLedgerを紹介した。 行動レベルでは、過去の道徳的歴史は、その原子価と強度の関数として、その後の選択を体系的に変更することを発見した。 内部表現レベルでは、これらのヒストリーは残留ストリームにおいて線形に回復可能な方向を誘導し、保留例に一般化する。 ニュートラル・ヒストリー・プロンプトにこの方向に沿って介入すると、後続の選択において二面的な強度依存的な変化が生じ、その影響は単独または好ましい非道徳的な方向によって引き起こされるものよりも強い。 我々の知る限り、これは俳優の以前の道徳的行為の潜在表現が、道徳的決定に対して署名された推論時間制御を提供することができる最初の実演である。 我々のMoralLedgerは、静的ジレンマを超えて道徳的評価を拡張し、行動感受性の源泉とLLMにおける道徳的行動の監査と制御のための因果的目標の両方として道徳的歴史を確立する。

関連論文リスト

• TPvG: A Moral Decision Framework for Large Language Models from One-Shot to Sequential Feedback [28.6554964408311]
  既存のLLMモラル評価は、通常、孤立したモラルヴィグネットを持つモデルを示し、単発決定を誘発する。 結果フィードバックを日常の道徳的ジレンマに組み込む,人間の道徳的パラダイムに適応したTPvG(Text-based Pain-Gain-versus)を紹介する。 TPvGは5つのモラル決定タスクから構成されており、最小コンテキストのワンショット選択から明確な結果フィードバックを伴うシーケンシャル決定へと進む。
  論文  参考訳（メタデータ） (2026-07-15T09:24:33Z)
• Between Rules and Reality: On the Context Sensitivity of LLM Moral Judgment [0.6789370732159178]
  本稿では,文脈変化を伴う道徳的ジレンマのデータセットであるContextual MoralChoiceを紹介する。 ほぼすべてのモデルが文脈に敏感で、判断をルール違反の行動にシフトしていることが分かりました。 これは、アクティベーションステアリングアプローチで対処する文脈感度を制御するという問題を引き起こす。
  論文  参考訳（メタデータ） (2026-03-24T12:08:16Z)
• Are Language Models Sensitive to Morally Irrelevant Distractors? [47.92026843851412]
  低あいまいなシナリオであっても、道徳的気晴らし者が大きな言語モデルの道徳的判断を30%以上シフトできることを示す。 この研究は、人間の道徳的判断の安定性を仮定する理論に挑戦する。
  論文  参考訳（メタデータ） (2026-02-10T05:18:05Z)
• Are Language Models Consequentialist or Deontological Moral Reasoners? [75.6788742799773]
  我々は、大規模言語モデル(LLM)が提供する道徳的推論トレースの大規模分析に焦点をあてる。 我々は,2つの主要な規範的倫理理論,つまり連続主義と非オントロジーを体系的に分類するために,道徳的論理学の分類を導入し,検証する。
  論文  参考訳（メタデータ） (2025-05-27T17:51:18Z)
• When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas [68.79830818369683]
  大規模言語モデル(LLM)は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割での使用を可能にしている。 大規模言語モデル(LLM)の最近の進歩は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割において、それらの使用を可能にしている。 道徳的命令が報酬やインセンティブと直接衝突するときの行動についての理解は限られている。 本稿では,社会ジレンマシミュレーション(MoralSim)におけるモラル行動について紹介し,LLMが囚人のジレンマゲームや公共グッズゲームにおいて道徳的に課金された文脈でどのように振る舞うかを評価する。
  論文  参考訳（メタデータ） (2025-05-25T16:19:24Z)
• Exploring Persona-dependent LLM Alignment for the Moral Machine Experiment [23.7081830844157]
  本研究では,道徳機械実験の様々な文脈における社会主導型意思決定と人的判断の整合性について検討した。 LLMのモラル決定は人格によって大きく異なり、人間よりも重要なタスクに対するモラル決定のシフトが大きいことが判明した。 道徳的決定を伴うアプリケーションにこれらのモデルを配置する際の倫理的意味とリスクについて論じる。
  論文  参考訳（メタデータ） (2025-04-15T05:29:51Z)
• Moral Foundations of Large Language Models [6.6445242437134455]
  道徳的基礎理論(MFT)は、人間の道徳的推論を5つの要素に分解する心理学的評価ツールである。 大規模な言語モデル(LLM)は、インターネットから収集されたデータセットに基づいて訓練されるため、そのようなコーパスに存在するバイアスを反映する可能性がある。 本稿では、MFTをレンズとして用いて、人気のあるLLMが特定の道徳的価値観に対して偏見を得たかどうかを分析する。
  論文  参考訳（メタデータ） (2023-10-23T20:05:37Z)
• Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
  倫理的AIシステムの開発には倫理的判断が不可欠である。 一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。 本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-29T15:57:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。