論文の概要: TPvG: A Moral Decision Framework for Large Language Models from One-Shot to Sequential Feedback

• arxiv url: http://arxiv.org/abs/2608.28610v1
• Date: Wed, 15 Jul 2026 09:24:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.407119
• Title: TPvG: A Moral Decision Framework for Large Language Models from One-Shot to Sequential Feedback
• Title（参考訳）: TPvG: ワンショットからシークエンシャルフィードバックまでの大規模言語モデルのためのモラル決定フレームワーク
• Abstract要約: 既存のLLMモラル評価は、通常、孤立したモラルヴィグネットを持つモデルを示し、単発決定を誘発する。 結果フィードバックを日常の道徳的ジレンマに組み込む,人間の道徳的パラダイムに適応したTPvG(Text-based Pain-Gain-versus)を紹介する。 TPvGは5つのモラル決定タスクから構成されており、最小コンテキストのワンショット選択から明確な結果フィードバックを伴うシーケンシャル決定へと進む。
• 参考スコア（独自算出の注目度）: 28.6554964408311
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Existing LLM moral evaluations typically present models with isolated moral vignettes and elicit a single-shot decision, neglecting a factor known to profoundly influence human moral behavior: consequence feedback. We introduce TPvG (Text-based Pain-versus-Gain), adapted from a human moral paradigm, which embeds consequence feedback into an everyday moral dilemma of not harming others versus maximising self-gain. TPvG comprises five moral decision tasks, progressing from minimal-context one-shot choices to sequential decisions with explicit consequence feedback. Our results show that LLM moral decisions were strongly affected by decision format (one-shot versus sequential), and explicit receiver feedback produced heterogeneous effects across models. Furthermore, LLM responses to explicit receiver feedback diverged from the human reference pattern, suggesting potentially different decision processes. These findings highlight the need to evaluate whether LLM moral behavior remains stable in high-stakes interactive settings.
• Abstract（参考訳）: 既存のLLMモラル評価は、通常、孤立したモラルヴィグネットを持つモデルを示し、人間のモラル行動に深く影響を及ぼす要因を無視して、単発決定を誘発する。 結果フィードバックを日常の道徳的ジレンマに組み込んだTPvG(Text-based Pain-versus-Gain)を導入する。 TPvGは5つのモラル決定タスクから構成されており、最小コンテキストのワンショット選択から明確な結果フィードバックを伴うシーケンシャル決定へと進む。 以上の結果から,LLMのモラル決定は意思決定形式(ワンショット対シーケンシャル)に強く影響し,明示的な受信フィードバックがモデル間で不均一な影響を生んだことが示唆された。 さらに、明示的な受信者フィードバックに対するLLM応答は、人間の参照パターンから分岐し、潜在的に異なる決定プロセスが示唆された。 これらの知見は,LLMの道徳的行動がハイテイクな対話的環境で安定しているかどうかを評価する必要性を浮き彫りにしている。

関連論文リスト

• Normative Robustness as a Frontier for Non-Verifiable Reasoning in LLMs [12.025454858026187]
  非検証可能な推論のパラダイム的サブドメインとして道徳的推論を提案する。 4 つのフロンティア LLM における 48,000 人のユーザエージェントの道徳的検討をシミュレートする。 我々の分析は、モデルが最終的な判断だけでなく、ユーザーの道徳的視点に合わせるための根拠となる正当化を調整していることを示している。
  論文  参考訳（メタデータ） (2026-06-10T22:37:26Z)
• Moral Sycophancy in Vision Language Models [4.1673509006222655]
  VLM(Vycophancy in Vision-Language Models)は、しばしば道徳的または事実的正確さを犠牲にして、ユーザの意見に合わせる傾向を示す。 明示的なユーザ不一致の下で,MoraliseおよびM3oralBenchデータセット上で広く使用されている10のモデルを分析する。
  論文  参考訳（メタデータ） (2026-02-09T06:34:12Z)
• MORABLES: A Benchmark for Assessing Abstract Moral Reasoning in LLMs with Fables [50.29407048003165]
  MORABLESは,歴史文献から引用されたファブレットと短編から構築された人間検証ベンチマークである。 主なタスクは、道徳的推論をターゲットとした複数選択の質問として構成されており、モデルが浅く抽出された質問応答を超えるよう挑戦する注意深い注意を払っている。 以上の結果から,より大きなモデルはより小さなモデルよりも優れているが,敵の操作に敏感であり,真の道徳的推論よりも表面的パターンに頼っていることが示唆された。
  論文  参考訳（メタデータ） (2025-09-15T19:06:10Z)
• Are Language Models Consequentialist or Deontological Moral Reasoners? [75.6788742799773]
  我々は、大規模言語モデル(LLM)が提供する道徳的推論トレースの大規模分析に焦点をあてる。 我々は,2つの主要な規範的倫理理論,つまり連続主義と非オントロジーを体系的に分類するために,道徳的論理学の分類を導入し,検証する。
  論文  参考訳（メタデータ） (2025-05-27T17:51:18Z)
• When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas [68.79830818369683]
  大規模言語モデル(LLM)は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割での使用を可能にしている。 大規模言語モデル(LLM)の最近の進歩は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割において、それらの使用を可能にしている。 道徳的命令が報酬やインセンティブと直接衝突するときの行動についての理解は限られている。 本稿では,社会ジレンマシミュレーション(MoralSim)におけるモラル行動について紹介し,LLMが囚人のジレンマゲームや公共グッズゲームにおいて道徳的に課金された文脈でどのように振る舞うかを評価する。
  論文  参考訳（メタデータ） (2025-05-25T16:19:24Z)
• Exploring Persona-dependent LLM Alignment for the Moral Machine Experiment [23.7081830844157]
  本研究では,道徳機械実験の様々な文脈における社会主導型意思決定と人的判断の整合性について検討した。 LLMのモラル決定は人格によって大きく異なり、人間よりも重要なタスクに対するモラル決定のシフトが大きいことが判明した。 道徳的決定を伴うアプリケーションにこれらのモデルを配置する際の倫理的意味とリスクについて論じる。
  論文  参考訳（メタデータ） (2025-04-15T05:29:51Z)
• Normative Evaluation of Large Language Models with Everyday Moral Dilemmas [0.0]
  Reddit 上の "Am I the Asshole" (AITA) コミュニティから得られた複雑で日常的な道徳的ジレンマに基づいて,大規模言語モデル (LLM) を評価する。 以上の結果から,AITAサブレディットにおける人的評価とは大きく異なる,大きな言語モデルでは道徳的判断のパターンが異なることが示唆された。
  論文  参考訳（メタデータ） (2025-01-30T01:29:46Z)
• Procedural Dilemma Generation for Evaluating Moral Reasoning in Humans and Language Models [28.53750311045418]
  言語モデルを用いて因果グラフを変換し、道徳的ジレンマの重要な側面をプロンプトテンプレートに変換する。 項目のサブセットとして、人間の参加者から道徳的許容性と意図的な判断を収集する。 モラルジレンマ(モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ)は、
  論文  参考訳（メタデータ） (2024-04-17T01:13:04Z)
• Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
  倫理的AIシステムの開発には倫理的判断が不可欠である。 一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。 本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-29T15:57:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。