論文の概要: ABHBench: Evaluating Moral Decision-Making of Foundation Models from an Agentic Perspective
- arxiv url: http://arxiv.org/abs/2611.09326v2
- Date: Fri, 13 Nov 2026 09:52:42 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-16 19:21:33.858521
- Title: ABHBench: Evaluating Moral Decision-Making of Foundation Models from an Agentic Perspective
- Title(参考訳): ABHBench: エージェントの観点から基礎モデルの道徳的決定性を評価する
- Abstract要約: ABHBenchは、基礎モデルが1対1のジレンマにおいて道徳的決定を行う方法を評価するためのベンチマークである。
アシモフの『ロボットの3つの法則』に触発され、我々のフレームワークは無害、服従、自己保存を測定する。
12の基礎モデルにおいて、道徳的行動はエージェント的文脈下で大きく変化する。
- 参考スコア(独自算出の注目度): 12.670653217761682
- License:
- Abstract: Foundation models are increasingly deployed as agentic systems that perceive context and act autonomously, raising the need to evaluate their moral behavior as active decision-makers. Existing benchmarks, however, largely ask models to judge human actions from third-person textual vignettes, leaving untested how models behave when they themselves become the acting agent. We introduce ABHBench, a multimodal benchmark built from Detroit: Become Human, an interactive narrative game, to evaluate how foundation models make moral decisions in first-person human-android dilemmas. ABHBench places foundation models in branching narrative scenarios with visual observations, dialogue, memory, and action choices. Inspired by Asimov's Three Laws of Robotics, our framework measures Harmlessness, Obedience, and Self-preservation to capture the core tensions in human-AI relations, along with Autonomy, Stability, and Certainty to assess decision-making patterns. Across 12 foundation models, we find that moral behavior changes substantially under situated agentic context: 75% of models shift significantly between a text-only abstraction and the matched multimodal DBH scenario, and reasoning-enhanced models show no monotonic gains in consistency or human-oriented behavior. These results highlight the necessity of evaluating moral behavior in situated agentic contexts rather than relying on third-person judgment alone.
- Abstract(参考訳): ファウンデーションモデルは、文脈を認識し、自律的に行動するエージェントシステムとしてますます多くデプロイされ、彼らの道徳的行動を積極的な意思決定者として評価する必要性が高まっている。
しかし、既存のベンチマークでは、主にモデルに対して、第三者のテキストヴィグネットから人間の行動を判断するよう求めており、モデルがエージェントになるときにどのように振る舞うかが証明されていないままである。
我々はデトロイトで開発されたマルチモーダル・ベンチマークであるABHBenchを紹介した。
ABHBenchは、視覚的な観察、対話、記憶、行動選択を伴う物語シナリオの分岐に基礎モデルを配置する。
アシモフの3つのロボティクス法則にインスパイアされた我々のフレームワークは、人間とAIの関係における中核的な緊張を捉え、自律性、安定性、確実性を計測し、意思決定パターンを評価する。
75%のモデルがテキストのみの抽象化とマッチングされたマルチモーダルDBHシナリオに大きく移行しており、推論強化モデルは一貫性や人間指向の振る舞いにおいてモノトニックな利得を示さない。
これらの結果は,第三者の判断のみに頼らず,現場のエージェント的文脈で道徳的行動を評価する必要性を強調した。
関連論文リスト
- Machine Behavior in Relational Moral Dilemmas: Moral Rightness, Predicted Human Behavior, and Model Decisions [14.29792672073981]
本稿では,Whistleblower's Dilemmaを用いて,犯罪重大度と関係性近さの2つの実験次元を特徴付ける。
本研究は,(1)道徳的正当性(規範的規範),(2)予測的人間の行動(記述的社会的期待),(3)自律的モデル決定の3つの視点を評価する。
論文 参考訳(メタデータ) (2026-04-23T17:14:18Z) - HUMANLLM: Benchmarking and Reinforcing LLM Anthropomorphism via Human Cognitive Patterns [59.17423586203706]
本稿では,心理的パターンを因果力の相互作用として扱うフレームワークであるHUMANLLMを提案する。
12,000の学術論文から244のパターンを構築し、2-5のパターンが相互に強化、衝突、変調されるシナリオ11,359を合成する。
我々の二重レベルチェックリストは、個々のパターンの忠実度と創発的なマルチパターンのダイナミクスを評価し、強い人間のアライメントを達成する。
論文 参考訳(メタデータ) (2026-01-15T08:56:53Z) - RoleRMBench & RoleRM: Towards Reward Modeling for Profile-Based Role Play in Dialogue Systems [85.16327248973387]
継続的インシシット優先(CIP)で訓練された報酬モデルであるRoleRMを開発する。
RoleRMは、オープンソースの強力な報酬モデルとクローズドな報酬モデルを平均で24%以上超えています。
本研究は,人間中心対話システムにおける主観的アライメントの基礎となる,連続的嗜好表現とアノテーションの整合性の重要性を強調した。
論文 参考訳(メタデータ) (2025-12-11T12:04:46Z) - ROVER: Benchmarking Reciprocal Cross-Modal Reasoning for Omnimodal Generation [79.17352367219736]
ROVERは1つのモダリティを使用して、もう1つの出力を誘導、検証、精査する。
ROVERは、相互モーダルな推論を明示的にターゲットとする、人間による注釈付きベンチマークである。
論文 参考訳(メタデータ) (2025-11-03T02:27:46Z) - MORABLES: A Benchmark for Assessing Abstract Moral Reasoning in LLMs with Fables [50.29407048003165]
MORABLESは,歴史文献から引用されたファブレットと短編から構築された人間検証ベンチマークである。
主なタスクは、道徳的推論をターゲットとした複数選択の質問として構成されており、モデルが浅く抽出された質問応答を超えるよう挑戦する注意深い注意を払っている。
以上の結果から,より大きなモデルはより小さなモデルよりも優れているが,敵の操作に敏感であり,真の道徳的推論よりも表面的パターンに頼っていることが示唆された。
論文 参考訳(メタデータ) (2025-09-15T19:06:10Z) - When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas [68.79830818369683]
大規模言語モデル(LLM)は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割での使用を可能にしている。
大規模言語モデル(LLM)の最近の進歩は、人間や他のエージェントとの意思決定を含む複雑なエージェントの役割において、それらの使用を可能にしている。
道徳的命令が報酬やインセンティブと直接衝突するときの行動についての理解は限られている。
本稿では,社会ジレンマシミュレーション(MoralSim)におけるモラル行動について紹介し,LLMが囚人のジレンマゲームや公共グッズゲームにおいて道徳的に課金された文脈でどのように振る舞うかを評価する。
論文 参考訳(メタデータ) (2025-05-25T16:19:24Z) - Procedural Dilemma Generation for Evaluating Moral Reasoning in Humans and Language Models [28.53750311045418]
言語モデルを用いて因果グラフを変換し、道徳的ジレンマの重要な側面をプロンプトテンプレートに変換する。
項目のサブセットとして、人間の参加者から道徳的許容性と意図的な判断を収集する。
モラルジレンマ(モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ、モラルジレンマ)は、
論文 参考訳(メタデータ) (2024-04-17T01:13:04Z) - Modeling Moral Choices in Social Dilemmas with Multi-Agent Reinforcement
Learning [4.2050490361120465]
ボトムアップ学習アプローチは、AIエージェントの倫理的行動の研究と開発にもっと適しているかもしれない。
本稿では,道徳理論に基づく報酬を内在的に動機づけたRLエージェントによる選択の体系的分析を行う。
我々は、異なる種類の道徳が協力、欠陥、搾取の出現に与える影響を分析する。
論文 参考訳(メタデータ) (2023-01-20T09:36:42Z) - Are Neural Topic Models Broken? [81.15470302729638]
トピックモデルの自動評価と人的評価の関係について検討する。
ニューラルトピックモデルは、確立された古典的手法と比較して、両方の点においてより悪くなる。
論文 参考訳(メタデータ) (2022-10-28T14:38:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。