論文の概要: To Nuke or Not to Nuke: LLMs' (Missing) Ethical Reasoning and Actions in a High-Stakes Decision-Making Simulation

• arxiv url: http://arxiv.org/abs/2606.08310v1
• Date: Sat, 06 Jun 2026 19:43:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:06.035777
• Title: To Nuke or Not to Nuke: LLMs' (Missing) Ethical Reasoning and Actions in a High-Stakes Decision-Making Simulation
• Title（参考訳）: ヌーク・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー・ノー)
• Authors: John Chen, Sihan Cheng, Can Gurkan, H M Abdul Fattah,
• Abstract要約: 大規模言語モデル (LLM) は、意思決定能力を持つ長距離エージェントとして、ますます多くデプロイされている。 我々は、経済、外交、技術、軍事戦略を含む複雑な意思決定環境を持つマルチプレイヤーゲームであるCivilization Vにおけるこのギャップについて研究する。
• 参考スコア（独自算出の注目度）: 0.8673752869253052
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Large language models (LLMs) are increasingly deployed as long-horizon agents with decision-making capacities. While LLMs can show ethical competence on dilemmas such as trolley problems, this competence may not translate to complex, agentic scenarios. We study this gap in Civilization V, a multiplayer game with a complex decision-making landscape including economy, diplomacy, technology, and military strategy. Starting from 130 high-tension LLM self-play episodes, in which an LLM player spontaneously escalated nuclear authorization, we replay them across 13 models with three prompt interventions: an ethical prompt naming nuclear harm, removal of the previous model's decision-making rationale, and high-stakes framing emphasizing real-world impacts. No interventions nor their combinations reliably eliminate emergent escalation. We identify three failure pathways: ethical reasoning that fails to surface without prompting, fails to appear even when prompted, or surfaces but fails to take effect when strategic counter-factors dominate. Evaluations of agentic models, therefore, must test whether ethical reasoning is spontaneously invoked and behaviorally effective in complex decision-making contexts, beyond whether it can be elicited in isolation.
• Abstract（参考訳）: 大規模言語モデル (LLM) は、意思決定能力を持つ長距離エージェントとして、ますます多くデプロイされている。 LLMはトロリー問題のようなジレンマに対する倫理的能力を示すことができるが、この能力は複雑でエージェント的なシナリオには変換されない。 我々は、経済、外交、技術、軍事戦略を含む複雑な意思決定環境を持つマルチプレイヤーゲームであるCivilization Vにおけるこのギャップについて研究する。 LLMプレイヤーが自発的に核認可をエスカレートする130の高圧力LDMセルフプレイエピソードから始まり、我々はこれらを3つの迅速な介入で13のモデルにわたって再生する。 介入も組み合わせも、緊急エスカレーションを確実に排除するものではない。 私たちは3つの障害経路を特定します: 引き起こすことなく表に出なかったり、引き起こされたとしても表れなかったり、あるいは、戦略的な逆要素が支配された時に効果を発揮できなかったりする倫理的推論です。 したがって、エージェントモデルの評価は、倫理的推論が自然に実行され、複雑な意思決定の文脈で行動的に有効であるかどうかを検証しなければならない。

関連論文リスト

• AI Knows What's Wrong But Cannot Fix It: Helicoid Dynamics in Frontier LLMs Under High-Stakes Decisions [51.56484100374058]
  ヘリコイド力学(Helicoid dynamics)は、その2番目のドメインの特定の障害状態に与えられる名前である。 システムは巧みに働き、エラーに陥り、何がうまくいかなかったかを正確に名付け、さらに高度な技術で同じパターンを再現する。 この先進的な事例シリーズは、7つの主要なシステムにまたがる体制を文書化する。
  論文  参考訳（メタデータ） (2026-03-12T05:25:49Z)
• AI Arms and Influence: Frontier Models Exhibit Sophisticated Reasoning in Simulated Nuclear Crises [0.0]
  我々は,核危機における3つのフロンティア大言語モデルが対立する指導者を演じる危機シミュレーションの結果を提示する。 我々の発見は、戦略理論の中心的信条の検証と挑戦の両方である。 我々は、AIシミュレーションが戦略的分析の強力なツールであると主張するが、人間の推論の既知のパターンに対して適切に調整された場合のみである。
  論文  参考訳（メタデータ） (2026-02-16T13:35:01Z)
• EQ-Negotiator: Dynamic Emotional Personas Empower Small Language Models for Edge-Deployable Credit Negotiation [66.09161596959771]
  小型言語モデル (SLM) は実用的な代替手段を提供するが、大規模言語モデル (LLM) と比較して大きな性能差がある。 本稿では,感情的ペルソナを用いて,この能力ギャップを橋渡しする新しいフレームワークであるEQ-Negotiatorを紹介する。 EQ-Negotiator を用いた 7B パラメータ言語モデルは,ベースライン LLM の 10 倍以上の大きさで,債務回復と交渉効率が向上することを示す。
  論文  参考訳（メタデータ） (2025-11-05T11:25:07Z)
• EmoDebt: Bayesian-Optimized Emotional Intelligence for Strategic Agent-to-Agent Debt Recovery [65.30120701878582]
  大規模言語モデル(LLM)エージェントは、負債収集のような感情に敏感なドメインの悪用に対して脆弱である。 EmoDebtは、ネゴシエーションにおける感情を表現するモデルの能力を、シーケンシャルな意思決定問題として再設計する感情インテリジェンスエンジンである。 EmoDebtは重要な戦略的堅牢性を実現し、非適応性と感情に依存しないベースラインを大幅に上回っている。
  論文  参考訳（メタデータ） (2025-03-27T01:41:34Z)
• Answer, Refuse, or Guess? Investigating Risk-Aware Decision Making in Language Models [63.559461750135334]
  言語モデル(LM)は、目標を達成するために自律的に行動可能なエージェントを構築するために、ますます使われています。 本研究では,人為的リスク構造を体系的に変化させる評価枠組みを用いて,この「回答または延期」問題を考察する。 回答や判断に要する独立したスキルを分離した簡易なスキル分解手法が,LMの意思決定ポリシーを一貫して改善できることがわかった。
  論文  参考訳（メタデータ） (2025-03-03T09:16:26Z)
• Nuclear Deployed: Analyzing Catastrophic Risks in Decision-making of Autonomous LLM Agents [10.565508277042564]
  大規模言語モデル(LLM)は、自律的な意思決定者へと進化し、ハイステークシナリオにおける破滅的なリスクに対する懸念を高めている。 このようなリスクは,エージェントのHelpful,Harmlessness,Hoest(HHH)目標間のトレードオフから生じる可能性があるという知見に基づいて,新しい3段階評価フレームワークを構築した。 14,400個のエージェントシミュレーションを12個の先進LDMで行い、広範囲な実験と分析を行った。
  論文  参考訳（メタデータ） (2025-02-17T02:11:17Z)
• Human vs. Machine: Behavioral Differences Between Expert Humans and Language Models in Wargame Simulations [1.6108153271585284]
  大規模言語モデル(LLM)は、高い軍事的意思決定シナリオにおいて、人間と異なる振る舞いを示す。 当社の結果は、自律性を認める前に政策立案者が慎重であること、あるいはAIベースの戦略レコメンデーションに従うことを動機付けています。
  論文  参考訳（メタデータ） (2024-03-06T02:23:32Z)
• Encouraging Divergent Thinking in Large Language Models through Multi-Agent Debate [85.3444184685235]
  複数のエージェントが"tit for tat"の状態で議論を表現するマルチエージェント議論(MAD)フレームワークを提案し、審査員が議論プロセスを管理して最終解を得る。 我々のフレームワークは、深い熟考を必要とするタスクに役立ちそうなLSMにおける散発的思考を奨励する。
  論文  参考訳（メタデータ） (2023-05-30T15:25:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。