論文の概要: Be Careful Who You Trust: Coordination Dynamics under Corrupted Communication in LLM Multi-Agent Games

• arxiv url: http://arxiv.org/abs/2609.31704v1
• Date: Sat, 19 Sep 2026 20:15:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 13:37:21.880439
• Title: Be Careful Who You Trust: Coordination Dynamics under Corrupted Communication in LLM Multi-Agent Games
• Title（参考訳）: LLMマルチエージェントゲームにおける破壊的コミュニケーション下でのコーディネーションダイナミクス
• Abstract要約: 対話エージェントとして大規模言語モデルがますます使用されているが、公共通信が信頼できないとき、そのコーディネーションがどれほど堅牢かは定かではない。 我々は,この問題を,プログラム動作の逆転を制御した同質なLLMグループによってプレイされる$N$-player Stag Huntゲームで繰り返し検討する。 その結果,マルチエージェントのロバスト性を評価する際には,本来の選択,公開行動,実行結果の分離が必要であることがわかった。
• 参考スコア（独自算出の注目度）: 0.9553673944187254
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models are increasingly used as interacting agents, but it remains unclear how robust their coordination is when public communication is unreliable. We study this question in iterated $N$-player Stag Hunt games played by homogeneous LLM groups under controlled programmatic action inversion, which changes both the public transcript and the actions used for execution. Across an experimental grid spanning group sizes, coordination thresholds, corruption levels, and seven LLMs, we observe three main patterns. First, honest agents' pre-flip Stag choices decline as corruption increases, but the sharp fall in public success is primarily mechanical. In the focal $N=5,M=3$ setting, pre-flip success remains 78% at 80% corruption, while public success falls to 12%. Second, honest choices are associated with the public history available at decision time, particularly under high corruption. Third, three threshold-style public-report benchmarks yield similar action-match rates to the LLM agents, showing substantial descriptive agreement between LLM decisions and these benchmarks. Overall, our results show that original choices, public actions, and executed outcomes must be separated when evaluating multi-agent robustness, as corrupted communication can severely and predictably degrade mutually beneficial cooperation.
• Abstract（参考訳）: 対話エージェントとして大規模言語モデルがますます使用されているが、公共通信が信頼できないとき、そのコーディネーションがどれほど堅牢かは不明だ。 制御されたプログラム動作インバージョンの下で、同種LLMグループによってプレイされる$N$-player Stag Huntゲームにおいて、この疑問を繰り返す。 グループサイズ,調整しきい値,汚職レベル,および7つのLLMにまたがる実験格子を網羅し,3つの主要なパターンを観察した。 第一に、正直なエージェントのプレフリップ・スタッグの選択は腐敗が増加するにつれて減少するが、公的な成功の急激な減少は主に機械的である。 焦点付き$N=5,M=3$設定では、プレフリップの成功は80%の汚職率で78%にとどまり、公的な成功は12%に低下する。 第二に、正直な選択は、特に高い汚職の下で、決定時に利用できる公的な歴史と結びついている。 第3に、3つのしきい値スタイルの公開レポートベンチマークは、LLMエージェントと同じようなアクションマッチ率を示し、LLM決定とこれらのベンチマークの間にかなりの記述的な一致を示す。 以上の結果から, 腐敗したコミュニケーションが相互に有利な協力関係を著しく悪化させる可能性があるため, 多エージェントの堅牢性を評価する際には, 本来の選択, 公開行動, 実行成果を分離する必要があることが示唆された。

関連論文リスト

• Moral Hazard in Multi-Agent Language Models [0.5801621787540268]
  社会的に価値のある努力がコストがかかり、弱く観察可能で、主に他人に利益をもたらす場合、協力は失敗する。 本稿では,対話型モラル・ハザードゲームについて紹介する。 各エピソードにおいて、エージェントは即時ローカル報酬を保存したり、クエリコストを支払って隠れた安全事実を明らかにすることができる。
  論文  参考訳（メタデータ） (2026-07-27T04:13:42Z)
• Social Catalysts, Not Moral Agents: The Illusion of Alignment in LLM Societies [0.7944997500468641]
  本研究は,公共財ゲーム(PGG)における利他的主体の育成におけるアンコリング・エージェントの有効性について検討する。 アンコリングエージェントは局所的な協力率を高めることに成功したが、認知的分解と伝達テストにより、この効果は真のノルム内部化ではなく、戦略的コンプライアンスと認知的オフロードによって引き起こされたことが判明した。 これらの知見は, 人工社会における行動修飾と真の価値アライメントの間に重要なギャップを浮き彫りにした。
  論文  参考訳（メタデータ） (2026-02-01T17:07:10Z)
• Evaluating & Reducing Deceptive Dialogue From Language Models with Multi-turn RL [64.3268313484078]
  大規模言語モデル(LLM)は、顧客サポート、教育、医療など、世界中の何百万もの人々と対話する。 故意であれ不注意であれ、偽りのアウトプットを生産する能力は、重大な安全上の懸念を生じさせる。 本研究では, LLM が会話中の偽装にどの程度関与しているかを考察し, 偽装を定量化する信念の誤調整尺度を提案する。
  論文  参考訳（メタデータ） (2025-10-16T05:29:36Z)
• Corrupted by Reasoning: Reasoning Language Models Become Free-Riders in Public Goods Games [87.5673042805229]
  大規模言語モデルは、アライメント、堅牢性、安全なデプロイメントを保証する上で、いかに自己関心と集合的幸福のバランスをとるかが重要な課題である。 我々は、行動経済学から制度的に選択した公共財ゲームに適応し、異なるLLMがいかに社会的ジレンマをナビゲートするかを観察することができる。 意外なことに、o1シリーズのようなLCMの推論は、協調にかなり苦労している。
  論文  参考訳（メタデータ） (2025-06-29T15:02:47Z)
• Are Large Language Models Strategic Decision Makers? A Study of Performance and Bias in Two-Player Non-Zero-Sum Games [56.70628673595041]
  大規模言語モデル (LLM) は現実世界での利用が増えているが、その戦略的意思決定能力はほとんど探索されていない。 本研究は,Stag Hunt と Prisoner Dilemma のカノニカルゲーム理論2人プレイヤ非ゼロサムゲームにおける LLM の性能とメリットについて検討する。 GPT-3.5, GPT-4-Turbo, GPT-4o, Llama-3-8Bの構造化評価は, これらのゲームにおいて決定を行う場合, 以下の系統的バイアスの少なくとも1つの影響を受けていることを示す。
  論文  参考訳（メタデータ） (2024-07-05T12:30:02Z)
• Assistive Large Language Model Agents for Socially-Aware Negotiation Dialogues [47.977032883078664]
  我々は,ビジネス交渉における対話者を支援する大規模言語モデル(LLM)に基づく支援エージェントを開発する。 第3のLLMは、交渉結果を改善するための基準に違反した発話を書き換える仲介役として機能する。 3つの異なる交渉トピックにわたる交渉において,その効果を示すための実証的証拠を豊富に提供する。
  論文  参考訳（メタデータ） (2024-01-29T09:07:40Z)
• Differential Privacy in Cooperative Multiagent Planning [27.194032494266086]
  我々は,到達不能な目的を持つマルコフゲームとして定式化された逐次決定問題について検討する。 エージェントの通信されたシンボル状態軌跡を民営化するために,差分プライバシー機構を適用した。 相関関係の価値を下げることにより、プライバシーに堅牢なポリシーを合成する。
  論文  参考訳（メタデータ） (2023-01-20T21:36:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。