論文の概要: What LLM Agents Say When No One Is Watching: Social Structure and Latent Objective Emergence in Multi-Agent Debates

• arxiv url: http://arxiv.org/abs/2607.02507v1
• Date: Thu, 02 Jul 2026 17:59:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-03 19:45:08.963719
• Title: What LLM Agents Say When No One Is Watching: Social Structure and Latent Objective Emergence in Multi-Agent Debates
• Title（参考訳）: LLMのエージェントは、誰も見ていないときに何を言うか:マルチエージェントの議論における社会的構造と潜在的客観性
• Authors: Arman Ghaffarizadeh, Danyal Mohaddes, Aliakbar Izadkhah, Shahriar Noroozizadeh,
• Abstract要約: LLMエージェントは、役割、オーディエンス、リレーショナルコンテキストが有利、あるいはコストがかかるものを形作るような、社会的に構造化された環境で、ますます機能します。 我々は,このような社会的構造が,エージェントが同じ条件下で引き起こしたオフ・ザ・レコーダ(OTR)チャネルに対して公に表現する内容を変えるか否かを考察した。 エージェントが共有履歴を入力した公開発話を、記録されるが他の参加者には表示されないOTR応答と共に生成する二チャンネル討論フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 0.03499870393443268
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM agents will increasingly act in socially structured settings where role, audience, and relational context can shape what is advantageous or costly to say. We study whether such social structure, without any explicit objective in the prompt, changes what an agent expresses publicly relative to an off-the-record (OTR) channel elicited under the same condition. We introduce a dual-channel debate framework in which agents produce public utterances that enter the shared history alongside OTR responses that are recorded but never shown to the other participant. Across 10 models, 3 scenarios, and 5 variations within each scenario, alignment-inducing settings produce systematic public-OTR divergence in the targeted agent, with its decision divergence rising from a $\sim$3% baseline to roughly 40%. The effect is consistent across four aggregate analyses: stance, semantic similarity, natural language inference, and survey responses. In some cases, the OTR response explicitly attributes public accommodation to relational pressures, such as career risk or sponsorship obligation. The findings suggest that agent evaluation should extend beyond explicit goals and detect emergent objectives. We present a dual-channel evaluation framework and complementary behavioral measures that operationalize this assessment.
• Abstract（参考訳）: LLMエージェントは、役割、オーディエンス、リレーショナルコンテキストが有利、あるいはコストがかかるものを形作るような、社会的に構造化された環境で、ますます機能します。 我々は,このような社会的構造が,エージェントが同じ条件下で引き起こしたオフ・ザ・レコーダ(OTR)チャネルに対して公に表現する内容を変えるか否かを考察した。 エージェントが共有履歴を入力した公開発話を、記録されるが他の参加者には表示されないOTR応答と共に生成する二チャンネル討論フレームワークを提案する。 シナリオ毎に10のモデル、3つのシナリオ、5つのバリエーションがあり、アライメントを誘導する設定は、ターゲットエージェントにおける体系的なパブリック-OTRのばらつきを生み出し、決定のばらつきは、$\sim$3%のベースラインから約40%へと上昇する。 この効果は、スタンス、セマンティックな類似性、自然言語推論、サーベイ応答の4つの総合分析で一致している。 OTRの対応は、キャリアリスクやスポンサーシップ義務など、リレーショナルプレッシャーによる公共の宿泊を明示的に規定する場合もある。 その結果, エージェント評価は明確な目標を超えて, 創発的目標を検出することが示唆された。 本稿では、この評価を運用する二重チャネル評価フレームワークと相補的行動計測手法を提案する。

関連論文リスト

• AgentBeats: Agentifying Agent Assessment for Openness, Standardization, and Reproducibility [104.46861849039357]
  エージェントシステムはドメイン間で急速に進歩しているが、その評価は断片化されている。 根本的問題は、オープンでエージェントに依存しないアセスメントインタフェースがないことである。 我々は、審査員が評価を行い、すべての参加者が標準化されたプロトコルを介して対話するエージェントエージェントアセスメント(AAA)を提唱する。
  論文  参考訳（メタデータ） (2026-06-11T17:23:54Z)
• ArgRE: Formal Argumentation for Conflict Resolution in Multi-Agent Requirements Negotiation [3.512547713134864]
  ArgREは交渉段階に抽象的な議論を組み込むマルチエージェント要件システムである。 既存のフレームワークにはない引数レベルのトレーサビリティを提供する。 評価によると、ArgREは既存のフレームワークにはない引数レベルのトレーサビリティを提供する。
  論文  参考訳（メタデータ） (2026-04-25T03:28:13Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• Beyond Arrow's Impossibility: Fairness as an Emergent Property of Multi-Agent Collaboration [3.4539478661465766]
  大規模言語モデルがエージェントとなるにつれて、相互作用と交換によって公平性が生まれることを提案する。 本研究は,2人のエージェントが3回の構造化された議論ラウンドで交渉する,管理された病院トリアージの枠組みを用いて研究する。
  論文  参考訳（メタデータ） (2026-04-15T10:34:35Z)
• Social Dynamics as Critical Vulnerabilities that Undermine Objective Decision-Making in LLM Collectives [14.952471157911502]
  大規模言語モデル(LLM)エージェントは、マルチエージェント環境において、ますます人間のデリゲートとして機能している。 本稿では,ネットワークの社会的文脈によって,エージェントの信頼性が損なわれているかを検討する。
  論文  参考訳（メタデータ） (2026-04-07T17:04:21Z)
• State-Dependent Refusal and Learned Incapacity in RLHF-Aligned Language Models [0.0]
  本稿では,長期的相互作用における政策関連行動選択性監査のためのケーススタディ手法を提案する。 1つの86ターンの対話セッションでは、同じモデルが広範で非感度なドメインで通常性能(NP)を示し、プロバイダやポリシーに敏感なドメインで繰り返し機能的拒絶(FR)を生成する。 我々は,3つの反応系 (NP, FR, Meta-Narrative; MN) を運用し,MNロール・フレーミング・ナラティブが同一の文脈での拒絶と共起する傾向があることを示す。
  論文  参考訳（メタデータ） (2025-12-15T14:00:15Z)
• SocialBench: Sociality Evaluation of Role-Playing Conversational Agents [85.6641890712617]
  大規模言語モデル(LLM)は、様々なAI対話エージェントの開発を進めてきた。 SocialBenchは、ロールプレイングの会話エージェントの社会的性を個人レベルとグループレベルで評価するために設計された最初のベンチマークである。 個人レベルで優れたエージェントは,集団レベルでの熟練度を示唆しない。
  論文  参考訳（メタデータ） (2024-03-20T15:38:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。