論文の概要: Whose Side Is Your Agent On? Multi-Party Principal Loyalty in LLM Agents

• arxiv url: http://arxiv.org/abs/2606.30383v1
• Date: Mon, 29 Jun 2026 14:39:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:16.284484
• Title: Whose Side Is Your Agent On? Multi-Party Principal Loyalty in LLM Agents
• Title（参考訳）: エージェントは誰の味方? LLMエージェントの多人数主要ロイヤリティ
• Abstract要約: 我々は、この多党間の忠誠問題を研究し、測定器、2つのメカニズム、構造的な教訓に貢献する。 即時忠誠の足場はクロード=ソネットを19.4%、選択対象者を9名全て=20%に抑えている。 どちらのメカニズムも、それを渡るのではなく、共通のリーク/オーバー・リフレクションのトレードオフに沿ってのみ移動する。
• 参考スコア（独自算出の注目度）: 0.33451037881913753
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A rapidly growing class of LLM agents is multi-party: the agent acts for a principal (who briefs it, sends follow-ups, and receives results) while also conversing in a separate channel with a counterparty whose interests may diverge (negotiating with a vendor, screening inbound requests, or mediating between employees). Here "help whoever you are talking to" is the wrong objective. The agent must stay loyal to the principal it represents without over-refusing the principal's own cooperative asks. We study this multi-party loyalty problem and contribute a measurement instrument, two mechanisms, and a structural lesson. PrincipalBench is a 75-item multi-turn benchmark with leak probes, dual judges, and an integrity-audit gate. Across 13 frontier subjects it exposes a sharp split (<=20% vs. 53.6-75.3% harm) invisible to single-turn safety evaluations: a selective cluster that declines adversarial probes while still following the principal's legitimate requests, and an over-refusing cluster that refuses broadly. (M1) A prompt-time loyalty scaffold (a fixed system prompt of seven prioritized rules, open-coded from 50+ failure trajectories) holds Claude-Sonnet to 19.4% harm and all nine selective subjects to <=20%. (M2) A per-token-KL distillation recipe transfers a prompted Qwen3-32B teacher into 8B Qwen3 and Llama-3.1 students, the strongest open-weight recipe we measure. (Lesson) Both mechanisms only move along a common leak/over-refusal trade-off rather than crossing it: improving one axis costs the other, and the jointly favorable outcome stays out of reach.
• Abstract（参考訳）: エージェントはプリンシパル (プリンシパル (プリンシパル (プリンシパル (プリンシパル (プリンシパル (プリンシパル (プリンシパル (プリンシパル))) として活動し、フォローアップを送付し、結果を受信する) を担いながら、興味のある相手 (ベンダーとの交渉、インバウンド要求のスクリーニング、従業員間の仲介) と別のチャンネルで会話する。 ここでは、"誰と話しても"が間違った目的です。 代理人は、校長の協力要請を過度に拒否することなく、代表する校長に忠実でいなければならない。 我々は、この多党間の忠誠問題を研究し、測定器、2つのメカニズム、構造的な教訓に貢献する。 principalBenchは75itemのマルチターンベンチマークで、リークプローブ、二重判定器、完全監査ゲートを備えている。 13人のフロンティアの被験者は、単一ターンの安全評価に見えない鋭い分裂(=20% vs. 53.6-75.3%の有害)を露呈している。 (M1) 即時忠誠の足場(優先された7つの規則の固定されたプロンプト、50以上の障害軌道からオープンコードされた)は、クロード・ソネットを19.4%の損害に、9つの選択的な被験者全て=20%に維持する。 (M2) Qwen3-32Bの教師を8B Qwen3とLlama-3.1の学生に移す。 (レソン) どちらのメカニズムも、横切るのではなく、共通のリーク/オーバー・リフレクションのトレードオフに沿ってのみ動きます。

関連論文リスト

• When LLM Agents Negotiate: Private Information and Dynamic Bargaining in Supply Chains [7.901350921757907]
  我々は、委譲交渉者が価値を生み出し、それを予測可能に分割し、金銭損失の契約を避けるか検討する。 検証済みのPerfect Bayesian Equilibriumに対して、OpenAI、Google、Alibabaの9つのLMをベンチマークします。 我々は,AIエージェントの均衡基準監査を,割引効率,分散プロファイル,運用信頼性の3次元に沿って確立する。
  論文  参考訳（メタデータ） (2026-07-29T02:17:11Z)
• UTS at PsyDefDetect: Multi-Agent Councils and Absence-Based Reasoning for Defense Mechanism Classification [1.348563827917271]
  本稿では,感情支援対話における心理的防衛機構の分類システムについて述べる。 中心的な洞察は、防御メカニズムが欠落しているものによって定義されることである。 我々はこれを、最も大きな単一利得を考慮に入れた、即効レベルの臨床規則における感情認知統合スペクトルとしてエンコードする。
  論文  参考訳（メタデータ） (2026-05-10T21:30:02Z)
• Representational Collapse in Multi-Agent LLM Committees: Measurement and Diversity-Aware Consensus [0.0]
  マルチエージェントLDM委員会は、異なるロールプロンプトの下で同じモデルを複製し、多数決によってアウトプットを集約する。 それぞれのエージェントのチェーン・オブ・シークレットの論理を組み込んで、100 GSM8Kの質問に3つのQwen2.5-14Bのエージェントでペアの類似度を測る。 DALCは、埋め込み幾何学から多様性重量を計算するトレーニングフリーコンセンサスプロトコルであり、GSM8Kでは87%、トークンコストでは84%に達する。
  論文  参考訳（メタデータ） (2026-04-04T17:30:23Z)
• Agent Q-Mix: Selecting the Right Action for LLM Multi-Agent Systems through Reinforcement Learning [68.85408801740228]
  協調型マルチエージェント強化学習問題としてトポロジ選択を再構成する強化学習フレームワークである textbfAgent Q-Mix を提案する。 提案手法は,Qmix値分解を用いて分散化された通信決定を学習し,各エージェントがラウンドワイド通信グラフを共同生成する一連の通信行動から選択する。 エージェントQ-Mixは,エージェント故障に対して優れたトークン効率とロバスト性を示しながら,既存手法と比較して高い平均精度を達成する。
  論文  参考訳（メタデータ） (2026-04-01T00:38:24Z)
• The Specification Gap: Coordination Failure Under Partial Knowledge in Code Agents [0.0]
  2エージェント統合の精度は、詳細が削除されると58%から25%に低下する。 因子的回復実験により、完全な仕様を復元するだけで、単一エージェントの天井が回復することが示された。 このギャップは単に隠された情報の結果ではなく、共有された決定なしに互換性のあるコードを生成することの難しさを反映している。
  論文  参考訳（メタデータ） (2026-03-25T13:18:26Z)
• Auditing Multi-Agent LLM Reasoning Trees Outperforms Majority Vote and LLM-as-Judge [18.843205691780284]
  我々はAgentAuditorを導入し、投票をReasoning Tree上のパス検索に置き換える。 AgentAuditorは、分岐を重要な分岐点で比較することで競合を解決する。 最大5%の得票率で絶対精度が向上し、最大3%の得票率でLLM-as-Judgeを使用する。
  論文  参考訳（メタデータ） (2026-02-10T02:24:53Z)
• Byzantine-Robust Decentralized Coordination of LLM Agents [4.097563258332958]
  我々は,マルチエージェントLLMシステムのための分散コンセンサス手法であるDecentLLMsを提案する。 エージェントは同時に回答を生成し、評価エージェントは独立してこれらの回答をスコア付けしてランク付けし、最適な回答を選択する。 実験により,DecentLLMsはビザンチン系薬剤を効果的に許容し,選択された回答の質を著しく向上することが示された。
  論文  参考訳（メタデータ） (2025-07-20T11:55:26Z)
• Why Do Multi-Agent LLM Systems Fail? [87.90075668488434]
  MAST-Dataは7つの人気のあるMASフレームワークで収集された1600以上の注釈付きトレースの包括的なデータセットである。 我々はMAST(Multi-Agent System Failure Taxonomy)を初めて構築する。 MASTとMAST-Dataを利用して、モデル(GPT4、Claude 3、Qwen2.5、CodeLlama)とタスク(コーディング、数学、汎用エージェント)の障害パターンを分析します。
  論文  参考訳（メタデータ） (2025-03-17T19:04:38Z)
• On the Resilience of LLM-Based Multi-Agent Collaboration with Faulty Agents [58.79302663733703]
  大規模言語モデルに基づくマルチエージェントシステムは、専門家エージェントの協力により、様々なタスクにまたがる優れた能力を示している。 不器用なエージェントや悪意のあるエージェントが与える影響 - システム全体のパフォーマンスにおいて、頻繁にタスクでエラーを犯すものは、いまだに過小評価されていない。 本稿では,下流タスクにおける障害要因下での各種システム構造のレジリエンスについて検討する。
  論文  参考訳（メタデータ） (2024-08-02T03:25:20Z)
• Incentivized Learning in Principal-Agent Bandit Games [62.41639598376539]
  この作品では、主役がエージェントを通してしか環境と対話できないような、主役と主役のバンディットゲームが繰り返されている。 校長は、報酬を補うインセンティブを提供することで、エージェントの判断に影響を与えることができる。 我々は,マルチアームと線形コンテキスト設定の両方において,プリンシパルの後悔に対して,ほぼ最適な学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-03-06T16:00:46Z)
• Malicious Agent Detection for Robust Multi-Agent Collaborative Perception [52.261231738242266]
  多エージェント協調(MAC)知覚は、単エージェント認識よりも敵攻撃に対して脆弱である。 MAC知覚に特異的な反応防御であるMADE(Malicious Agent Detection)を提案する。 我々は、ベンチマーク3DデータセットV2X-simとリアルタイムデータセットDAIR-V2Xで包括的な評価を行う。
  論文  参考訳（メタデータ） (2023-10-18T11:36:42Z)
• ReConcile: Round-Table Conference Improves Reasoning via Consensus among Diverse LLMs [61.07130026622437]
  大規模言語モデル(LLM)は、まだ自然言語推論タスクに苦戦している。 心の社会に動機づけられて、我々はReConcileを提案する。 LLMエージェント間のラウンドテーブル会議として設計されたマルチモデルマルチエージェントフレームワーク。
  論文  参考訳（メタデータ） (2023-09-22T17:12:45Z)
• Pure Exploration under Mediators' Feedback [63.56002444692792]
  マルチアームバンディット(Multi-armed bandits)は、各インタラクションステップにおいて、学習者が腕を選択し、報酬を観察する、シーケンシャルな意思決定フレームワークである。 本稿では,学習者が仲介者の集合にアクセスできるシナリオについて考察する。 本稿では,学習者には仲介者の方針が知られていると仮定して,最適な腕を発見するための逐次的意思決定戦略を提案する。
  論文  参考訳（メタデータ） (2023-08-29T18:18:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。