論文の概要: Knowing Whom to Trust is not Enough: The Trust--Agreement Gap in Repeated Multi-Party LLM Negotiation

• arxiv url: http://arxiv.org/abs/2610.31971v1
• Date: Thu, 22 Oct 2026 22:24:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 01:38:06.305347
• Title: Knowing Whom to Trust is not Enough: The Trust--Agreement Gap in Repeated Multi-Party LLM Negotiation
• Title（参考訳）: 信頼する人を知ることは十分ではない:-繰り返し多人数LMネゴシエーションにおける信頼のギャップ
• Abstract要約: 大規模言語モデル (LLM) エージェントが, 先行する相互作用から有用な信頼度を推定できるかどうかを検討する。 信頼は合意率を最大23ポイント引き上げるが、エージェントが決定にそれを使うよう明示的に指示された場合に限られる。
• 参考スコア（独自算出の注目度）: 10.050461146504583
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model (LLM) agents increasingly participate in negotiations on behalf of individuals and organizations, yet they remain vulnerable to manipulation, particularly in repeated multi-party interactions. Classical multi-agent systems address this challenge through explicit trust and reputation models, whereas existing work on LLM negotiation largely treats trust as an emergent phenomenon. We investigate whether LLM agents can form useful trust estimates from prior interactions and leverage them to improve future negotiation outcomes. We introduce a repeated, multi-party, multi-issue negotiation framework in which recurring agents participate in a sequence of negotiation games while one participant covertly attempts to prevent agreement. After each game, agents assess their counterparts and maintain pairwise trust estimates that carry over to subsequent negotiations. We compare trust-aware and trust-agnostic agents and analyze how explicit trust influences negotiation outcomes. Our results reveal a \emph{trust--agreement gap}: trust-aware agents can identify the adversary within a few games, but accurate trust estimates do not consistently translate into better agreements. Trust increases agreement rates by up to 23 percentage points, but only when agents are explicitly guided to use it in their decisions. Explicit trust can therefore improve repeated LLM negotiations, but its value depends critically on how trust is assessed and incorporated into agents' reasoning.
• Abstract（参考訳）: 大規模言語モデル(LLM)エージェントは、個人や組織のために交渉に参加することが多いが、操作には弱い。 古典的なマルチエージェントシステムは、明示的な信頼と評判モデルを通じてこの問題に対処する一方、LLM交渉に関する既存の研究は、信頼を創発的な現象として扱う。 我々は,LLMエージェントが事前のインタラクションから有用な信頼度を推定し,それらを活用して今後の交渉結果を改善することができるかどうか検討する。 本稿では,複数政党・複数政党間の交渉を繰り返す枠組みを導入し,ある参加者が合意を守ろうとする間,繰り返しエージェントが一連の交渉ゲームに参加する。 各試合の後、エージェントはそれぞれの相手を評価し、その後の交渉を継続するペアワイズな信頼推定を維持する。 信頼認識エージェントと信頼認識エージェントを比較し、信頼が交渉結果にどのように影響するかを分析する。 信頼を意識したエージェントは、いくつかのゲームで敵を識別できるが、正確な信頼推定は、常により良い合意に変換されない。 信頼は合意率を最大23ポイント引き上げるが、エージェントが決定にそれを使うよう明示的に指示された場合に限られる。 したがって、明示的な信頼は、繰り返しLLM交渉を改善することができるが、その価値は、どのように信頼が評価され、エージェントの推論に組み込まれるかに大きく依存する。

関連論文リスト

• Building and Measuring Trust between Large Language Models [10.539443038617089]
  信頼を構築するための異なる戦略がどのように比較されるか、信頼がどのように暗黙的に測定されるか、そしてそれが信頼の明示的な尺度にどのように関係するかについて研究する。 我々は3つの方法で信頼を構築する。ラプポートを動的に構築すること、信頼を証明した事前記述スクリプトから始めること、LLMのシステムプロンプトに適応することである。 意外なことに、明示的な信頼の尺度は、暗黙的な信頼の尺度とほとんどあるいは非常に負の相関がないことがわかりました。
  論文  参考訳（メタデータ） (2025-08-20T11:38:38Z)
• Ties of Trust: a bowtie model to uncover trustor-trustee relationships in LLMs [1.1149261035759372]
  大規模言語モデル(LLM)における信頼の概念化と定式化のためのボウイモデルを提案する。 コアコンポーネントは、信頼者と信頼者、そしてそれらの複雑な関係を結び付けることによって、信頼を包括的に探求する。 我々はこれらの関係を、提案されたボウティーモデルと、その社会技術エコシステムの範囲内で明らかにする。
  論文  参考訳（メタデータ） (2025-06-11T11:42:52Z)
• Attention Knows Whom to Trust: Attention-based Trust Management for LLM Multi-Agent Systems [52.57826440085856]
  LLM-MAS(Large Language Model-based Multi-Agent Systems)は、複雑なタスクを解く上で強力な能力を示すが、エージェントが信頼性の低いメッセージを受け取ると弱いままである。 LLMエージェントは、信頼性を評価することなく、すべての受信メッセージを平等に扱う。 本稿では,メッセージの信頼度を評価するための軽量な注意ベース手法であるAttention Trust Score (A-Trust)を提案する。
  論文  参考訳（メタデータ） (2025-06-03T07:32:57Z)
• DebUnc: Improving Large Language Model Agent Communication With Uncertainty Metrics [52.242449026151846]
  大規模言語モデル(LLM)の精度向上のためのマルチエージェント論争が紹介されている。 エージェントの信頼性を評価するために不確実性指標を用いた議論フレームワークであるDebUncを提案する。
  論文  参考訳（メタデータ） (2024-07-08T22:15:01Z)
• Fostering Trust and Quantifying Value of AI and ML [0.0]
  AIとML推論の信頼について多くの議論がなされているが、それが何を意味するのかを定義するためにはほとんど行われていない。 より信頼できる機械学習推論を生み出すことは、製品の価値を高めるための道です。
  論文  参考訳（メタデータ） (2024-07-08T13:25:28Z)
• When to Trust LLMs: Aligning Confidence with Response Quality [49.371218210305656]
  我々はconfidence-Quality-ORDer保存アライメントアプローチ(CONQORD)を提案する。 品質報酬と秩序保存アライメント報酬機能を統合する。 実験により,CONQORDは信頼性と応答精度のアライメント性能を著しく向上することが示された。
  論文  参考訳（メタデータ） (2024-04-26T09:42:46Z)
• How Well Can LLMs Negotiate? NegotiationArena Platform and Analysis [50.15061156253347]
  人間は自動車の価格から共通の資源の共有方法まで、あらゆることを交渉する。 大規模言語モデル(LLM)を人間の代理エージェントとして使うことへの関心が急速に高まっているため、そのようなLLMエージェントも交渉できる必要がある。 我々は,LLMエージェントの交渉能力を評価し,検証するためのフレキシブルなフレームワークであるNegotiationArenaを開発した。
  論文  参考訳（メタデータ） (2024-02-08T17:51:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。