論文の概要: Thinking Out Loud: Real-Time Deception Monitoring in Asymmetric LLM Negotiations
- arxiv url: http://arxiv.org/abs/2606.30649v1
- Date: Sat, 13 Jun 2026 12:35:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-05 17:01:29.606249
- Title: Thinking Out Loud: Real-Time Deception Monitoring in Asymmetric LLM Negotiations
- Title（参考訳）: 非対称LDMネゴシエーションにおけるリアルタイム誤認モニタリング
- Abstract要約: 軽量リアルタイムチェーンオブ思想モニタは、非対称な交渉中に戦略的偽装を検出することができる。
実験により、このモニターは買い手の歩行率を増加させるが、永続的な情報ギャップが明らかになる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As LLM-based agents are increasingly deployed to negotiate, delegate, or transact on a user's behalf, software pipelines need runtime mechanisms to verify that an agent's stated intentions match its actual behavior. We study whether a lightweight, real-time chain-of-thought (CoT) monitor can detect strategic deception during asymmetric negotiations, using a used-car sales scenario where a seller agent has private knowledge of an undisclosed defect and a buyer agent has only public market data. The monitor, implemented as a third agent, audits the seller's internal reasoning against its messages and alerts the buyer whenever concealment is detected, across multiple buyer-seller model pairings. Our experiments show that this monitor increases the buyer's walk-away rate, but reveal a persistent intelligence gap: lower-capability buyers often cannot translate an alert into an equitable counter-offer and still accept exploitative deals after being warned. Sellers also change their behavior when told they are monitored, though concealment is not eliminated. These results highlight both the promise and limits of lightweight real-time oversight, offering practical guidance for engineers building and validating monitoring infrastructure for agentic systems with conflicting stakeholder incentives.
- Abstract（参考訳）: LLMベースのエージェントは、ユーザの代理として交渉、委譲、あるいはトランザクションのためにますますデプロイされるため、ソフトウェアパイプラインは、エージェントの宣言された意図がその実際の動作に一致することを検証するための実行時メカニズムが必要である。
本研究では,販売業者が未公開の欠陥をプライベートに把握し,買い手業者が公開市場データのみを保有する中古車販売シナリオを用いて,非対称交渉中の戦略的偽装を検出することができるかを検討する。
第3のエージェントとして実装されたモニタは、売り手の内部推論をそのメッセージに対して監査し、複数の買い手と売り手のモデルペアで、隠蔽が検出されたときに、買い手に対して警告する。
当社の実験では、このモニターは買い手の歩行率を増加させるが、持続的な情報ギャップが明らかになっている。
販売者は監視されていると告げると行動を変えるが、隠蔽は排除されない。
これらの結果は、軽量なリアルタイム監視の約束と限界の両方を強調し、利害関係者のインセンティブに反するエージェントシステムの監視インフラストラクチャの構築と検証を行うエンジニアのための実践的なガイダンスを提供する。
関連論文リスト
- Knowledge-Verified Emergent Deception in LLM Agents Under Conflicting Incentives [31.91558200083629]
KnownLieBenchは、エージェントがユーザの権利を知っていることを最初に確認する知識検証ベンチマークである。
そして、権利が導入されたことを否定するインセンティブが一度虚偽の主張をするかどうかを評価する。
論文 参考訳（メタデータ） (2026-08-26T19:56:13Z) - Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle [65.6642776933861]
この介入点付近で成長した保護パラダイムについて検討する。
ほとんどの保護は、主に静的あるいは弱い適応的な敵に対して検証されている。
我々は、堅牢で構成可能で、デプロイ可能な所有者側の保護のために、クロスステージ対策とオープンな問題を統合することで、閉鎖する。
論文 参考訳（メタデータ） (2026-08-05T00:46:50Z) - Bootstrapped Monitoring: Leveraging Transparent Reasoning to Oversee Stronger AI Agents [1.5722704995548957]
フロンティアモデルの性能が向上するにつれて、信頼できないモデルと信頼できないモデルの間の機能ギャップは、信頼できないモニターをレンダリングする可能性がある。
このプロトコルは、より強力で信頼性の低い非信頼モデルと透明なチェーン・オブ・シークレットの推論を、監視チェーンに挿入することで、この問題に対処する。
以上の結果から,自律型監視は,AI能力の進歩とともに,信頼されたモデルが制御において有用な寿命を延ばすことが示唆された。
論文 参考訳（メタデータ） (2026-06-10T12:24:29Z) - The Arbiter Agent: Continually Monitoring Multi-Agent Conversations to Detect Emergent Misalignment [2.8807875670834506]
本稿では,マルチエージェントの会話をリアルタイムで監視し,どの参加者が不一致に行動しているかを特定するエージェントであるArbiterを紹介する。
Arbiterは限定的な「検査予算」の下で運用されており、リソースの使い方を慎重に決めなければならない。
リスクの高い金融アドバイスモデルから評価意識・衝突エージェントまで,5つの会話条件でArbiterを評価した。
論文 参考訳（メタデータ） (2026-06-09T11:57:02Z) - PrivacyPeek: Auditing What LLM-Based Agents Acquire, Not Just What They Say [48.84133320567554]
LLMベースのエージェントは急速に進歩し、ユーザーのタスクを完了させるために外部ツールを自律的に呼び出している。
既存のプライバシベンチマークは、エージェントの応答や外部アクションが開示するものを監査するが、データがエージェントのコンテキストに最初に入力される取得ステージを見落としている。
LLMエージェントの取得段階のプライバシー漏洩を評価するベンチマークであるemphPrivacyPeekを紹介する。
論文 参考訳（メタデータ） (2026-05-29T04:55:12Z) - Who Owns This Agent? Tracing AI Agents Back to Their Owners [7.444382451377645]
AIエージェントはますます、世界で自律的に行動するようにデプロイされている。
悪意あるエージェントを、それをデプロイしたアカウントに遡る信頼できる方法はまだない。
この問題を定義し、実用的な解決策を提示する最初の試みである。
論文 参考訳（メタデータ） (2026-05-15T15:10:33Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳（メタデータ） (2026-04-21T15:05:58Z) - Noticing the Watcher: LLM Agents Can Infer CoT Monitoring from Blocking Feedback [48.40096834514452]
言語モデルエージェントの内部推論を監督する手法として,Chain-of-Thought(CoT)モニタリングを提案する。
我々は、推論エージェントが彼らのプライベートなCoTが監視下にあると自律的に推測できるかどうかを尋ねる。
フェデラーモデルでは、フィードバックをブロックすることで、このモニターの存在を純粋に推測することができる。
論文 参考訳（メタデータ） (2026-03-14T00:12:14Z) - Preventing the Collapse of Peer Review Requires Verification-First AI [49.995126139461085]
我々は、真理結合、すなわち、過度に科学的真理をトラックする場所のスコアの厳密さを提案する。
プロキシ・ソブリン評価に向けた相転移を駆動する2つの力の形式化を行う。
論文 参考訳（メタデータ） (2026-01-23T17:17:32Z) - Gaming the Judge: Unfaithful Chain-of-Thought Can Undermine Agent Evaluation [76.5533899503582]
大規模言語モデル(LLM)は、エージェントのパフォーマンスを評価するために、ますます裁判官として使われている。
このパラダイムは、エージェントのチェーン・オブ・シークレット(CoT)推論が内部の推論と環境状態の両方を忠実に反映していることを暗黙的に仮定している。
我々は、操作された推論だけで、様々なWebタスクにまたがる800の軌跡に対して、最先端のVLM審査員の偽陽性率を最大90%向上させることができることを実証した。
論文 参考訳（メタデータ） (2026-01-21T06:07:43Z) - Insured Agents: A Decentralized Trust Insurance Mechanism for Agentic Economy [2.854482269849925]
エージェント・アット・テイク」に代わるプロトコルネイティブな代替案を提案する。
特別保険会社は、プレミアムと引き換えに運用担当者の代理として株式を掲示し、TEEを通じて特権的かつプライバシー保護された監査アクセスを受け取り、クレームを評価している。
階層的な保険会社市場は、価格を通じて利害関係を調整し、競争力のある引受を通じて検証を分散させ、インセンティブに適合する紛争解決をもたらす。
論文 参考訳（メタデータ） (2025-12-09T15:47:16Z) - Reliable Weak-to-Strong Monitoring of LLM Agents [6.922769543581406]
我々は,自律エージェントの隠蔽行動を検出するためのテスト監視システムを強調した。
我々は、様々なレベルのエージェントを組み込んだ監視レッドチーム(MRT)ワークフローを開発し、状況認識を監視する。
さらなる研究を促進するために、コード、データ、ログをリリースしています。
論文 参考訳（メタデータ） (2025-08-26T22:29:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。