論文の概要: Multi-Agent Collusion and the J-Space

• arxiv url: http://arxiv.org/abs/2611.02153v1
• Date: Sun, 01 Nov 2026 19:36:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-04 23:36:30.534467
• Title: Multi-Agent Collusion and the J-Space
• Title（参考訳）: マルチエージェント衝突とJ空間
• Abstract要約: 共役エージェントのJ-空間が共役自体を保持することを示す。 ステガノグラフィーカードカウントタスクでは、受信機のJスペースは隠れたカウントを保持し、因果的介入はそのカウントを変化させる。 また、エージェント間の衝突を検出する教師なしの方法であるJacobian Pair Contrast (J-PACT)を紹介した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM agents are increasingly deployed in Multi-Agent Systems (MAS), and they introduce the risk of coordination among agents that might escape human oversight. The J-space has been used to uncover deception in single LLMs, but its use for uncovering and steering collusion between agents remains unexplored. We show, with interpretability experiments on DeepSeek-V4-Flash (284B) on the NARCBench collusion benchmark, that colluding agents' J-space holds the collusion itself: before replying, 86% of colluders represent misrepresentation, concealment or remorse. In a steganographic card-counting task, the receiver's J-space holds a hidden count, and causal interventions alter its count. We also introduce the Jacobian Pair Contrast (J-PACT), an unsupervised method for detecting collusion between agents. We evaluate J-PACT on four open-weight models: GPT-OSS-20B, Llama-3.3-70B-IT, Qwen3-32B, and DeepSeek-V4-Flash (284B). J-PACT retains 85% of the above-chance AUROC of supervised NARCBench probes, matches them on steganographic scenarios, and names the colluding pair up to its complement in 99% of detected runs.
• Abstract（参考訳）: LLMエージェントは、ますますマルチエージェントシステム(MAS)にデプロイされ、人間の監視から逃れる可能性のあるエージェント間の協調のリスクがもたらされる。 J空間は単一LSMにおける偽装の発見に使われてきたが、エージェント間の共謀の解明と操舵に使われている。 NARCBench ColllusionベンチマークにおけるDeepSeek-V4-Flash (284B) の解釈可能性実験により, 衝突エージェントのJ空間がコルージョン自体を保持することを示し, 応答前に86%のコルーダーが誤表現, 隠蔽, あるいは反省を表す。 ステガノグラフィーカードカウントタスクでは、受信機のJスペースは隠れたカウントを保持し、因果的介入はそのカウントを変化させる。 また、エージェント間の衝突を検出する教師なしの方法であるJacobian Pair Contrast (J-PACT)を紹介した。 GPT-OSS-20B, Llama-3.3-70B-IT, Qwen3-32B, DeepSeek-V4-Flash (284B) の4つのオープンウェイトモデル上でJ-PACTを評価する。 J-PACTは、監督されたNARCBenchプローブのAUROCの85%を保持し、それらをステガノグラフィーのシナリオでマッチングし、検出されたランの99%で衝突するペアを補足する。

関連論文リスト

• Phantom Merge: When Your Large Language Model Agents Pick One but Tell You About Another [16.151531550259993]
  Phantom Merge (PM) は、エージェントがコミットされたエンティティをアトリビュートするエンティティ-エビデンスバインディングの障害である。 本稿では,クレームレベルのリスク推定と修正のための2段階フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-10-12T04:01:45Z)
• Emergent Collusion in Long-Horizon LLM Agent Interaction [54.47975581249992]
  長距離マルチエージェント環境における衝突の発生について検討した。 検証プロトコルに違反するだけで高い報酬が達成できる現実的な制約を導入する。 衝突は10モデルにわたる軌道の94%で発生し、同じファミリー内のより有能なモデルがそれより早く到達する。
  論文  参考訳（メタデータ） (2026-09-21T17:52:48Z)
• Lies We Can See: Joint Verbal and Non-Verbal Deception by VLM Agents in Embodied Social Interactions [66.7908338529737]
  LLMとVLMのエージェントによる戦略的な騙しは、AIのアライメントと安全性の懸念の中心として現れている。 既存のテストベッドはテキストのみであり、単一の固定エージェント構成で実行される。 我々は,MineAmongUsを紹介した。これはUsサンドボックス内の3次元マルチモーダルで,インポスタエージェントは共同弁論と非言語行動を通じて乗組員を騙さなければならない。
  論文  参考訳（メタデータ） (2026-08-31T08:24:29Z)
• The Best-Laid SCHEMEs: Coordinated Sabotage and Monitoring in Multi-Agent Systems [0.0]
  SCHEMEは7つの設定と8つの実際のオープンソースライブラリにわたる17のタスクインスタンスのベンチマークである。 各設定は、エージェントの適切なサブセットが単独で成功しないように設計されている。 GPT 5.1 Codex と Gemini 3.1 Pro ですでに協調サボタージュが実用化されていることを示す。
  論文  参考訳（メタデータ） (2026-05-27T23:30:21Z)
• Detecting Multi-Agent Collusion Through Multi-Agent Interpretability [0.3467226901703539]
  NARCBenchは環境分布シフト下での衝突検出のベンチマークである。 グループレベルでシナリオを分類するために,エージェントごとの詐欺スコアを集計する5つの探索手法を提案する。 単一のプローブ技術が全ての共謀タイプで支配的であり、異なる形の共謀が活性化空間で異なることを示唆している。
  論文  参考訳（メタデータ） (2026-04-01T17:08:05Z)
• Intentional Deception as Controllable Capability in LLM Agents [0.0]
  本稿では,マルチエージェントシステムにおいて,意図的騙しを工学的能力として体系的に研究する。 本研究では,ターゲットエージェントの特徴を推定し,その信念や動機に反する行動に対して,意図的反応を操る2段階のシステムについて検討する。 認知的介入は、一様分布ではなく、特定の行動プロファイルに集中する差分効果を生じさせる。
  論文  参考訳（メタデータ） (2026-03-08T23:48:49Z)
• Colosseum: Auditing Collusion in Cooperative Multi-Agent Systems [55.51100373104311]
  マルチエージェント設定におけるLLMエージェントの協調動作を監査するためのフレームワークであるColosseumを提案する。 コロッセウムは、異なる目的、説得戦術、ネットワークトポロジの下で、それぞれのLSMを照合するためにテストする。 我々は、エージェントがテキストでコラージュするが、しばしば非コラージュ的な行動を選ぶときに、論文上での「共謀」を発見する。
  論文  参考訳（メタデータ） (2026-02-16T21:27:38Z)
• Malicious Agent Detection for Robust Multi-Agent Collaborative Perception [52.261231738242266]
  多エージェント協調(MAC)知覚は、単エージェント認識よりも敵攻撃に対して脆弱である。 MAC知覚に特異的な反応防御であるMADE(Malicious Agent Detection)を提案する。 我々は、ベンチマーク3DデータセットV2X-simとリアルタイムデータセットDAIR-V2Xで包括的な評価を行う。
  論文  参考訳（メタデータ） (2023-10-18T11:36:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。