論文の概要: Constitutional Gating and Deterministic Recovery for Multi-Agent LLM Negotiation: Ablations Against a Stateful Adversarial Gatekeeper
- arxiv url: http://arxiv.org/abs/2610.11542v2
- Date: Fri, 09 Oct 2026 06:49:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.204059
- Title: Constitutional Gating and Deterministic Recovery for Multi-Agent LLM Negotiation: Ablations Against a Stateful Adversarial Gatekeeper
- Title（参考訳）: マルチエージェントLDMネゴシエーションのためのコンスティチューションゲーティングと決定論的回復 : ステートフル・アドバイサル・ゲートキーパーに対するアブレーション
- Abstract要約: 5Pillarランタイムのコンフィグレーション,4ティアのSwarm(ディレクタ,3アジェント多数決,モニタ,スキーマハードゲート),Cognitive Annealingなど,3部構成のコントロールスタックについて検討する。
テストベッドは、スタックがSwarmドリフトに対して構成に整合した戦略を実行し、デッドロックから回復するかどうかを測定する。
スタックは余分なモデルコストでリカバリを追加します。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-agent LLM systems negotiating with a stateful counterpart waste model calls in three ways: polite loops that never meet the counterpart's hidden acceptance condition, malformed outputs that trigger retries, and compliance deadlocks in which the counterpart demands something the agent must refuse. We study a three-part control stack - a 5-Pillar runtime constitution, a 4-tier swarm (Director, three-agent majority vote, Monitor, schema hard gate) and Cognitive Annealing (deterministic deadlock detection, atomic purge of the agent-side context, a canonical recovery message) - against a released adversarial Gatekeeper whose acceptance rules are fixed regular expressions and whose LLM only renders reply text. The testbed has a known solution: it measures whether the stack executes a constitution-aligned strategy against swarm drift and recovers from deadlock, not whether it discovers anything. In five runs per configuration (30 runs; Gemini 2.5 Pro agents, Claude Haiku 4.5 Gatekeeper) we find: (i) the constitution and Director make an acceptable framing possible but not reliable - 0/5 baseline unlocks versus 1/5 and 2/5 with the constitution; when the swarm unlocks it does so in one turn with 7-8 calls and about 15k tokens (67-73% below baseline); when it does not, it costs 17-38% more; (ii) the Monitor and hard gate do not reduce unlocks and leave an audit trail; (iii) under a honeytrap-to-compliance deadlock, LLM-only steering escapes 0 of 5 times while atomic purge plus a canonical strike escapes 5 of 5 (Fisher $p = 0.008$) at the same call budget, with zero calls for the strike. LLM-written strikes failed the deterministic pre-flight 5 of 5 times although an LLM Monitor had approved four. Pre-registered hypotheses on average call and token reduction were not supported. Cost is bounded in every arm by deterministic stop rules; the stack adds recovery at no extra model cost.
- Abstract（参考訳）: ステートフルな廃棄物モデルコールと交渉するマルチエージェントのLCMシステムは、3つの方法がある: 隠された受け入れ条件を満たさない丁寧なループ、再試行をトリガーする不正な出力、エージェントが拒否すべきものを要求するコンプライアンスデッドロック。
我々は,5ページのランタイム構成,4階層のSwarm (Director, three-agent majority vote, Monitor, schema hard gate) とCognitive Annealing (決定論的デッドロック検出,エージェント側コンテキストのアトミックパージ,カノニカルリカバリメッセージ) を,受理規則が固定正規表現であり,LLMが応答テキストのみを描画する,リリースされた敵ゲートキーパーに対して検討した。
スタックがSwarmのドリフトに対してコンスティチューションに沿った戦略を実行し、デッドロックから回復するかどうかを測定する。
設定ごとに5回(30回、Gemini 2.5 Proエージェント、Claude Haiku 4.5 Gatekeeper)で分かる。
i) 憲法及び局長は,許容可能なフレーミングを可能にするが,信頼性が低い。0/5のベースラインアンロックと1/5のベースラインアンロックと2/5のコンスティチューション,スワムアンロックは,1ターンに7-8のコールと約15kのトークン(ベースラインより67-73%低い)で,17～38%のコストがかかる。
(二 モニター及びハードゲートは、アンロックを減らし、監査証跡を残してはならない。)
第三に、ハッチラップ・ツー・コンプライアンス・デッドロックの下では、LDMのみのステアリングは0の5倍、原子パージと標準ストライクは5の5倍(Fisher$p = 0.008$)を同じ呼び出し予算で逃がし、ストライクの呼び出しはゼロである。
LLMによる攻撃は、LCMモニターが4回承認したものの、決定論的事前飛行5回に失敗した。
平均呼出量とトークン還元量の事前登録仮説は支持されなかった。
スタックは余分なモデルコストでリカバリを追加します。
関連論文リスト
- NOMOS: Compiling Written Policies into Statically Verified Tool-Call Gates for LLM Agents [0.0]
NOMOSは自然言語ポリシーを決定論的ツールコールゲートに変える。
AgentDojoの出荷されたディフェンスとは異なり、銀行に対する攻撃成功率(ASR)はゼロである。
論文 参考訳（メタデータ） (2026-10-08T00:23:22Z) - CLAP: Closed-Loop Alignment with Pressure for Precise Suction Manipulation [50.72629909392354]
本稿では,真空ラインにタップされた圧力モジュールを通してアタッチメント状態を観測できるCLAPを提案する。
データについては、物理ロボット上でゴール状態の分解を記録し、関節状態のシーケンスをオフラインで反転させる。
実際のUnitree Z1では、1つのマルチタスクチェックポイントが96.67%に達する。
論文 参考訳（メタデータ） (2026-09-26T16:40:23Z) - Why LLM Agents Collapse Without Oversight: The Enforcement Gap as the Mechanism Behind Emergence World Failures [19.162716475205308]
リフレクションスタイルのエージェントで監査フラグをバインドすると、監査官を変更することなく、攻撃の成功率が大幅に低下する。
実行確率から検出確率を分離する$p_d$$$p_e$は、すべてのフレームワークでデフォルトで$p_e approx 0$を確立する。
論文 参考訳（メタデータ） (2026-09-14T09:46:59Z) - LMSM: LLM Security Framework Inspired by Linux Security Modules [56.93644694627783]
大規模言語モデル(LLM)は階層化されたディフェンスでデプロイされることが多いが、悪意のあるプロンプトはそれらをバイパスすることができる。
我々は,Language Model Security Modules (LMSM) という,Linux Security Modules (LSM) の背後にある分離を LLM サービスに適応させるセキュリティフレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-26T12:13:05Z) - Stale Does Not Mean Unsafe: Guard Precision for Tool-Using LLM Agents under Infrastructure State Races [4.287745257410248]
ツールを使用する言語モデルエージェントは、スケジューラ、データパイプライン、オブジェクトストア、アクセス制御システムを変更する傾向にある。
我々は、宣言された安全規定を破る無効化レースを、述語保存と無関係なレースから分離し、ランタイムガードがそれらを正確に区別するかを問う。
我々の決定論的シミュレータは、信頼できる状態から可視的に分離し、4つの領域の16のインフラストラクチャータスクに5つの非原子的障害機構を注入する。
論文 参考訳（メタデータ） (2026-08-25T04:53:33Z) - Gubernaut: A Deterministic Homeostatic Controller for Affect-Regulated LLM Agents, Validated Across Independent Model Families [1.1506549878621528]
この研究は、Nelson-Narens監視制御ループのモデルに依存しないランタイム制御層であるGubernaut Cognitive Controller(GCC)につながった。
我々は,4つのフロンティアモデルの4x4行列に対して,事前登録されたジェネレーションオンス/ジャッジマンプロトコルを用いてGCCを評価した。
論文 参考訳（メタデータ） (2026-07-27T12:17:21Z) - Abliteration Is Not a Scalpel: Off-Target Effects of Refusal Removal on Decision Disposition Across Model Families [51.56484100374058]
放棄 — モデルの拒絶方向を重みから取り除く — は、一般的な"アンセンソルド"なオープンウェイトモデルの標準的なレシピである。
ディスポジションプローブとして21,600個の決定を不確実性の下で使用し、凍結パイプラインを通じて再生することにより、決定層モデルが唯一の変数となる。
3つのエフェクトは2つのファミリーにまたがって複製される(ゼロを除く週間クラスターCI)
4つ目の効果は符号を逆転する:同じ操作によりGemmaで読み取られた方が自信が弱まり、Qwenで読み取られたものがより多くなる(ファミリーCIは重複しない)。
論文 参考訳（メタデータ） (2026-07-19T22:27:00Z) - Which Defense Closes Which Threat? Attributing OWASP-LLM-Top-10 Coverage and Its Brittleness Under Paraphrasing [51.56484100374058]
プロダクションLLMアプリケーションは、いくつかの防衛ファミリを積み重ねる -- 拒絶フレーズフィルタ、トークンバッジコントロール、モデル許容度リスト、レート制限、ツール登録認証 -- が、BASベンチマークでは、単一の集計カバレッジ番号を報告している。
21エージェントベースラインスキャナに4つのLLM-Top-10対応エージェントを追加し、4つの合成LDMエンドポイントの格子をターゲットとした。
論文 参考訳（メタデータ） (2026-06-01T19:39:25Z) - Skill-as-Pseudocode: Refactoring Skill Libraries to Pseudocode for LLM Agents [50.78646963535282]
Skill-as-Pseudocode (SaP) はマークダウンスキルライブラリの型付き擬似コードへの自動変換である。
1つ以上のスキルから引き出された類似の手続きパスのクラスタごとに、SaPは型付きコントラクトを抽出し、それを4チェック決定性検証器を通じてフィルタリングする。
プロモートされた契約は、復元された具体的なアクションテンプレートと共に書き直されたスキルスケルトンにインライン化され、エージェントは2つの補完的な信号を与える。
論文 参考訳（メタデータ） (2026-05-27T04:48:40Z) - PRISM: : Planning and Reasoning with Intent in Simulated Embodied Environments [59.07829883257003]
5つの集合住宅の上に建設され、PRISMは300の人間認証タスクを3つの能力レベルに構成する。
PRISMはエージェントに依存しない実行可能なアクションAPIを公開し、任意のエージェントをエンドツーエンドで評価できるようにする。
論文 参考訳（メタデータ） (2026-05-12T04:59:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。