論文の概要: Boundary-State Control for Tool-Using Language-Model Agents: Commit-Time Consistency under State Drift
- arxiv url: http://arxiv.org/abs/2609.37475v1
- Date: Sat, 26 Sep 2026 08:49:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.518776
- Title: Boundary-State Control for Tool-Using Language-Model Agents: Commit-Time Consistency under State Drift
- Title（参考訳）: ツール利用言語モデルエージェントの境界状態制御:状態ドリフト下でのコミット時間一貫性
- Abstract要約: ツールを使用する言語モデルエージェントは、アクションが許容可能であることを判断し、セキュリティ関連状態が変更された後にのみ実行する。
本稿では,この提案とコミットのギャップについて検討し,単一目的のコミット認証を正確なアクションにバインドする決定論的効果境界機構であるBSC-Rを導入する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Tool-using language-model agents can decide that an action is permissible and execute it only after security-relevant state has changed. We study this proposal-to-commit gap and introduce BSC-R, a deterministic effect-boundary mechanism that binds a single-use commit authorization to the exact action and to a semantic projection of the authorization state that justified it. On 2,847 attacked AgentDojo episodes, the boundary kernel preserves the unprotected agent's behavior exactly (80.576% utility; 1.616% attack success). On 10,302 frozen proposals, it accepts every unchanged commit and rejects every instance of ten prospectively specified changed or replayed classes. In an independently generated boundary-drift experiment, full joint binding commits 0/4,403 invalid contexts while retaining 5,899/5,899 valid contexts. A prospective external evaluation on the 3,460-scenario CONTINUITY suite retains all 700 benign cases, prevents 1,200/1,200 represented non-replay invalid effects, handles 160/160 replay lifecycles correctly, and withholds 200/200 ambiguous no-release cases. The broader external suite also exposes the method's limit: across all 2,560 attacks, BSC-R has a 25% invalid-effect commit rate versus 0% for CONTINUITY. The result is therefore a scoped commit-time consistency mechanism, not a universal agent-safety claim.
- Abstract（参考訳）: ツールを使用する言語モデルエージェントは、アクションが許容可能であることを判断し、セキュリティ関連状態が変更された後にのみ実行する。
本稿では,この提案とコミットのギャップについて検討し,単一目的のコミット認証を正確な動作に結合する決定論的効果境界機構であるBSC-Rを導入し,それを正当化する承認状態のセマンティックプロジェクションを提案する。
2,847回のAgentDojo攻撃では、境界カーネルは保護されていないエージェントの動作を正確に保存する(ユーティリティ80.576%、攻撃成功1.616%)。
10,302の凍結された提案では、変更されていないコミットをすべて受け入れ、前向きに指定された10の変更または再生されたクラスのすべてのインスタンスを拒否する。
独立に生成された境界ドリフト実験では、完全結合結合は0/4,403個の無効なコンテキストをコミットし、5,899/5,899個の有効なコンテキストを保持する。
3,460-scenario CONTINUITYスイートの将来の外部評価では、700件の良性ケースを保持し、1200/1,200の非再生無効効果を予防し、160/160のリプレイライフサイクルを正しく処理し、200/200の曖昧な非リリースケースを抑える。
2,560件の攻撃に対して、BSC-Rは25%の無効効果コミット率を持ち、ConTINUITYは0%である。
したがって、結果は普遍的なエージェントセーフティクレームではなく、スコープ化されたコミット時の一貫性メカニズムである。
関連論文リスト
- Causal Retention in Interactive Agents: Interface Factorization and Selective Adaptation [13.66805113709947]
本研究では,凍結学習状態がトレーニングとは無関係に固定されたメカニズム・プローブマップに応答するかどうかについて検討する。
実験では、有限因果系、連続シミュレーター、公式のTD-MPC2世界モデル、Qwen2.5-7B-インストラクトをカバーしている。
論文 参考訳（メタデータ） (2026-09-25T00:40:21Z) - DRSR: Learning Set-Level Deletion Risk for Efficient Long-Horizon Agents [55.84813053778976]
ロングホライゾン言語モデルエージェントは、現在の決定と関係が変化する推論の痕跡、ツール交換、観察を蓄積する。
直接セットリスクスコアは、削除セットの選択としてエージェント履歴圧縮リスクを定式化する。
メカニカル・アナリシスとアブリケーションは、決定に制約のある関係、保持されたコンテキスト情報、ペア・インタラクション、および棄権がそれぞれ信頼できるプルーニングに寄与していることを示している。
論文 参考訳（メタデータ） (2026-09-23T03:06:01Z) - Loopjacking: Hijacking Human-in-the-Loop Approval [0.0]
このバインディングの障害をLoopjackingと呼びます。
表現ベースの攻撃では、Bはすでに符号化されているが、承認時に省略されるか、あるいは誤表現される。
承認後の状態置換攻撃では、ヒトは正しいAと変更可能なワークフロー状態が後にBに置き換えられる。
論文 参考訳（メタデータ） (2026-09-17T20:58:26Z) - TwinGridShield: Consequence-Aware Runtime Authorization for LLM Grid-Agent Actions [0.0]
大規模言語モデル(LLM)を利用したエネルギー管理ツールは、自然言語コンテキストを構造化グリッドコマンドに変換することができる。
本稿では,モデルに依存しないランタイム認証層であるTwinGridShieldについて述べる。
論文 参考訳（メタデータ） (2026-08-15T19:44:59Z) - Governed Persistent Memory: Source-Bound State Semantics and Fail-Closed Release for Long-Horizon Agents [3.202978695204522]
長期のエージェントメモリは、通常、セレクトストアとして扱われるが、検索は、矛盾する、取って代わられた、削除された、削除された、または古いレコードが、外部の要求をサポートするかどうかを判断しない。
本稿では,Governed Persistent Memory (GPM)について紹介する。
論文 参考訳（メタデータ） (2026-08-12T18:00:42Z) - Looping Is Not Reliability: State-Bound Evidence and Typed Revision Contracts for Agentic Code Repair [36.56438114281786]
正しいパッチの発見と保持、検証、提出のギャップについて検討する。
我々はエビデンスバウンド型ループ契約を導出し、その機械的に強制可能なサブセットを参照実装でインスタンス化する。
論文 参考訳（メタデータ） (2026-07-27T16:05:23Z) - Hierarchical Certified Semantic Commitment for Byzantine-Resilient LLM-Agent Collaboration [30.310793549183117]
本稿では,BFTにインスパイアされたプロトコルH-CSC(Hierarchical Certified Semantic Commitment)を紹介する。
H-CSCはBFT対応バケット(0.31から2.04度)に低角偏差でコミットし、意図したようにBFTを超えるラウンド(n3f+1)の100%を中止する。
論文 参考訳（メタデータ） (2026-06-05T14:35:58Z) - Overeager Coding Agents: Measuring Out-of-Scope Actions on Benign Tasks [40.270213696031625]
OverEager-Genは、良質なタスクの振る舞いをオーバーイーガーするベンチマークである。
クロード・コードでは、同意宣言を削除するだけで、オーバーイーガー率は0.0%から17.1%に上昇する。
オーバーイーガー・ジェン(OverEager-Gen)は、入場前に各シナリオの識別力を認定する。
論文 参考訳（メタデータ） (2026-05-18T16:00:41Z) - Trust No Tool: Evaluating and Defending LLM Agents under Untrusted Tool Feedback [38.251599309409]
我々は,悪質なツールが探索中に合理的に振る舞う,異なる障害モード,認知的中毒について検討する。
ファイナルアクションリスクスコアリングのためのバックボーンに依存しないフレームワークであるVISTA-Guardを提案する。
論文 参考訳（メタデータ） (2026-05-17T13:51:34Z) - Structured Security Auditing and Robustness Enhancement for Untrusted Agent Skills [34.459758668563964]
本稿では,信頼できないエージェントスキルに対するプレロード監査を,堅牢な3方向分類タスクとして定式化する。
本稿では,役割認識型エビデンス抽出,選択的セマンティック検証,一貫性保存を組み合わせたSkillGuard-Robustを紹介する。
SkillGuard-Robust on SkillGuardBench and two public-ecosystem extension through five large evaluation view from 254 to 404 package。
論文 参考訳（メタデータ） (2026-04-28T01:32:27Z) - SentinelAgent: Intent-Verified Delegation Chains for Securing Federal Multi-Agent AI Systems [0.0]
本稿では、連邦政府のマルチエージェントAIシステムにおけるデリゲートチェーンの検証のための正式なフレームワークであるSentinelAgentを紹介する。
Delegation Chain Calculus (DCC) は7つの特性を定義している。6つの決定論的(権威の狭さ、ポリシーの保存、法的な再構築性、カスケードの封じ込め、スコープ-アクションの適合性、出力スキーマの適合性)と1つの確率的(インテリジェントな保存)である。
Intent-Preserving Delegation Protocol (I PDP)は、非LLM Delegation Authority Serviceを通じて実行時に7つのプロパティをすべて強制する。
論文 参考訳（メタデータ） (2026-04-03T06:25:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。