論文の概要: Stale Does Not Mean Unsafe: Guard Precision for Tool-Using LLM Agents under Infrastructure State Races

• arxiv url: http://arxiv.org/abs/2609.29522v1
• Date: Tue, 25 Aug 2026 04:53:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:56.055724
• Title: Stale Does Not Mean Unsafe: Guard Precision for Tool-Using LLM Agents under Infrastructure State Races
• Title（参考訳）: Staleは安全ではない: インフラ国家競争下でのLLMエージェントのガード精度
• Abstract要約: ツールを使用する言語モデルエージェントは、スケジューラ、データパイプライン、オブジェクトストア、アクセス制御システムを変更する傾向にある。 我々は、宣言された安全規定を破る無効化レースを、述語保存と無関係なレースから分離し、ランタイムガードがそれらを正確に区別するかを問う。 我々の決定論的シミュレータは、信頼できる状態から可視的に分離し、4つの領域の16のインフラストラクチャータスクに5つの非原子的障害機構を注入する。
• 参考スコア（独自算出の注目度）: 4.287745257410248
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Tool-using language-model agents increasingly mutate schedulers, data pipelines, object stores, and access-control systems. Between an agent's read and its commit, external state can change, but not every change makes the commit unsafe. We separate invalidating races, which break a declared safety predicate, from predicate-preserving and irrelevant races, and ask how precisely runtime guards distinguish them. Our deterministic simulator separates visible from authoritative state and injects five non-atomic failure mechanisms across 16 infrastructure tasks in four domains; frozen agent proposals are replayed counterfactually under every controller without an LLM judge. We evaluate three commit-time guard granularities (global epoch, read-set version, semantic commit predicate), multi-level verification, and model-side gates on three locally hosted quantized model families (Qwen3-4B, Phi-4-mini, Gemma4-8B; 3,456 trajectories on one GPU). All three guards eliminate unsafe commits, but their availability differs sharply: freshness-based guards needlessly block 92-95% of benign races, forfeiting up to 43% of safe task completions, while the complete predicate guard blocks none. That precision is contract-dependent: deleting a single declared clause converts exactly its fault family into unsafe commits (up to 7.9%). Model-side signals do not substitute: verbal confidence is miscalibrated (ECE approximately 0.37), action agreement matches a random gate, a cautionary prompt leaves the direct unsafe rate essentially unchanged, and after a freshness-guard block agents re-commit unsafely from refreshed but still-incomplete reads. Under degraded telemetry a hidden concurrent mutation remains observationally clean, bounding every selective policy. Precise runtime enforcement therefore requires semantic contracts, not freshness heuristics or model self-assessment.
• Abstract（参考訳）: ツールを使用する言語モデルエージェントは、スケジューラ、データパイプライン、オブジェクトストア、アクセス制御システムを変更する傾向にある。 エージェントの読み取りとコミットの間には、外部状態が変更される可能性があるが、すべての変更がコミットを安全にしないわけではない。 我々は、宣言された安全規定を破る無効化レースを、述語保存と無関係なレースから分離し、ランタイムガードがそれらを正確に区別するかを問う。 我々の決定論的シミュレータは、権威状態から可視的に分離し、4つの領域の16のインフラストラクチャータスクに5つの非原子的障害機構を注入する。 局所的にホストされた3つの量子化モデルファミリ(Qwen3-4B, Phi-4-mini, Gemma4-8B, 3,456 trajectories on one GPU)上で,3つのコミット時ガード粒度(グローバルエポック, リードセットバージョン, セマンティックコミット述語), 多レベル検証, モデル側ゲート)を評価した。 3つのガードはいずれも安全でないコミットを排除しているが、その可用性は著しく異なる: 鮮度ベースのガードは必然的に92-95%の良心的なレースをブロックし、最大43%の安全なタスク完了を禁止し、完全な述語ガードはブロックしない。 宣言された1つの節を削除することは、そのフォールトファミリーを正確に安全でないコミットに変換する(最大7.9%)。 モデル側信号は代わらない: 言語的信頼度は誤校正され(ECE約0.37)、アクション合意はランダムゲートと一致し、警告プロンプトは直接安全でないレートを基本的に変更せず、新鮮で防御的なブロックエージェントがリフレッシュされても不完全な読み取りから再コミットする。 劣化したテレメトリーの下では、隠れた同時突然変異は観察的にきれいであり、選択的な政策をすべて拘束する。 したがって、正確な実行時の強制には意味的な契約が必要であり、新鮮さのヒューリスティックやモデルによる自己評価は必要ではない。

関連論文リスト

• Privacy-Preserving Topology-Guided Safety for LLM-Based Multi-Agent Systems via Federated Graph Learning [67.04448659688579]
  FGLGuardは、AgentDojoのグランドサクセスレートを、ほぼ無防備なユーティリティ、APIコストゼロ、無視可能な機能損失で43%削減する。 フェデレーションはオプションではなく、オフ・ザ・シェルフ・トランスファーは流通シフトによって崩壊する。 Live FGLGuardは、AgentDojoのグランドサクセスレートを、ほぼ無防備なユーティリティ、APIコストゼロ、無視可能な機能損失で43%削減する。
  論文  参考訳（メタデータ） (2026-09-02T07:57:12Z)
• LMSM: LLM Security Framework Inspired by Linux Security Modules [56.93644694627783]
  大規模言語モデル(LLM)は階層化されたディフェンスでデプロイされることが多いが、悪意のあるプロンプトはそれらをバイパスすることができる。 我々は,Language Model Security Modules (LMSM) という,Linux Security Modules (LSM) の背後にある分離を LLM サービスに適応させるセキュリティフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-08-26T12:13:05Z)
• Metis: Typed Runtime Mediation for Tool-Using Software Agents [13.543030296451661]
  コールが外部効果に達する前に、プロバイダストリームを型付きイベントに変換するマルチプロジェクタランタイムであるMetisを提示する。 我々はこれらのメカニズムを凍結した原材料上で評価した。
  論文  参考訳（メタデータ） (2026-08-26T03:10:03Z)
• ClawSentry: A Progressive Multi-Tier Security Monitor for Safeguarding Autonomous LLM Agents [24.540638169054812]
  悪意のあるサードパーティのスキルにハイジャックされた単一のエージェントは、データの流出、特権のエスカレーション、カスケード妥協を引き起こす可能性がある。 我々は、エージェントランタイムのためのオープンソースのフレームワークに依存しないセキュリティ監視ゲートウェイであるClawSentryを紹介する。
  論文  参考訳（メタデータ） (2026-08-21T13:47:51Z)
• Safety Invariants for Agents Orchestrating Irreversible State Transitions: A Four-Dimensional Formalism Evaluated on Public Ledgers [0.0]
  フォーマリズムを使って、実行忠実性( executionfidelity)と呼ばれる保証を記述し、証明します。 7つの安全不変量は、経験から数えられるのではなく、忠実性条件に由来するもので、保証を解除する。 システムはデプロイされ、8つのチェーンにまたがる108のプロダクション書き込み操作によって、障害分類が復活する。
  論文  参考訳（メタデータ） (2026-08-01T17:29:42Z)
• What Can Be Enforced? A Theory of Certified Runtime Safety for Tool-Using Agents [0.0]
  ガードレールは不可逆のツールコールの前に動作しますが、その保証は、どのポリシー状態が表現可能であるかによって異なります。 ピアソン表現攻撃はマージンを増すので、良性校正だけでは移動しない。 実験は静的診断、制御モデル列挙、表現書き直し、ペア化された閉ループ再実行を通じてこれらの区別を目標とする。
  論文  参考訳（メタデータ） (2026-07-24T19:14:26Z)
• The Path Matters: Learning a Token-Commitment Policy for Diffusion Language Models [52.93186090124315]
  トークンのコミットメントは、再利用可能なトレースステートポリシとして学ぶことができる、と私たちは主張する。 凍結拡散言語モデルのためにこのポリシーをインスタンス化する軽量プラグインコントローラであるTraceLockを紹介する。
  論文  参考訳（メタデータ） (2026-05-23T18:23:46Z)
• Securing LLM Agents Need Intent-to-Execution Integrity [49.490963596514185]
  我々は, LLMエージェントの確保には, エージェントの実行がユーザの意図を忠実に反映した場合に規定するエンドツーエンドの正当性を定義する必要があると主張している。 LLMエージェントはコンパイラと構造的に類似しており、セキュリティ違反はユーザ意図を保存しない誤った実行に対応する。 emphTool整合性、emph命令整合性、emphJudgment整合性、emphData整合性。
  論文  参考訳（メタデータ） (2026-05-16T12:53:31Z)
• Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
  大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。 個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。 構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
  論文  参考訳（メタデータ） (2026-05-15T17:08:27Z)
• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。