論文の概要: Post-Hoc Trajectory-Risk Certification for Modular LLM-Based Security Agents

• arxiv url: http://arxiv.org/abs/2608.05199v1
• Date: Tue, 04 Aug 2026 23:48:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-07 17:43:06.628666
• Title: Post-Hoc Trajectory-Risk Certification for Modular LLM-Based Security Agents
• Title（参考訳）: モジュールLDMベースのセキュリティエージェントに対するポストホック軌道-リスク認証
• Abstract要約: ボンフェロニ配置は分布自由であるが,相関誤差下では保守的であることを示す。 粗いラベルの選択は、学習された依存なしにほぼ完璧な相関関係を作ることができる。 ステージ単位の証明書とペアの重なり合うバウンドを用いたモジュール証明書は、正の平均利得が0.6%となる。
• 参考スコア（独自算出の注目度）: 1.4915002678801434
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Autonomous security agents operate as staged pipelines, such as classifying network traffic and then attributing attacks to a specific technique. Split conformal prediction gives each stage finite-sample coverage, but deployment requires a trajectory-level guarantee across the full chain. These guarantees do not compose automatically when stages are independently trained and calibrated. Bonferroni allocation is distribution-free but conservative under correlated errors. We show that a natural pairwise-correlation extension to three or more stages is invalid because it gives a lower rather than an upper bound, and derive a valid spanning-tree alternative. We distinguish whether stages are dependent from whether an audit sample is large enough to certify that dependence, and give matching upper and information-theoretic lower sample-complexity bounds. We also show that coarse-to-fine label selection can create near-perfect measured correlation without learned dependence. On a two-stage intrusion-detection pipeline across 6 open LLMs and 2 datasets, removing this artifact reduces measured correlation from near 1 to 0-0.78. A direct audit of trajectory failure becomes 13.7% tighter than Bonferroni once the audit reaches the required sample size, but is worse when undersized. A modular certificate using per-stage certificates and a pairwise overlap bound yields a positive average gain of 0.6%, quantifying the cost of lacking joint access. Same-model, cross-model, and permuted-pairing tests show that residual dependence reflects shared sample difficulty, not shared model representations. Average trajectory coverage across 12 configurations is 92.7% +/- 2.4% at alpha = 0.10. Under cross-dataset deployment, single-step miscoverage reaches 100% even when accuracy remains 78%, showing that distribution shift destroys calibrated confidence before raw accuracy.
• Abstract（参考訳）: 自律的なセキュリティエージェントは、ネットワークトラフィックの分類や、特定のテクニックによる攻撃など、ステージ化されたパイプラインとして動作する。 分割整合予測は各ステージに有限サンプルのカバレッジを与えるが、展開には全チェーンにわたる軌道レベルの保証が必要である。 これらの保証は、ステージが独立して訓練され、校正されたときに自動的に構成されない。 ボンフェロニ割り当ては分布のないが、相関誤差の下では保守的である。 3つ以上のステージに対する自然なペアワイズ相関拡張は、上界よりも下界を与えるので無効であり、有効なスパンニングツリーの代替となることを示す。 我々は,監査サンプルがその依存を証明できる程度の大きさであるか否かを判断し,それに対応する上および情報理論の低いサンプル・複雑度境界を与える。 また,粗いラベルの選択によって,学習依存を伴わずに,ほぼ完璧な相関関係が得られることを示す。 6つのオープンLCMと2つのデータセットにまたがる2段階の侵入検出パイプラインでは、このアーティファクトを除去することで、測定された相関を1～0.78に短縮する。 軌道障害の直接監査は、必要なサンプルサイズに達するとボンフェロニよりも13.7%厳格になるが、小さければ悪化する。 段単位の証明書とペアの重なり合うバウンドを用いたモジュール証明書は、正の平均利得が0.6%となり、ジョイントアクセスの欠如のコストを定量化する。 同じモデル、クロスモデル、置換ペアリングテストは、残留依存は共有モデルの表現ではなく、共有の難しさを反映していることを示している。 12のコンフィグレーションの平均軌道範囲は92.7%+/-2.4%で、α = 0.10である。 クロスデータセットデプロイメントでは、精度が78%である場合でもシングルステップの誤発見が100%に達する。

関連論文リスト

• Agent Behavioral Contracts II: Certifying Compositional Reliability Without Assuming Independence [0.0]
  1つのモデルの2つの例は、2つのエージェントのハンドオフにおいて、ミッションの90.0%で共失敗する。 異なるモデルの置換は、6つのコントラストのうち6つのコントラストの関連を減少させる。
  論文  参考訳（メタデータ） (2026-08-13T07:25:05Z)
• Perturbation Sensitivity at Convergence: A Simple Signal for Identifying Spuriously Correlated Samples [2.036610981667781]
  スプリアス相関を含むデータに対する経験的リスク最小化により訓練されたモデルは、相関が保たないサブポピュレーションで失敗しながら、高い平均精度を達成する。 両個体群を区別しなくなった場合, 収束後に使用可能な信号が利用可能であることが示される。 検出されたサンプルをトレーニングのバランスに使用すると、ウォーターバードの最悪のグループ精度が57.3%から80.8%に上昇し、また、接地型グループラベルでは85.8%に上昇する。
  論文  参考訳（メタデータ） (2026-08-05T21:29:11Z)
• Certifying Plans under Model Mismatch: A Trilemma for Reachability from Scarce Data [5.455772242709494]
  シモン・トゥ・リアル・ポリシーは、名目力学の下で設計されているが、ターゲット・システム・トライアルは、わずかに孤立した1段階の遷移をもたらす。 本研究では,学習ポリシによって生成されるアクションチャンクなど,固定制御シーケンスの事前実行認証について検討する。
  論文  参考訳（メタデータ） (2026-08-03T16:28:26Z)
• Cross-Fitted Residual Utility for Primary-Preserving Cognitive Decision Correction in Automatic Modulation Classification [1.547549252134621]
  本稿では,クロスフィット型残効ユーティリティとプライマリ保存型認知決定ポリシーを用いて,推論後の問題について検討する。 構造化されたkan-Fourier分類器はデフォルトの確率を提供し、ニューラルおよび非ニューラル候補は観測可能な証拠を提供する。 RMLA、RMLB、HISARでは、完全なシステムは全体の精度を63.632%から66.332%、65.161%から66.168%、77.769%から79.867%に改善している。
  論文  参考訳（メタデータ） (2026-08-03T11:07:37Z)
• Nous: An Attempt to Extract and Inject the Cognition Behind Prediction-Market Behavior [0.0]
  人間の認知の多様性が行動から回復し、LSMエージェントに移行できるかどうかを問う。 Nousは、実際のポリマーケット取引活動から構造化された8次元の行動プロファイルを抽出し、プロンプトを通じてエージェントに注入する。 我々は,Nousを認知的モノカルチャー問題と即時治療の限界を計測するものとして位置づける。
  論文  参考訳（メタデータ） (2026-06-11T08:18:25Z)
• Improving Search Agent with One Line of Code [68.58667107354253]
  ツールベースのエージェント強化学習(TARL)は,検索エージェントが外部ツールと対話できるようにトレーニングするための,有望なパラダイムとして登場した。 textbfSearch textbfAgent textbfPolicy textbfOptimization (textbfSAPO)を提案する。
  論文  参考訳（メタデータ） (2026-03-10T04:07:39Z)
• BadCLIP++: Stealthy and Persistent Backdoors in Multimodal Contrastive Learning [73.46118996284888]
  マルチモーダル・コントラスト学習モデルに対するバックドア攻撃の研究は、ステルスネスと永続性という2つの大きな課題に直面している。 両課題に対処する統合フレームワークであるBadCLIP++を提案する。 ステルスネスのために,タスク関連領域付近に知覚不可能なパターンを埋め込むセマンティックフュージョンQRマイクロトリガーを導入する。 持続性については、半径縮小とセントロイドアライメントによるトリガ埋め込みを安定化する。
  論文  参考訳（メタデータ） (2026-02-19T08:31:16Z)
• Information Fidelity in Tool-Using LLM Agents: A Martingale Analysis of the Model Context Protocol [69.11739400975445]
  モデルコンテキストプロトコル(MCP)エージェントにおけるエラー蓄積を解析するための最初の理論的枠組みを紹介する。 累積歪みが線形成長と高確率偏差を$O(sqrtT)$で表すことを示す。 主な発見は、意味重み付けは歪みを80%減らし、周期的再接地は、エラー制御の約9ステップごとに十分である。
  論文  参考訳（メタデータ） (2026-02-10T21:08:53Z)
• LEC: Linear Expectation Constraints for False-Discovery Control in Selective Prediction and Routing Systems [95.35293543918762]
  大規模言語モデル(LLM)はしばしば信頼できない答えを生成するが、不確実性のある手法は誤った予測と完全に区別することができない。 我々は、この問題を、偽発見率(FDR)制御のレンズを通して解決し、全ての許容された予測のうち、エラーの割合が目標のリスクレベルを超えないことを保証する。 本稿では,線形期待制約を強制することで,選択予測を制約付き決定問題として再解釈するLECを提案する。
  論文  参考訳（メタデータ） (2025-12-01T11:27:09Z)
• Distributed Training under Packet Loss [8.613477072763404]
  信頼性の低いコネクションを利用するとレイテンシが低下するが、パケットを落としてモデルの精度と収束を犠牲にする可能性がある。 そこで本研究では,パケット損失の正確性と収束性を保証する原理的なエンドツーエンドソリューションを提案する。 この研究は、コミュニケーション効率の高いプロトコルと、現代の大規模モデルの訓練で要求される精度と保証のギャップを埋めるものである。
  論文  参考訳（メタデータ） (2025-07-02T11:07:20Z)
• Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
  クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。 我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
  論文  参考訳（メタデータ） (2023-12-27T09:03:43Z)
• Conservative Prediction via Data-Driven Confidence Minimization [70.93946578046003]
  機械学習の安全性クリティカルな応用においては、モデルが保守的であることが望ましいことが多い。 本研究では,不確実性データセットに対する信頼性を最小化するデータ駆動信頼性最小化フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-06-08T07:05:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。