論文の概要: The Same Zero: Why Identical ASR Can Imply Different Guarantees in LLM-Agent Security

• arxiv url: http://arxiv.org/abs/2610.04504v1
• Date: Sat, 03 Oct 2026 13:09:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-12 10:03:18.455481
• Title: The Same Zero: Why Identical ASR Can Imply Different Guarantees in LLM-Agent Security
• Title（参考訳）: LLM-Agentのセキュリティにおいて、ASRが保証人の違いを示唆する理由
• Abstract要約: LLMエージェントのセキュリティは、防御の密集した景観を生み出した。 防御が実際に保証しているもの、あるいはその保証がどこから来るのかをデプロイ者に伝えるフレームワークはありません。 検証自律度(VAL)を22のエージェント・セキュリティ・ディフェンスに適用する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM-agent security has produced a dense landscape of defenses - prompt hardening, content filters, permission gates, sandboxes - yet no framework tells a deployer what a defense actually guarantees, or where that guarantee comes from. We apply Verification Autonomy Levels (VAL) - L0: LLM self-declaration; L1: deterministic rules; L2: objective ground truth; L3/L4: decidable completeness; L5: impossible - to 22 agent-security defenses; the taxonomy is falsifiable (10/10 prediction hits on frozen cards, flagged). We run the first controlled deployment-value comparison: at equal budget, a VAL-guided stack (confirmation gate + schema sandbox) versus a mainstream intuition stack (prompt hardening + keyword filter), 50 scenarios, 12 attack variants, adaptive/white-box/PAIR escalation (~7,000 testbed calls; ~10,000 harness calls on AgentDojo/JADE). The VAL stack holds 0.000 attack success at 1.000 benign success (0.5% ASR at 79.7% utility on AgentDojo banking vs 4.3% undefended); the intuition stack reaches 0.000 ASR but kills all benign actions - security by model-behavior luck, not structure. Across testbeds of rising attack-surface hardness the intuition stack's zero drifts (0->1.9%->6.2%, n=16 on JADE) while the VAL stack's holds within its ODD (0->0->0), its only breach a disclosed out-of-ODD password gap (0.5%). The same zero, two different guarantees: zero is an outcome, not a guarantee.
• Abstract（参考訳）: LLMエージェントのセキュリティは、ハードニング、コンテントフィルタ、パーミッションゲート、サンドボックスといった、防御の密集した環境を生み出しています。 We apply Verification Autonomy Levels (VAL) - L0: LLM self-declaration; L1: deterministic rules; L2: objective ground truth; L3/L4: decidable completeness; L5: impossible - to 22 agent-security defenses; the taxonomy is falsable (10/10 prediction hit on frozen card, flagged)。 VAL-Guidedスタック(確認ゲート+スキーマサンドボックス)とメインストリームの直感スタック(プロンプトハードニング+キーワードフィルタ)、50のシナリオ、12のアタックバリアント、アダプティブ/ホワイトボックス/PAIRエスカレーション(約7,000のテストベッドコール、AgentDojo/JADEのハーネスコール)。 VALスタックは1.000回の攻撃成功(ASRの0.5% ASRは79.7%、AgentDojoバンキングは4.3%のユーティリティ)で0.000回の攻撃成功を達成している。 VALスタックはODD(0->0->0->0)内に保持されているが、攻撃面の硬さが上昇する中で、直観スタックのゼロドリフト(0->1.9%->6.2%, n=16, JADE)はODD(0->0->0)内に保持されている。 同じ 0 で、2つの異なる保証: 0 は結果であり、保証ではない。

関連論文リスト

• The Framing Gap: Indirect Prompt-Injection Exfiltration Defeats Surface-Level Defenses in Tool-Using Agents [2.45357121165634]
  攻撃者が制御するWebコンテンツを読み取るツール使用のLLMエージェントは間接的なプロンプトインジェクションである。 10のオーバートインジェクションクラスが拒否される(gpt-4o 0%)が、同じリークを必須整合性シグネチャとして無視する。 アブレーションは、そのメカニズムが命令/データの混乱であり、アライメントを損なわないことを示している。
  論文  参考訳（メタデータ） (2026-08-27T13:12:03Z)
• Beyond Pass@k: Measuring Reliability and Security of Agentic Code Generation [2.1734195143282693]
  我々は,n = 独立ロールアウトとc = 完全パスロールアウト(タスク,エージェント)ペアで適用したのと同じ推定器であるReliability@kを提案する。 機能的正当性がセキュリティの安全性を示唆しないという証拠によって、セキュリティ調整された信頼性も提案する。
  論文  参考訳（メタデータ） (2026-08-11T16:01:15Z)
• Closing the Activation-Cone Blind Spot: Response-Time Probing and Unified Defense [0.0]
  大規模言語モデルの推論時安全性手法は増加してきたが、体系的な比較は存在しない。 5つの防衛パラダイム(防御、静的ステアリング、CAST、AlphaSteer、プローブゲート)を7つの命令調整モデルで評価する。 AlphaSteerはGCG、AutoDAN、インテント洗浄において0%の攻撃成功を達成するが、プリフィルでは50%である。
  論文  参考訳（メタデータ） (2026-06-28T15:05:12Z)
• Which Defense Closes Which Threat? Attributing OWASP-LLM-Top-10 Coverage and Its Brittleness Under Paraphrasing [51.56484100374058]
  プロダクションLLMアプリケーションは、いくつかの防衛ファミリを積み重ねる -- 拒絶フレーズフィルタ、トークンバッジコントロール、モデル許容度リスト、レート制限、ツール登録認証 -- が、BASベンチマークでは、単一の集計カバレッジ番号を報告している。 21エージェントベースラインスキャナに4つのLLM-Top-10対応エージェントを追加し、4つの合成LDMエンドポイントの格子をターゲットとした。
  論文  参考訳（メタデータ） (2026-06-01T19:39:25Z)
• Empirical Validation of the Classification-Verification Dichotomy for AI Safety Gates [0.0]
  オラクルベースの安全ゲートは、AIシステムが数百回以上のイテレーションを改善するため、信頼できる監視を維持することはできない。 自己改善自体の安全性ではなく、分類に特有であることを示す。
  論文  参考訳（メタデータ） (2026-03-31T13:54:36Z)
• LLM Readiness Harness: Evaluation, Observability, and CI Gates for LLM/RAG Applications [51.56484100374058]
  評価をデプロイメント決定ワークフローに変換するLLMおよびRAGアプリケーションのための準備性ハーネスを提案する。 このシステムは、最小限のAPI契約の下で、自動ベンチマーク、OpenTelemetryオブザーバビリティ、CI品質ゲートを組み合わせる。 チケットルーティングとBEIRタスクのハーネスを、完全なAzureマトリックスカバレッジで評価する。
  論文  参考訳（メタデータ） (2026-03-28T18:03:32Z)
• Why LLMs Fail: A Failure Analysis and Partial Success Measurement for Automated Security Patch Generation [0.0]
  この研究では、Vul4Jベンチマークから64のJava脆弱性にまたがる319のLarge Language Models (LLM)生成セキュリティパッチを分析した。 三軸評価を用いて分析したところ、パッチの24.8%だけが完全な正当性を達成し、51.4%はセキュリティと機能の両方に失敗していることがわかった。 提案されたSecurity repair Score (SRS)はこのギャップを定量化し、LLMが機能を保存する(平均0.832)が、セキュリティに苦しむ(平均0.251)。
  論文  参考訳（メタデータ） (2026-03-10T05:34:56Z)
• AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications [71.27518152526686]
  大きな言語モデル(LLM)はテキストの理解と生成に優れており、コードレビューやコンテンツモデレーションといった自動タスクに最適である。 LLMは履歴書やコードなどの入力データに隠された「逆命令」で操作でき、意図したタスクから逸脱する。 本稿では,特定の攻撃タイプに対して80%以上の攻撃成功率を示すとともに,この脆弱性を再開スクリーニングで評価するためのベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-12-23T08:42:09Z)
• Uncertainty is Fragile: Manipulating Uncertainty in Large Language Models [79.76293901420146]
  大規模言語モデル(LLM)は、出力の信頼性が不可欠である様々な高い領域で採用されている。 本研究では,不確実性推定の脆弱性を調査し,攻撃の可能性を探る。 攻撃者がLSMにバックドアを埋め込むことができ、入力中の特定のトリガーによって起動されると、最終的な出力に影響を与えることなくモデルの不確実性を操作できることを示す。
  論文  参考訳（メタデータ） (2024-07-15T23:41:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。