論文の概要: Beyond Runtime Enforcement: Shield Synthesis as Defensibility Analysis for Adversarial Networks

• arxiv url: http://arxiv.org/abs/2606.13621v1
• Date: Thu, 11 Jun 2026 17:35:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-12 15:55:27.953343
• Title: Beyond Runtime Enforcement: Shield Synthesis as Defensibility Analysis for Adversarial Networks
• Title（参考訳）: Beyond Runtime Enforcement: Shield Synthesis as Defensibility Analysis for Adversarial Networks
• Authors: Achraf Hsain, Sultan Almuhammadi,
• Abstract要約: シールド強化学習は典型的には、時間論理仕様をエージェントの動作を制限するオートマトンにコンパイルする実行時安全メカニズムとして提示される。 ネットワーク防御のための制約付き2人プレイヤ安全ゲームを通じてこれをインスタンス化する。 我々は、アトラクタ構造からトポロジレベルのメトリクスを導き、シールド制約された対向多エージェント強化学習から収束後の振る舞いと組み合わせる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Shielded reinforcement learning is typically presented as a runtime safety mechanism that compiles temporal-logic specifications into automata restricting an agent's actions. We argue this is the wrong product. The same automata-theoretic machinery -- specification compilation, product game construction, attractor computation, and winning-region extraction -- is better read as a design-time analytical instrument whose outputs are structural insights about a system rather than runtime constraints on a deployed agent. We instantiate this through a constrained two-player safety game for network defense. The two specifications are enforced asymmetrically: the defender specification defines the unsafe region of the game, whereas the attacker specification restricts the adversary's legal actions during attractor computation. Solving the game yields a defensibility verdict -- a formal certificate that a topology-specification pair is or is not defensible -- with the associated winning region and shield. Beyond the binary verdict, we derive topology-level metrics from the attractor structure and combine them with post-convergence behavior from shield-constrained adversarial multi-agent reinforcement learning. Together these form a defensibility fingerprint capturing both a network's formal safety properties and its operational behavior under adaptive play. A what-if analysis shows that formal defensibility and operational effectiveness capture distinct aspects of security: small architectural changes can produce large shifts in operational outcomes while leaving formal safety margins nearly unchanged. Shield synthesis is thus most valuable not as a deployment mechanism for safe agents, but as a framework for answering architectural questions about whether, where, and how a system can be defended. The defensibility verdict is the output, not the safe policy.
• Abstract（参考訳）: シールド強化学習は典型的には、時間論理仕様をエージェントの動作を制限するオートマトンにコンパイルする実行時安全メカニズムとして提示される。 これは間違った製品だ、と私たちは主張する。 同じ自動理論機械(仕様コンパイル、製品ゲームの構築、アトラクタ計算、勝利領域抽出)は、デプロイされたエージェントのランタイム制約ではなく、システムに関する構造的な洞察を出力とする設計時分析機器として、よりよく読まれる。 ネットワーク防御のための制約付き2人プレイヤ安全ゲームを通じてこれをインスタンス化する。 2つの仕様は非対称に強制される:ディフェンダー仕様はゲームの安全でない領域を定義し、アタッカー仕様はアトラクタ計算中に相手の法的行動を制限する。 ゲームの解決は、トポロジ固有のペアが、関連する勝利領域とシールドを持つ、または、防御できないという正式な証明書である、防御性判定をもたらす。 二項判定の他に、アトラクタ構造からトポロジレベルのメトリクスを導出し、シールド制約された対向多エージェント強化学習からの収束後の振る舞いと組み合わせる。 これらが組み合わさって、ネットワークの正式な安全特性とアダプティブプレイ時の動作の両方をキャプチャするディフェンシビリティ指紋を形成する。 小さなアーキテクチャの変更は、正式な安全マージンをほとんど変更することなく、運用結果に大きな変化をもたらす可能性がある。 したがって、シールド合成は安全なエージェントの配置メカニズムとしてではなく、どこに、どのようにシステムを防御できるかというアーキテクチャ上の疑問に答えるためのフレームワークとして最も価値がある。 防御性判断は、安全政策ではなく、出力である。

関連論文リスト

• Provably Secure Agent Guardrail [89.79561918065122]
  既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。 本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-05-28T02:12:41Z)
• Provable Robustness against Backdoor Attacks via the Primal-Dual Perspective on Differential Privacy [51.758416625168]
  ランダムな平滑化は、敵の摂動に対する堅牢性を証明するための強力なツールである。 本稿では,複雑な構成機構の認証のためのフレームワークを提案する。 複雑な脅威モデル下での堅牢性を証明するために複合メカニズムを使用するための原則的で一般的なフレームワークを提供する。
  論文  参考訳（メタデータ） (2026-05-20T22:17:29Z)
• Safety Context Injection: Inference-Time Safety Alignment via Static Filtering and Agentic Analysis [18.33590637095743]
  大きな推論モデル(LRM)は複雑なタスクのパフォーマンスを改善するが、デプロイ時に安全性制御を難しくする。 ブラックボックスの設定では、ディフェンダーはモデルの重みを変更できず、代わりに推論時に介入しなければならない。 有害な意図は教育的あるいはロールプレイ的なフレーミングによって隠蔽され、深い安全分析は非自明なレイテンシを導入し、長い敵のコンテキストはより単純なフィルターが依存する局所的な手がかりを希薄化する。 安全コンテキスト注入(SCI)は、タスク生成から安全評価を分離し、保護された安全コンテキストとして構造化された外部リスクレポートをプリペイドする推論時フレームワークである。
  論文  参考訳（メタデータ） (2026-05-12T07:23:02Z)
• Detecting speculative leaks with compositional semantics [9.009704721347575]
  本稿では,投機的実行による情報フローの検出と,ソフトウェア防衛に関する推論を行う新しいフレームワークを提案する。 我々は,SMTソルバを利用して脆弱性を検出し,プログラムのセキュリティを検証するシンボリック分析ツールであるSpectectorを開発した。
  論文  参考訳（メタデータ） (2026-03-31T14:32:12Z)
• TraceGuard: Process-Guided Firewall against Reasoning Backdoors in Large Language Models [19.148124494194317]
  我々は,小規模モデルを堅牢な推論ファイアウォールに変換するプロセス誘導型セキュリティフレームワークであるTraceGuardを提案する。 提案手法は,推理トレースを信頼できないペイロードとして扱い,詳細な防衛戦略を確立する。 グレーボックス設定における適応的敵に対する堅牢性を実証し、TraceGuardを実用的で低レイテンシなセキュリティプリミティブとして確立する。
  論文  参考訳（メタデータ） (2026-03-02T22:19:13Z)
• CausalArmor: Efficient Indirect Prompt Injection Guardrails via Causal Attribution [49.689452243966315]
  ツールコール機能を備えたAIエージェントは、IPI(Indirect Prompt Injection)攻撃の影響を受けやすい。 本稿では,選択防衛フレームワークCausalArmorを提案する。 AgentDojoとDoomArenaの実験は、CausalArmorが攻撃的な防御のセキュリティと一致することを示した。
  論文  参考訳（メタデータ） (2026-02-08T11:34:08Z)
• ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
  本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。 ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
  論文  参考訳（メタデータ） (2026-01-15T08:23:38Z)
• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• Countermind: A Multi-Layered Security Architecture for Large Language Models [0.0]
  本稿では,多層型セキュリティアーキテクチャであるCountermindを提案する。 アーキテクチャは、すべての入力を構造的に検証し変換するように設計された強化された周辺装置と、出力が発生する前にモデルのセマンティック処理経路を制約する内部ガバナンス機構を提案する。
  論文  参考訳（メタデータ） (2025-10-13T18:41:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。