論文の概要: Defensive Sufficiency in a Stackelberg Model of AI Security

• arxiv url: http://arxiv.org/abs/2610.09892v1
• Date: Wed, 07 Oct 2026 11:51:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.880429
• Title: Defensive Sufficiency in a Stackelberg Model of AI Security
• Title（参考訳）: AIセキュリティのスタックルバーグモデルにおける防御能力
• Abstract要約: 自動テスト、ヒューマンレッドチーム、インシデントレスポンスからのフィードバックは、発見された障害が効果的な修復につながると、AIシステムの防御を強化する可能性があることを示す。 我々は、攻撃者の探索努力の選択を期待して、防御者が積極的に発見と反応性の修復に投資する、ディフェンダー主導のStackelbergゲームを定式化する。
• 参考スコア（独自算出の注目度）: 5.63598255573953
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Feedback from automated testing, human red teaming, and incident response can strengthen an AI system's defenses when discovered failures lead to effective repairs. We study when this feedback process provides sufficient protection and when investing in it is economically worthwhile. We begin by showing that an attack surface composed of finite number of inputs is defended with probability 1 if every unresolved attack has a persistent chance of discovery, repairs are effective, and subsequent updates preserve earlier protection. We derive completion-time bounds and extend the analysis to growing attack surfaces, repairs that generalize across related attacks, and multiple discovery mechanisms. These results distinguish eventual protection against each fixed attack from complete protection at a single time. We then formulate a defender-led Stackelberg game in which the defender invests in proactive discovery and reactive repair, anticipating the attacker's choice of search effort. We characterize the least-cost allocation that deters attack and the equilibrium regimes in which the defender funds neither capability, one capability, or both. Numerical experiments illustrate these regimes and show how faster repair can reduce compromise duration without reducing compromise probability.unified theory of performance limits in generative language models.
• Abstract（参考訳）: 自動テスト、ヒューマンレッドチーム、インシデントレスポンスからのフィードバックは、発見された障害が効果的な修復につながると、AIシステムの防御を強化する可能性がある。 このフィードバックプロセスが十分な保護を提供するのか、それへの投資が経済的に価値のあるのかを調査する。 まず, 有限個の入力からなる攻撃面が, 未解決の攻撃が常に発見される可能性があり, 修復が有効である場合, 確率1で防御され, その後のアップデートにより早期保護が保たれることを示す。 我々は、完了時境界を導出し、分析を拡大する攻撃面、関連する攻撃を一般化する修復、複数の発見メカニズムまで拡張する。 これらの結果は、各固定攻撃に対する最終的な防御と完全な保護を1回に分けている。 次に、ディフェンダー主導のStackelbergゲームを定式化し、ディフェンダーは積極的に発見と反応性の修復に投資し、攻撃者の探索行動の選択を期待する。 我々は、攻撃を抑える最小のコスト配分と、守備側が能力や1つの能力、あるいはその両方に資金を供給しない均衡体制を特徴付ける。 数値実験は、これらの条件を実証し、妥協確率を下げることなく、いかに早く修復が妥協期間を短縮できるかを示す。

関連論文リスト

• The Attacker Moves Second: Stronger Adaptive Attacks Bypass Defenses Against Llm Jailbreaks and Prompt Injections [74.60337113759313]
  現在のジェイルブレイクとプロンプトインジェクションに対する防御は、通常、有害な攻撃文字列の静的セットに対して評価される。 我々は,この評価プロセスに欠陥があることを論じる。代わりに,攻撃戦略を明示的に修正したアダプティブアタッカーに対する防御を,防衛設計に対抗して評価すべきである。
  論文  参考訳（メタデータ） (2025-10-10T05:51:04Z)
• MISLEADER: Defending against Model Extraction with Ensembles of Distilled Models [56.09354775405601]
  モデル抽出攻撃は、クエリアクセスを通じてブラックボックスモデルの機能を複製することを目的としている。 既存のディフェンスでは、アタッカークエリにはオフ・オブ・ディストリビューション(OOD)サンプルがあることを前提としており、不審な入力を検出し破壊することができる。 OOD仮定に依存しない新しい防衛戦略であるMISLEADERを提案する。
  論文  参考訳（メタデータ） (2025-06-03T01:37:09Z)
• The VLLM Safety Paradox: Dual Ease in Jailbreak Attack and Defense [56.32083100401117]
  Vision Large Language Models(VLLMs)のジェイルブレイク攻撃に対する脆弱性は、驚くにあたらない。 これらの攻撃に対する最近の防御機構は、ベンチマーク評価においてほぼ飽和状態に達している。
  論文  参考訳（メタデータ） (2024-11-13T07:57:19Z)
• Minimal Cascade Gradient Smoothing for Fast Transferable Preemptive Adversarial Defense [17.603114590159553]
  Minimal Sufficient Preemptive Defense (MSPD)は、ターゲットモデルやグラデーションにアクセスせずに将来の攻撃を防御する高速フレームワークである。 MSPDは0.02s/image (CIFAR-10) と 0.26s/image (ImageNet) で動作し、事前プリエンプティブメソッドよりも28-1696倍高速である。 Preemptive Reversionは、フルアクセス下でプリエンプティブ摂動をキャンセルする最初のホワイトボックス診断攻撃である。
  論文  参考訳（メタデータ） (2024-07-22T10:23:44Z)
• Position: Towards Resilience Against Adversarial Examples [42.09231029292568]
  我々は、敵の弾力性の定義と、敵の弾力性のある防御を設計する方法について概観する。 次に, 対向弾性のサブプロブレムを導入し, 連続適応ロバストネス(continuousal adapt robustness)と呼ぶ。 本研究では, 連続適応ロバストネスと, マルチアタックロバストネスと予期せぬアタックロバストネスの関連性を実証する。
  論文  参考訳（メタデータ） (2024-05-02T14:58:44Z)
• Randomness in ML Defenses Helps Persistent Attackers and Hinders Evaluators [49.52538232104449]
  堅牢なMLディフェンスを設計することがますます重要になっている。 近年の研究では、当初最先端の攻撃に抵抗する多くの防衛は、適応的な敵によって破壊される可能性があることが判明している。 我々は、防御設計をシンプルにし、ホワイトボックスの防御は可能な限りランダム性を損なうべきだと論じる。
  論文  参考訳（メタデータ） (2023-02-27T01:33:31Z)
• Fixed Points in Cyber Space: Rethinking Optimal Evasion Attacks in the Age of AI-NIDS [70.60975663021952]
  ネットワーク分類器に対するブラックボックス攻撃について検討する。 我々は、アタッカー・ディフェンダーの固定点がそれ自体、複雑な位相遷移を持つ一般サムゲームであると主張する。 攻撃防御力学の研究には連続的な学習手法が必要であることを示す。
  論文  参考訳（メタデータ） (2021-11-23T23:42:16Z)
• Reliable evaluation of adversarial robustness with an ensemble of diverse parameter-free attacks [65.20660287833537]
  本稿では,最適段差の大きさと目的関数の問題による障害を克服するPGD攻撃の2つの拡張を提案する。 そして、我々の新しい攻撃と2つの補完的な既存の攻撃を組み合わせることで、パラメータフリーで、計算に手頃な価格で、ユーザに依存しない攻撃のアンサンブルを形成し、敵の堅牢性をテストする。
  論文  参考訳（メタデータ） (2020-03-03T18:15:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。