論文の概要: MechAudit-40: White-Box Auditing across 40 LLM Attack Mechanisms
- arxiv url: http://arxiv.org/abs/2609.06612v1
- Date: Sun, 06 Sep 2026 13:57:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-12 05:10:16.952998
- Title: MechAudit-40: White-Box Auditing across 40 LLM Attack Mechanisms
- Title（参考訳）: MechAudit-40:40のLDM攻撃メカニズムを監査するWhite-Box
- Abstract要約: MechAudit-40は、5つのオープンウェイトモデルアーキテクチャにわたる40の攻撃機構の体系的評価である。
攻撃は、分離された層スパイクではなく、構造化された多層軌道を誘導する。
MechAuditは81.1%のホールトアウト攻撃実行を0.70%の偽陽性率で検出し、機能カテゴリ全体が保持されない場合に78.1%のリコールを維持する。
- 参考スコア（独自算出の注目度）: 16.312485460260056
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While LLM attacks span prompt optimization, multi-turn context manipulation, retrieval poisoning, and model backdoors, white-box defenses are typically evaluated on isolated attack families. Consequently, whether heterogeneous attacks leave internal representation shifts that generalize to unseen threat mechanisms remains unknown. We present MechAudit-40, a systematic evaluation of 40 attack mechanisms across five open-weight model architectures. Threat-specific success criteria, 100,000 matched clean-attack representation pairs, predefined categories, and grouped holdouts isolate genuine attack-induced displacement from target scale, corpus bias, and data-leakage shortcuts. Across this testbed, attacks induce structured multi-depth trajectories rather than isolated layer spikes. While raw peaks are non-portable across architectures, target-calibrated profiles preserve transferable geometric signatures: under complete mechanism holdout, hidden states alone recover the threat category of unseen attacks with 82.5% accuracy. Guided by this finding, we design MechAudit, a runtime auditor that operates under strict zero-oracle constraints without requiring clean baseline traces or attack metadata. MechAudit detects 81.1% of held-out attack executions at a 0.70% false-positive rate and maintains 78.1% recall when an entire functional category is withheld. In matched comparisons, MechAudit is the only detector that avoids mechanism-level coverage collapse, maintaining over 50% recall across all 40 mechanisms. Internal representations thus support cross-mechanism attack-exposure auditing against calibrated benign references, but decouple from downstream task compromise and parameter integrity.
- Abstract（参考訳）: LLM攻撃は、迅速な最適化、マルチターンコンテキスト操作、検索中毒、モデルバックドアにまたがるが、ホワイトボックス防御は通常、独立した攻撃ファミリーで評価される。
その結果、不均一な攻撃が内部表現のシフトを一般化し未確認の脅威機構に移行させるか否かは未だ不明である。
本稿では、5つのオープンウェイトモデルアーキテクチャにおける40の攻撃機構を体系的に評価するMechAudit-40を提案する。
脅威特異的な成功基準,10,000の一致したクリーンアタック表現ペア,事前定義されたカテゴリ,グループホールドアウトは,標的スケールからの真の攻撃誘発変位,コーパスバイアス,データリードショートカットを分離した。
このテストベッド全体で、アタックは分離された層スパイクではなく、構造化された多層軌道を誘導する。
ターゲット校正されたプロファイルは、完全なメカニズムのホールトアウトの下で、隠れた状態だけで82.5%の精度で未確認攻撃の脅威カテゴリを回復する。
この発見によってガイドされたMechAuditは、クリーンなベースライントレースやアタックメタデータを必要とせずに、厳格なゼロオークル制約の下で動作するランタイム監査ツールです。
MechAuditは81.1%のホールトアウト攻撃実行を0.70%の偽陽性率で検出し、機能カテゴリ全体が保持されない場合に78.1%のリコールを維持する。
一致した比較では、MechAuditはメカニズムレベルのカバレッジの崩壊を回避し、40のメカニズムの50%以上をリコールする唯一の検出器である。
内部表現は、キャリブレーションされた良性参照に対して、クロスメカリズムのアタック・エクスポージャー監査をサポートするが、下流タスクの妥協とパラメータの整合性から切り離される。
関連論文リスト
- Safety in Self-Evolving LLM Agent Systems: Threats, Amplification, and Case Studies [62.65225104423404]
自己進化エージェントシステムは、敵の影響力が永久に符号化される、質的に新しい脅威の風景を導入します。
モジュール・ライフサイクル・アタック・サーフェス・マトリックスを中心に組織化されたセキュリティとプライバシの分析を行った。
その結果, 自己進化は, 既知のすべての攻撃カテゴリをセッションバウンドからラインパーシスタントに変換することがわかった。
論文 参考訳（メタデータ） (2026-06-22T09:23:50Z) - Provable Robustness against Backdoor Attacks via the Primal-Dual Perspective on Differential Privacy [51.758416625168]
ランダムな平滑化は、敵の摂動に対する堅牢性を証明するための強力なツールである。
本稿では,複雑な構成機構の認証のためのフレームワークを提案する。
複雑な脅威モデル下での堅牢性を証明するために複合メカニズムを使用するための原則的で一般的なフレームワークを提供する。
論文 参考訳（メタデータ） (2026-05-20T22:17:29Z) - Talk is (Not) Cheap: A Taxonomy and Benchmark Coverage Audit for LLM Attacks [0.0]
攻撃ベンチマークが脅威面を網羅するかどうかを監査するための再利用可能なフレームワークを導入する。
これを6つの公開ベンチマークに適用すると、3つの主要なフレームワークが行列の25%をカバーしている非重複セルを占有していることが分かる。
2,521の独特な攻撃集団のコーパスは、広範囲にわたる命名の断片化と、セーフティ・アンド・アライメント・バイパスにおける集中度を明らかにしている。
論文 参考訳（メタデータ） (2026-05-14T17:30:36Z) - Metis: Learning to Jailbreak LLMs via Self-Evolving Metacognitive Policy Optimization [51.11398557420066]
我々は、推論時ポリシー最適化としてジェイルブレイクを改定するフレームワークであるMetisを紹介する。
メティスは比較手法の中でも89.2%で最強のアタック成功率(ASR)を達成している。
冗長な探索を最適化に置き換えることで、Metisはトークンコストを平均8.2倍、最大11.4倍に削減する。
論文 参考訳（メタデータ） (2026-05-11T06:45:00Z) - AI Evasion and Impersonation Attacks on Facial Re-Identification with Activation Map Explanations [13.564481603680838]
本稿では,回避攻撃と偽装攻撃の両方が可能な敵パッチを生成するための新しい枠組みを提案する。
我々は,条件付きエンコーダ・デコーダネットワークを用いて,ソース画像とターゲット画像からのマルチスケール特徴を導出して,逆パッチを1つのフォワードパスで合成する。
我々のフレームワークはCelebA-HQで27%の成功率を獲得し、他のパッチベースの手法と競合する。
論文 参考訳（メタデータ） (2026-03-16T15:12:41Z) - ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。
ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
論文 参考訳（メタデータ） (2026-01-15T08:23:38Z) - TRYLOCK: Defense-in-Depth Against LLM Jailbreaks via Layered Preference and Representation Engineering [0.0]
提案するTRYLOCKは,推論スタックをまたいだ4つのメカニズムを組み合わせた,最初のディフェンス・イン・ディースアーキテクチャである。
Mistral-7B-Instructが249プロンプト攻撃セットに対して評価された場合、TRYLOCKは88.0%の相対的なASR減少を達成する。
論文 参考訳（メタデータ） (2026-01-06T03:02:20Z) - AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications [71.27518152526686]
大きな言語モデル(LLM)はテキストの理解と生成に優れており、コードレビューやコンテンツモデレーションといった自動タスクに最適である。
LLMは履歴書やコードなどの入力データに隠された「逆命令」で操作でき、意図したタスクから逸脱する。
本稿では,特定の攻撃タイプに対して80%以上の攻撃成功率を示すとともに,この脆弱性を再開スクリーニングで評価するためのベンチマークを提案する。
論文 参考訳（メタデータ） (2025-12-23T08:42:09Z) - Replicating TEMPEST at Scale: Multi-Turn Adversarial Attacks Against Trillion-Parameter Frontier Models [0.0]
本研究では、TEMPESTマルチターン攻撃フレームワークを用いて、1000の有害な振る舞いに対して8つのベンダーから10のフロンティアモデルを評価する。
6つのモデルが96%から100%の攻撃成功率(ASR)を達成し、4つのモデルが有意な抵抗を示し、ASRは42%から78%であった。
論文 参考訳（メタデータ） (2025-12-08T00:30:40Z) - ELBA-Bench: An Efficient Learning Backdoor Attacks Benchmark for Large Language Models [55.93380086403591]
生成可能な大規模言語モデルは、バックドアアタックに対して脆弱である。
$textitELBA-Bench$は、パラメータを効率的に微調整することで攻撃者がバックドアを注入できるようにする。
$textitELBA-Bench$は1300以上の実験を提供する。
論文 参考訳（メタデータ） (2025-02-22T12:55:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。