論文の概要: SANAI: Secure ECC Distributed Keyed Parity Embedded in Weights for Protecting Neural Networks against Bit-Flip Attacks
- arxiv url: http://arxiv.org/abs/2611.02042v1
- Date: Sun, 01 Nov 2026 16:40:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-12 06:38:34.676459
- Title: SANAI: Secure ECC Distributed Keyed Parity Embedded in Weights for Protecting Neural Networks against Bit-Flip Attacks
- Title(参考訳): SANAI: ニューラルネットワークをビットフリップ攻撃から保護するための重みに埋め込まれたセキュアなECC分散鍵パリティ
- Abstract要約: 量子ニューラルネットワークは重みを高密度メモリに格納し、ビットフリップはモデルの振る舞いを劣化させる。
本稿では,重要なモデル重みをビットフリップから保護する感度誘導型ビットプレーン選択スキームであるSANAIを提案する。
微調整で存続し、プログレッシブおよびターゲットのビットフリップ攻撃を中和し、AttentionBreakerとSilentStriker攻撃を正確に修正する。
- 参考スコア(独自算出の注目度): 4.405170201880593
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Quantized neural networks store weights in dense memory, where bit flips caused by voltage scaling, aging, radiation, or deliberate attacks such as RowHammer can severely degrade model behavior. A single corrupted high-order bit can cause misclassifications or nonsensical language-model outputs. Embedded error-correcting codes (ECC) avoid dedicated parity storage by hiding parity within model weights, but existing schemes embed uniformly across layers and bit planes, leave parity unsecured, and tolerate bit-error rates (BERs) only up to about 6%. An adversary aware of sensitive weights and the ECC scheme can also bypass protection by exceeding the correction capability of targeted codewords. We propose SANAI, a sensitivity-guided, bit-plane-selective scheme that protects critical model weights against bit flips with zero additional parity-storage overhead. SANAI secures parity through keyed embedding across a two-dimensional weight space: spread-transform dither modulation binds parity to a secret key, and keyed interleaving disperses concentrated attacks across codewords. We derive a survival law showing that robustness is governed by the correctable fraction t/n rather than by t alone, and a closed-form bound on the protectable fraction of a model. As a streaming checker on an 8x8 systolic array, SANAI verifies weights on the load path with 0.41% area overhead and no additional memory. Across ten vision backbones, three quantization schemes, and ten language models from 82M to 13B parameters, SANAI stays within about one percentage point of clean accuracy at BERs up to 12%, twice the maximum of prior embedded-ECC approaches. It survives fine-tuning bit-exactly, neutralizes progressive and targeted bit-flip attacks, and exactly corrects AttentionBreaker and SilentStriker attacks.
- Abstract(参考訳): 量子ニューラルネットワークは重みを高密度メモリに格納し、電圧スケーリング、老化、放射線、あるいはRowHammerのような故意の攻撃によるビットフリップは、モデル動作を著しく低下させる。
1ビットの高次ビットは誤分類や非意味な言語モデル出力を引き起こすことがある。
組込みエラー訂正符号(ECC)は、モデルウェイト内にパリティを隠蔽することで、専用のパリティストレージを避けるが、既存のスキームは、レイヤーやビットプレーンに均一に埋め込み、パリティを安全でないままにし、最大6%のビットエラーレート(BER)を許容する。
センシティブウェイトを認識した相手とECCスキームは、ターゲットのコードワードの補正能力を超えた保護を回避できる。
感度誘導型ビットプレーン選択型スキームであるSANAIを提案する。
拡散変換ディザ変調はパリティを秘密鍵に結合し、キー付きインターリービングはコードワードにまたがる集中攻撃を分散させる。
我々は、ロバスト性はt単独ではなく補正可能な分数 t/n によって支配され、モデルの保護可能な分数に有界な閉形式であることを示すサバイバル法を導出した。
8x8シストリックアレイ上のストリーミングチェッカーとして、SANAIは負荷経路の重みを0.41%のオーバヘッドと追加メモリなしで検証する。
10のビジョンバックボーン、3つの量子化スキーム、82Mから13Bパラメータの10の言語モデルにおいて、SANAIはBERsにおけるクリーンな精度の約1パーセント以内に留まる。
微調整で存続し、プログレッシブおよびターゲットのビットフリップ攻撃を中和し、AttentionBreakerとSilentStriker攻撃を正確に修正する。
関連論文リスト
- Combinatorial Lock for Trojan-Resilient AI Engines via Hash-Assisted Spectral Filtering [0.7666240799116113]
マルチトリガーバックドア攻撃は、既存のショートカットベースの防御では対処できない。
本稿では,マルチトリガー識別を低減した,トレーニング不要で基準校正されたディフェンスである Combinatorial Lock を提案する。
マルチトリガーディフェンスは、トレーニングフリーで、トリガーオフブロードで、ハードウェアで直接実装できる。
論文 参考訳(メタデータ) (2026-10-24T04:26:13Z) - GrayShield: Bit-Level Sanitization for Transformer Model Supply-Chain Security [6.174273005622613]
本稿では,軽量・後学習型ゼロデータ消毒法であるGSabbrを提案する。
GSabbr は宣言された Mantissa-LSB チャネルを Gray-code-guided low-transition sequence で置き換える。
4つのTransformerモデルプリセットと2つの現実世界のマルウェアペイロードで、トレーニング後の7つのディフェンスに対してベンチマークされた。
論文 参考訳(メタデータ) (2026-10-03T06:16:03Z) - Learning Functional Subspaces for Neural Network Compression [79.78451551969097]
Learnable Subspace Projections (LSP) は、エンドツーエンドを捨てるためにサブスペースを学習する。
LSPは、小さなバッチサイズで高密度モデルよりも1.6倍高速にデコードする。
論文 参考訳(メタデータ) (2026-09-30T16:47:35Z) - SafeCA: Safe Cross-Attention Localization and Regulation for Text-to-Video Jailbreak Defense [77.70598852234149]
テキスト・トゥ・ビデオ(T2V)生成モデルは、現実世界のデプロイにおいてジェイルブレイク攻撃に対して脆弱である。
安全なクロスアテンション・ローカライゼーションと正規化のための機能レベル防衛機構であるSafeCAを提案する。
実験の結果、SafeCAは主流のT2Vモデルでジェイルブレイクの成功率を約20%削減することが示された。
論文 参考訳(メタデータ) (2026-08-11T14:01:24Z) - From Bit-Position Sensitivity to Unequal Error Protection for DNN Inference Memory [0.4610618579893946]
16のワークロードにわたるML推論において,ビット位置当たりの故障感度を特徴付ける。
我々の中心的な経験的発見は、シャープなビット感度遷移である: 決定論的単一ビットストレステストの下で、データタイプ固有のしきい値であるXsafeに、最も重要でない分数ビットのいずれかをめくって、タスクメトリクスを1%以下に低下させる。
論文 参考訳(メタデータ) (2026-07-21T23:07:56Z) - FlipGuard: Defending Large Language Models Against Quantization-Conditioned Backdoor Attacks [11.27557330957057]
量子化に先立ってモデル重みを選択的に摂動するプロアクティブディフェンスフレームワークであるFlipGuardを紹介する。
ウェイトパターンと量子化境界の間の敵の正確なアライメントを壊すことで、FlipGuardはトレーニングデータへのアクセスやサンプルのトリガを必要とせずに、バックドアのアクティベーションを抑える。
論文 参考訳(メタデータ) (2026-06-27T15:02:42Z) - Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。
敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。
最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
論文 参考訳(メタデータ) (2026-04-14T06:48:33Z) - BadCLIP++: Stealthy and Persistent Backdoors in Multimodal Contrastive Learning [73.46118996284888]
マルチモーダル・コントラスト学習モデルに対するバックドア攻撃の研究は、ステルスネスと永続性という2つの大きな課題に直面している。
両課題に対処する統合フレームワークであるBadCLIP++を提案する。
ステルスネスのために,タスク関連領域付近に知覚不可能なパターンを埋め込むセマンティックフュージョンQRマイクロトリガーを導入する。
持続性については、半径縮小とセントロイドアライメントによるトリガ埋め込みを安定化する。
論文 参考訳(メタデータ) (2026-02-19T08:31:16Z) - Robust Anti-Backdoor Instruction Tuning in LVLMs [53.766434746801366]
大規模視覚言語モデル(LVLM)のための軽量で認証に依存しない防御フレームワークについて紹介する。
私たちのフレームワークは、命令チューニングの下で、アダプタモジュールとテキスト埋め込み層のみを微調整します。
Flickr30kとMSCOCOに対する7つの攻撃に対する実験は、我々の攻撃の成功率をほぼゼロに低下させることを示した。
論文 参考訳(メタデータ) (2025-06-04T01:23:35Z) - Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。
任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。
本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
論文 参考訳(メタデータ) (2021-05-31T17:01:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。