論文の概要: Certified vs. Empirical Adversarial Robust-ness via Hybrid Convolutions with Attention Stochasticity
- arxiv url: http://arxiv.org/abs/2605.01519v1
- Date: Sat, 02 May 2026 16:18:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-05 20:33:49.816982
- Title: Certified vs. Empirical Adversarial Robust-ness via Hybrid Convolutions with Attention Stochasticity
- Title(参考訳): Certified vs. Empirical Adversarial Robust-ness via Hybrid Convolutions with Attention Stochasticity
- Authors: Joy Dhar, Song Xia, Manish Kumar Pandey, Maryam Haghighat, Azadeh Alavi, Ferdous Sohel, Wenyu Zhang, Nayyar Zaidi,
- Abstract要約: HyCASは、L2証明書による証明可能な堅牢性と強力なL攻撃に対する経験的堅牢性との長期的ギャップを狭める敵防衛である。
アーキテクチャ内でランダムな平滑化を注入すると、形式的な証明付き全体=2-Lipschitzネットワークが得られる。
これらの結果から、ランダム化されたリプシッツ制約アーキテクチャは、認証されたL2と実証的なL逆の堅牢性の両方を同時に改善できることが示された。
- 参考スコア(独自算出の注目度): 12.02601456089491
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce Hybrid Convolutions with Attention Stochasticity (HyCAS), an adversarial defense that narrows the long-standing gap between provable robustness under L2 certificates and empirical robustness against strong L attacks, while preserving strong generalization across diverse imaging benchmarks. HyCAS unifies deterministic and randomized principles by coupling 1-Lipschitz, spectrally normalized convolutions with two stochastic components, spectral normalized random, projection filters and a randomized attention-noise mechanism, to realize a randomized defense. Injecting smoothing randomness inside the architecture yields an overall <= 2-Lipschitz network with formal certificates. Exten-sive experiments on diverse imaging benchmarks, including CIFAR-10/100, ImageNet-1k, NIH Chest X-ray, HAM10000, show that HyCAS surpasses prior leading certified and empirical defenses, boosting certified accuracy by up to 7.3% (on NIH Chest X-ray) and empirical robustness by up to 3.1% (on HAM10000), without sacrificing clean accuracy. These results show that a randomized Lipschitz constrained architecture can simultaneously improve both certified L2 and empirical L adversarial robustness, thereby supporting safer deployment of deep models in high-stakes applications. Code: https://github.com/misti1203/HyCAS
- Abstract(参考訳): 我々は,L2証明書下での証明可能なロバスト性と強いL攻撃に対する経験的ロバスト性との長期的ギャップを狭めつつ,多様な画像ベンチマークで強力な一般化を保ちながら,注意確率を伴うハイブリッド・コンボリューション(HyCAS)を導入する。
HyCASは1-Lipschitz、スペクトル正規化畳み込み、2つの確率成分、スペクトル正規化ランダム、投射フィルタ、ランダムアテンションノイズ機構を結合して、決定論的およびランダム化された原理を統一し、ランダム化された防御を実現する。
アーキテクチャ内でスムーズなランダム性を注入すると、正式な証明書を持つ全体的な <= 2-Lipschitz ネットワークが得られる。
CIFAR-10/100, ImageNet-1k, NIH Chest X-ray, HAM10000などの様々な画像ベンチマークに関する実験では、HyCASが先進的な認証と経験的防御を超越し、認証精度を最大7.3%(NIH Chest X-ray)、実証的堅牢性を最大3.1%(HAM10000)まで向上し、正確な精度を犠牲にしないことを示した。
これらの結果から,ランダム化リプシッツ制約アーキテクチャは認証L2と実証Lの両対向性の両方を同時に改善し,高吸気性アプリケーションにおける深層モデルのより安全な配置を支援することが示唆された。
コード:https://github.com/misti1203/HyCAS
関連論文リスト
- Towards Trustworthy Depression Estimation via Disentangled Evidential Learning [50.22167852149165]
EviDepはうつ病の重症度を共同で定量化する明らかな学習フレームワークである。
EviDepは、堅牢な証拠合成を保証するために厳密な情報整合性を強制する。
最先端の予測精度と優れた不確実性校正を実現し、信頼できる臨床スクリーニングのための堅牢なフェールセーフメカニズムを提供する。
論文 参考訳(メタデータ) (2026-04-17T13:27:11Z) - Complex-Valued Unitary Representations as Classification Heads for Improved Uncertainty Quantification in Deep Neural Networks [1.932555230783329]
現代のディープニューラルネットワークは高い予測精度を達成するが、キャリブレーションは不十分である。
本稿では、バックボーンの特徴を複素値空間に投影する量子インスピレーション付き分類ヘッドアーキテクチャを提案する。
CIFAR-10のアブレーション実験により, 統一等級ヘッド(カイリーユニタリ, マグニチュード, ソフトマックスで読み出す複雑な特徴)が0.0146の予測誤差(ECE)を達成し, 標準ソフトマックスヘッドの2.4倍の改善を示した。
驚くべきことに、ソフトマックスの読み出しをヒルベルト則測定層(量子力学的に動機づけられたアプローチ)に置き換えると、キャリブレーションは0.0819に低下する。
論文 参考訳(メタデータ) (2026-02-17T00:45:27Z) - SafeBench-Seq: A Homology-Clustered, CPU-Only Baseline for Protein Hazard Screening with Physicochemical/Composition Features and Cluster-Aware Confidence Intervals [26.81598226089532]
SafeBench-Seqはメタデータのみの再現可能なベンチマークと,すべて公開データから構築されたベースライン分類器である。
の脅威を近似するために、組み合わせたデータセットを40パーセントのIDでクラスタリングし、クラスタレベルのホールドアウトを実行します。
AUROC/AUPRCとスクリーニング操作点(TPR@1% FPR; FPR@95% TPR)の95%ブートストラップ信頼区間(n=200)を報告した。
我々は,ブライアスコア,期待誤差(ECE),15ビン,信頼性図を用いて,確率品質を定量化する。
論文 参考訳(メタデータ) (2025-12-19T12:51:31Z) - Adaptive Branch Specialization in Spectral-Spatial Graph Neural Networks for Certified Robustness [3.2771631221674333]
本稿では,グラフニューラルネットワーク(GNN)の各分岐を明示的に専門化する。
スペクトルネットワークは、l0エッジの摂動に耐え、ホモフィル構造を捉えるように訓練され、空間部分はリンフ摂動とヘテロフィルパターンに抵抗するように設計されている。
文脈対応ゲーティングネットワークは2つの表現を適応的に融合させ、各ノードのノードをより信頼性の高い分岐に動的にルーティングする。
論文 参考訳(メタデータ) (2025-05-13T08:00:16Z) - The Lipschitz-Variance-Margin Tradeoff for Enhanced Randomized Smoothing [85.85160896547698]
ディープニューラルネットワークの現実的な応用は、ノイズの多い入力や敵攻撃に直面した場合、その不安定な予測によって妨げられる。
入力にノイズ注入を頼りに、認証された半径を持つ効率的な分類器を設計する方法を示す。
新たな認証手法により、ランダムな平滑化による事前学習モデルの使用が可能となり、ゼロショット方式で現在の認証半径を効果的に改善できる。
論文 参考訳(メタデータ) (2023-09-28T22:41:47Z) - Augment then Smooth: Reconciling Differential Privacy with Certified Robustness [32.49465965847842]
標準偏差プライベートモデルトレーニングは,信頼性の高いロバスト性保証を提供するには不十分であることを示す。
本稿では,プライバシとロバスト性の両方を同時に実現する,シンプルで効果的なDP-CERTを提案する。
論文 参考訳(メタデータ) (2023-06-14T17:52:02Z) - Certifying Ensembles: A General Certification Theory with
S-Lipschitzness [128.2881318211724]
組み立ては、一般化、不確実性推定、校正、コンセプトドリフトの効果の緩和に有用であることが示されている。
本研究では、S-Lipschitz分類器を導入し、アンサンブルの理論的堅牢性を分析することにより、リプシッツ連続性を一般化する。
論文 参考訳(メタデータ) (2023-04-25T17:50:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。