論文の概要: Enhancing Certified Robustness via Block Reflector Orthogonal Layers and Logit Annealing Loss
- arxiv url: http://arxiv.org/abs/2505.15174v1
- Date: Wed, 21 May 2025 06:44:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-22 15:42:59.018356
- Title: Enhancing Certified Robustness via Block Reflector Orthogonal Layers and Logit Annealing Loss
- Title(参考訳): ブロック反射器直交層とロジット焼鈍損失による認証ロバストネス向上
- Authors: Bo-Han Lai, Pin-Han Huang, Bo-Han Kung, Shang-Tse Chen,
- Abstract要約: リプシッツニューラルネットワークは、ディープラーニングにおいて証明された堅牢性を提供することでよく知られている。
我々は、より表現力のあるリプシッツニューラルネットワーク構築における直交層の性能を高める、新しい効率的なブロック直交層(BRO)を提案する。
BRO層と損失関数を用いることで、最先端の証明されたロバスト性を実現する、シンプルだが効果的なリプシッツニューラルネットワークであるBRONetを設計する。
- 参考スコア(独自算出の注目度): 2.422231728931527
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Lipschitz neural networks are well-known for providing certified robustness in deep learning. In this paper, we present a novel, efficient Block Reflector Orthogonal (BRO) layer that enhances the capability of orthogonal layers on constructing more expressive Lipschitz neural architectures. In addition, by theoretically analyzing the nature of Lipschitz neural networks, we introduce a new loss function that employs an annealing mechanism to increase margin for most data points. This enables Lipschitz models to provide better certified robustness. By employing our BRO layer and loss function, we design BRONet - a simple yet effective Lipschitz neural network that achieves state-of-the-art certified robustness. Extensive experiments and empirical analysis on CIFAR-10/100, Tiny-ImageNet, and ImageNet validate that our method outperforms existing baselines. The implementation is available at \href{https://github.com/ntuaislab/BRONet}{https://github.com/ntuaislab/BRONet}.
- Abstract(参考訳): リプシッツニューラルネットワークは、ディープラーニングにおいて証明された堅牢性を提供することでよく知られている。
本稿では,より表現力のあるリプシッツニューラルネットワーク構築における直交層の有用性を高める,新しい効率的なブロック反射型直交層(BRO)を提案する。
さらに,リプシッツニューラルネットワークの性質を理論的に解析することにより,ほとんどのデータポイントのマージンを増加させるためにアニール機構を用いた新たな損失関数を導入する。
これにより、リプシッツモデルはより良い信頼性の高いロバスト性を提供できる。
BRO層と損失関数を用いることで、最先端の証明されたロバスト性を実現する、シンプルだが効果的なリプシッツニューラルネットワークであるBRONetを設計する。
CIFAR-10/100, Tiny-ImageNet, ImageNetにおける大規模な実験と実証分析により,提案手法が既存のベースラインより優れていることを確認した。
実装は \href{https://github.com/ntuaislab/BRONet}{https://github.com/ntuaislab/BRONet} で公開されている。
関連論文リスト
- A Recipe for Improved Certifiable Robustness [35.04363084213627]
近年の研究は、リプシッツをベースとした、敵の攻撃に対して確実に堅牢なニューラルネットワークを訓練する手法の可能性を強調している。
リプシッツに基づく認証手法の可能性を明らかにするため、より包括的な評価を行う。
論文 参考訳(メタデータ) (2023-10-04T01:18:59Z) - A Unified Algebraic Perspective on Lipschitz Neural Networks [88.14073994459586]
本稿では,様々なタイプの1-Lipschitzニューラルネットワークを統一する新しい視点を提案する。
そこで本研究では,SDP(Common semidefinite Programming)条件の解析解を求めることによって,既存の多くの手法を導出し,一般化することができることを示す。
SDPベースのLipschitz Layers (SLL) と呼ばれる我々のアプローチは、非自明で効率的な凸ポテンシャル層の一般化を設計できる。
論文 参考訳(メタデータ) (2023-03-06T14:31:09Z) - Unlocking Deterministic Robustness Certification on ImageNet [39.439003787779434]
本稿では,より大規模でより深いモデルに頑健なトレーニングを拡大するための戦略について検討する。
従来のResNetに対するリプシッツ定数のバウンディングの高速な方法が緩やかであることを示し、新しい残差ブロックを設計してこの問題に対処する方法を示す。
私たちはImageNetに高速な決定論的堅牢性保証をスケールアップすることができ、この堅牢性学習へのアプローチが現実世界のアプリケーションに適用可能であることを実証しています。
論文 参考訳(メタデータ) (2023-01-29T21:40:04Z) - Training Certifiably Robust Neural Networks with Efficient Local
Lipschitz Bounds [99.23098204458336]
認証された堅牢性は、安全クリティカルなアプリケーションにおいて、ディープニューラルネットワークにとって望ましい性質である。
提案手法は,MNISTおよびTinyNetデータセットにおける最先端の手法より一貫して優れていることを示す。
論文 参考訳(メタデータ) (2021-11-02T06:44:10Z) - Scalable Lipschitz Residual Networks with Convex Potential Flows [120.27516256281359]
残差ネットワーク勾配流における凸ポテンシャルを用いることで,1ドルのLipschitz変換が組み込まれていることを示す。
CIFAR-10の包括的な実験は、アーキテクチャのスケーラビリティと、証明可能な防御に$ell$のアプローチの利点を実証している。
論文 参考訳(メタデータ) (2021-10-25T07:12:53Z) - Towards Evaluating and Training Verifiably Robust Neural Networks [81.39994285743555]
We study the relationship between IBP and CROWN, and prove that CROWN are always tight than IBP when select each bounding lines。
線形結合伝播(LBP) CROWNの緩やかなバージョンを提案する。これは、大きなネットワークを検証して、より低い検証エラーを得るのに使用できる。
論文 参考訳(メタデータ) (2021-04-01T13:03:48Z) - Automatic Perturbation Analysis for Scalable Certified Robustness and
Beyond [171.07853346630057]
ニューラルネットワークに対する線形緩和に基づく摂動解析(LiRPA)は、堅牢性検証と認証防御のコアコンポーネントとなっている。
我々は任意のニューラルネットワーク構造上で摂動解析を可能にするための自動フレームワークを開発する。
我々は、Tiny ImageNetとDownscaled ImageNetのLiRPAベースの認証防御を実証する。
論文 参考訳(メタデータ) (2020-02-28T18:47:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。