論文の概要: Beyond Lipschitz: Data-Driven Robustness via Discrete Modulus of Continuity
- arxiv url: http://arxiv.org/abs/2605.28729v1
- Date: Wed, 27 May 2026 16:47:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-28 17:38:56.227504
- Title: Beyond Lipschitz: Data-Driven Robustness via Discrete Modulus of Continuity
- Title(参考訳): Beyond Lipschitz: 離散的継続率によるデータ駆動ロバスト性
- Authors: Jürgen Dölz, Michael Multerer, Michele Palma,
- Abstract要約: ニューラルネットワークのロバスト性は、局所的あるいは大域的なリプシッツ定数によって一般的に定量化される。
リプシッツ連続性の非線型一般化に基づく,データ駆動型アーキテクチャに依存しないフレームワークを提案する。
DMOCにより誘導される半ノルムに対して,データ駆動率を明示した収束結果を確立した。
本稿では,2次計算コストを削減できるスケーラブルなミニバッチアルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Robustness of neural networks is commonly quantified via local or global Lipschitz constants. However, Lipschitz continuity can be overly coarse or overly restrictive as global robustness measure, failing to capture nuanced, data-dependent behavior. We propose a data-driven, architecture-agnostic framework based on the discrete modulus of continuity (DMOC), a non linear generalization of Lipschitz continuity that provides a finer notion of robustness. Unlike many existing approaches, DMOC does not require access to model internals and instead evaluates regularity relative to the data distribution. This shifts the focus from the model to the data, which provide a data-driven baseline of regularity against which the network's robustness is assessed. We establish convergence results for DMOC-induced seminorms with explicit data-driven rates in terms of the separation distance, and introduce a scalable minibatch algorithm that reduces the quadratic cost of exact computation, enabling application to large-scale data sets such as ImageNet. Empirically, DMOC serves as an architecture independent diagnostic: it distinguishes trained from untrained networks, reveals underfitting and overfitting regimes, and yields, as a special case, tight Lipschitz estimates comparable to state-of-the-art method such as ECLipsE and ECLipsE-fast.
- Abstract(参考訳): ニューラルネットワークのロバスト性は、局所的あるいは大域的なリプシッツ定数によって一般的に定量化される。
しかし、リプシッツの連続性は、大域的ロバストネス測度として過度に粗く、あるいは過度に制限され、微妙でデータ依存的な振る舞いを捉えることができない。
リプシッツ連続性の非線型一般化である離散的連続率(DMOC)に基づく,データ駆動型アーキテクチャに依存しないフレームワークを提案する。
既存の多くのアプローチとは異なり、DMOCはモデル内部へのアクセスを必要とせず、データ分布に対する規則性を評価する。
これにより、フォーカスがモデルからデータにシフトし、ネットワークのロバスト性を評価する正則性に対するデータ駆動ベースラインが提供される。
DMOCによって誘導される半ノルムに対して、分離距離の観点から明示的なデータ駆動率で収束結果を確立するとともに、精度の高い計算の二次コストを低減し、ImageNetのような大規模データセットに適用可能なスケーラブルなミニバッチアルゴリズムを導入する。
DMOCはアーキテクチャに依存しない診断として機能し、訓練されていないネットワークと訓練されたネットワークを区別し、不適合と過剰適合の体制を明らかにし、特別な場合として、ECLipsEやECLipsE-fastのような最先端の手法に匹敵する厳密なリプシッツを推定する。
関連論文リスト
- Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。
NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
論文 参考訳(メタデータ) (2026-05-21T16:45:31Z) - A Comprehensive Framework for Uncertainty Quantification of Voxel-wise Supervised Models in IVIM MRI [33.7054351451505]
混合密度ネットワーク(MDN)のディープアンサンブルに基づく確率論的ディープラーニングフレームワークを提案する。
MDNは拡散係数Dと分数fのパラメータに対してより校正され、よりシャープな予測分布が得られたが、擬拡散係数D*ではわずかに過信が観察された。
本稿では,信頼できない推定値の同定と解釈を可能にする,不確実な定量化を伴うIVIMの包括的枠組みを提案する。
論文 参考訳(メタデータ) (2025-08-06T16:08:55Z) - Distributed Semi-supervised Fuzzy Regression with Interpolation
Consistency Regularization [38.16335448831723]
ファジィif-then規則と一貫性規則付き分散半教師付きファジィ回帰(DSFR)モデルを提案する。
人工と実世界の両方のデータセットに対する実験結果から、提案したDSFRモデルは最先端のDSSLアルゴリズムよりもはるかに優れた性能が得られることが示された。
論文 参考訳(メタデータ) (2022-09-18T04:46:51Z) - Distributionally Robust Model-Based Offline Reinforcement Learning with
Near-Optimal Sample Complexity [39.886149789339335]
オフライン強化学習は、積極的に探索することなく、履歴データから意思決定を行うことを学習することを目的としている。
環境の不確実性や変動性から,デプロイされた環境が,ヒストリデータセットの収集に使用される名目上のものから逸脱した場合でも,良好に機能するロバストなポリシーを学ぶことが重要である。
オフラインRLの分布的ロバストな定式化を考察し、有限水平および無限水平の両方でクルバック・リーブラー発散によって指定された不確実性セットを持つロバストマルコフ決定過程に着目する。
論文 参考訳(メタデータ) (2022-08-11T11:55:31Z) - Lipschitz Continuity Retained Binary Neural Network [52.17734681659175]
我々は,BNNのモデルロバスト性を定義するための厳密な基準として,リプシッツ連続性を導入する。
次に、モデルロバスト性を改善するための正規化項としてリプシッツ連続性を維持することを提案する。
実験により,我々のBNN固有の正規化手法は,BNNの堅牢性を効果的に強化できることが証明された。
論文 参考訳(メタデータ) (2022-07-13T22:55:04Z) - Robust Implicit Networks via Non-Euclidean Contractions [63.91638306025768]
暗黙のニューラルネットワークは、精度の向上とメモリ消費の大幅な削減を示す。
彼らは不利な姿勢と収束の不安定さに悩まされる。
本論文は,ニューラルネットワークを高機能かつ頑健に設計するための新しい枠組みを提供する。
論文 参考訳(メタデータ) (2021-06-06T18:05:02Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z) - Uncertainty Estimation Using a Single Deep Deterministic Neural Network [66.26231423824089]
本稿では,1回のフォワードパスで,テスト時に分布データポイントの発見と拒否が可能な決定論的ディープモデルを訓練する手法を提案する。
我々は,新しい損失関数とセントロイド更新方式を用いて,これらをスケールトレーニングし,ソフトマックスモデルの精度に適合させる。
論文 参考訳(メタデータ) (2020-03-04T12:27:36Z) - Distribution Approximation and Statistical Estimation Guarantees of
Generative Adversarial Networks [82.61546580149427]
GAN(Generative Adversarial Networks)は教師なし学習において大きな成功を収めている。
本稿では,H'older空間における密度データ分布推定のためのGANの近似と統計的保証を提供する。
論文 参考訳(メタデータ) (2020-02-10T16:47:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。