論文の概要: When a Flatness Proxy Is Not a Function: Robustness Certificates and Training Interventions
- arxiv url: http://arxiv.org/abs/2609.38540v1
- Date: Tue, 29 Sep 2026 20:57:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:26.732639
- Title: When a Flatness Proxy Is Not a Function: Robustness Certificates and Training Interventions
- Title(参考訳): 平坦性プロキシが機能でない場合:ロバスト性証明書とトレーニング介入
- Abstract要約: 有効な曲率上限は、ロバスト性証明や本質的な予測特性の介入を正当化しない。
グローバルに有効なゲージ不変な特徴空間修復を導出する。
45回にわたってアルゴリズムモデルと画像モデルのワンステップテストを行い、増幅されたシフトは原規則化予測器を分離し、商規則化予測器は整列する。
- 参考スコア(独自算出の注目度): 1.9909262723844419
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A valid curvature upper bound need not justify either a robustness certificate or an intervention on an intrinsic predictor property. We demonstrate this distinction for a last-layer relative-flatness proxy used in both settings. First, empirical-risk stationarity does not eliminate pointwise first-order loss terms: at a finite global empirical-risk minimum, the retained certificate expression underestimates a loss increase by over $210\times$. We derive a globally valid, gauge-invariant feature-space repair. Second, common-row softmax shifts preserve predictions and the exact contraction while making the proxy unbounded. Even standard reference-class choices double it on average relative to the centered representation. For a single fixed-feature example with at least three classes, scalar retuning generically cannot align the induced probability updates. Row centering gives the orbit-minimized bound and restores value and full-model gradient invariance under this symmetry. Across 45 paired one-step tests on algorithmic and image models, amplified shifts separate raw-regularized predictors while quotient-regularized predictors remain aligned. Long-horizon CIFAR-10 experiments show substantial, reversible suppression of generalization, while evidence for selective delay after memorization is less consistent. Together, these results show that validity as a curvature upper bound does not by itself justify either inversion into a robustness certificate or differentiation into an intrinsic training intervention.
- Abstract(参考訳): 有効な曲率上限は、頑健性証明または本質的な予測特性への介入を正当化する必要はない。
両設定で使用される最後の層間相対平坦性プロキシについて,この区別を示す。
まず、経験的リスクの定常性は、ポイントワイドな1次損失項を排除しない:有限のグローバルな経験的リスクの最小値において、保持された証明書表現は、損失の増大を210\times$より過小評価する。
グローバルに有効なゲージ不変な特徴空間修復を導出する。
第二に、Common-row Softmaxシフトはプロキシをアンバウンドにしながら予測と正確な収縮を保存する。
標準参照クラスの選択でさえ、中心表現に対して平均で2倍になる。
少なくとも3つのクラスを持つ単一の固定機能例の場合、スカラー再構成は一般に誘導された確率更新を調整することができない。
ロー中心化は軌道最小化境界を与え、この対称性の下で値とフルモデル勾配不変性を復元する。
45回にわたってアルゴリズムモデルと画像モデルのワンステップテストを行い、増幅されたシフトは原規則化予測器を分離し、商規則化予測器は整列する。
長い水平CIFAR-10実験は、一般化の相当かつ可逆的な抑制を示し、暗記後の選択的遅延の証拠は、一貫性が低い。
これらの結果から,曲率上界としての妥当性は,強靭性証明への逆転や,本質的な訓練介入への分化を正当化するものではないことが示唆された。
関連論文リスト
- Beyond Optimal Rates in Stochastic Optimization: Trajectory-Adaptive Stopping Rules [42.38093055717409]
我々は、新しい信頼系列法と、適応されたプロセスに対する時間一様経験的バーンスタイン不等式を開発する。
結果の停止規則は、自然勾配の地平線より少ない数桁の順序を必要とすることが示される。
論文 参考訳(メタデータ) (2026-08-26T09:02:46Z) - CARD: Calibration via Agreement in Reverse Diffusion for Out-of-Domain MRI Segmentation [14.844162865265673]
そこで我々は,不一致の時間的集合を全クラスにわたって1ピクセルあたりの温度場にマッピングし,セグメント化ができない間に信頼度が変化するようにCARDを提案する。
心臓、前立腺、脳のMRIシフトによって、CARDは各設定において最強のベースラインと比較した場合、49の45のキャリブレーション誤差を低下させる。
論文 参考訳(メタデータ) (2026-08-26T07:23:08Z) - TwistedMerge: Certified Higher-Order Diagnostics and Abstention for Model Merging [0.48086260459837454]
我々は、チェックポイントが局所対象、アライメントマップが遷移、サイクル積が残留する有限降下問題としてマージを定式化する。
提案手法は, 定数エッジのNo-go結果, フリーズ・コンプレックスの3方向およびプレファミリーの誤差制御定理, 比較・複雑感度の精査試験である。
訓練された低ランク適応型監査では, 平均化係数は選択したGLr代表に依存するが, 大域的因子同期と高密度デルタSVDは安定である。
論文 参考訳(メタデータ) (2026-07-23T03:24:50Z) - Prediction-Only Distillation in Linear and Logistic Regression [61.07540493350384]
自己蒸留は典型的には、学生が教師の元々のトレーニングインプットで再訓練されるときに研究される。
我々は、新しいX予測混合方式により、この予測のみの方式でSDを研究する。
二項ロジスティック回帰では、予測混合は教師と純蒸留の両方より優れていることを示す。
論文 参考訳(メタデータ) (2026-07-16T20:45:56Z) - Divergence is Uncertainty: A Closed-Form Posterior Covariance for Flow Matching [8.603039700922809]
フローマッチングは生成モデルの主要なフレームワークとなっているが、サンプルの不確かさの定量化は未解決の問題である。
これらのトレードオフはいずれも必要ありません。
MNISTの実験により、ピクセルごとの不確実性マップが意味論的に意味があることが確認された。
論文 参考訳(メタデータ) (2026-05-01T04:25:00Z) - Computable Bernstein Certificates for Cross-Fitted Clipped Covariance Estimation [0.0]
計算可能なベルンシュタイン型偏差証明を備えたクロスフィットクリッピング共分散推定器を提案する。
結果として得られる手順は、緩やかな尾の規則性の下での有効ランクのような本質的な複雑性尺度に適応する。
論文 参考訳(メタデータ) (2026-02-15T06:53:40Z) - MaxSup: Overcoming Representation Collapse in Label Smoothing [52.66247931969715]
ラベル平滑化(LS)は、ニューラルネットワーク予測における過信を減らすために広く採用されている。
LSコンパクトは、過剰に厳密なクラスタに表現を特徴付け、クラス内の多様性を希薄にする。
正しい予測と誤予測の両方に一様正則化を適用するMax Suppression(MaxSup)を提案する。
論文 参考訳(メタデータ) (2025-02-18T20:10:34Z) - The Lipschitz-Variance-Margin Tradeoff for Enhanced Randomized Smoothing [85.85160896547698]
ディープニューラルネットワークの現実的な応用は、ノイズの多い入力や敵攻撃に直面した場合、その不安定な予測によって妨げられる。
入力にノイズ注入を頼りに、認証された半径を持つ効率的な分類器を設計する方法を示す。
新たな認証手法により、ランダムな平滑化による事前学習モデルの使用が可能となり、ゼロショット方式で現在の認証半径を効果的に改善できる。
論文 参考訳(メタデータ) (2023-09-28T22:41:47Z) - Revisiting Gradient Clipping: Stochastic bias and tight convergence
guarantees [37.40957596986653]
任意のクリッピング閾値に正確に依存するコンバージェンス保証を$c$とする。
特に、決定論的勾配降下については、クリッピングしきい値が高次収束項にのみ影響することを示す。
クリッピングされたSGDを走らせる際に、勾配ノルムの収束に一致する上限と下限を与える。
論文 参考訳(メタデータ) (2023-05-02T16:42:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。