論文の概要: Why Learning Rediscovers the Closed-Form Diagonal Regularizer
- arxiv url: http://arxiv.org/abs/2609.09656v1
- Date: Wed, 09 Sep 2026 03:10:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.881469
- Title: Why Learning Rediscovers the Closed-Form Diagonal Regularizer
- Title(参考訳): 閉じたダイアゴナル正規化器を学習する理由
- Authors: Jeahn Han, Pyojin Kim,
- Abstract要約: トラクションノイズが等方性であるとき、Tikhonov 形状は前者が設定した指数_k|s| に比例する閉形式電力法則 Gamma_k である。
ベリーのランダム波予想はモード間のトラクションノイズと相関し、ワイルの固有値カウント法則は、経験的ベリー違反を生き残るのに十分なモードを提供する。
FEM模擬音響室では、閉じた形状は観測窓を横切るパールームのチューニングに対してほぼ最適であり、同じデータで訓練された3つの対角線構造はそのオラクル誤差と1内で一致している。
- 参考スコア(独自算出の注目度): 3.1822873305165618
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We identify a diagonal saturation principle in modal inverse problems: when truncation noise is isotropic, the Bayes-optimal Tikhonov shape is a closed-form power law Gamma_k proportional to lambda_k^|s| set by the prior alone, independent of the domain. Berry's random-wave conjecture decorrelates the truncation noise across modes, and Weyl's eigenvalue counting law supplies enough modes for the conclusion to survive empirical Berry violations. Together they predict an approximately flat loss landscape across the per-mode family, leaving narrow scope for a diagonal regularizer to robustly beat the closed form. On FEM-simulated acoustic rooms, the closed form is near-optimal relative to per-room oracle tuning across observation windows, and three diagonal architectures trained on the same data match its reconstruction error within 1 pp despite learning qualitatively different spectra. The framework extends to heat diffusion via a known exponential Green's function correction with no new free parameters. Saturation is restricted to the diagonal family: Learned Iterative Ridge crosses the boundary by exploiting cross-mode coupling, locating where learning starts to help.
- Abstract(参考訳): トラクションノイズが等方性であるとき、ベイズ最適チホノフ形状は、前者単独で領域から独立に設定されたラムダ_k^|s|に比例する閉形式電力法則Gamma_kである。
ベリーのランダム波予想はモード間のトラクションノイズと相関し、ワイルの固有値カウント法則は、経験的ベリー違反を生き残るのに十分なモードを提供する。
彼らは共にモード当たりのほぼ平らな損失景観を予測し、斜めの正則化器が閉じた形を強く打ち負かすような狭い範囲を残した。
FEM模擬音響室では、閉じた形状は、観測窓を横切る部屋ごとのオラクルのチューニングに対してほぼ最適であり、同じデータで訓練された3つの対角線構造は、質的に異なるスペクトルを学習したにもかかわらず、1pp以内の復元誤差と一致する。
この枠組みは、新しい自由パラメータを持たない既知の指数的グリーン関数補正による熱拡散にまで拡張される。
学習された反復リッジは、クロスモード結合を利用して境界を越えて、学習が役に立ち始めます。
関連論文リスト
- Across the Loss Landscape with Progressive Growth [51.366966420881646]
成長を漸進的緩和と見なして、より平坦な地域に向けての訓練戦略がいかに成長・最適化されるかを示す。
制御されたおもちゃの流域や現実的なResNet/CI-100環境でこれらの予測を実証的に検証する。
プログレッシブな部分空間成長は、より平坦な解を確実に生成するが、曲率の低減は、普遍的にテスト性能の向上に変換されず、平坦性一般化接続における微妙さを強調している。
論文 参考訳(メタデータ) (2026-08-25T13:50:48Z) - Self-Normalized Inference for Constant-Stepsize Temporal-Difference Learning under Markovian Sampling [9.271408028342496]
定段階時間差学習(TD)は政策評価に魅力的であるが,1つのマルコフ軌道からの推論は連続的依存と段階的依存的定常目標を考慮しなければならない。
我々は、ランダムなTD行列と定常反復誤差によって誘導される乗法成分を共分散が保持する機能中心極限定理を確立する。
FrozenLakeとGarnetの実験では、静止目標被覆、RR目標補正、地平線インデクシング設計の有限サンプル挙動が示されている。
論文 参考訳(メタデータ) (2026-08-11T13:19:28Z) - Certified boundary-magic witness for state-dependent proto-area in a holographic code [0.0]
物質を含む領域と幾何結合の片脚を含む4ビット積-EPRホログラフィックコードについて検討した。
物質制御された結合運動のみが境界エントロピーの2次論理状態依存を導くことを示す。
論文 参考訳(メタデータ) (2026-07-12T09:16:46Z) - Stability Annealing Selects the Implicit Bias of Smoothed Sign Descent: A Rate-Indexed Barrier Path on Separable Data [3.7437735326653883]
本稿では,分離可能なデータに対する完全バッチ線形分類における速度制御中間事例について検討する。
指数損失を重み付けしたメモリレス安定アニール型スムーズドサイン降下に対して, 正規化繰り返しは, 凸バーグ型バリアの最小化に収束することが証明された。
論文 参考訳(メタデータ) (2026-07-07T08:55:35Z) - Orthogonality Edges in Strong-Coupling Quantum Work Statistics [0.5541461456285174]
貯水池への強い反転は、駆動量子系の仕事のピークをシフト、拡大、あるいは服飾以上のことができる。
本研究では, 突然の偏り逆転の下で, スピン-ボソンモデルの包括的作業分布のメカニズムを実証する。
論文 参考訳(メタデータ) (2026-07-04T16:53:05Z) - Closed-Form Spectral Regularization for Multi-Task Model Merging [96.82449201305234]
モデルマージは、個別に調整された複数の専門家をトレーニングデータなしで単一のマルチタスクモデルに結合する。
State-of-the-art merging method formulate merging as a layer-wise interference problem。
本稿では,逐次降下の勾配-流路に一致するソフト指数フィルタを組み合わせた閉形式手法SWUDIを提案する。
論文 参考訳(メタデータ) (2026-06-05T14:00:47Z) - Dual-space posterior sampling for Bayesian inference in constrained inverse problems [5.739708455652395]
偏微分方程式によって制約される逆問題はしばしば、ノイズや不完全データ、あるいは固有の非特異性によって不等式化される。
本研究では,波動方程式などの厳密な物理的制約を,既存のサンプリング手法に適合する事前分布に翻訳する手法を開発した。
論文 参考訳(メタデータ) (2026-02-28T00:34:31Z) - Trust-Region Sequential Quadratic Programming for Stochastic Optimization with Random Models [57.52124921268249]
本稿では,1次と2次の両方の定常点を見つけるための信頼逐次準計画法を提案する。
本手法は, 1次定常点に収束するため, 対象対象の近似を最小化して定義された各イテレーションの勾配ステップを計算する。
2階定常点に収束するため,本手法は負曲率を減少するヘッセン行列を探索する固有ステップも計算する。
論文 参考訳(メタデータ) (2024-09-24T04:39:47Z) - Lifting the Convex Conjugate in Lagrangian Relaxations: A Tractable
Approach for Continuous Markov Random Fields [53.31927549039624]
断片的な離散化は既存の離散化問題と矛盾しないことを示す。
この理論を2つの画像のマッチング問題に適用する。
論文 参考訳(メタデータ) (2021-07-13T12:31:06Z) - Canny-VO: Visual Odometry with RGB-D Cameras based on Geometric 3D-2D
Edge Alignment [85.32080531133799]
本稿では,自由形式の曲線登録に関する古典的な問題をレビューし,効率的なrgbdビジュアルオドメトリシステムcanny-voに適用する。
エッジ登録でよく用いられる距離変換の代替として、近似近接近傍場と配向近接近傍場という2つの方法が提案されている。
3D2Dエッジアライメントは、効率性と精度の両方の観点から、これらの代替製剤の恩恵を受けます。
論文 参考訳(メタデータ) (2020-12-15T11:42:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。