論文の概要: Stability-Constrained Approximation in Spline KANs: Exact Layer Balancing and Budget-Compatible Saturation

• arxiv url: http://arxiv.org/abs/2609.17619v1
• Date: Mon, 14 Sep 2026 20:17:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:53.456917
• Title: Stability-Constrained Approximation in Spline KANs: Exact Layer Balancing and Budget-Compatible Saturation
• Title（参考訳）: スプラインカンの安定性制約近似:具体的な層バランスと予算対応飽和
• Abstract要約: 我々は、ハードレイヤーワイドリプシッツ予算の下で近似を研究する。 構成条件下では、対応するレイヤエラーをキャンセルする必要はないことを示す。 クラスのすべての作用素に対して、安定した深さ-$L$タワーが存在し、累積誤差の定数分を実現できる。
• 参考スコア（独自算出の注目度）: 51.56484100374058
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep spline superposition networks face a tension between approximation order and stability across depth. We study approximation under a hard layerwise Lipschitz budget, and organise it around two quantities: the factorisation stability complexity of a given deep factorisation, and the budget-compatible approximation complexity of a discretisation operator. First, we solve exactly the finite-depth diagonal balancing problem for a fixed chain of nonnegative envelope matrices: the optimal uniform layer budget equals $\|M_{L-1}\cdots M_0\|_{\infty\to\infty}^{1/L}$, attained by an explicit one-pass minimiser, for rectangular layers, with a complete treatment of degeneracies and non-attainment. The optimum can be arbitrarily larger than the Lipschitz constant of the network itself, because passing to envelopes destroys sign cancellation. Second, we give a constructive spline discretisation theorem preserving the budget up to a controlled slack, with an explicit grid threshold. Conversely, for linear spline-valued operators that preserve the budget exactly, we prove budget-compatible minimax lower bounds on classes constrained simultaneously in the first and third derivative norms -- a constraint pair that is forced by the problem and that rules out the usual scaling escapes. Finally, we show that the corresponding layer errors need not cancel under composition: for every operator of the class there is a stable depth-$L$ tower realising a constant fraction of the accumulated error, so the linear-in-depth accumulation of the upper bound is not a proof artefact.
• Abstract（参考訳）: 深いスプライン重ね合わせネットワークは、近似順序と深さの安定性の間の緊張に直面している。 そこで我々は, ハード層単位のリプシッツ予算の下で近似について検討し, 与えられた深部分解の分解安定性複雑性と, 離散化演算子の分解安定性複雑性の2つの量について整理する。 まず、非負の包絡行列の固定鎖に対する有限深度対角バランス問題を正確に解く: 最適均一層予算は$\|M_{L-1}\cdots M_0\|_{\infty\to\infty}^{1/L}$で、長方形層に対する明示的な1パスミニミザーによって達成され、縮退と非収着の完全な処理を行う。 エンベロープへの通過は符号キャンセルを破壊するため、最適値はネットワーク自体のリプシッツ定数よりも任意に大きい。 第二に、明確な格子閾値を持つ制御スラックまで予算を保存する構成的なスプライン離散化定理を与える。 逆に、予算を正確に保存する線形スプライン値演算子に対しては、第1および第3の微分ノルムで同時に制約されたクラスに対して、予算互換のミニマックスローバウンドを証明します。 最後に、対応する層誤差は合成においてキャンセルする必要がないことを示す: クラスのすべての演算子に対して安定した深さ-$L$タワーが存在し、累積誤差の定数分数を実現しているので、上界の線形深度蓄積は証明人工物ではない。

関連論文リスト

• LayerNorm as Implicit Gain Control in Looped Transformers [0.0]
  制御アブレーションを含む6つのタスクにわたるトレーニング実験では、線形搬送が深度記憶機構ではないことが明らかになった。 我々は、この主張の境界を特徴づける: チャネルごとの軸アライメントを持つタスクにおいて、勾配降下はキャリーをリクルートする。
  論文  参考訳（メタデータ） (2026-07-12T09:57:23Z)
• Nonconvex Composite Functional Constraints via First-Order Augmented Lagrangian Methods under Local Regularity [10.643433352418915]
  一次非バランス性非コンケーブ最小値再構成の条件境界を均一に拡張した。 双対正則化では、大域的局所論はバイアスとともに議論される。 KKT。
  論文  参考訳（メタデータ） (2026-07-09T21:28:29Z)
• Regularized Online RLHF with Generalized Bilinear Preferences [68.44113000390544]
  一般的な嗜好を伴う文脈的オンラインRLHFの問題を考える。 一般化された双線形選好モデルを用いて、低ランクなスキュー対称行列による選好を捉える。 グリーディポリシーの双対ギャップは推定誤差の正方形によって有界であることを示す。
  論文  参考訳（メタデータ） (2026-02-26T15:27:53Z)
• Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
  プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。 我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。 重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
  論文  参考訳（メタデータ） (2026-02-24T05:32:03Z)
• Towards a Sharp Analysis of Offline Policy Learning for $f$-Divergence-Regularized Contextual Bandits [49.96531901205305]
  我々は$f$-divergence-regularized offline policy learningを分析する。 逆Kullback-Leibler (KL) の発散に対して、単極集中性の下での最初の$tildeO(epsilon-1)$サンプル複雑性を与える。 これらの結果は,$f$-divergence-regularized policy learningの包括的理解に向けて大きな一歩を踏み出したものと考えられる。
  論文  参考訳（メタデータ） (2025-02-09T22:14:45Z)
• High-dimensional Linear Bandits with Knapsacks [7.8856737627153874]
  本研究では,スパース推定をオンラインで行うハードしきい値アルゴリズムのオンライン版を開発する。 以下の構造的仮定のいずれかが、よりシャープな後悔境界である$tildeO(s_0 sqrtT)$に対して十分であることを示す。 副産物として、クナップサック制約を伴わない高次元のコンテキスト帯域に我々のフレームワークを適用することで、データポーラとデータリッチレジームの両方において最適な後悔率を回復する。
  論文  参考訳（メタデータ） (2023-11-02T15:40:33Z)
• Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
  本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。 最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
  論文  参考訳（メタデータ） (2023-10-20T12:45:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。