論文の概要: First-Order Geometry, Spectral Compression, and Structural Compatibility under Bounded Computation
- arxiv url: http://arxiv.org/abs/2603.08494v1
- Date: Mon, 09 Mar 2026 15:29:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-10 15:13:16.301415
- Title: First-Order Geometry, Spectral Compression, and Structural Compatibility under Bounded Computation
- Title(参考訳): 境界計算における1次幾何学, スペクトル圧縮, 構造適合性
- Authors: Changkai Li,
- Abstract要約: 本稿では,自己随伴演算子によって制限を符号化する演算子理論の定式化を提案する。
この設定では、最適一階改善方向が擬似逆重み勾配として現れる。
実効力学が支配的なスペクトルモードに沿って集中していることを示し、スペクトル圧縮の原理的概念を導出する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Optimization under structural constraints is typically analyzed through projection or penalty methods, obscuring the geometric mechanism by which constraints shape admissible dynamics. We propose an operator-theoretic formulation in which computational or feasibility limitations are encoded by self-adjoint operators defining locally reachable subspaces. In this setting, the optimal first-order improvement direction emerges as a pseudoinverse-weighted gradient, revealing how constraints induce a distorted ascent geometry. We further demonstrate that effective dynamics concentrate along dominant spectral modes, yielding a principled notion of spectral compression, and establish a compatibility principle that characterizes the existence of common admissible directions across multiple objectives. The resulting framework unifies gradient projection, spectral truncation, and multi-objective feasibility within a single geometric structure.
- Abstract(参考訳): 構造的制約の下での最適化は、一般に射影法やペナルティ法を通じて分析され、制約が許容できる力学を形作る幾何学的メカニズムを無視する。
本稿では,局所到達可能な部分空間を定義する自己随伴演算子によって計算や実現可能性の制限を符号化する演算子理論の定式化を提案する。
この設定では、最適一階改善方向が擬似逆重み付き勾配として現れ、制約が歪んだ昇華幾何学をいかに引き起こすかを明らかにする。
さらに、実効力学が支配的なスペクトルモードに沿って集中し、スペクトル圧縮の原理を導出し、複数の目的にまたがる共通許容方向の存在を特徴付ける相補原理を確立することを実証する。
結果として得られるフレームワークは、勾配投影、スペクトルトランケーション、および単一の幾何学的構造内での多目的実現性を統一する。
関連論文リスト
- Why Deep Jacobian Spectra Separate: Depth-Induced Scaling and Singular-Vector Alignment [10.515277266852838]
本研究では, 深層ジャコビアンの研究において, 順序特異値の指数的スケーリングと強いスペクトル分離が可能であることを示す。
さらに、行列積における特異ベクトルアライメントが十分に強い分離力を持つことを示し、中間ヤコビアンに対してほぼ共有の特異基底を与える。
固定ゲート設定の実験は、予測スケーリング、アライメント、そして結果のダイナミクスを検証する。
論文 参考訳(メタデータ) (2026-02-12T20:27:59Z) - Towards A Unified PAC-Bayesian Framework for Norm-based Generalization Bounds [63.47271262149291]
PAC-Bayesianノルムに基づく一般化のための統一的なフレームワークを提案する。
提案手法の鍵となるのは、構造的重み摂動に関してネットワーク出力を定量化する感度行列である。
我々は、いくつかの既存のPAC-ベイジアン結果を特殊ケースとして回復する一般化境界の族を導出する。
論文 参考訳(メタデータ) (2026-01-13T00:42:22Z) - A General Weighting Theory for Ensemble Learning: Beyond Variance Reduction via Spectral and Geometric Structure [0.0]
本稿では,アンサンブル学習のための一般的な重み付け理論を開発する。
我々は、仮説空間に作用する線型作用素としてアンサンブルを定式化する。
非一様構造重みが平均値よりも優れていることを示す。
論文 参考訳(メタデータ) (2025-12-25T08:51:01Z) - Tree-Preconditioned Differentiable Optimization and Axioms as Layers [0.0]
Axioms-as-Layers"パラダイムは、ランダムユーティリティモデルの公理構造を直接ディープニューラルネットワークに埋め込む。
公理としてのレイヤー」パラダイムは、ペナルティに基づく手法に固有の構造的過適合を排除している。
論文 参考訳(メタデータ) (2025-12-03T04:47:37Z) - Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。
以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
論文 参考訳(メタデータ) (2025-10-22T19:06:39Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Joint Network Topology Inference via Structured Fusion Regularization [70.30364652829164]
結合ネットワークトポロジ推論は、異種グラフ信号から複数のグラフラプラシア行列を学習する標準的な問題を表す。
新規な構造化融合正規化に基づく一般グラフ推定器を提案する。
提案するグラフ推定器は高い計算効率と厳密な理論保証の両方を享受できることを示す。
論文 参考訳(メタデータ) (2021-03-05T04:42:32Z) - A General Framework for Consistent Structured Prediction with Implicit
Loss Embeddings [113.15416137912399]
構造化予測のための理論的・アルゴリズム的な枠組みを提案し,解析する。
問題に対して適切な幾何を暗黙的に定義する、損失関数の大規模なクラスについて検討する。
出力空間を無限の濃度で扱うとき、推定子の適切な暗黙の定式化が重要であることが示される。
論文 参考訳(メタデータ) (2020-02-13T10:30:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。