論文の概要: Variational and Majorization Principles in Lattice Reduction
- arxiv url: http://arxiv.org/abs/2604.27801v1
- Date: Thu, 30 Apr 2026 12:46:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-01 16:31:54.089386
- Title: Variational and Majorization Principles in Lattice Reduction
- Title(参考訳): 格子低減における変分原理と磁化原理
- Abstract要約: 格子はGram-Schmidtプロファイルを滑らかにし、そのスムージングの背後にある局所スワップ機構を記述する。
この言語では、L-generaterはスワップのディープケーススプレッドとして数えられる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Lattice reduction smooths the Gram-Schmidt profile, and we use majorization to describe the local swap mechanism behind that smoothing. In this language, each non-degenerate Lovász swap acts as a T-transform on the log-norm profile. As a consequence, every strictly Schur-convex measure of profile spread decreases at such a swap. Two structural consequences follow. First, the worst-case GSA envelope admits a variational interpretation. It is the unique minimum-variance profile compatible with the Lovász gap geometry, so its slope is determined by the LLL parameter alone. Second, the realized swap trajectory satisfies an exact telescoping identity for variance dissipation. The same viewpoint also helps organize deep-insertion heuristics. It suggests a thermal family of Schur-convex scoring rules, motivates adaptive selection within that family, and leads to two concrete selectors: Thermal-Adaptive, which reduces operation counts relative to SS-GG on flat profiles in our benchmarks while recovering SS-GG on $q$-ary inputs, and Geodesic Deep-LLL, which reduces equivalent-swap counts on structured lattices in our benchmarks at higher wall-clock cost.
- Abstract(参考訳): 格子低減はGram-Schmidtプロファイルを滑らかにし、そのスムース化の背後にある局所スワップ機構を記述するために大分解を用いる。
この言語では、各非退化ロヴァーススワップは、対数ノルムプロファイル上の T-変換として作用する。
その結果、プロファイルスプレッドの厳密なシュル凸測度は、このようなスワップで減少する。
2つの構造的な結果が続く。
まず、最悪のGSAエンベロープは変分解釈を許容する。
これはロヴァースギャップ幾何学と互換性のある唯一の最小分散プロファイルであり、その勾配は LLL パラメータだけで決定される。
第二に、実現されたスワップ軌道は、分散散逸に対して正確なテレスコープIDを満たす。
同じ視点は、深い挿入ヒューリスティックスの組織化にも役立ちます。
これは、Shure-convexスコアリングルールのサーマルファミリであり、そのファミリー内での適応選択を動機付け、2つの具体的なセレクタをもたらすことを示唆している。これは、ベンチマークのフラットプロファイル上のSS-GGに対する操作数を削減し、$q$-ary入力上でSS-GGを回復し、Geodesic Deep-LLLは、より高いウォールクロックコストでベンチマークの構造化格子の等価スワップ数を減少させる。
関連論文リスト
- Explaining f-Divergence-Based Regularization via Local Curvature and Sharpness-Aware Minimization [7.792020418343022]
多様性に基づく正規化とシャープネス認識最小化(SAM)は、ディープラーニングの一般化を改善するための2つの重要なアプローチである。
この2つの手法はパラメータ空間の摂動の下で局所的に一致していることを示す。
また、分岐に基づく正規化は入力の変換によって定義されることを示す。
論文 参考訳(メタデータ) (2026-09-08T19:01:05Z) - Preference-Shaped Expected Hypervolume and R2 Improvement: Exact Computation and Monotonicity [0.0]
同様の目的によく使用される指標群を2つ検討するが、幾何的に異なる。
ハイパーボリュームインジケータは、ディストピア基準点に基づいて、客観空間において支配的なボリュームを測定する。
R2インジケータはユートピア点に基づいて、重み付けされたチェビシェフスカラー化エンベロープによる近似集合を評価する。
論文 参考訳(メタデータ) (2026-05-27T17:02:28Z) - From One-Pass SGD to Data Reuse: Mini-Batch Scaling Laws in Sketched Linear Regression [13.325673179579818]
本研究では,1パスのバッチSGD,複数パスのバッチSGD,複数パスのバッチSGDを置換せずに解析する。
1パスのバッチSGDはバイアスと分散に分割される一方、2つのマルチパス法はGDバイアス、GD分散、および揺らぎ項に分割される。
我々は,ワンパスおよびマルチパスのミニバッチ手法のソース条件スケーリング法を証明した。
論文 参考訳(メタデータ) (2026-05-23T00:48:36Z) - iGSP:Implicit Gradient Subspace Projection for Efficient Continual Learning of Vision-Language Models [14.623213614166259]
iGSPは暗黙の勾配部分空間投影による効率的な適応を実現する新しいフレームワークである。
MTILベンチマークの実験は、iGSPが最先端の精度を達成することを示した。
論文 参考訳(メタデータ) (2026-05-19T03:22:14Z) - Regularized Online RLHF with Generalized Bilinear Preferences [68.44113000390544]
一般的な嗜好を伴う文脈的オンラインRLHFの問題を考える。
一般化された双線形選好モデルを用いて、低ランクなスキュー対称行列による選好を捉える。
グリーディポリシーの双対ギャップは推定誤差の正方形によって有界であることを示す。
論文 参考訳(メタデータ) (2026-02-26T15:27:53Z) - Fast and Large-Scale Unbalanced Optimal Transport via its Semi-Dual and Adaptive Gradient Methods [35.76482964927589]
エントロピーUOTの半二重定式化を解析し、適応勾配法に適合することを示す。
SGD法はこの局所曲率に適応し、$mathcalO(n/varepsilon T)$となる。
完全バッチ離散設定に対しては、勾配ステップサイズのみに依存する局所的滑らか度にほぼ密な上限を導出する。
論文 参考訳(メタデータ) (2026-02-11T09:57:30Z) - Differentiable Sparsity via $D$-Gating: Simple and Versatile Structured Penalization [22.883367233817836]
D$-Gatingは、理論上、元の群疎性問題の解法と等価であることを示す。
ビジョン、言語、タスクにまたがって私たちの理論を検証する。
論文 参考訳(メタデータ) (2025-09-28T14:08:29Z) - FedSVD: Adaptive Orthogonalization for Private Federated Learning with LoRA [68.44043212834204]
Low-Rank Adaptation (LoRA) は、学習における言語モデルの効率的な微調整に広く用いられている。
Low-Rank Adaptation (LoRA) は、学習における言語モデルの効率的な微調整に広く用いられている。
論文 参考訳(メタデータ) (2025-05-19T07:32:56Z) - On the Trajectories of SGD Without Replacement [0.0]
本稿では,グラディエントDescence(SGD)の暗黙的正則化効果について検討する。
我々は、大規模なニューラルネットワークを最適化するために一般的に使用される変種である、置換のないSGDの場合を考える。
論文 参考訳(メタデータ) (2023-12-26T18:06:48Z) - Transformers as Support Vector Machines [54.642793677472724]
自己アテンションの最適化幾何と厳密なSVM問題との間には,形式的等価性を確立する。
勾配降下に最適化された1層変圧器の暗黙バイアスを特徴付ける。
これらの発見は、最適なトークンを分離し選択するSVMの階層としてのトランスフォーマーの解釈を刺激していると信じている。
論文 参考訳(メタデータ) (2023-08-31T17:57:50Z) - Robust Training of Neural Networks using Scale Invariant Architectures [70.67803417918854]
SGDとは対照的に、Adamのような適応勾配法は、現代のディープネットワークの堅牢なトレーニングを可能にする。
この一般的なアプローチは、パラメータと損失の再スケーリングに頑健であることを示す。
我々は、単にバニラSGDで訓練された場合、Adamのような適応的な手法で訓練されたBERTに匹敵する性能を達成する、SIBERTと呼ばれるスケール不変バージョンのBERTを設計する。
論文 参考訳(メタデータ) (2022-02-02T11:58:56Z) - Balancing Rates and Variance via Adaptive Batch-Size for Stochastic
Optimization Problems [120.21685755278509]
本研究は,ステップサイズの減衰が正確な収束に必要であるという事実と,一定のステップサイズがエラーまでの時間でより速く学習するという事実のバランスをとることを目的とする。
ステップサイズのミニバッチを最初から修正するのではなく,パラメータを適応的に進化させることを提案する。
論文 参考訳(メタデータ) (2020-07-02T16:02:02Z) - Stability of Stochastic Gradient Descent on Nonsmooth Convex Losses [52.039438701530905]
任意のリプシッツ非平滑凸損失に対して,数種類の勾配勾配降下(SGD)に対して,鋭い上下境界を与える。
我々の限界は、極端に過剰な集団リスクを伴う、微分的にプライベートな非平滑凸最適化のための新しいアルゴリズムを導出することを可能にする。
論文 参考訳(メタデータ) (2020-06-12T02:45:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。