論文の概要: Incremental Learning in Mirror Flows
- arxiv url: http://arxiv.org/abs/2606.23198v1
- Date: Mon, 22 Jun 2026 11:46:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-24 23:24:51.054628
- Title: Incremental Learning in Mirror Flows
- Title（参考訳）: ミラーフローにおけるインクリメンタルラーニング
- Authors: Raphaël Berthier, Loucas Pillaud-Vivien,
- Abstract要約: 凸二次損失と一般凸下半連続ミラー電位により生じるミラー流について検討した。
ミラーポテンシャルの領域の境界付近で、再スケールされた軌道は、ポテンシャルが領域の指示関数である制限ミラーフローに収束することを示す。
- 参考スコア（独自算出の注目度）: 14.099505433979148
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study mirror flows generated by a convex quadratic loss and a general convex lower semicontinuous mirror potential. We show that, when initialized near the boundary of the domain of the mirror potential, their rescaled trajectories converge to a limiting mirror flow whose potential is the indicator function of the domain. In this limit, the primal variable minimizes the loss over a time-dependent hypothesis set: the subdifferential of the support function of the domain, evaluated at the dual variable. This characterization provides a general mechanism for incremental learning in mirror flows.
- Abstract（参考訳）: 凸二次損失と一般凸下半連続ミラー電位により生じるミラー流について検討した。
ミラーポテンシャルの領域の境界付近で初期化されると、再スケールされた軌道は、ポテンシャルが領域の指示関数である制限ミラーフローに収束することを示す。
この極限において、原始変数は時間依存仮説集合上の損失を最小化する: 二重変数で評価される領域のサポート関数の部分微分である。
この特徴付けは、ミラーフローにおけるインクリメンタル学習の一般的なメカニズムを提供する。
関連論文リスト
- MirrorLA: Reflecting Feature Map for Vision Linear Attention [49.41670925034762]
リニアアテンションはトランスフォーマーの2次から線形への計算複雑性を著しく低下させるが、パフォーマンスにおけるソフトマックスに基づくアテンションの遅れは一貫して遅れる。
我々は、受動トランケーションをアクティブなリオリエンテーションに置き換える幾何学的枠組みであるMirrorLAを提案する。
MirrorLAは標準的なベンチマークで最先端のパフォーマンスを実現し、表現の忠実さを損なうことなく厳密な線形効率を実現できることを示した。
論文 参考訳（メタデータ） (2026-02-04T09:14:09Z) - Shift Before You Learn: Enabling Low-Rank Representations in Reinforcement Learning [56.87989363424]
シフトした後継尺度において,低ランク構造が自然に現れることを示す。
有効な低ランク近似と推定に必要なシフトの量を定量化する。
論文 参考訳（メタデータ） (2025-09-05T15:48:20Z) - Implicit Bias of Mirror Flow on Separable Data [21.163144861740268]
線形分離可能な分類問題に対して,ミラー降下の連続時間,すなわちミラーフローについて検討する。
指数的尾尾損失とポテンシャルに対する軽度の仮定では、イテレートは$phi_infty$-maximumマージンに向かって収束する。
関数 $phi_infty$ はミラーポテンシャルのテクスリゾン関数であり、無限大でその形状を特徴づける」
論文 参考訳（メタデータ） (2024-06-18T16:30:51Z) - Moving mirror-field dynamics under intrinsic decoherence [77.34726150561087]
鏡面相互作用における減衰ダイナミクスを本質的デコヒーレンススキームを用いて検討する。
得られた解に対して期待値,相関値,フシミ関数を示す。
論文 参考訳（メタデータ） (2023-05-06T03:41:45Z) - Implicit Bias of Gradient Descent on Reparametrized Models: On
Equivalence to Mirror Descent [64.26008239544085]
通勤パラメトリゼーションのある勾配流は、関連するレジェンド関数を持つ連続ミラー降下と等価である。
ルジャンドル関数を持つ連続ミラー降下は、関連する通勤パラメトリゼーションを伴う勾配流と見なすことができる。
論文 参考訳（メタデータ） (2022-07-08T17:47:11Z) - An Indirect Rate-Distortion Characterization for Semantic Sources:
General Model and the Case of Gaussian Observation [83.93224401261068]
ソースモデルは、情報の意味的側面に対する最近の関心の高まりによって動機付けられている。
intrinsic状態は、一般に観測不可能なソースの意味的特徴に対応する。
レート歪み関数は、ソースのセマンティックレート歪み関数である。
論文 参考訳（メタデータ） (2022-01-29T02:14:24Z) - Reducing the Covariate Shift by Mirror Samples in Cross Domain Alignment [6.004178835056764]
本稿では,他の領域における等価サンプルを表す鏡(仮想ミラー)という新しい概念を紹介する。
ミラー対と呼ばれる等価なサンプル対は、経験的分布の自然な対応を反映している。
ミラー対のクロスドメインを整列するミラー損失は、ドメインの整列性を高めるために構築される。
論文 参考訳（メタデータ） (2021-10-13T02:25:51Z) - A Continuous-Time Mirror Descent Approach to Sparse Phase Retrieval [24.17778927729799]
スパース位相探索に適用した連続時間ミラーを解析する。
これは、測定のみの集合からスパース信号を復元する問題である。
この問題に対して収束解析アルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-10-20T10:03:44Z) - Extreme Memorization via Scale of Initialization [72.78162454173803]
我々は,初期化の規模を変えることが,SGDによって誘導される暗黙の正規化に強く影響を与える実験装置を構築する。
一般化能力に影響を及ぼす範囲と方法が、使用したアクティベーションと損失関数に依存することがわかった。
均質なReLU活性化の場合、この挙動は損失関数に起因することが示される。
論文 参考訳（メタデータ） (2020-08-31T04:53:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。