論文の概要: Constrained Variable Projection for Structured Problems

• arxiv url: http://arxiv.org/abs/2606.23939v1
• Date: Mon, 22 Jun 2026 21:00:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-24 22:16:48.689078
• Title: Constrained Variable Projection for Structured Problems
• Title（参考訳）: 構造問題に対する制約付き可変射影
• Authors: Emanuele Zangrando, Sara Venturini, Francesco Rinaldi, Francesco Tudisco,
• Abstract要約: データサイエンスモデルのための制約付き可変投影フレームワークを開発する。 我々は, 自動微分に適合する厳密な漸進式を導出する。 スパースオートエンコーディング、辞書学習、ブラインドデコンボリューション、少数ショット学習の実験は、この手法がデータの効率を向上させることを示唆している。
• 参考スコア（独自算出の注目度）: 11.374309043794971
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Variable projection is a classical technique for separable nonlinear least-squares problems, in which variables that enter linearly are eliminated exactly, yielding a reduced nonlinear problem. By expressing this framework as a particular instance of a broader class of bilevel optimization problems, we develop a constrained variable-projection framework for data-science models, where the remaining variables are subject to convex constraints and the eliminated variables arise from a lower-level least-squares problem. In particular, by interpreting variable projection as a collapsed bilevel optimization problem, we derive exact reduced-gradient formulas compatible with automatic differentiation and propose a conditional-gradient algorithm for the resulting constrained reduced problem. We establish convergence guarantees under standard smoothness and compactness assumptions, and discuss extensions to structured lower-level variables. Numerical experiments on sparse autoencoding, dictionary learning, blind deconvolution, and few-shot learning suggest that the method can improve wall-clock efficiency and data efficiency relative to natural joint-optimization baselines.
• Abstract（参考訳）: 可変射影は、分離可能な非線形最小二乗問題の古典的手法であり、線形に入力する変数を正確に排除し、非線形問題を減少させる。 このフレームワークを、より広範な二段階最適化問題の特定の例として表現することにより、残りの変数が凸制約の対象となり、除去された変数が下位の最小二乗問題から生じるような、データサイエンスモデルのための制約付き変数投影フレームワークを開発する。 特に、変数射影を崩壊した双レベル最適化問題として解釈することにより、自動微分と整合性のある正確な縮退式を導出し、結果として生じる制約付き縮退問題に対する条件付き次数アルゴリズムを提案する。 標準の滑らかさとコンパクトさの仮定の下で収束保証を確立し、構造化された下層変数の拡張について議論する。 スパースオートエンコーディング,辞書学習,ブラインドデコンボリューション,少数ショット学習の数値実験により,自然な共同最適化ベースラインに対して,壁面時間効率とデータ効率を向上させることが示唆された。

関連論文リスト

• A Graphical Global Optimization Framework for Parameter Estimation of Statistical Models with Nonconvex Regularization Functions [0.0]
  線形ノルムバウンド制約の問題は、ポートフォリオ最適化、機械学習、機能選択など、さまざまなアプリケーションで発生する。 本稿では,これらの問題をグローバルに解決するための新しいグラフベース手法を提案する。
  論文  参考訳（メタデータ） (2025-05-06T18:09:54Z)
• Generalization Bounds of Surrogate Policies for Combinatorial Optimization Problems [53.03951222945921]
  我々はスムーズな(摂動された)ポリシーを解析し、線形オラクルが使用する方向に対して制御されたランダムな摂動を付加する。 我々の主な貢献は、過剰リスクを摂動バイアス、統計的推定誤差、最適化誤差に分解する一般化境界である。 車両のスケジューリングやスムーズ化がトラクタブルトレーニングと制御された一般化の両方を可能にしていることを示す。
  論文  参考訳（メタデータ） (2024-07-24T12:00:30Z)
• From Inverse Optimization to Feasibility to ERM [11.731853838892487]
  パラメータの予測に付加的なコンテキスト情報を利用するコンテキスト逆設定について検討する。 合成および実世界の問題に対する我々のアプローチを実験的に検証し,既存手法と比較して性能が向上したことを示す。
  論文  参考訳（メタデータ） (2024-02-27T21:06:42Z)
• Linearization Algorithms for Fully Composite Optimization [61.20539085730636]
  本稿では,完全合成最適化問題を凸コンパクト集合で解くための一階アルゴリズムについて検討する。 微分可能および非微分可能を別々に扱い、滑らかな部分のみを線形化することで目的の構造を利用する。
  論文  参考訳（メタデータ） (2023-02-24T18:41:48Z)
• A Variational Inference Approach to Inverse Problems with Gamma Hyperpriors [60.489902135153415]
  本稿では,ガンマハイパープライヤを用いた階層的逆問題に対する変分反復交替方式を提案する。 提案した変分推論手法は正確な再構成を行い、意味のある不確実な定量化を提供し、実装が容易である。
  論文  参考訳（メタデータ） (2021-11-26T06:33:29Z)
• Conditional gradient methods for stochastically constrained convex minimization [54.53786593679331]
  構造凸最適化問題に対する条件勾配に基づく2つの新しい解法を提案する。 私たちのフレームワークの最も重要な特徴は、各イテレーションで制約のサブセットだけが処理されることです。 提案アルゴリズムは, 条件勾配のステップとともに, 分散の低減と平滑化に頼り, 厳密な収束保証を伴っている。
  論文  参考訳（メタデータ） (2020-07-07T21:26:35Z)
• Ideal formulations for constrained convex optimization problems with indicator variables [2.578242050187029]
  本研究では,指標変数と指標に対する制約を用いた凸最適化問題のクラスを凸化することを検討した。 スパース回帰問題の凸化に関する従来の研究とは異なり、非線形非分離対象、指標変数、制約を同時に検討する。 階層性,多行性,空間性制約といった問題に対する理想的な凸化を導出する。
  論文  参考訳（メタデータ） (2020-06-30T21:07:10Z)
• Cogradient Descent for Bilinear Optimization [124.45816011848096]
  双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。 一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。 本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
  論文  参考訳（メタデータ） (2020-06-16T13:41:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。