論文の概要: Hybrid Joint-Selective Optimization: Reduced-Space Levenberg-Marquardt Refinement of Low-Dimensional Parameters of Interest
- arxiv url: http://arxiv.org/abs/2609.37308v1
- Date: Tue, 29 Sep 2026 11:43:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.449078
- Title: Hybrid Joint-Selective Optimization: Reduced-Space Levenberg-Marquardt Refinement of Low-Dimensional Parameters of Interest
- Title(参考訳): ハイブリッド結合選択最適化:関心の低次元パラメータの還元空間レバンベルグ・マルカールト微細化
- Abstract要約: 本稿では,大規模数値問題に対するHJSO(Hybrid Joint-selective Optimization)フレームワークを提案する。
我々は全パラメータベクトルを高次元残差ブロックと低次元利得パラメータブロック(POI)に分割する。
我々は全パラメータ集合上で一階共同最適化を行い、残りの変数を凍結し、還元空間のレバンス・マルカート改良をPOIに適用する。
このフレームワークは,行列固有値問題,逆ブラトゥー問題という3つの代表的な問題に対して評価される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper introduces a hybrid joint-selective optimization (HJSO) framework for large-scale numerical problems in which a small subset of trainable quantities is of primary interest. We partition the full parameter vector into a high-dimensional remaining block and a low-dimensional block of parameters of interest (POIs), perform joint first-order optimization over the full parameter set, and then freeze the remaining variables while applying a reduced-space Levenberg-Marquardt (LM) refinement to the POIs. The method is designed for settings in which the POIs are low-dimensional but strongly influence the quality of the computed solution, while the full parameter space remains too large for full-space second-order methods. The framework is evaluated on three representative problems: a matrix eigenvalue problem, an inverse Bratu problem solved with a physics-informed neural network, and a 100-dimensional nonlinear Black-Scholes problem solved with the DeepBSDE method. In each test, HJSO reaches prescribed POI-error thresholds faster than the corresponding joint first-order baseline and improves the final POI accuracy for the reported solver configurations. The contribution is therefore not a universal optimizer, but a practical reduced-space strategy for problems with known low-dimensional parameters of interest and expensive high-dimensional training variables.
- Abstract(参考訳): 本稿では,大規模数値問題に対するHJSO(Hybrid Joint-selective Optimization)フレームワークを提案する。
我々は、全パラメータベクトルを高次元残差ブロックと低次元利得パラメータブロック(POI)に分割し、全パラメータ集合上で共同一階最適化を行い、縮小空間のレバンス・マルカート(LM)をPOIに適用しながら残りの変数を凍結する。
この方法は、POIが低次元であるが計算された解の品質に強く影響を及ぼすような設定のために設計されており、フルパラメータ空間はフルスペースの2階法では大きすぎる。
このフレームワークは,行列固有値問題,物理インフォームドニューラルネットワークで解く逆ブラトゥー問題,DeepBSDE法で解く100次元非線形ブラックスコール問題という3つの代表的な問題に基づいて評価される。
各テストにおいて、HJSOは、対応する第1次第1次ベースラインよりも早く所定のPOIエラー閾値に達し、報告されたソルバ構成の最終的なPOI精度を向上させる。
したがって、この貢献は普遍的な最適化ではなく、関心の低次元パラメータと高価な高次元の訓練変数の既知の問題に対する実用的な縮小空間戦略である。
関連論文リスト
- Adaptive Hybrid Subspace Levenberg Marquardt Algorithm with Adequacy Monitor for Large Scale Least Squares Problems [0.0]
Levenberg-Marquardt (LM) アルゴリズムは非線形最小二乗問題の解法として最も広く用いられている手法である。
低次元部分空間を構成する適応型ハイブリッド部分空間 Levenberg-Marquardt (HSLM) アルゴリズムを提案する。
HSLM は古典的およびクリロフ部分空間 LM (KSLM) に匹敵する収束挙動を達成し、計算コストを大幅に削減する。
論文 参考訳(メタデータ) (2026-08-26T08:33:33Z) - FACTO: Function-space Adaptive Constrained Trajectory Optimization for Robotic Manipulators [4.0407133618465005]
本稿では,単一およびマルチアームマニピュレータのための関数空間適応制約軌道最適化(FACTO)を提案する。
非線形性に対処するため、FACTOはガウス・ニュートン近似を用いて指数的移動平均化を行い、滑らかな二次部分確率を与える。
フランカロボットにおけるFACTOの実験的評価は、デプロイの実現可能性を検証する。
論文 参考訳(メタデータ) (2026-02-23T16:38:13Z) - Parallel Diffusion Solver via Residual Dirichlet Policy Optimization [88.7827307535107]
拡散モデル(DM)は、最先端の生成性能を達成したが、シーケンシャルなデノナイジング特性のため、高いサンプリング遅延に悩まされている。
既存のソルバベースの加速度法では、低次元の予算で画像品質が著しく低下することが多い。
本研究では,各ステップに複数の勾配並列評価を組み込んだ新しいODE解法であるEnsemble Parallel Directionsolvr(EPD-EPr)を提案する。
論文 参考訳(メタデータ) (2025-12-28T05:48:55Z) - OrthAlign: Orthogonal Subspace Decomposition for Non-Interfering Multi-Objective Alignment [61.02595549125661]
大規模言語モデル(LLM)のアライメントは、複数の人間の好みに対処する際に重要なジレンマに直面します。
我々は、優先順位調整における勾配レベルの対立を解決する革新的なアプローチであるOrthAlignを提案する。
我々はOrthAlignが多重目的アライメント後の34.61%から50.89%の最大単一参照改善を実現していることを示す。
論文 参考訳(メタデータ) (2025-09-29T11:16:30Z) - Kernel-Adaptive PI-ELMs for Forward and Inverse Problems in PDEs with Sharp Gradients [0.0]
本稿では,KAPI-ELM(Kernel Adaptive Physics-Informed Extreme Learning Machine)を紹介する。
局所的急勾配を含む前方および逆部分微分方程式(PDE)の問題を解くように設計されている。
KAPI-ELMは、フォワード設定と逆設定の両方で最先端の精度を達成する。
論文 参考訳(メタデータ) (2025-07-14T13:03:53Z) - A Gradient Meta-Learning Joint Optimization for Beamforming and Antenna Position in Pinching-Antenna Systems [63.213207442368294]
マルチ導波路ピンチアンテナシステムの新しい最適化設計について検討する。
提案したGML-JOアルゴリズムは,既存の最適化手法と比較して,様々な選択や性能に頑健である。
論文 参考訳(メタデータ) (2025-06-14T17:35:27Z) - Adiabatic-Passage-Based Parameter Setting for Quantum Approximate
Optimization Algorithm [0.7252027234425334]
本稿では,新しい断熱パスに基づくパラメータ設定法を提案する。
本手法は, 3SAT問題に適用した場合の最適化コストを, サブ線形レベルに著しく低減する。
論文 参考訳(メタデータ) (2023-11-30T01:06:41Z) - STORM+: Fully Adaptive SGD with Momentum for Nonconvex Optimization [74.1615979057429]
本研究では,スムーズな損失関数に対する期待値である非バッチ最適化問題について検討する。
我々の研究は、学習率と運動量パラメータを適応的に設定する新しいアプローチとともに、STORMアルゴリズムの上に構築されている。
論文 参考訳(メタデータ) (2021-11-01T15:43:36Z) - Implicit differentiation of Lasso-type models for hyperparameter
optimization [82.73138686390514]
ラッソ型問題に適した行列逆転のない効率的な暗黙微分アルゴリズムを提案する。
提案手法は,解の空間性を利用して高次元データにスケールする。
論文 参考訳(メタデータ) (2020-02-20T18:43:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。