論文の概要: Reinforcement learning to choose optimizers

• arxiv url: http://arxiv.org/abs/2609.01811v1
• Date: Tue, 01 Sep 2026 19:35:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-03 17:53:17.965139
• Title: Reinforcement learning to choose optimizers
• Title（参考訳）: オープティマイザ選択のための強化学習
• Abstract要約: 『強化学習選択』では、逐次的な意思決定問題としてアルゴリズムの選択が採用されている。 ポートフォリオにはグラデーションベースとデリバティブフリーが含まれており、各スイッチは現在のベストソリューションと代表的なステップサイズをパスする。 目に見えない問題では、学習されたポリシーは最小の予算を除いてすべてのポートフォリオを上回ります。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: No single optimization method is uniformly best for all problems, and the most suitable optimizer choice can change during a run. Existing approaches that change optimizer during execution typically predetermine part of the strategy: the portfolio is restricted to one algorithm class, the switch occurs once at a fixed time, or the frequency of decisions is treated as a hyperparameter rather than a learned one. We introduce "Reinforcement Learning to Choose Optimizers", which formulates the optimization algorithm choice as a sequential decision-making problem. At each decision, a recurrent policy reads the current run state and decides both which optimizer should be used next and for how long. The portfolio includes both gradient-based and derivative-free optimizers, and each switch passes on the current best solution and a representative step size. A context proxy conditions a gating network over expert heads, and training employs a decoupled actor-critic whose return is expressed in the same empirical runtime distribution metric used at evaluation. Training tasks and portfolio are designed jointly so that no optimizer dominates. On unseen problems, the learned policy outperforms every portfolio optimizer at all but the smallest budgets, and it remains robust under distribution shift.
• Abstract（参考訳）: 単一最適化手法はすべての問題に対して一様に最適であり、最も適切なオプティマイザの選択は実行中に変更できる。 ポートフォリオは1つのアルゴリズムクラスに制限され、スイッチは1度だけ発生し、決定の頻度は学習されたものではなくハイパーパラメータとして扱われる。 本稿では,最適化アルゴリズムの選択を逐次決定問題として定式化する「最適化学習選択のための強化学習」を紹介する。 それぞれの決定では、リカレントポリシが現在の実行状態を読み出し、次にどのオプティマイザを使用するか、どのくらいの期間かを決定する。 ポートフォリオには勾配ベースのオプティマイザとデリバティブフリーのオプティマイザの両方が含まれており、各スイッチは現在のベストソリューションと代表的なステップサイズをパスする。 コンテキストプロキシは、専門家の頭上でゲーティングネットワークを条件付け、トレーニングでは、評価に使用する経験的ランタイム分布メトリックでリターンが表現される分離されたアクタークリティカルを使用する。 トレーニングタスクとポートフォリオは、オプティマイザが支配しないよう、共同で設計されている。 目に見えない問題では、学習されたポリシーは最小の予算を除いてすべてのポートフォリオオプティマイザよりも優れており、分散シフトの下では堅牢である。

関連論文リスト

• Advancing CMA-ES with Learning-Based Cooperative Coevolution for Scalable Optimization [12.899626317088885]
  本稿では,先駆的な学習に基づく協調的共進化フレームワークであるLCCを紹介する。 LCCは最適化プロセス中に動的に分解戦略をスケジュールする。 最適化の効率性とリソース消費の観点からは、最先端のベースラインに対して、ある種のアドバンテージを提供する。
  論文  参考訳（メタデータ） (2025-04-24T14:09:22Z)
• Greedy Restart Schedules: A Baseline for Dynamic Algorithm Selection on Numerical Black-box Optimization Problems [0.0]
  本稿では,選択時の未解決学習問題の分布に最善を尽くすアルゴリズムを反復的に選択するスケジューリング手法を提案する。 我々は,BBOBテストベッド上での数値ブラックボックス最適化からよく知られた手法を実演し,従来のポートフォリオから様々な評価プロトコルにまたがって,単一と仮想のベストソルバのギャップの多くを埋める方法を示した。
  論文  参考訳（メタデータ） (2025-04-15T17:54:21Z)
• optimizn: a Python Library for Developing Customized Optimization Algorithms [1.935854617866948]
  optimiznは、最適化アルゴリズムのパラダイムの下でカスタマイズされた最適化アルゴリズムを開発するためのPythonライブラリである。 Opimiznは継続的トレーニングを提供しており、ユーザーはアルゴリズムを通常のケイデンスで実行し、以前の実行の健全な側面を維持し、その後の実行で使用して、最適性に近づいたソリューションを生成することができる。
  論文  参考訳（メタデータ） (2025-02-25T02:34:44Z)
• Optimization Learning [20.41808267852453]
  本稿では最適化プロキシを設計するための方法論である最適化学習の概念を紹介する。 最適化プロキシは、自己管理的な方法でエンドツーエンドでトレーニングできることを示している。 最適化プロキシのポテンシャルは、電力システムにおける応用を通して強調される。
  論文  参考訳（メタデータ） (2025-01-07T00:09:52Z)
• Learning Multiple Initial Solutions to Optimization Problems [52.9380464408756]
  厳密なランタイム制約の下で、同様の最適化問題を順次解決することは、多くのアプリケーションにとって不可欠である。 本稿では,問題インスタンスを定義するパラメータが与えられた初期解を多種多様に予測する学習を提案する。 提案手法は,すべての評価設定において有意かつ一貫した改善を実現し,必要な初期解の数に応じて効率よくスケールできることを実証した。
  論文  参考訳（メタデータ） (2024-11-04T15:17:19Z)
• LLM as a Complementary Optimizer to Gradient Descent: A Case Study in Prompt Tuning [69.95292905263393]
  グラデーションベースとハイレベルなLLMは、協調最適化フレームワークを効果的に組み合わせることができることを示す。 本稿では,これらを相互に補完し,組み合わせた最適化フレームワークを効果的に連携させることができることを示す。
  論文  参考訳（メタデータ） (2024-05-30T06:24:14Z)
• Towards Efficient Exact Optimization of Language Model Alignment [93.39181634597877]
  嗜好データから直接ポリシーを最適化するために、直接選好最適化(DPO)が提案された。 問題の最適解に基づいて導出されたDPOが,現実の最適解の妥協平均探索近似に繋がることを示す。 本稿では、アライメント目的の効率的な精度最適化(EXO)を提案する。
  論文  参考訳（メタデータ） (2024-02-01T18:51:54Z)
• Analyzing and Enhancing the Backward-Pass Convergence of Unrolled Optimization [50.38518771642365]
  ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。 この設定における中心的な課題は最適化問題の解によるバックプロパゲーションであり、しばしば閉形式を欠いている。 本稿では, 非線形最適化の後方通過に関する理論的知見を提供し, 特定の反復法による線形システムの解と等価であることを示す。 Folded Optimizationと呼ばれるシステムが提案され、非ローリングなソルバ実装からより効率的なバックプロパゲーションルールを構築する。
  論文  参考訳（メタデータ） (2023-12-28T23:15:18Z)
• VeLO: Training Versatile Learned Optimizers by Scaling Up [67.90237498659397]
  私たちは、ディープラーニングの成功の背後にある同じスケーリングアプローチを活用して、汎用性を学びます。 私たちは、パラメータの更新を取り込み出力する小さなニューラルネットワークであるディープラーニングのためのインジェクションをトレーニングします。 学習したメタトレーニングコード、関連するトレインテストデータ、およびvelo-code.ioのベースラインを備えた広範なベンチマークスイートをオープンソースとして公開しています。
  論文  参考訳（メタデータ） (2022-11-17T18:39:07Z)
• Teaching Networks to Solve Optimization Problems [13.803078209630444]
  反復解法をトレーニング可能なパラメトリック集合関数に置き換えることを提案する。 このようなパラメトリックな(集合)関数を学習することで、様々な古典的最適化問題を解くことができることを示す。
  論文  参考訳（メタデータ） (2022-02-08T19:13:13Z)
• Learning with Differentiable Perturbed Optimizers [54.351317101356614]
  本稿では,操作を微分可能で局所的に一定ではない操作に変換する手法を提案する。 提案手法は摂動に依拠し,既存の解法とともに容易に利用することができる。 本稿では,この枠組みが,構造化予測において発達した損失の族とどのように結びつくかを示し,学習課題におけるそれらの使用に関する理論的保証を与える。
  論文  参考訳（メタデータ） (2020-02-20T11:11:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。