論文の概要: ORACLE: Optimizer-Relative Alignment for Constrained LEarning

• arxiv url: http://arxiv.org/abs/2610.09040v1
• Date: Tue, 06 Oct 2026 19:41:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.575087
• Title: ORACLE: Optimizer-Relative Alignment for Constrained LEarning
• Title（参考訳）: ORACLE:制約付きリーニングのための最適化関連アライメント
• Abstract要約: 比較的制約のある学習を定式化し、そこで制約互換性をポストアップデートで評価する。 ORACLEを導入し、異種家族の連成線形化を通して、母国部分の実現段階を評価する。 目的, 勾配, ポストオプティマイザレベルに作用する代替制約処理法の改善を示す。
• 参考スコア（独自算出の注目度）: 4.856916954503846
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Constraint handling methods typically intervene before the optimizer acts, by modifying the objective or the gradient. Yet momentum, adaptive scaling, and structured preconditioning can substantially reshape that signal before it becomes a parameter update. We formulate optimizer relative constrained learning, where constraint compatibility is assessed on the post optimizer update. Building on this view, we introduce ORACLE, which evaluates the native optimizer's realized step through a joint endpoint linearization of heterogeneous constraint families, constructs the resulting alignment in the optimizer's own geometry, bounds its authority, and commits it only after validation. We evaluate ORACLE across eight Partial Differential Equation benchmarks and four optimizers spanning Euclidean, diagonal adaptive, and structured preconditioned geometries, where it improves or matches native optimizer in 94% of configurations. Cross model analysis shows the same behavior in 92% of configurations, while matched comparisons show improvements over alternative constraint-handling methods acting at the objective, gradient, and post-optimizer levels.
• Abstract（参考訳）: 制約ハンドリングメソッドは通常、目的や勾配を変更することで、オプティマイザの動作の前に介入する。 しかし、モーメント、適応スケーリング、構造化プレコンディショニングは、パラメーター更新になる前にその信号を実質的に再構成することができる。 我々は、制約適合性をポストオプティマイザ更新で評価する、相対的制約付き学習を定式化する。 この観点から, ORACLEを導入し, 不均一制約系列の連接終端線形化によるネイティブオプティマイザの実現ステップを評価し, 結果のアライメントをオプティマイザ自身で構築し, 権威を束縛し, 検証後にのみコミットする。 我々は,8つの偏微分方程式ベンチマークとユークリッド,対角適応,構造化された事前条件付きジオメトリにまたがる4つのオプティマイザを用いてORACLEを評価し,94%の構成でネイティブオプティマイザを改良または整合させる。 クロスモデル解析は、構成の92%で同じ挙動を示すが、一致した比較は、目的、勾配および後最適化レベルで作用する代替制約処理法よりも改善されていることを示している。

関連論文リスト

• Counterfactual Route Optimization for Gaussian Head Avatar Modeling [50.10122849806579]
  頭部アバターモデリングは、幾何学、外観、対面的整合性に異なる支配的な影響を持つ目標を共同で最適化する必要がある。 中心的な課題は、各トレーニング状態においてどの最適化方向がより有益かを特定することである。 本稿では,頭部アバターモデリングのための実測経路最適化フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-10-07T10:08:08Z)
• Zero-order Parameter-free Optimization for LMO-based Methods: Novel Approach for Efficient Fine-tuning [46.539149169728624]
  大規模な微調整の大きな障害は、バックプロパゲーションのメモリオーバーヘッドである。 $texttAdaNAGED$は、勾配なしトレーニング、適応チューニング、非ユークリッド更新幾何学を統一するメソッドである。
  論文  参考訳（メタデータ） (2026-06-12T21:46:54Z)
• POP: Prior-fitted Optimizer Policies [20.784587787548436]
  POP(Prior Policies Policies)は、文脈情報に基づいて段階的に座標を予測できるメタ学習モデルである。 本モデルは,不適合な目的から抽出した数百万の合成最適化問題に基づいて学習した。
  論文  参考訳（メタデータ） (2026-02-17T10:27:07Z)
• Gradient Correction in Federated Learning with Adaptive Optimization [19.93709245766609]
  クライアント-ドリフト補償を適応最適化に組み込む最初のアルゴリズムである tt FAdamGC を提案する。 tt FAdamGCは、様々なレベルのデータの通信とコストにおいて、既存の手法よりも一貫して優れていることを示す。
  論文  参考訳（メタデータ） (2025-02-04T21:21:30Z)
• Generative Adversarial Model-Based Optimization via Source Critic Regularization [25.19579059511105]
  本稿ではアダプティブ・ソース・批評家正規化(aSCR)を用いた生成逆モデルに基づく最適化を提案する。 ASCRは、サロゲート関数が信頼できる設計空間の領域に最適化軌道を制約する。 本稿では,aSCRを標準的なベイズ最適化に活用することにより,オフライン生成設計タスクのスイートにおいて,既存の手法よりも優れた性能を発揮することを示す。
  論文  参考訳（メタデータ） (2024-02-09T16:43:57Z)
• Generalized Preference Optimization: A Unified Approach to Offline Alignment [54.97015778517253]
  本稿では,一般的な凸関数のクラスによってパラメータ化されるオフライン損失の族である一般化された選好最適化(GPO)を提案する。 GPOは、DPO、IPO、SLiCといった既存のアルゴリズムを特別なケースとして含む、優先最適化に関する統一的なビューを可能にする。 本研究は,新たなアルゴリズムツールキットと経験的洞察を実践者のアライメントに提示する。
  論文  参考訳（メタデータ） (2024-02-08T15:33:09Z)
• DAG Learning on the Permutahedron [33.523216907730216]
  本稿では,観測データから潜在有向非巡回グラフ(DAG)を発見するための連続最適化フレームワークを提案する。 提案手法は、置換ベクトル(いわゆるペルムタヘドロン)のポリトープを最適化し、位相的順序付けを学習する。
  論文  参考訳（メタデータ） (2023-01-27T18:22:25Z)
• Accelerated Federated Learning with Decoupled Adaptive Optimization [53.230515878096426]
  フェデレートドラーニング(FL)フレームワークは、クライアント上のトレーニングデータのプライバシを維持しながら、共有モデルを協調的に学習することを可能にする。 近年,SGDM,Adam,AdaGradなどの集中型適応最適化手法をフェデレートした設定に一般化するためのイテレーションが多数実施されている。 本研究は、常微分方程式(ODE)のダイナミクスの観点から、FLの新しい適応最適化手法を開発することを目的としている。
  論文  参考訳（メタデータ） (2022-07-14T22:46:43Z)
• Tree ensemble kernels for Bayesian optimization with known constraints over mixed-feature spaces [54.58348769621782]
  木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。 ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。 我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
  論文  参考訳（メタデータ） (2022-07-02T16:59:37Z)
• Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
  バイレベル最適化は多くの機械学習問題に対するツールである。 Stoc-BiO という新しい確率効率勾配推定器を提案する。
  論文  参考訳（メタデータ） (2020-10-15T18:09:48Z)
• Optimization of Graph Total Variation via Active-Set-based Combinatorial Reconditioning [48.42916680063503]
  本稿では,この問題クラスにおける近位アルゴリズムの適応型事前条件付け手法を提案する。 不活性エッジのネスト・フォレスト分解により局所収束速度が保証されることを示す。 この結果から,局所収束解析は近似アルゴリズムにおける可変指標選択の指針となることが示唆された。
  論文  参考訳（メタデータ） (2020-02-27T16:33:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。