論文の概要: Learning Where to Steer: Noise-Space Geometry for Efficient Offline Multi-Objective Optimization with Generative Models
- arxiv url: http://arxiv.org/abs/2609.38920v1
- Date: Wed, 30 Sep 2026 04:06:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.157331
- Title: Learning Where to Steer: Noise-Space Geometry for Efficient Offline Multi-Objective Optimization with Generative Models
- Title(参考訳): ステアリングの学習 : 生成モデルを用いた効率的なオフライン多目的最適化のためのノイズ空間幾何
- Abstract要約: オフライン多目的最適化(MOO)は、目的を問い合わせることなく、固定データセットのみを使用して、よりよい客観的トレードオフのソリューションを求める。
初期ノイズに対処し、サンプリングプロセスをそのままにしておきます。
Off-MOO-Benchでは,雑音の関数としての目的が数方向のみに敏感であることを確認する。
この変位は, 学習目標であるスカラー化を期待して増加させ, 流出を網羅することで, フローの到達した前方からプロキシとステアリングエラーが回復することを示す。
- 参考スコア(独自算出の注目度): 19.52946899065601
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Offline multi-objective optimization (MOO) seeks solutions with better objective trade-offs using only a fixed dataset, without querying the objectives. Diffusion models trained on such data have emerged as a promising approach, but their samples are not inherently better than the data and must be steered toward the Pareto front. Existing methods guide or condition every sampling step. We instead act on the initial noise and leave the sampling process unchanged. Across Off-MOO-Bench, we observe that the objectives, as functions of the noise, are sensitive to only a few directions. We estimate these directions once per task via a Recursive Feature Machine using function values alone, and a small cache serves every trade-off, so each candidate costs one noise displacement and one ODE solve. We prove that this displacement increases the learned scalarized objective in expectation, and that sweeping trade-offs recovers the flow's attainable front up to proxy and steering errors. With additional guidance, for which we introduce novel data-adaptive and Pareto-aware operators, our method attains the best average hypervolume rank among generative methods on 47 tasks, at comparable or lower sampling cost. Steering alone outranks the best prior generative method at a fraction of its sampling cost.
- Abstract(参考訳): オフライン多目的最適化(MOO)は、目的を問い合わせることなく、固定データセットのみを使用してよりよい客観的トレードオフのソリューションを求める。
このようなデータに基づいてトレーニングされた拡散モデルは、有望なアプローチとして現れてきたが、それらのサンプルは本質的にデータよりも優れておらず、パレートフロントに向けて操らなければならない。
既存のメソッドはサンプリングステップ毎にガイドまたは条件を指定します。
代わりに、最初のノイズに対処し、サンプリングプロセスをそのままにしておきます。
Off-MOO-Benchでは,雑音の関数として,目的が数方向のみに敏感であることを確認する。
関数値のみを用いてタスク毎のこれらの方向を再帰的特徴マシンで推定し、小さなキャッシュはトレードオフ毎に役立ち、各候補は1つのノイズ変位と1つのODEを解決します。
この変位は, 学習目標であるスカラー化を期待して増加させ, 流出を網羅することで, フローの到達した前方からプロキシとステアリングエラーが回復することを示す。
さらに,新しいデータ適応型およびパレート対応型演算子を導入し,47タスクにおける生成手法の平均超ボリュームランクを同等あるいは低いサンプリングコストで達成する。
ステアリングだけでは、サンプリングコストのごく一部で、最も先行した生成方法を上回っている。
関連論文リスト
- CCDP: Composition of Conditional Diffusion Policies with Guided Sampling [17.9632871021636]
本稿では,以前に失敗した動作を避けるため,サンプリング分布を改良する改良されたサンプリング戦略を提案する。
本手法は,探索行動の追加を必要とせずに,回復動作を推定できることを実証する。
提案手法では, サンプリングスペースを動的に調整し, 先行サンプルが不足した場合の効率を向上させる低レベルコントローラを提案する。
論文 参考訳(メタデータ) (2025-03-19T16:24:55Z) - ROPO: Robust Preference Optimization for Large Language Models [59.10763211091664]
外部モデルの助けを借りずにノイズ耐性とノイズサンプルのフィルタリングを統合する反復アライメント手法を提案する。
Mistral-7BとLlama-2-7Bで広く使われている3つのデータセットの実験では、ROPOが既存の嗜好アライメント法を大幅に上回っていることが示されている。
論文 参考訳(メタデータ) (2024-04-05T13:58:51Z) - Self-Supervised Dataset Distillation for Transfer Learning [77.4714995131992]
ラベルなしデータセットを、効率的な自己教師付き学習(SSL)のための小さな合成サンプル群に蒸留する新しい問題を提案する。
両レベル最適化におけるSSL目標に対する合成サンプルの勾配は、データ拡張やマスキングから生じるランダム性から、テキストバイアスを受けていることを最初に証明する。
転送学習を含む様々な応用における本手法の有効性を実証的に検証する。
論文 参考訳(メタデータ) (2023-10-10T10:48:52Z) - Diffusion Generative Flow Samplers: Improving learning signals through
partial trajectory optimization [87.21285093582446]
Diffusion Generative Flow Samplers (DGFS) はサンプルベースのフレームワークであり、学習プロセスを短い部分的軌道セグメントに分解することができる。
生成フローネットワーク(GFlowNets)のための理論から着想を得た。
論文 参考訳(メタデータ) (2023-10-04T09:39:05Z) - Multisample Flow Matching: Straightening Flows with Minibatch Couplings [38.82598694134521]
連続時間生成モデルを訓練するためのシミュレーション不要な手法は、ノイズ分布と個々のデータサンプルの間の確率経路を構築する。
データとノイズサンプル間の非自明な結合を利用するより一般的なフレームワークであるMultisample Flow Matchingを提案する。
提案手法は,イメージネットデータセットのサンプル一貫性を向上し,低コストなサンプル生成に繋がることを示す。
論文 参考訳(メタデータ) (2023-04-28T11:33:08Z) - Learning Sampling Distributions for Model Predictive Control [36.82905770866734]
モデル予測制御(MPC)に対するサンプリングに基づくアプローチは、MPCに対する現代のアプローチの基盤となっている。
我々は、学習された分布を最大限に活用できるように、潜在空間における全ての操作を実行することを提案する。
具体的には、学習問題を双方向の最適化として捉え、バックプロパゲーションスルータイムでコントローラをトレーニングする方法を示す。
論文 参考訳(メタデータ) (2022-12-05T20:35:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。