論文の概要: Efficient Constraint-Aware Flow Matching via Randomized Exploration
- arxiv url: http://arxiv.org/abs/2508.13316v1
- Date: Mon, 18 Aug 2025 19:02:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-20 15:36:31.7075
- Title: Efficient Constraint-Aware Flow Matching via Randomized Exploration
- Title(参考訳): ランダムな探索による効率的な制約認識フローマッチング
- Authors: Zhengyan Huan, Jacob Boerma, Li-Ping Liu, Shuchin Aeron,
- Abstract要約: 本稿では,フローマッチング (FM) を用いてサンプルを生成する場合の問題点について考察する。
本稿では、制約セットと生成されたサンプルとの距離をペナルティ化する追加用語を用いて、FM目標の簡易な適応を提案する。
提案手法は, 対象分布に適合しながら, 制約満足度の観点から有意な利得が得られることを示す。
- 参考スコア(独自算出の注目度): 10.556484074223258
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider the problem of generating samples via Flow Matching (FM) with an additional requirement that the generated samples must satisfy given constraints. We consider two scenarios, viz.: (a) when a differentiable distance function to the constraint set is given, and (b) when the constraint set is only available via queries to a membership oracle. For case (a), we propose a simple adaptation of the FM objective with an additional term that penalizes the distance between the constraint set and the generated samples. For case (b), we propose to employ randomization and learn a mean flow that is numerically shown to have a high likelihood of satisfying the constraints. This approach deviates significantly from existing works that require simple convex constraints, knowledge of a barrier function, or a reflection mechanism to constrain the probability flow. Furthermore, in the proposed setting we show that a two-stage approach, where both stages approximate the same original flow but with only the second stage probing the constraints via randomization, is more computationally efficient. Through several synthetic cases of constrained generation, we numerically show that the proposed approaches achieve significant gains in terms of constraint satisfaction while matching the target distributions. As a showcase for a practical oracle-based constraint, we show how our approach can be used for training an adversarial example generator, using queries to a hard-label black-box classifier. We conclude with several future research directions. Our code is available at https://github.com/ZhengyanHuan/FM-RE.
- Abstract(参考訳): 本稿では,フローマッチング (FM) を用いてサンプルを生成する場合の問題点について考察する。
シナリオは2つ検討する。
(a) 制約集合に対する微分可能な距離関数が与えられると、
b) 制約セットが、メンバシップオラクルへのクエリを通してのみ利用可能である場合。
例
(a) 制約セットと生成されたサンプルとの距離をペナルティ化する追加用語を用いて, FM目標の簡易な適応を提案する。
例
b) ランダム化を用いて,制約を満たす確率の高い数値的な平均流れを学習することを提案する。
このアプローチは、単純な凸制約、障壁関数の知識、あるいは確率フローを制約する反射機構を必要とする既存の研究とは大きく異なる。
さらに, 提案手法では, 両段階が同じ元の流れを近似するが, ランダム化による制約を探索する第2段階のみの2段階のアプローチの方が, より計算効率がよいことを示す。
制約生成のいくつかの合成事例を通して,提案手法が対象分布に適合しながら,制約満足度の観点から有意な利得を達成できることを数値的に示す。
実践的なオラクルベースの制約の例示として、ハードラベルブラックボックス分類器へのクエリを用いて、逆例生成器のトレーニングに我々のアプローチをどのように利用できるかを示す。
今後の研究方針をまとめる。
私たちのコードはhttps://github.com/ZhengyanHuan/FM-REで公開されています。
関連論文リスト
- Constrained Sampling for Language Models Should Be Easy: An MCMC Perspective [31.37618506317961]
制約付き復号化により、言語モデルは、確実に厳しい制約を満たすサンプルを作成することができる。
既存の制約付きデコードアプローチは、基礎となるモデル分布を歪ませる。
我々はマルコフ・チェイン・モンテカルロに基づく新しい制約付きサンプリングフレームワークを提案する。
論文 参考訳(メタデータ) (2025-06-06T05:28:20Z) - Fast Controlled Generation from Language Models with Adaptive Weighted Rejection Sampling [90.86991492288487]
トークンの制約を評価するのは 違法にコストがかかる
LCDは文字列上のグローバル分布を歪め、ローカル情報のみに基づいてトークンをサンプリングすることができる。
我々のアプローチは最先端のベースラインよりも優れていることを示す。
論文 参考訳(メタデータ) (2025-04-07T18:30:18Z) - A single-loop SPIDER-type stochastic subgradient method for expectation-constrained nonconvex nonsmooth optimization [17.25924791071807]
複雑な制約に対する新しい種類の下次アルゴリズムを提案する。
提案手法は, 2-of-the-artアルゴリズムよりもはるかに高速であることを示す。
論文 参考訳(メタデータ) (2025-01-31T15:18:52Z) - Controllable Generation via Locally Constrained Resampling [77.48624621592523]
本研究では, ベイズ条件付けを行い, 制約条件下でサンプルを描画する, トラクタブルな確率的手法を提案する。
提案手法はシーケンス全体を考慮し,現行のグリード法よりも大域的に最適に制約された生成を導出する。
提案手法は, 有害な世代からモデル出力を分離し, 脱毒化に対する同様のアプローチより優れていることを示す。
論文 参考訳(メタデータ) (2024-10-17T00:49:53Z) - Optimal Multi-Distribution Learning [88.3008613028333]
マルチディストリビューション学習は、$k$の異なるデータ分散における最悪のリスクを最小限に抑える共有モデルを学ぶことを目指している。
本稿では, (d+k)/varepsilon2の順に, サンプルの複雑さを伴って, ヴァレプシロン最適ランダム化仮説を導出するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-12-08T16:06:29Z) - Primal Dual Continual Learning: Balancing Stability and Plasticity through Adaptive Memory Allocation [86.8475564814154]
制約付き最適化問題を直接実行することは可能かつ有益であることを示す。
メモリベースのメソッドでは、以前のタスクからのサンプルの小さなサブセットをリプレイバッファに格納できる。
両変数は,制約摂動に対する連続学習問題の最適値の感度を示す。
論文 参考訳(メタデータ) (2023-09-29T21:23:27Z) - Zero-Shot Conditioning of Score-Based Diffusion Models by Neuro-Symbolic Constraints [1.1826485120701153]
本研究では,事前学習した無条件スコアベース生成モデルを用いて,任意の論理的制約の下で条件分布からサンプルを抽出する手法を提案する。
ユーザ定義制約の非正規化分布条件から標本化するために,学習したスコアの操作方法を示す。
ソフト論理制約を符号化するための柔軟で数値的に安定なニューロシンボリック・フレームワークを定義する。
論文 参考訳(メタデータ) (2023-08-31T08:25:47Z) - A Lagrangian Duality Approach to Active Learning [119.36233726867992]
トレーニングデータのサブセットのみをラベル付けするバッチアクティブな学習問題を考察する。
制約付き最適化を用いて学習問題を定式化し、各制約はラベル付きサンプルにモデルの性能を拘束する。
数値実験により,提案手法は最先端の能動学習法と同等かそれ以上に機能することを示した。
論文 参考訳(メタデータ) (2022-02-08T19:18:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。