論文の概要: Training-Free Guidance Beyond Differentiability: Scalable Path Steering with Tree Search in Diffusion and Flow Models
- arxiv url: http://arxiv.org/abs/2502.11420v1
- Date: Mon, 17 Feb 2025 04:20:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-18 20:34:45.069774
- Title: Training-Free Guidance Beyond Differentiability: Scalable Path Steering with Tree Search in Diffusion and Flow Models
- Title(参考訳): 微分可能性を超えたトレーニングフリーガイダンス:拡散とフローモデルにおける木探索によるスケーラブルパスステアリング
- Authors: Yingqing Guo, Yukang Yang, Hui Yuan, Mengdi Wang,
- Abstract要約: この研究は、非微分不可能な目的や離散的なデータ分布からの課題に対処するトレーニング不要なガイダンスに焦点を当てている。
本稿では,木探索に基づく経路ステアリングガイダンス(TreeG: Tree Search-Based Path Steering Guidance)を提案する。
実験の結果,TreeGはシンボリック・ミュージック・ジェネレーション,小分子生成,エンハンサーDNA設計において,トップ・ガイダンス・ベースラインを一貫して上回っていることがわかった。
- 参考スコア(独自算出の注目度): 39.13996838237359
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Training-free guidance enables controlled generation in diffusion and flow models, but most existing methods assume differentiable objectives and rely on gradients. This work focuses on training-free guidance addressing challenges from non-differentiable objectives and discrete data distributions. We propose an algorithmic framework TreeG: Tree Search-Based Path Steering Guidance, applicable to both continuous and discrete settings in diffusion and flow models. TreeG offers a unified perspective on training-free guidance: proposing candidates for the next step, evaluating candidates, and selecting the best to move forward, enhanced by a tree search mechanism over active paths or parallelizing exploration. We comprehensively investigate the design space of TreeG over the candidate proposal module and the evaluation function, instantiating TreeG into three novel algorithms. Our experiments show that TreeG consistently outperforms the top guidance baselines in symbolic music generation, small molecule generation, and enhancer DNA design, all of which involve non-differentiable challenges. Additionally, we identify an inference-time scaling law showing TreeG's scalability in inference-time computation.
- Abstract(参考訳): トレーニングフリーガイダンスは拡散と流れモデルにおける制御された生成を可能にするが、既存のほとんどの手法は異なる目的を仮定し勾配に依存する。
この研究は、非微分不可能な目的や離散的なデータ分布からの課題に対処するトレーニング不要なガイダンスに焦点を当てている。
本稿では,拡散とフローモデルにおける連続的および離散的な設定に適用可能な,木探索に基づく経路ステアリングガイダンス(TreeG: Tree Search-Based Path Steering Guidance)を提案する。
TreeGは、トレーニングフリーガイダンスに関する統一的な視点を提供する。次のステップの候補の提案、候補の評価、最善策の選択、アクティブパスを越えたツリー検索メカニズムの強化、探索の並列化。
提案する提案モジュールと評価関数に対して,ツリーGの設計空間を網羅的に検討し,ツリーGを3つの新しいアルゴリズムにインスタンス化する。
実験の結果、TreeGはシンボリック音楽生成、小さな分子生成、エンハンサーDNA設計において、一貫した指導基準よりも優れており、これらは全て差別化不可能な課題であることがわかった。
さらに、予測時間計算におけるTreeGのスケーラビリティを示す推論時間スケーリング法則を同定する。
関連論文リスト
- Decision Tree Induction Through LLMs via Semantically-Aware Evolution [53.0367886783772]
遺伝的プログラミング(GP)に基づく決定木誘導のための進化的最適化手法を提案する。
私たちの重要なイノベーションは、セマンティックな事前情報と、検索空間に関するドメイン固有の知識をアルゴリズムに統合することです。
これは、構造化された自然言語プロンプトを扱う新しい遺伝子操作子によって操作される。
論文 参考訳(メタデータ) (2025-03-18T12:52:03Z) - Dynamic Search for Inference-Time Alignment in Diffusion Models [87.35944312589424]
探索問題としての拡散における推論時間アライメントと動的拡散探索(DSearch)を提案する。
DSearchは、デノナイズプロセスからサブサンプルを取得し、中間ノードの報酬を近似する。
また、ビーム幅と木の拡大を動的に調整し、高次世代を効率的に探索する。
論文 参考訳(メタデータ) (2025-03-03T20:32:05Z) - ViTree: Single-path Neural Tree for Step-wise Interpretable Fine-grained
Visual Categorization [56.37520969273242]
細かな視覚分類のための新しいアプローチであるViTreeを紹介する。
ツリーパスをトラバースすることで、ViTreeは変換処理された機能からパッチを効果的に選択し、情報のあるローカルリージョンをハイライトする。
このパッチとパスの選択性は、ViTreeのモデルの解釈可能性を高め、モデルの内部動作に関するより良い洞察を可能にする。
論文 参考訳(メタデータ) (2024-01-30T14:32:25Z) - ULTRA-DP: Unifying Graph Pre-training with Multi-task Graph Dual Prompt [67.8934749027315]
本稿では,タスク識別と位置識別をGNNに注入する,グラフハイブリッド事前学習のための統合フレームワークを提案する。
また,約$k$-nearest隣人のグループに基づいた,新しい事前学習パラダイムを提案する。
論文 参考訳(メタデータ) (2023-10-23T12:11:13Z) - Fast and Effective GNN Training with Linearized Random Spanning Trees [20.73637495151938]
ノード分類タスクにおいて,GNNをトレーニングするための,より効果的でスケーラブルなフレームワークを提案する。
提案手法は, ランダムに分布する木々の広範囲に分布するGNN重みを徐々に改善する。
これらの経路グラフのスパース性は、GNN訓練の計算負担を大幅に軽減する。
論文 参考訳(メタデータ) (2023-06-07T23:12:42Z) - Latent Optimal Paths by Gumbel Propagation for Variational Bayesian Dynamic Programming [12.249274845167415]
本稿では,Gumbel分布の特性を用いて,Gibs分布とメッセージパスアルゴリズムの等価性を示す。
本稿では,構造化されたスパース最適経路を潜在変数としてキャプチャするBDP-VAEを提案する。
論文 参考訳(メタデータ) (2023-06-05T03:47:59Z) - GFlowCausal: Generative Flow Networks for Causal Discovery [27.51595081346858]
本稿では,GFlowCausalと呼ばれる観測データからDAG(Directed Acyclic Graph)を学習するための新しい手法を提案する。
GFlowCausalは、事前定義された報酬に比例した確率を持つシーケンシャルアクションによって、ハイリワードDAGを生成するための最良のポリシーを学ぶことを目的としている。
合成データセットと実データセットの両方について広範な実験を行い、提案手法が優れていることを示すとともに、大規模環境での良好な性能を示す。
論文 参考訳(メタデータ) (2022-10-15T04:07:39Z) - AdaProp: Learning Adaptive Propagation for Graph Neural Network based
Knowledge Graph Reasoning [43.06729402877713]
GNNベースの推論手法の重要な設計要素は、伝搬経路と呼ばれる。
我々は、有望な目標を維持しつつ、無関係なエンティティをフィルタリングするために適応的な伝搬経路を学習する。
私たちの方法は強力で効率的でセマンティック・アウェアです。
論文 参考訳(メタデータ) (2022-05-30T14:00:59Z) - Social Interpretable Tree for Pedestrian Trajectory Prediction [75.81745697967608]
本稿では,このマルチモーダル予測課題に対処するため,SIT(Social Interpretable Tree)と呼ばれる木に基づく手法を提案する。
木の根から葉までの経路は、個々の将来の軌跡を表す。
ETH-UCYとStanford Droneのデータセットによる実験結果からは,手作り木にもかかわらず,我々の手法が最先端の手法の性能に適合または超えることを示した。
論文 参考訳(メタデータ) (2022-05-26T12:18:44Z) - MurTree: Optimal Classification Trees via Dynamic Programming and Search [61.817059565926336]
動的プログラミングと探索に基づいて最適な分類木を学習するための新しいアルゴリズムを提案する。
当社のアプローチでは,最先端技術が必要とする時間のごく一部しか使用せず,数万のインスタンスでデータセットを処理することが可能です。
論文 参考訳(メタデータ) (2020-07-24T17:06:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。