論文の概要: Training-Free Guidance Beyond Differentiability: Scalable Path Steering with Tree Search in Diffusion and Flow Models
- arxiv url: http://arxiv.org/abs/2502.11420v1
- Date: Mon, 17 Feb 2025 04:20:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-18 14:09:45.565568
- Title: Training-Free Guidance Beyond Differentiability: Scalable Path Steering with Tree Search in Diffusion and Flow Models
- Title(参考訳): 微分可能性を超えたトレーニングフリーガイダンス:拡散とフローモデルにおける木探索によるスケーラブルパスステアリング
- Authors: Yingqing Guo, Yukang Yang, Hui Yuan, Mengdi Wang,
- Abstract要約: この研究は、非微分不可能な目的や離散的なデータ分布からの課題に対処するトレーニング不要なガイダンスに焦点を当てている。
本稿では,木探索に基づく経路ステアリングガイダンス(TreeG: Tree Search-Based Path Steering Guidance)を提案する。
実験の結果,TreeGはシンボリック・ミュージック・ジェネレーション,小分子生成,エンハンサーDNA設計において,トップ・ガイダンス・ベースラインを一貫して上回っていることがわかった。
- 参考スコア(独自算出の注目度): 39.13996838237359
- License:
- Abstract: Training-free guidance enables controlled generation in diffusion and flow models, but most existing methods assume differentiable objectives and rely on gradients. This work focuses on training-free guidance addressing challenges from non-differentiable objectives and discrete data distributions. We propose an algorithmic framework TreeG: Tree Search-Based Path Steering Guidance, applicable to both continuous and discrete settings in diffusion and flow models. TreeG offers a unified perspective on training-free guidance: proposing candidates for the next step, evaluating candidates, and selecting the best to move forward, enhanced by a tree search mechanism over active paths or parallelizing exploration. We comprehensively investigate the design space of TreeG over the candidate proposal module and the evaluation function, instantiating TreeG into three novel algorithms. Our experiments show that TreeG consistently outperforms the top guidance baselines in symbolic music generation, small molecule generation, and enhancer DNA design, all of which involve non-differentiable challenges. Additionally, we identify an inference-time scaling law showing TreeG's scalability in inference-time computation.
- Abstract(参考訳): トレーニングフリーガイダンスは拡散と流れモデルにおける制御された生成を可能にするが、既存のほとんどの手法は異なる目的を仮定し勾配に依存する。
この研究は、非微分不可能な目的や離散的なデータ分布からの課題に対処するトレーニング不要なガイダンスに焦点を当てている。
本稿では,拡散とフローモデルにおける連続的および離散的な設定に適用可能な,木探索に基づく経路ステアリングガイダンス(TreeG: Tree Search-Based Path Steering Guidance)を提案する。
TreeGは、トレーニングフリーガイダンスに関する統一的な視点を提供する。次のステップの候補の提案、候補の評価、最善策の選択、アクティブパスを越えたツリー検索メカニズムの強化、探索の並列化。
提案する提案モジュールと評価関数に対して,ツリーGの設計空間を網羅的に検討し,ツリーGを3つの新しいアルゴリズムにインスタンス化する。
実験の結果、TreeGはシンボリック音楽生成、小さな分子生成、エンハンサーDNA設計において、一貫した指導基準よりも優れており、これらは全て差別化不可能な課題であることがわかった。
さらに、予測時間計算におけるTreeGのスケーラビリティを示す推論時間スケーリング法則を同定する。
関連論文リスト
- ViTree: Single-path Neural Tree for Step-wise Interpretable Fine-grained
Visual Categorization [56.37520969273242]
細かな視覚分類のための新しいアプローチであるViTreeを紹介する。
ツリーパスをトラバースすることで、ViTreeは変換処理された機能からパッチを効果的に選択し、情報のあるローカルリージョンをハイライトする。
このパッチとパスの選択性は、ViTreeのモデルの解釈可能性を高め、モデルの内部動作に関するより良い洞察を可能にする。
論文 参考訳(メタデータ) (2024-01-30T14:32:25Z) - PathFinder: Guided Search over Multi-Step Reasoning Paths [80.56102301441899]
木探索に基づく推論経路生成手法であるPathFinderを提案する。
動的デコードの統合により、多様な分岐とマルチホップ推論を強化する。
我々のモデルは、大きな分岐因子を持つビームサーチに類似した複雑さを反映して、よく、長く、目に見えない推論連鎖を一般化する。
論文 参考訳(メタデータ) (2023-12-08T17:05:47Z) - ULTRA-DP: Unifying Graph Pre-training with Multi-task Graph Dual Prompt [67.8934749027315]
本稿では,タスク識別と位置識別をGNNに注入する,グラフハイブリッド事前学習のための統合フレームワークを提案する。
また,約$k$-nearest隣人のグループに基づいた,新しい事前学習パラダイムを提案する。
論文 参考訳(メタデータ) (2023-10-23T12:11:13Z) - ARTree: A Deep Autoregressive Model for Phylogenetic Inference [6.935130578959931]
グラフニューラルネットワーク(GNN)に基づく系統推定のための深層自己回帰モデルを提案する。
本研究では,本手法の有効性と効率を,実データツリーのトポロジー密度推定と変分系統推定問題のベンチマークで実証する。
論文 参考訳(メタデータ) (2023-10-14T10:26:03Z) - GFlowCausal: Generative Flow Networks for Causal Discovery [27.51595081346858]
本稿では,GFlowCausalと呼ばれる観測データからDAG(Directed Acyclic Graph)を学習するための新しい手法を提案する。
GFlowCausalは、事前定義された報酬に比例した確率を持つシーケンシャルアクションによって、ハイリワードDAGを生成するための最良のポリシーを学ぶことを目的としている。
合成データセットと実データセットの両方について広範な実験を行い、提案手法が優れていることを示すとともに、大規模環境での良好な性能を示す。
論文 参考訳(メタデータ) (2022-10-15T04:07:39Z) - AdaProp: Learning Adaptive Propagation for Graph Neural Network based
Knowledge Graph Reasoning [43.06729402877713]
GNNベースの推論手法の重要な設計要素は、伝搬経路と呼ばれる。
我々は、有望な目標を維持しつつ、無関係なエンティティをフィルタリングするために適応的な伝搬経路を学習する。
私たちの方法は強力で効率的でセマンティック・アウェアです。
論文 参考訳(メタデータ) (2022-05-30T14:00:59Z) - Social Interpretable Tree for Pedestrian Trajectory Prediction [75.81745697967608]
本稿では,このマルチモーダル予測課題に対処するため,SIT(Social Interpretable Tree)と呼ばれる木に基づく手法を提案する。
木の根から葉までの経路は、個々の将来の軌跡を表す。
ETH-UCYとStanford Droneのデータセットによる実験結果からは,手作り木にもかかわらず,我々の手法が最先端の手法の性能に適合または超えることを示した。
論文 参考訳(メタデータ) (2022-05-26T12:18:44Z) - MurTree: Optimal Classification Trees via Dynamic Programming and Search [61.817059565926336]
動的プログラミングと探索に基づいて最適な分類木を学習するための新しいアルゴリズムを提案する。
当社のアプローチでは,最先端技術が必要とする時間のごく一部しか使用せず,数万のインスタンスでデータセットを処理することが可能です。
論文 参考訳(メタデータ) (2020-07-24T17:06:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。