論文の概要: D5P4: Partition Determinantal Point Process for Diversity in Parallel Discrete Diffusion Decoding
- arxiv url: http://arxiv.org/abs/2603.19146v1
- Date: Thu, 19 Mar 2026 17:02:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-20 17:19:06.285757
- Title: D5P4: Partition Determinantal Point Process for Diversity in Parallel Discrete Diffusion Decoding
- Title（参考訳）: D5P4: 並列離散拡散復号における分岐決定点過程
- Authors: Jonathan Lys, Vincent Gripon, Bastien Pasdeloup, Axel Marmoret, Lukas Mauch, Fabien Cardinaux, Ghouthi Boukli Hacene,
- Abstract要約: 本稿では、並列に候補を生成する離散拡散のための一般化ビーム探索フレームワークを導入し、モジュールビーム選択の目的をサポートする。
多様性に着目したインスタンス化として,決定点プロセス上のMAP推論として選択ステップを定式化するD5P4を提案する。
自由形式生成と質問応答の実験は、D5P4が競争力のある生成品質を維持しながら、強いベースラインよりも多様性を向上させることを示した。
- 参考スコア（独自算出の注目度）: 9.158010511490463
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Discrete diffusion models are promising alternatives to autoregressive approaches for text generation, yet their decoding methods remain under-studied. Standard decoding methods for autoregressive models, such as beam search, do not directly apply to iterative denoising, and existing diffusion decoding techniques provide limited control over in-batch diversity. To bridge this gap, we introduce a generalized beam-search framework for discrete diffusion that generates candidates in parallel and supports modular beam-selection objectives. As a diversity-focused instantiation, we propose D5P4, which formulates the selection step as MAP inference over a Determinantal Point Process. Leveraging a scalable greedy solver, D5P4 maintains multi-GPU compatibility and enables an explicit trade-off between model probability and target diversity with near-zero compute overhead. Experiments on free-form generation and question answering demonstrate that D5P4 improves diversity over strong baselines while maintaining competitive generation quality.
- Abstract（参考訳）: 離散拡散モデルは、テキスト生成のための自己回帰的アプローチに代わる有望な代替手段である。
ビームサーチのような自己回帰モデルのための標準復号法は反復復号法には直接適用されず、既存の拡散復号法はバッチ内多様性を限定的に制御する。
このギャップを埋めるために、並列に候補を生成する離散拡散のための一般化ビーム探索フレームワークを導入し、モジュールビーム選択の目的をサポートする。
多様性に着目したインスタンス化として,決定点プロセス上のMAP推論として選択ステップを定式化するD5P4を提案する。
スケーラブルなgreedyソルバを利用することで、D5P4はマルチGPU互換性を維持し、ほぼゼロに近い計算オーバーヘッドでモデル確率と対象の多様性との明確なトレードオフを可能にする。
自由形式生成と質問応答の実験は、D5P4が競争力のある生成品質を維持しながら、強いベースラインよりも多様性を向上させることを示した。
関連論文リスト
- Uncertainty-Masked Bernoulli Diffusion for Camouflaged Object Detection Refinement [24.522233459116354]
カモフラーゲ型物体検出(COD)は、ターゲットとその背景の微妙な視覚的差異による固有の課題を提示する。
本研究では,COD に特化して設計された最初の生成的改良フレームワークである Uncertainty-Masked Bernoulli Diffusion (UMBD) モデルを提案する。
UMBDは、セグメンテーション品質の低い残留領域にベルヌーイ拡散を選択的に適用する不確実性誘導マスキング機構を導入する。
論文 参考訳（メタデータ） (2025-06-12T14:02:18Z) - SPARKE: Scalable Prompt-Aware Diversity and Novelty Guidance in Diffusion Models via RKE Score [22.364171814102487]
拡散モデルは高忠実度画像合成と即時誘導生成モデルにおいて顕著な成功を収めている。
そこで本稿では,SPARKE(Scalble Prompt-Aware R'eny Kernel Entropy Diversity Guidance)法を提案する。
本研究では,複数のテキスト・画像拡散モデル上でSPARKE法を数値的に検証し,提案手法が有意な計算コストを伴わずに生成したデータの迅速な多様性を向上させることを示す。
論文 参考訳（メタデータ） (2025-06-11T20:53:45Z) - Preference-Based Alignment of Discrete Diffusion Models [14.874943508610857]
連続時間マルコフ連鎖として定式化された離散拡散モデルに対する直接選好最適化(DPO)の最初の適応である離散拡散DPO(D2-DPO)を導入する。
提案手法は, 参照分布に忠実さを保ちつつ, 選好データを用いて生成過程を直接微調整する新規な損失関数を導出する。
以上の結果から,D2-DPOは明示的な報酬モデルを必要としない制御された微調整が可能であり,強化学習によるアプローチの代替となることが示唆された。
論文 参考訳（メタデータ） (2025-03-11T11:07:35Z) - Dynamic Search for Inference-Time Alignment in Diffusion Models [87.35944312589424]
探索問題としての拡散における推論時間アライメントと動的拡散探索(DSearch)を提案する。
DSearchは、デノナイズプロセスからサブサンプルを取得し、中間ノードの報酬を近似する。
また、ビーム幅と木の拡大を動的に調整し、高次世代を効率的に探索する。
論文 参考訳（メタデータ） (2025-03-03T20:32:05Z) - TCAQ-DM: Timestep-Channel Adaptive Quantization for Diffusion Models [49.65286242048452]
拡散モデル(TCAQ-DM)のためのタイムステップ・チャネル適応量子化法を提案する。
提案手法は,ほとんどの場合,最先端の手法よりも優れている。
論文 参考訳（メタデータ） (2024-12-21T16:57:54Z) - Discrete Flow Matching [74.04153927689313]
本稿では,離散データ生成に特化して設計された新しい離散フローパラダイムを提案する。
我々のアプローチは、非自己回帰的な方法で高品質な離散データを生成することができる。
論文 参考訳（メタデータ） (2024-07-22T12:33:27Z) - Improved off-policy training of diffusion samplers [93.66433483772055]
本研究では,非正規化密度やエネルギー関数を持つ分布からサンプルを抽出する拡散モデルの訓練問題について検討する。
シミュレーションに基づく変分法や非政治手法など,拡散構造推論手法のベンチマークを行った。
我々の結果は、過去の研究の主張に疑問を投げかけながら、既存のアルゴリズムの相対的な利点を浮き彫りにした。
論文 参考訳（メタデータ） (2024-02-07T18:51:49Z) - Denoising Diffusion Variational Inference: Diffusion Models as Expressive Variational Posteriors [11.01598521921903]
DDVIは潜在変数モデルのためのブラックボックス変分推論アルゴリズムである。
拡散に基づく変動後肢の表現型クラスを導入する。
我々はこれらの後部を、新しい規則化された証拠を低い境界で訓練する。
論文 参考訳（メタデータ） (2024-01-05T10:27:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。