論文の概要: Expert-Data Alignment Governs Generation Quality in Decentralized Diffusion Models
- arxiv url: http://arxiv.org/abs/2602.02685v1
- Date: Mon, 02 Feb 2026 19:03:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-04 18:37:15.017497
- Title: Expert-Data Alignment Governs Generation Quality in Decentralized Diffusion Models
- Title(参考訳): 分散拡散モデルにおけるエキスパートデータアライメントゴブリンの生成品質
- Authors: Marcos Villagra, Bidhan Roy, Raihan Seraj, Zhiying Jiang,
- Abstract要約: 分散拡散モデル(Decentralized Diffusion Models) 解離したデータクラスタを独立してトレーニングしたエキスパートを通じて、デノベーションするルート。
本稿では,このようなシステムにおける世代間品質をどう管理するかを,初めて体系的に調査する。
- 参考スコア(独自算出の注目度): 11.120199309935435
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Decentralized Diffusion Models (DDMs) route denoising through experts trained independently on disjoint data clusters, which can strongly disagree in their predictions. What governs the quality of generations in such systems? We present the first ever systematic investigation of this question. A priori, the expectation is that minimizing denoising trajectory sensitivity -- minimizing how perturbations amplify during sampling -- should govern generation quality. We demonstrate this hypothesis is incorrect: a stability-quality dissociation. Full ensemble routing, which combines all expert predictions at each step, achieves the most stable sampling dynamics and best numerical convergence while producing the worst generation quality (FID 47.9 vs. 22.6 for sparse Top-2 routing). Instead, we identify expert-data alignment as the governing principle: generation quality depends on routing inputs to experts whose training distribution covers the current denoising state. Across two distinct DDM systems, we validate expert-data alignment using (i) data-cluster distance analysis, confirming sparse routing selects experts with data clusters closest to the current denoising state, and (ii) per-expert analysis, showing selected experts produce more accurate predictions than non-selected ones, and (iii) expert disagreement analysis, showing quality degrades when experts disagree. For DDM deployment, our findings establish that routing should prioritize expert-data alignment over numerical stability metrics.
- Abstract(参考訳): Decentralized Diffusion Models (DDM) ルートは、解離したデータクラスタを独立して訓練した専門家を通じて、予測に強く反対する可能性がある。
このようなシステムにおける世代の品質をどう管理するか?
我々はこの問題を初めて体系的に調査した。
先駆的な期待は、軌道の感度を低下させる最小化 -- サンプリング中の摂動がいかに増幅するかを最小化する -- が生成品質を左右することである。
我々はこの仮説が間違っていることを証明している。
各ステップで全ての専門家予測を組み合わせたフルアンサンブルルーティングは、最も安定したサンプリングダイナミクスと最高の数値収束を実現し、最悪の生成品質(FID 47.9 対 22.6 対 sparse Top-2 ルーティング)を生成する。
生成品質は、現在の認知状態をカバーするトレーニング分布を持つエキスパートへのルーティングインプットに依存します。
2つの異なるDDMシステムにおいて、専門家データアライメントの検証を行う。
(i)データクラスタ距離分析、スパースルーティングの確認は、現在の認知状態に最も近いデータクラスタを持つ専門家を選択し、
(二)専門家別分析により、選択した専門家が非選択者よりも正確な予測を下し、
三 専門家の意見の不一致の分析により、専門家の意見の相違により品質が低下することを示す。
DDMのデプロイメントでは、数値安定性の指標よりも、ルーティングが専門家データのアライメントを優先すべきであることが判明した。
関連論文リスト
- ReSURE: Regularizing Supervision Unreliability for Multi-turn Dialogue Fine-tuning [72.05731026796335]
マルチターン対話システムは、低品質のデータに晒された場合、しばしば劣化した性能に悩まされる。
本稿では,適応学習手法であるReSUREを提案する。
単一ソースと混合品質のデータセットの実験では、安定性と応答品質が改善された。
論文 参考訳(メタデータ) (2025-08-27T15:54:01Z) - Uncertainty Awareness on Unsupervised Domain Adaptation for Time Series Data [49.36938105983916]
教師なし領域適応法は、ラベルのないテストデータに効果的に一般化しようとする。
本稿では,ドメイン間の一般化とロバスト性を改善するために,マルチスケールの特徴抽出と不確実性推定を導入することを提案する。
論文 参考訳(メタデータ) (2025-08-26T03:13:08Z) - CoCAI: Copula-based Conformal Anomaly Identification for Multivariate Time-Series [0.3495246564946556]
本稿では、生成人工知能とコプラに基づくモデリングの力を利用して、正確な予測を行い、堅牢な異常検出を可能にする新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2025-07-23T14:15:31Z) - PATH: A Discrete-sequence Dataset for Evaluating Online Unsupervised Anomaly Detection Approaches for Multivariate Time Series [0.01874930567916036]
多変量時系列に対する異常検出手法のベンチマークは、高品質なデータセットが不足しているため、難しい課題である。
我々は、最先端のシミュレーションツールによって生成される多種多様な、広範囲で、非自明なデータセットという解決策を提案する。
我々のデータセットは離散列問題を表しており、文献でこれまで提案されていた解には未適応のままである。
論文 参考訳(メタデータ) (2024-11-21T09:03:12Z) - DAGnosis: Localized Identification of Data Inconsistencies using
Structures [73.39285449012255]
機械学習モデルを確実に使用するためには、デプロイメント時のデータの不整合の特定と適切な処理が不可欠である。
我々は,有向非巡回グラフ(DAG)を用いて,トレーニングセットの特徴分布と非依存性を構造として符号化する。
我々の手法はDAGnosisと呼ばれ、これらの構造的相互作用を利用して、価値があり洞察に富んだデータ中心の結論をもたらす。
論文 参考訳(メタデータ) (2024-02-26T11:29:16Z) - Doubly Calibrated Estimator for Recommendation on Data Missing Not At
Random [20.889464448762176]
既存の推定器は誤判定された暗黙の誤りと正当性スコアに依存していると我々は主張する。
本稿では,計算モデルと確率モデルの両方のキャリブレーションを含む二重校正推定器を提案する。
論文 参考訳(メタデータ) (2024-02-26T05:08:52Z) - Training of Neural Networks with Uncertain Data: A Mixture of Experts Approach [0.0]
ニューラルネットワーク(NN)をベースとした予測モデルにおいて,アレータティックな不確実性に対処することを目的とした新しいソリューションとして,「エキスパートの不確実性認識混合(uMoE)」がある。
本研究は,データ不確実性を効果的に管理するために,ベースライン法よりもuMoEの方が優れていることを示す。
この革新的なアプローチは、バイオメディカル信号処理、自律運転、生産品質管理など、様々なda-ta-drivenドメインに適用可能である。
論文 参考訳(メタデータ) (2023-12-13T11:57:15Z) - Conservative Prediction via Data-Driven Confidence Minimization [70.93946578046003]
機械学習の安全性クリティカルな応用においては、モデルが保守的であることが望ましいことが多い。
本研究では,不確実性データセットに対する信頼性を最小化するデータ駆動信頼性最小化フレームワークを提案する。
論文 参考訳(メタデータ) (2023-06-08T07:05:36Z) - Pushing the Accuracy-Group Robustness Frontier with Introspective
Self-play [16.262574174989698]
Introspective Self-play (ISP)は、データセットバイアス下でのディープニューラルネットワークの不確実性推定を改善するための単純なアプローチである。
ISPはモデル表現のバイアス認識と結果の不確実性評価を確実に改善することを示す。
論文 参考訳(メタデータ) (2023-02-11T22:59:08Z) - Learning while Respecting Privacy and Robustness to Distributional
Uncertainties and Adversarial Data [66.78671826743884]
分散ロバストな最適化フレームワークはパラメトリックモデルのトレーニングのために検討されている。
目的は、逆操作された入力データに対して頑健なトレーニングモデルを提供することである。
提案されたアルゴリズムは、オーバーヘッドがほとんどない堅牢性を提供する。
論文 参考訳(メタデータ) (2020-07-07T18:25:25Z) - Uncertainty Estimation Using a Single Deep Deterministic Neural Network [66.26231423824089]
本稿では,1回のフォワードパスで,テスト時に分布データポイントの発見と拒否が可能な決定論的ディープモデルを訓練する手法を提案する。
我々は,新しい損失関数とセントロイド更新方式を用いて,これらをスケールトレーニングし,ソフトマックスモデルの精度に適合させる。
論文 参考訳(メタデータ) (2020-03-04T12:27:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。