論文の概要: Regime-Aware Router Learning for Multi-Domain Medical Image Generation with Diffusion Experts
- arxiv url: http://arxiv.org/abs/2610.16082v1
- Date: Mon, 12 Oct 2026 02:47:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-19 07:50:21.154859
- Title: Regime-Aware Router Learning for Multi-Domain Medical Image Generation with Diffusion Experts
- Title(参考訳): 拡散エキスパートによるマルチドメイン医用画像生成のためのレジーム対応ルータ学習
- Abstract要約: 固定専門家プールのための2つのルータ学習戦略について検討する。
Server-Onlyはコンポーネントラベルを持つサーバイメージから入力とタイムステップに依存した専門家の割り当てを学習する。
Anchor-Delta (AD) は同じ画像と凍結の専門家を用いて、損失を隠蔽する証拠を得る。
- 参考スコア(独自算出の注目度): 35.52070945685111
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Heterogeneous medical image data motivate domain-specialized diffusion experts, but expert specialization alone does not determine how their predictions should be combined during sampling. Learning a global router is particularly challenging when the server has limited, potentially unrepresentative images. We study two router-learning strategies for a fixed expert pool. Server-Only learns input- and timestep-dependent expert assignments from server images with component labels. Anchor-Delta (AD) uses the same images and frozen experts to obtain additional evidence from denoising losses. It distills targets that combine this evidence with the current router's assignments, while a proxy gate controls a subsequent refinement step. Component labels describe data origin; expert losses measure empirical prediction performance. We evaluate these distinct signals through routing analyses and paired medical image generation. An AD-trained router improves generation metrics over Server-Only in a heterogeneous four-domain setting, and a separate server-data study shows gains in held-out routing over a corrected-routing comparator. Additional paired evaluations show that the effect of inference-time evidence mixing varies across benchmarks. These findings establish server-data availability and expert performance as distinct considerations in learning routers for multi-domain diffusion models.
- Abstract(参考訳): 不均一な医用画像データは、ドメイン特化拡散の専門家を動機付けているが、専門家の専門化だけでは、サンプリング中にどのように予測を組み合わせるべきかを判断しない。
サーバが制限され、潜在的に表現できないイメージを持っている場合、グローバルルータの学習は特に困難である。
固定専門家プールのための2つのルータ学習戦略について検討する。
Server-Onlyはコンポーネントラベルを持つサーバイメージから入力とタイムステップに依存した専門家の割り当てを学習する。
Anchor-Delta (AD) は同じ画像と凍結した専門家を使って、損失を妄想から追加の証拠を得る。
この証拠を現在のルータの割り当てと組み合わせたターゲットを蒸留し、プロキシゲートがその後のリファインメントステップを制御する。
コンポーネントラベルはデータの起源を記述しており、専門家の損失は経験的予測性能を測定する。
ルーティング解析とペア化医用画像生成により,これらの異なる信号を評価する。
ADトレーニングされたルータは、異機種の4ドメイン設定でサーバオンリーで生成メトリクスを改善し、別のサーバデータ調査では、修正されたルーティングコンパレータ上でのホールドアウトルーティングの利得を示している。
追加のペア評価では、推定時エビデンスの影響はベンチマークによって異なることが示されている。
これらの結果は、マルチドメイン拡散モデルのための学習ルータにおいて、サーバデータの可用性と専門家のパフォーマンスを個別に考慮するものとして確立している。
関連論文リスト
- RouterInterp: Understanding Superposed Specialisation in Mixture of Experts Routing [0.0]
MoEモデルの性能に関する主要な仮説は、各専門家が単一のコヒーレントなドメインを専門とすることである。
そこで我々は,SSH(Superposed Specialisation hypothesis)と呼ばれる,広義のドメインではなく,細粒度の特徴の結合を専門とする専門家による代替的説明の根拠を提案し,提示する。
本稿では,Sparse Autoencoderを識別する専門家のルーティングを解釈するルータInterpについて紹介する。
論文 参考訳(メタデータ) (2026-10-08T11:55:25Z) - Share First, Route What Remains: A Unified Framework for Token-Adaptive MoE Computation [49.8459545291965]
Mixture-of-experts (MoE)モデルは、最近、一定数の完全なエキスパートをルーティングする以上の動きをしている。
我々は、この依存度を、わずかにリサイクルされたフィードフォワードの専門家をキーバリューチャネルに分解することで研究する。
トークン適応型MoE計算のための統一フレームワークであるUniF-MoEでインスタンス化する。
論文 参考訳(メタデータ) (2026-08-11T02:40:58Z) - FedWeave: Rethinking the Unit of Specialization in Heterogeneous Federated MoE-LoRA [15.068543696107227]
Federated PEFTは、LLMが生のサンプルを共有することなく、分散化されたプライベートデータに協調的に適応できるようにする。
既存のメソッドは通常、クライアントの粒度を専門とし、暗黙的にタスクコヒーレントなクライアントを仮定する。
非対称アグリゲーションを採用したフレームワークであるFedWeaveを提案し、ルータ最適化から専門家アグリゲーションを分離する。
論文 参考訳(メタデータ) (2026-07-29T08:47:58Z) - Multi-Domain Learning with Global Expert Mapping [102.62297074508147]
Mixture-of-Experts (MoE)モデルは、入力を専門分野(専門家)にルーティングすることでスケーラブルなソリューションを提供する。
本稿では,学習ルータをグローバルスケジューラに置き換えるプランナー・コンパイラフレームワークであるGEMを提案する。
我々のプランナーは線形プログラミングの緩和に基づいて、データセットを専門家に分数的に割り当てる一方、コンパイラはこのソフトプランを決定論的でキャパシティを意識したマッピングに変換するために階層的なラウンドリングを適用する。
実験の結果、GEM-DINOはUODBベンチマークで最先端のパフォーマンスを達成し、表現不足のデータセットに顕著な利益をもたらし、タスク干渉をわずかに解決していることがわかった。
論文 参考訳(メタデータ) (2026-04-20T21:09:34Z) - DeferredSeg: A Multi-Expert Deferral Framework for Trustworthy Medical Image Segmentation [66.24948946364329]
DeferredSegは、特定の地域の人間専門家に予測をデファクトする、遅延認識セグメンテーションフレームワークである。
我々は、MedSAMとCENetをベースセグメンタとして、公平な比較のための3つの挑戦的な医療データセット上でDederredSegを評価した。
DeferredSegが一貫してベースラインを上回っていることを示す実験結果が得られた。
論文 参考訳(メタデータ) (2026-04-14T07:50:31Z) - Routing-Aware Explanations for Mixture of Experts Graph Models in Malware Detection [4.437835658886064]
Mixture-of-Experts (MoE)は、学習ルータを通じてグラフの複数のビューを組み合わせることで、柔軟なグラフ推論を提供する。
制御フローグラフ(CFG)を用いたマルウェア検出におけるMoEグラフモデルのルーティング対応説明について検討する。
ポストホックの説明は、専門家毎のエッジレベルの属性で生成され、ルータゲートを使用して集約される。
論文 参考訳(メタデータ) (2026-02-22T03:27:17Z) - RouteMark: A Fingerprint for Intellectual Property Attribution in Routing-based Model Merging [69.2230254959204]
我々は,統合されたMoEモデルにおけるIP保護のためのフレームワークであるRouteMarkを提案する。
我々の重要な洞察は、タスク固有の専門家は、探索入力の下で安定かつ独特なルーティング行動を示すことである。
属性と改ざん検出のために,類似性に基づくマッチングアルゴリズムを導入する。
論文 参考訳(メタデータ) (2025-08-03T14:51:58Z) - Load Balancing Mixture of Experts with Similarity Preserving Routers [30.279616888339543]
Sparse Mixture of Experts (MoE)モデルは、大規模なニューラルネットワークをトレーニングするためのスケーラブルで効率的なアーキテクチャを提供する。
トークン単位のリレーショナル構造を保持する新しいロードバランシング損失を導入する。
その結果, ルータの損失は36%, 収束速度は36%向上し, 冗長性が低下することがわかった。
論文 参考訳(メタデータ) (2025-06-16T22:22:59Z) - On the Representation Collapse of Sparse Mixture of Experts [102.83396489230375]
専門家のまばらな混合は、一定の計算オーバーヘッドを必要としながら、より大きなモデルキャパシティを提供する。
入力トークンを隠された表現に従ってベストマッチした専門家に分散するためにルーティング機構を使用する。
しかし、そのようなルーティングメカニズムを学ぶことで、専門家のセントロイドを中心にトークンのクラスタリングが促進され、表現の崩壊の傾向が示唆される。
論文 参考訳(メタデータ) (2022-04-20T01:40:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。