論文の概要: Learning Spectral Allocation: A Fractional Diffusion Framework for Adaptive Volumetric Segmentation
- arxiv url: http://arxiv.org/abs/2609.27217v1
- Date: Wed, 23 Sep 2026 01:29:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 00:05:17.819206
- Title: Learning Spectral Allocation: A Fractional Diffusion Framework for Adaptive Volumetric Segmentation
- Title(参考訳): スペクトル割当学習:適応ボリュームセグメンテーションのための分数拡散フレームワーク
- Abstract要約: 軽量U字型アーキテクチャ(Light-UNETR)とコルモゴロフ・アルノルド混合器(KAN3D)における3次元医用画像セグメンテーションの適応計算に対処する。
我々は、FHEATを軽量なU字型アーキテクチャ(Light-UNETR)とKolmogorov-Arnoldミキサー(KAN3D)との組み合わせで、適応的合理的なアクティベーションを行い、FHEAT-Segを得る。
標準的な半教師付きプロトコルでは、FHEAT-SegはDiceスコア90.47%(左心房)、78.79%(パンクレアCT)、81.90%(Bra)に達する。
- 参考スコア(独自算出の注目度): 0.14323566945483493
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We address adaptive computation in 3D medical image segmentation: instead of designing another backbone, we ask how much spectral mixing each network stage needs and let optimization answer. We derive FHEAT, a two-parameter operator family, from the discrete cosine transform (DCT) solution of a fractional heat equation. A fractional order alpha and a diffusion strength D govern the operator, and at D=0 it is exactly the identity. Reparametrized by the semigroup time tau = D*alpha, same-resolution instances compose exactly, so any distribution of diffusion across same-resolution stages amounts to a single Sobolev-type regularizer of learned strength. This identity limit lets the optimizer of each layer, not the designer, decide whether global mixing is needed and how sharp it should be. We instantiate FHEAT in a lightweight U-shaped architecture (Light-UNETR) paired with a Kolmogorov-Arnold mixer (KAN3D) with adaptive rational activations, yielding FHEAT-Seg. At 5% to 20% label rates on three public benchmarks, training produces gradient-driven spectral sparsification: seven of the eight stage-level operators drive D to zero, and the survivor saturates at the sharpest low-pass (alpha ~ 0.9) in the decoder layer feeding the semi-supervised attention map. The retired layers become exact identity shortcuts at inference, cutting FLOPs from 4.29G to 0.90G (a 79% drop) at 0.975M parameters. Under a standard semi-supervised protocol, FHEAT-Seg reaches Dice scores of 90.47% (left atrium), 78.79% (Pancreas-CT), and 81.90% (BraTS 2019), ahead of five semi-supervised methods and the Light-UNETR baseline. The large variant also surpasses Light-UNETR-L under full supervision (Dice 93.09%, 85.11%, and 87.19%) with 2.851M parameters and 55.75G FLOPs. These results suggest that the allocation of spectral computation is a learnable property of optimization dynamics, not a manual design commitment.
- Abstract(参考訳): 別のバックボーンを設計する代わりに、各ネットワークステージにどの程度のスペクトル混合が必要なのかを問う。
2パラメータ演算子ファミリーであるFHEATは、分数熱方程式の離散コサイン変換(DCT)解から導出する。
分位数 α と拡散強度 D が演算子を支配し、D=0 ではその恒等式が真である。
半群時間 tau = D*alpha で微分された同分解能のインスタンスは、正確に構成されるので、同分解能段階における拡散の分布は、学習強度の1つのソボレフ型正則化器に比例する。
このアイデンティティ制限により、デザイナではなく各レイヤのオプティマイザが、グローバルなミキシングが必要か、どのくらいシャープかを決定することができる。
我々は、FHEATを軽量なU字型アーキテクチャ(Light-UNETR)とKolmogorov-Arnoldミキサー(KAN3D)との組み合わせで、適応的合理的なアクティベーションを行い、FHEAT-Segを得る。
3つの公開ベンチマークで5%から20%のラベルレートで、トレーニングは勾配駆動のスペクトルスペーサーを発生させ、8つのステージレベルのオペレータのうち7つはDを0に駆動し、生存者は半教師付きアテンションマップを供給しているデコーダ層で最も鋭いローパス(アルファ ~ 0.9)で飽和する。
引退した層は推論時に正確なIDショートカットとなり、FLOPは0.975Mパラメータで4.29Gから0.90G(79%の低下)にカットされる。
標準的な半教師付きプロトコルでは、FHEAT-Segは5つの半教師付きメソッドとLight-UNETRベースラインに先立って90.47%(左アトリウム)、78.79%(パンクレアCT)、81.90%(BraTS 2019)のDiceスコアに達した。
この大きな派生型は、全監督下のLight-UNETR-L(Dice 93.09%、85.11%、87.19%)を2.851Mパラメータと55.75G FLOPで上回っている。
これらの結果は、スペクトル計算の割り当ては、手動設計のコミットメントではなく、最適化力学の学習可能な性質であることを示唆している。
関連論文リスト
- Universal Fractal Natural Language Decision Map: Real-Time Edge Triage Across Heterogeneous Domains [0.0]
拡張マンデルブロットフラクタル神経合成(Dagli et al., 2026)
本稿では,Werrマシンネイティブエッジランタイムと実運用対応プラットフォームを通じて実現されたユニバーサルフラクタル自然言語決定マップを提案する。
論文 参考訳(メタデータ) (2026-09-21T23:57:31Z) - Chimera: Designing and Chinchilla-Scaling Hybrid Visual Diffusion Transformers [54.01042826416009]
ビジュアル生成には高解像度の画像、長いビデオ、マルチモーダルコンテキストが必要である。
原理的なスケーリングレシピを備えたハイブリッドビジュアル拡散バックボーンであるChimeraを紹介した。
密度の高いバックボーンは、一致したフルアテンションWan2.1 2Bベースラインの1.7倍の計算効率を示す。
論文 参考訳(メタデータ) (2026-07-30T17:58:02Z) - Towards Robust Training in NNGPT AutoML Pipeline: A Loss-Optimizer Pairing Selection Study [48.83701310501069]
本稿では, 一つのレシピがヘテロジニアスなアーキテクチャプールに十分であるか, 最適ペアリングが構造的に多様なモデルによって異なるかを検討する。
我々は,CEL(Cross-Entropy),NLL(Negative Log-Likelihood),および最近導入された遺伝学的に進化したNGL損失を,LEMURヘテロジニアス・アーキテクチャー・プールの6つの画像分類データセット上に提示したベースモデル間で比較検討した。
我々の結果は、単一のペアリングが普遍的に最適でないことを確認した。AdamやAdamWとのクロスエントロピーは、最も堅牢な選択である。
論文 参考訳(メタデータ) (2026-06-18T20:51:42Z) - Closed-Form Spectral Regularization for Multi-Task Model Merging [96.82449201305234]
モデルマージは、個別に調整された複数の専門家をトレーニングデータなしで単一のマルチタスクモデルに結合する。
State-of-the-art merging method formulate merging as a layer-wise interference problem。
本稿では,逐次降下の勾配-流路に一致するソフト指数フィルタを組み合わせた閉形式手法SWUDIを提案する。
論文 参考訳(メタデータ) (2026-06-05T14:00:47Z) - Amplifying, Not Learning: Fine-Tuned AI Text Detectors Amplify a Pretrained Direction [51.56484100374058]
テキスト検出器は、事前訓練された典型軸を増幅する。
タスク監督前の生エンコーダでは、3つのアーキテクチャでNYT-vs-HC3 AUROC 0.806/0.944/0.834を達成する。
RoBERTaベースでは、生のプロジェクションは微調整を超えるが、RoBERTaベースでは、フル微調整は、試験された流線型人口の双方で生よりも識別を小さくする。
論文 参考訳(メタデータ) (2026-05-20T19:08:38Z) - Universally Empowering Zeroth-Order Optimization via Adaptive Layer-wise Sampling [43.822941944402544]
ゼロ階最適化は、微調整された大規模言語モデルのための有望なメモリ効率のパラダイムを提供する。
しかし,壁面収差の緩やかな収束と高い推定分散により,その実用化は厳しく制約されている。
本稿では,適応層型ZO最適化フレームワークであるAdaLeZOを提案する。
論文 参考訳(メタデータ) (2026-04-20T13:37:31Z) - Self-Adversarial One Step Generation via Condition Shifting [11.426065945265647]
APEXは、フローモデルから不均一に抽出された逆補正信号のフレームワークである。
私たちの0.6BモデルはFLUX-Schnell 12B(20$times$ more parameters)を1ステップ品質で上回ります。
Qwen-Image 20BのLoRAチューニングにより、APEXは6時間でNFE=1のGenEvalスコア0.89に達し、最初の50ステップの教師(0.87)を超え、15.33$times$推論スピードアップを提供する。
論文 参考訳(メタデータ) (2026-04-14T05:54:33Z) - Diversity Is All You Need for Contrastive Learning: Spectral Bounds on Gradient Magnitudes [4.873362301533824]
我々は、アライメント、温度、バッチスペクトルによって正方形InfoNCE勾配ノルムを束縛する非漸近スペクトルバンドを導出する。
In-batch Whiteningは等方性を促進し、(1.37時間)50ステップの勾配分散を減少させる
論文 参考訳(メタデータ) (2025-10-07T10:35:58Z) - Enabling Differentially Private Federated Learning for Speech Recognition: Benchmarks, Adaptive Optimizers and Gradient Clipping [42.2819343711085]
DP付きFLは、少なくとも数百万のユーザを抱える場合、強力なプライバシー保証の下で有効であることを示す。
ASR の DP と FL の高 (低い) 個体群に外挿した場合, 単語誤り率を 1.3% に抑えたユーザレベル (7.2, 10-9$)-DP (4.5, 10-9$)-DP を実現する。
論文 参考訳(メタデータ) (2023-09-29T19:11:49Z) - Scaling Up 3D Kernels with Bayesian Frequency Re-parameterization for
Medical Image Segmentation [25.62587471067468]
RepUX-Netは、単純な大きなカーネルブロック設計を持つ純粋なCNNアーキテクチャである。
人間の視覚系における空間周波数にインスパイアされ、カーネル収束を要素的設定に変化させるよう拡張する。
論文 参考訳(メタデータ) (2023-03-10T08:38:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。