論文の概要: Scalable Unrolled Chains for MRI Reconstruction
- arxiv url: http://arxiv.org/abs/2610.33695v1
- Date: Sat, 24 Oct 2026 14:21:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.423219
- Title: Scalable Unrolled Chains for MRI Reconstruction
- Title(参考訳): MRI再構成のためのスケーラブルアンロールチェーン
- Abstract要約: アンロールされた変動ネットワークは、加速MRI再構成のための最先端の性能を達成する。
標準的なエンドツーエンドトレーニングは、カスケードの数と幅が増加するにつれて、メモリ集約化が禁止される。
本稿では,最終再構築損失の監視を維持しつつ,ランダムにサンプリングしたカスケードを更新するメモリ効率のトレーニングフレームワークを提案する。
- 参考スコア(独自算出の注目度): 16.408669047976023
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unrolled variational networks achieve state-of-the-art performance for accelerated MRI reconstruction, but standard end-to-end training becomes prohibitively memory intensive as the number and width of cascades increase. We propose a memory-efficient training framework that updates a randomly sampled cascade while retaining supervision from the final reconstruction loss. The error signal is propagated from the end of the chain to the sampled cascade using an activation-light backward pass that avoids storing full chain activations, thereby decoupling training memory from chain length. A time-conditioned network shared across cascades further keeps the parameter count independent of chain length. The backward pass is approximate only through frozen normalization statistics, and a trained exact gradient control shows the approximation leaves reconstruction quality unchanged. The framework remains trainable at chain lengths and cascade widths where standard end-to-end backpropagation exhausts GPU memory. On fastMRI single-coil knee and multi-coil brain reconstruction, our method consistently outperforms other local training approaches. On high-SNR knee slices, our method surpasses E2E-VarNet at $8\times$ and matches it at $4\times$, while on the complete brain validation set it surpasses E2E-VarNet at $8\times$ and achieves comparable performance at $4\times$, with fewer parameters, lower peak memory, and faster per-iteration training. Code is available at https://github.com/emehillaj/scalable-unrolled-mri.
- Abstract(参考訳): アンロールされた変分ネットワークは、MRI再構成の高速化のための最先端性能を実現するが、カスケードの数と幅が増加するにつれて、標準のエンドツーエンドトレーニングは禁止的にメモリ集約化される。
最終再構成損失の監視を維持しつつ,ランダムにサンプリングしたカスケードを更新するメモリ効率のトレーニングフレームワークを提案する。
エラー信号は、チェーンの終端からサンプルカスケードへ、フルチェーンの活性化を記憶しないアクティベーションライトバックワードパスを用いて伝播し、これにより、トレーニングメモリをチェーン長から切り離す。
カスケード間で共有される時間条件付きネットワークにより、パラメータカウントはチェーン長とは独立に維持される。
後方通過は凍結正規化統計によってのみ近似され、トレーニングされた厳密な勾配制御により、近似葉の復元品質は変化しない。
このフレームワークは、標準のエンドツーエンドのバックプロパゲーションがGPUメモリを消費するチェーン長とカスケード幅でトレーニング可能である。
高速MRI単コイル膝とマルチコイル脳再建術において,本手法は他の局所訓練法よりも優れていた。
高SNR膝のスライスでは、E2E-VarNetを8\times$で、それを4\times$で、完全な脳検証セットではE2E-VarNetを8\times$で、同等のパフォーマンスは4\times$で、パラメータが減り、ピークメモリが低くなる。
コードはhttps://github.com/emehillaj/scalable-unrolled-mri.comで入手できる。
関連論文リスト
- HARTS: Efficient Agentic Reinforcement Learning for Hybrid-Attention Models over Arbitrary Rollout Trees [10.936836651826722]
HARTS (Hybrid-Attention RL over Tree Structures) について述べる。
HarTSは、実際のハイブリッドアテンションモデル上で任意のロールアウトツリープレフィックス共有スピードアップを示す最初のシステムである。
論文 参考訳(メタデータ) (2026-08-28T10:18:54Z) - ShortOPD: Recovering Pruned LLMs with Short-to-Long On-Policy Distillation [72.54604107217669]
textscpass@$k$は圧縮後にほぼ消滅するが、textscpass@$k$は繰り返しサンプリングの下でほぼ回復する。
回復は、密集したトークンレベルの監督の下で、圧縮されたモデル自身のオン政治状態で訓練すべきである。
我々は,教師が確認した反復接尾辞を検知する短時間のOPDスケジュールであるtextbfshortopdを提案する。
論文 参考訳(メタデータ) (2026-07-14T17:50:50Z) - The Orthogonalized Read Is a Removable Training Scaffold for Recurrent Memory [0.0]
効果は再現されるが、メモリ改善ではない。
この任務の訓練は、急激な脱出に続き、長い確率の台地である。
公開された利益の多くは、アーキテクチャをまったく必要としない。
論文 参考訳(メタデータ) (2026-07-02T18:54:23Z) - DeRes: Decoupling Residual Stability and Adaptivity for Scalable CTR Prediction [0.343054185715673]
トランスフォーマーベースのCTRモデルは、残差接続におけるボトルネックの増大に直面している。
最近の注意に基づく残差変種(AttnRes)は、言語モデルにおけるこの部分に対応する。
本稿では,各層を2つの並列経路にルートするDeReについて述べる。
論文 参考訳(メタデータ) (2026-06-06T05:07:16Z) - Latent Recurrent Transformer: Architecture Exploration, Training Strategies, and Scaling Behavior [107.2098567818173]
Latent Recurrent Transformer (LRT) は自己回帰変換器の軽量化である。
LRTは、次のトークンのリカレントメモリとして、前のトークンから高レベルなソース層隠れステートを再利用する。
論文 参考訳(メタデータ) (2026-05-26T10:10:26Z) - Replacement Learning: Training Neural Networks with Fewer Parameters [15.09968642484538]
Replacement Learning (RepL) は、選択したブロックを置き換えることで、完全な冗長性を減らす訓練時間パラダイムである。
RepLは、不要なフルレイヤを避けながら、局所的なコンテキスト連続性を維持する。
RepLはトレーニング可能なパラメータ、GPUメモリ使用量、トレーニング時間を削減し、標準のエンドツーエンドトレーニングを適合または超過することを示す。
論文 参考訳(メタデータ) (2026-05-19T08:34:31Z) - ReCoVer: Resilient LLM Pre-Training System via Fault-Tolerant Collective and Versatile Workload [18.933354857797056]
大規模GPUクラスタ上での大規模言語モデルの事前トレーニングは、ハードウェア障害を稀ではなく日常的なものにしている。
一つの不変量を保持するレジリエントな事前学習システムであるReCoVerを提案する。
チェックポイントとリスタートのベースラインと比較して、ReCoVerは連続する障害の後、より効果的なスループットを2.23タイムで示す。
論文 参考訳(メタデータ) (2026-05-11T20:28:31Z) - Winner-Take-All Column Row Sampling for Memory Efficient Adaptation of Language Model [89.8764435351222]
分散を低減した行列生成のために, WTA-CRS と呼ばれる新しい非バイアス推定系を提案する。
我々の研究は、チューニング変換器の文脈において、提案した推定器が既存のものよりも低い分散を示すという理論的および実験的証拠を提供する。
論文 参考訳(メタデータ) (2023-05-24T15:52:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。