論文の概要: Bridging Classical and Learning-based Iterative Registration through Deep Equilibrium Models
- arxiv url: http://arxiv.org/abs/2507.00582v1
- Date: Tue, 01 Jul 2025 09:03:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-03 14:22:59.548042
- Title: Bridging Classical and Learning-based Iterative Registration through Deep Equilibrium Models
- Title(参考訳): 階層的平衡モデルによる古典的・学習的反復的登録
- Authors: Yi Zhang, Yidong Zhao, Qian Tao,
- Abstract要約: 我々は,Deep Equilibrium Models (DEQ)に基づく新しい登録フレームワークであるDEQRegを提案する。
DeQRegは、メモリ消費を大幅に削減しつつ、競合する登録性能を実現することができることを示す。
既存のアンローリング手法の性能はまずわずかに増加し、推論ステップがトレーニング設定を超えると不可逆的に低下する。
- 参考スコア(独自算出の注目度): 7.6061804149819885
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deformable medical image registration is traditionally formulated as an optimization problem. While classical methods solve this problem iteratively, recent learning-based approaches use recurrent neural networks (RNNs) to mimic this process by unrolling the prediction of deformation fields in a fixed number of steps. However, classical methods typically converge after sufficient iterations, but learning-based unrolling methods lack a theoretical convergence guarantee and show instability empirically. In addition, unrolling methods have a practical bottleneck at training time: GPU memory usage grows linearly with the unrolling steps due to backpropagation through time (BPTT). To address both theoretical and practical challenges, we propose DEQReg, a novel registration framework based on Deep Equilibrium Models (DEQ), which formulates registration as an equilibrium-seeking problem, establishing a natural connection between classical optimization and learning-based unrolling methods. DEQReg maintains constant memory usage, enabling theoretically unlimited iteration steps. Through extensive evaluation on the public brain MRI and lung CT datasets, we show that DEQReg can achieve competitive registration performance, while substantially reducing memory consumption compared to state-of-the-art unrolling methods. We also reveal an intriguing phenomenon: the performance of existing unrolling methods first increases slightly then degrades irreversibly when the inference steps go beyond the training configuration. In contrast, DEQReg achieves stable convergence with its inbuilt equilibrium-seeking mechanism, bridging the gap between classical optimization-based and modern learning-based registration methods.
- Abstract(参考訳): 変形可能な医用画像登録は、伝統的に最適化問題として定式化されている。
古典的手法はこの問題を反復的に解くが、近年の学習に基づくアプローチでは、リカレントニューラルネットワーク(RNN)を用いて、一定のステップで変形場の予測をアンロールすることで、このプロセスを模倣している。
しかし、古典的な方法は通常、十分な反復の後に収束するが、学習に基づくアンローリング法は理論的な収束保証を欠き、不安定を経験的に示す。
さらに、アンローリング手法は、トレーニング時に実際にボトルネックとなる。GPUメモリの使用量は、時間(BPTT)によるバックプロパゲーションによるアンローリングステップとともに線形に増加する。
理論的および実践的な課題に対処するために,DeQRegを提案する。Deep Equilibrium Models (DEQ) に基づく新しい登録フレームワークで,平衡探索問題として登録を定式化し,古典的最適化と学習に基づくアンローリング手法の自然な関係を確立する。
DEQRegはメモリ使用量を一定に保ち、理論的に無制限のイテレーションステップを可能にする。
パブリック脳MRIおよび肺CTデータセットの広範な評価により、DECEGは、最先端のアンロール法と比較して、メモリ消費を大幅に削減しつつ、競合的な登録性能を達成できることが示されている。
既存のアンローリング手法の性能はまずわずかに増加し、推論ステップがトレーニング設定を超えると不可逆的に低下する。
対照的に、DEQRegは、古典的な最適化ベースと近代的な学習ベースの登録方法のギャップを埋める、平衡探索機構を組み込んだ安定した収束を実現する。
関連論文リスト
- Restarted contractive operators to learn at equilibrium [0.0]
我々は、再起動戦略とADによって計算されたJFBを組み合わせるアルゴリズムを導入し、学習手順を最適なDECフレームワークに任意に近づけることができることを示す。
本稿では,重み付きノルムの重み付け,プラグイン・アンド・プレイスキームの段階化と正規化レベル,フォワード・バックワード・イテレートに埋め込まれたDRUNetデノイザの訓練に有効であることを示す。
論文 参考訳(メタデータ) (2025-06-16T08:38:56Z) - Sublinear Regret for a Class of Continuous-Time Linear-Quadratic Reinforcement Learning Problems [10.404992912881601]
拡散に対する連続時間線形四元数(LQ)制御のクラスに対する強化学習(RL)について検討した。
モデルパラメータの知識にも,その推定にも依存しないモデルフリーアプローチを適用し,RLアルゴリズムを設計して,適切なポリシパラメータを直接学習する。
論文 参考訳(メタデータ) (2024-07-24T12:26:21Z) - Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple
Logits Retargeting Approach [102.0769560460338]
我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。
提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
論文 参考訳(メタデータ) (2024-03-01T03:27:08Z) - Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - A Deep Unrolling Model with Hybrid Optimization Structure for Hyperspectral Image Deconvolution [50.13564338607482]
本稿では,DeepMixと呼ばれるハイパースペクトルデコンボリューション問題に対する新しい最適化フレームワークを提案する。
これは3つの異なるモジュール、すなわちデータ一貫性モジュール、手作りの正規化器の効果を強制するモジュール、および装飾モジュールで構成されている。
本研究は,他のモジュールの協調作業によって達成される進歩を維持するために設計された,文脈を考慮した認知型モジュールを提案する。
論文 参考訳(メタデータ) (2023-06-10T08:25:16Z) - Loop Unrolled Shallow Equilibrium Regularizer (LUSER) -- A
Memory-Efficient Inverse Problem Solver [26.87738024952936]
逆問題では、潜在的に破損し、しばしば不適切な測定結果から、いくつかの基本的な関心のシグナルを再構築することを目的としている。
浅い平衡正規化器(L)を用いたLUアルゴリズムを提案する。
これらの暗黙のモデルは、より深い畳み込みネットワークと同じくらい表現力があるが、トレーニング中にはるかにメモリ効率が良い。
論文 参考訳(メタデータ) (2022-10-10T19:50:37Z) - DLCFT: Deep Linear Continual Fine-Tuning for General Incremental
Learning [29.80680408934347]
事前学習した表現からモデルを連続的に微調整するインクリメンタルラーニングのための代替フレームワークを提案する。
本手法は, ニューラルネットワークの線形化手法を利用して, 単純かつ効果的な連続学習を行う。
本手法は,データ増分,タスク増分およびクラス増分学習問題において,一般的な連続学習設定に適用可能であることを示す。
論文 参考訳(メタデータ) (2022-08-17T06:58:14Z) - Managing caching strategies for stream reasoning with reinforcement
learning [18.998260813058305]
ストリーム推論は、継続的なデータ変更よりも効率的な意思決定を可能にする。
我々は、衝突駆動制約学習(CDCL)を用いてレガシーソリューションを効率的に更新する新しいアプローチを提案する。
特に,強化学習の適用性について検討し,学習制約の有用性を継続的に評価する。
論文 参考訳(メタデータ) (2020-08-07T15:01:41Z) - AdaS: Adaptive Scheduling of Stochastic Gradients [50.80697760166045]
我々は、textit "knowledge gain" と textit "mapping condition" の概念を導入し、Adaptive Scheduling (AdaS) と呼ばれる新しいアルゴリズムを提案する。
実験によると、AdaSは派生した指標を用いて、既存の適応学習手法よりも高速な収束と優れた一般化、そして(b)いつトレーニングを中止するかを決定するための検証セットへの依存の欠如を示す。
論文 参考訳(メタデータ) (2020-06-11T16:36:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。