論文の概要: DIPA: Distilled Preconditioned Algorithms for Solving Imaging Inverse Problems
- arxiv url: http://arxiv.org/abs/2605.15456v1
- Date: Thu, 14 May 2026 22:39:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-18 21:22:26.11667
- Title: DIPA: Distilled Preconditioned Algorithms for Solving Imaging Inverse Problems
- Title(参考訳): DIPA:画像逆問題の解法のための蒸留プレコンディショニングアルゴリズム
- Authors: Romario Gualdrón-Hurtado, Roman Jacome, Leon Suarez, Henry Arguello,
- Abstract要約: 教師が指導する蒸留基準を用いてプレコンディショニング演算子を最適化するDIPA: Distilled Preconditioned Algorithmsを紹介する。
我々は、磁気共鳴イメージング、圧縮センシング、超高分解能イメージングなど、複数の画像モダリティにまたがって提案したPO設計を検証した。
- 参考スコア(独自算出の注目度): 25.35772762396095
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Solving imaging inverse problems has usually been addressed by designing proper prior models of the underlying signal. However, minimizing the data fidelity term poses significant challenges due to the ill-conditioned sensing matrix caused by physical constraints in the acquisition system. Thus, preconditioning techniques have been adopted in classical optimization theory to address ill-conditioned data-fidelity minimization by transforming the algorithm gradient step to achieve faster convergence and better numerical stability. We extend the preconditioning concept beyond convergence acceleration and use it to improve reconstruction quality. We introduce DIPA: Distilled Preconditioned Algorithms, where a preconditioning operator (PO) is optimized using teacher-guided distillation criteria. Unlike standard model-compression KD, the teacher and student differ by the sensing operators available during reconstruction: the teacher uses a simulated, better-conditioned, and more informative sensing matrix, whereas the student uses the physically feasible sensing matrix. We design different distillation loss functions to transfer different properties of the teacher algorithm to the preconditioned student. The PO can be linear (L-DIPA), allowing interpretability, or non-linear (N-DIPA), parametrized by a neural network, offering better scalability. We validate the proposed PO design across several imaging modalities, including magnetic resonance imaging, compressed sensing, and super-resolution imaging.
- Abstract(参考訳): 画像逆問題の解法は、通常、基礎となる信号の適切な事前モデルを設計することで解決される。
しかし、データ忠実度項の最小化は、取得システムにおける物理的制約による不条件検出行列による大きな課題を生じさせる。
このように、アルゴリズム勾配のステップを変換してより高速な収束とより優れた数値安定性を実現することにより、不条件データ忠実度最小化に対処するために、古典最適化理論においてプレコンディショニング技術が採用されている。
コンバージェンス・アクセラレーションを超えてプレコンディショニングの概念を拡張し,再現性の向上に活用する。
教師が指導する蒸留基準を用いてプレコンディショニング演算子(PO)を最適化したDIPA: Distilled Preconditioned Algorithmsを紹介する。
教師と生徒は、標準的なモデル圧縮KDとは異なり、再建中に利用可能なセンシング演算子によって異なる:教師は、シミュレートされ、より条件が良く、より情報的なセンシング行列を使用し、学生は物理的に実現可能なセンシング行列を使用する。
我々は,教師アルゴリズムの異なる特性を事前条件の学生に伝達するために,異なる蒸留損失関数を設計する。
POは線形(L-DIPA)であり、解釈可能性や非線形(N-DIPA)を可能にし、ニューラルネットワークによってパラメータ化され、スケーラビリティが向上する。
我々は、磁気共鳴イメージング、圧縮センシング、超高分解能イメージングなど、複数の画像モダリティにまたがって提案したPO設計を検証した。
関連論文リスト
- Towards The Implicit Bias on Multiclass Separable Data Under Norm Constraints [3.421126849736858]
核ノルム制約を通した低階構造を強制するために設計された幾何認識幾何学であるNucGDを紹介する。
スケーラブルなトレーニングを実現するため、非同期電力繰り返しによる効率的なSVDフリー更新ルールを導出する。
我々は、最小バッチサンプリングと運動量によって誘導される勾配ノイズの変動レベルが、期待される最大マージン解に対する収束をどう変調するかを特徴付ける、勾配最適化のダイナミクスの影響を実験的に分析する。
論文 参考訳(メタデータ) (2026-03-24T05:51:50Z) - Faster Adaptive Optimization via Expected Gradient Outer Product Reparameterization [11.394969272703014]
本研究では,多種多様な関数に対して,EGOP行列スペクトルの減衰の影響を受け,適応アルゴリズムの選択に対する感度の影響を示す。
論文 参考訳(メタデータ) (2025-02-03T18:26:35Z) - Variational Bayes image restoration with compressive autoencoders [6.689746581015932]
逆問題の正規化は、計算イメージングにおいて最重要となる。
本研究では,まず,最先端生成モデルの代わりに変分オートエンコーダを提案する。
第2の貢献として、変分推論内で潜時推定を行う変分ベイズ潜時推定(VBLE)アルゴリズムを導入する。
論文 参考訳(メタデータ) (2023-11-29T15:49:31Z) - Large-Scale OD Matrix Estimation with A Deep Learning Method [70.78575952309023]
提案手法は,ディープラーニングと数値最適化アルゴリズムを統合し,行列構造を推論し,数値最適化を導出する。
大規模合成データセットを用いて,提案手法の優れた一般化性能を実証するために実験を行った。
論文 参考訳(メタデータ) (2023-10-09T14:30:06Z) - Towards Theoretically Inspired Neural Initialization Optimization [66.04735385415427]
我々は,ニューラルネットワークの初期状態を評価するための理論的知見を備えた,GradCosineという微分可能な量を提案する。
標準制約下でGradCosineを最大化することにより、ネットワークのトレーニングとテストの両方の性能を向上させることができることを示す。
サンプル分析から実際のバッチ設定に一般化されたNIOは、無視可能なコストで、より優れた初期化を自動で探すことができる。
論文 参考訳(メタデータ) (2022-10-12T06:49:16Z) - Transformer Meets Boundary Value Inverse Problems [4.165221477234755]
変圧器を用いた深部直接サンプリング法は境界値逆問題のクラスを解くために提案される。
慎重に設計されたデータと再構成された画像の間に学習した逆演算子を評価することにより、リアルタイムな再構成を実現する。
論文 参考訳(メタデータ) (2022-09-29T17:45:25Z) - Learning Discriminative Shrinkage Deep Networks for Image Deconvolution [122.79108159874426]
本稿では,これらの用語を暗黙的にモデル化する識別的縮小関数を学習することで,効果的に非盲検デコンボリューション手法を提案する。
実験結果から,提案手法は最先端の手法に対して,効率と精度の点で好適に動作することがわかった。
論文 参考訳(メタデータ) (2021-11-27T12:12:57Z) - GradInit: Learning to Initialize Neural Networks for Stable and
Efficient Training [59.160154997555956]
ニューラルネットワークを初期化するための自動化およびアーキテクチャ手法であるgradinitを提案する。
各ネットワーク層の分散は、SGDまたはAdamの単一ステップが最小の損失値をもたらすように調整される。
また、学習率のウォームアップを伴わずに、オリジナルのPost-LN Transformerを機械翻訳用にトレーニングすることもできる。
論文 参考訳(メタデータ) (2021-02-16T11:45:35Z) - End-to-end Interpretable Learning of Non-blind Image Deblurring [102.75982704671029]
非ブラインド画像のデブロワーリングは、通常、対応するシャープ画像の勾配に関する自然の先行によって正規化される線形最小二乗問題として定式化される。
本稿では,(既知の)ぼかしと自然像前のカーネルの逆フィルタを用いて,リチャードソン解法を事前条件として提案する。
論文 参考訳(メタデータ) (2020-07-03T15:45:01Z) - A Flexible Framework for Designing Trainable Priors with Adaptive
Smoothing and Game Encoding [57.1077544780653]
我々は、前方通過を非滑らかな凸最適化問題として解釈できるニューラルネットワーク層の設計とトレーニングのための一般的なフレームワークを紹介する。
グラフのノードに代表されるローカルエージェントによって解決され、正規化関数を介して相互作用する凸ゲームに焦点を当てる。
このアプローチは、訓練可能なエンドツーエンドのディープモデル内で、古典的な画像の事前使用を可能にするため、画像の問題を解決するために魅力的である。
論文 参考訳(メタデータ) (2020-06-26T08:34:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。