論文の概要: Model-Aware Regularization For Learning Approaches To Inverse Problems

• arxiv url: http://arxiv.org/abs/2006.10869v1
• Date: Thu, 18 Jun 2020 21:59:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2022-11-19 13:41:30.080650
• Title: Model-Aware Regularization For Learning Approaches To Inverse Problems
• Title（参考訳）: 逆問題に対する学習アプローチのためのモデル・アウェア正規化
• Authors: Jaweria Amjad, Zhaoyan Lyu, Miguel R. D. Rodrigues
• Abstract要約: 本稿では,逆問題に適用可能なディープラーニング手法の一般化誤差の解析を行う。 本稿では、フォワードマップの知識を活用してネットワークの一般化を改善する「プラグ・アンド・プレイ」レギュラーを提案する。 我々は,他の最先端手法に対するモデル認識型ディープラーニングアルゴリズムの有効性を実証する。
• 参考スコア（独自算出の注目度）: 11.314492463814817
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: There are various inverse problems -- including reconstruction problems arising in medical imaging -- where one is often aware of the forward operator that maps variables of interest to the observations. It is therefore natural to ask whether such knowledge of the forward operator can be exploited in deep learning approaches increasingly used to solve inverse problems. In this paper, we provide one such way via an analysis of the generalisation error of deep learning methods applicable to inverse problems. In particular, by building on the algorithmic robustness framework, we offer a generalisation error bound that encapsulates key ingredients associated with the learning problem such as the complexity of the data space, the size of the training set, the Jacobian of the deep neural network and the Jacobian of the composition of the forward operator with the neural network. We then propose a 'plug-and-play' regulariser that leverages the knowledge of the forward map to improve the generalization of the network. We likewise also propose a new method allowing us to tightly upper bound the Lipschitz constants of the relevant functions that is much more computational efficient than existing ones. We demonstrate the efficacy of our model-aware regularised deep learning algorithms against other state-of-the-art approaches on inverse problems involving various sub-sampling operators such as those used in classical compressed sensing setup and accelerated Magnetic Resonance Imaging (MRI).
• Abstract（参考訳）: 医療画像で発生する復元問題など、様々な逆問題があり、観察に興味のある変数をマッピングするフォワード演算子をよく認識している。 したがって、このようなフォワード演算子の知識を、逆問題を解くためにますます使われる深層学習アプローチで活用できるかどうかを問うことは自然である。 本稿では,逆問題に適用可能な深層学習法の一般化誤差の解析を通して,そのような方法を提案する。 特に,アルゴリズム的ロバスト性フレームワーク上に構築することにより,データ空間の複雑さ,トレーニングセットのサイズ,ディープニューラルネットワークのヤコビアン,フォワード演算子とニューラルネットワークの構成のヤコビアンといった学習問題に関連する重要な要素をカプセル化する一般化誤りバウンドを提供する。 次に、フォワードマップの知識を活用してネットワークの一般化を改善する「プラグアンドプレイ」レギュラーを提案する。 同様に、我々は既存のものよりもはるかに計算効率の良い関係関数のリプシッツ定数を強く上限にすることができる新しい方法も提案する。 提案手法は,古典的圧縮センシング設定や磁気共鳴イメージング(MRI)の高速化など,様々なサブサンプリング演算子に関わる逆問題に対して,モデル認識型正規化深層学習アルゴリズムの有効性を示す。

関連論文リスト

• A Recursively Recurrent Neural Network (R2N2) Architecture for Learning Iterative Algorithms [64.3064050603721]
  本研究では,リカレントニューラルネットワーク (R2N2) にランゲ・クッタニューラルネットワークを一般化し,リカレントニューラルネットワークを最適化した反復アルゴリズムの設計を行う。 本稿では, 線形方程式系に対するクリロフ解法, 非線形方程式系に対するニュートン・クリロフ解法, 常微分方程式に対するルンゲ・クッタ解法と類似の繰り返しを計算問題クラスの入力・出力データに対して提案した超構造内における重みパラメータの正規化について述べる。
  論文  参考訳（メタデータ） (2022-11-22T16:30:33Z)
• Transformer Meets Boundary Value Inverse Problems [4.165221477234755]
  変圧器を用いた深部直接サンプリング法は境界値逆問題のクラスを解くために提案される。 慎重に設計されたデータと再構成された画像の間に学習した逆演算子を評価することにより、リアルタイムな再構成を実現する。
  論文  参考訳（メタデータ） (2022-09-29T17:45:25Z)
• Fractal Structure and Generalization Properties of Stochastic Optimization Algorithms [71.62575565990502]
  最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。 さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
  論文  参考訳（メタデータ） (2021-06-09T08:05:36Z)
• Provably Convergent Algorithms for Solving Inverse Problems Using Generative Models [47.208080968675574]
  より完全な理解を伴う逆問題における生成モデルの利用について検討する。 我々は様々な逆問題を解くための実験結果を用いて主張を支持する。 我々は,モデルミスマッチ(生成前処理が必ずしも適用されない状況)を処理する手法の拡張を提案する。
  論文  参考訳（メタデータ） (2021-05-13T15:58:27Z)
• A neural anisotropic view of underspecification in deep learning [60.119023683371736]
  ニューラルネットが問題の未特定化を扱う方法が,データ表現に大きく依存していることを示す。 深層学習におけるアーキテクチャ的インダクティブバイアスの理解は,これらのシステムの公平性,堅牢性,一般化に対処する上で基本的であることを強調した。
  論文  参考訳（メタデータ） (2021-04-29T14:31:09Z)
• Total Deep Variation: A Stable Regularizer for Inverse Problems [71.90933869570914]
  本稿では,データ駆動型汎用全深度変動正規化器について紹介する。 コアでは、畳み込みニューラルネットワークが複数のスケールや連続したブロックで局所的な特徴を抽出する。 我々は多数の画像処理タスクに対して最先端の結果を得る。
  論文  参考訳（メタデータ） (2020-06-15T21:54:15Z)
• Learning the Travelling Salesperson Problem Requires Rethinking Generalization [9.176056742068813]
  トラベリングセールスパーソン問題(TSP)のようなグラフ最適化問題に対するニューラルネットワークソルバのエンドツーエンドトレーニングは近年,関心が高まっている。 最先端の学習駆動アプローチは、自明に小さなサイズで訓練された場合、古典的な解法と密接に関係するが、実践的な規模で学習ポリシーを大規模に一般化することはできない。 この研究は、トレーニングで見られるものよりも大きいインスタンスへの一般化を促進する、原則化されたバイアス、モデルアーキテクチャ、学習アルゴリズムを特定するために、最近の論文を統一するエンドツーエンドのニューラルネットワークパイプラインを提示している。
  論文  参考訳（メタデータ） (2020-06-12T10:14:15Z)
• Total Deep Variation for Linear Inverse Problems [71.90933869570914]
  本稿では,近年のアーキテクチャ設計パターンを深層学習から活用する,学習可能な汎用正規化手法を提案する。 本稿では,古典的画像復元と医用画像再構成問題に対する最先端の性能について述べる。
  論文  参考訳（メタデータ） (2020-01-14T19:01:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。