論文の概要: To be or not to be stable, that is the question: understanding neural
networks for inverse problems
- arxiv url: http://arxiv.org/abs/2211.13692v1
- Date: Thu, 24 Nov 2022 16:16:40 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-28 18:50:30.035404
- Title: To be or not to be stable, that is the question: understanding neural
networks for inverse problems
- Title(参考訳): 安定であるか否かは、それが問題である:逆問題に対するニューラルネットワークを理解する。
- Authors: Davide Evangelista, James Nagy, Elena Morotti, Elena Loli Piccolomini
- Abstract要約: 線形逆問題解におけるニューラルネットワークの安定性と精度のトレードオフを理論的に解析する。
我々は,ネットワークの安定性を向上させるために,教師なしと教師なしの異なるソリューションを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The solution of linear inverse problems arising, for example, in signal and
image processing is a challenging problem, since the ill-conditioning amplifies
the noise on the data. Recently introduced deep-learning based algorithms
overwhelm the more traditional model-based approaches but they typically suffer
from instability with respect to data perturbation. In this paper, we
theoretically analyse the trade-off between neural networks stability and
accuracy in the solution of linear inverse problems. Moreover, we propose
different supervised and unsupervised solutions, to increase network stability
by maintaining good accuracy, by inheriting, in the network training,
regularization from a model-based iterative scheme. Extensive numerical
experiments on image deblurring confirm the theoretical results and the
effectiveness of the proposed networks in solving inverse problems with
stability with respect to noise.
- Abstract(参考訳): 例えば信号や画像処理において発生する線形逆問題の解は、不条件がデータのノイズを増幅するため、難しい問題である。
最近導入されたディープラーニングベースのアルゴリズムは、従来のモデルベースのアプローチを圧倒するが、データ摂動に関して不安定に陥ることが多い。
本稿では,線形逆問題解におけるニューラルネットワークの安定性と精度のトレードオフを理論的に解析する。
さらに,ネットワークトレーニングにおいて,モデルに基づく反復スキームから正規化を継承することにより,精度を維持し,ネットワーク安定性を向上させるための教師付き解と教師なし解を提案する。
画像劣化に関する大規模な数値実験により,雑音に対する逆問題解法における提案ネットワークの理論結果と有効性が確認された。
関連論文リスト
- The Unreasonable Effectiveness of Solving Inverse Problems with Neural Networks [24.766470360665647]
逆問題に対する解を学ぶために訓練されたニューラルネットワークは、トレーニングセット上でも古典よりも優れた解を見つけることができることを示す。
高速な推論のために新しいデータに一般化するのではなく、既知のデータに対するより良い解決策を見つけるためにも使用できる。
論文 参考訳(メタデータ) (2024-08-15T12:38:10Z) - Ambiguity in solving imaging inverse problems with deep learning based
operators [0.0]
大規模な畳み込みニューラルネットワークは、画像分解のためのツールとして広く利用されている。
画像の劣化は, 逆問題として数学的にモデル化され, ノイズがデータに与える影響を近似することは困難である。
本稿では,深層学習に基づく画像の復号化に多くの精度を損なうことなく,安定性を向上する手法を提案する。
論文 参考訳(メタデータ) (2023-05-31T12:07:08Z) - Cycle Consistency-based Uncertainty Quantification of Neural Networks in
Inverse Imaging Problems [10.992084413881592]
ディープニューラルネットワークの多くの応用には不確実性推定が不可欠である。
サイクル整合性に基づく逆問題に使用されるディープニューラルネットワークに対する不確実性定量化手法を示す。
論文 参考訳(メタデータ) (2023-05-22T09:23:18Z) - Implicit Stochastic Gradient Descent for Training Physics-informed
Neural Networks [51.92362217307946]
物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。
PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。
本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
論文 参考訳(メタデータ) (2023-03-03T08:17:47Z) - On Robust Numerical Solver for ODE via Self-Attention Mechanism [82.95493796476767]
我々は,内在性雑音障害を緩和し,AIによって強化された数値解法を,データサイズを小さくする訓練について検討する。
まず,教師付き学習における雑音を制御するための自己認識機構の能力を解析し,さらに微分方程式の数値解に付加的な自己認識機構を導入し,簡便かつ有効な数値解法であるAttrを提案する。
論文 参考訳(メタデータ) (2023-02-05T01:39:21Z) - Deep Equilibrium Assisted Block Sparse Coding of Inter-dependent
Signals: Application to Hyperspectral Imaging [71.57324258813675]
相互依存信号のデータセットは、列が強い依存を示す行列として定義される。
ニューラルネットワークは、事前に構造として機能し、基礎となる信号相互依存性を明らかにするために使用される。
ディープ・アンローリングとディープ・平衡に基づくアルゴリズムが開発され、高度に解釈可能で簡潔なディープ・ラーニング・ベース・アーキテクチャを形成する。
論文 参考訳(メタデータ) (2022-03-29T21:00:39Z) - Stable, accurate and efficient deep neural networks for inverse problems
with analysis-sparse models [2.969705152497174]
本稿では,一般解析スパースモデルを用いた逆問題に対する高精度で安定かつ効率的なニューラルネットワークの構築について述べる。
ネットワーク構築のために,凸最適化のための1次高速化手法であるNESTAをアンロールする。
再起動方式は、必要なネットワーク深さの指数的減衰を可能とし、より浅いネットワークとなり、その結果より効率的なネットワークを実現する。
論文 参考訳(メタデータ) (2022-03-02T00:44:25Z) - Imbedding Deep Neural Networks [0.0]
ニューラルODEのような連続深度ニューラルネットワークは、非線形ベクトル値の最適制御問題の観点から、残留ニューラルネットワークの理解を再燃させた。
本稿では,ネットワークの深さを基本変数とする新しい手法を提案する。
論文 参考訳(メタデータ) (2022-01-31T22:00:41Z) - Robust lEarned Shrinkage-Thresholding (REST): Robust unrolling for
sparse recover [87.28082715343896]
我々は、モデルミス特定を前進させるのに堅牢な逆問題を解決するためのディープニューラルネットワークについて検討する。
我々は,アルゴリズムの展開手法を根底にある回復問題のロバストバージョンに適用することにより,新しい堅牢なディープニューラルネットワークアーキテクチャを設計する。
提案したRESTネットワークは,圧縮センシングとレーダイメージングの両問題において,最先端のモデルベースおよびデータ駆動アルゴリズムを上回る性能を示す。
論文 参考訳(メタデータ) (2021-10-20T06:15:45Z) - Multivariate Deep Evidential Regression [77.34726150561087]
不確実性を認識するニューラルネットワークによる新しいアプローチは、従来の決定論的手法よりも有望である。
本稿では,レグレッションベースニューラルネットワークからアレータ性およびてんかん性不確かさを抽出する手法を提案する。
論文 参考訳(メタデータ) (2021-04-13T12:20:18Z) - Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。
我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
論文 参考訳(メタデータ) (2021-02-23T20:59:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。