論文の概要: Ada-LISTA: Learned Solvers Adaptive to Varying Models

• arxiv url: http://arxiv.org/abs/2001.08456v2
• Date: Wed, 19 Feb 2020 14:28:35 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-07 10:03:23.788667
• Title: Ada-LISTA: Learned Solvers Adaptive to Varying Models
• Title（参考訳）: Ada-LISTA: 変数モデルに適応した学習者
• Authors: Aviad Aberdam, Alona Golts, Michael Elad
• Abstract要約: この研究は、Ada-LISTAと呼ばれる適応型学習解法を導入し、ペアの信号とそれに対応する辞書を入力として受け取り、それらすべてを提供する普遍的なアーキテクチャを学ぶ。 このスキームは、辞書の摂動や置換を含む様々なモデルの線形レートでスパース符号化を解くことが保証されている。 また,Ada-LISTAを自然な画像塗布に展開し,パッチマスクの空間的変化を考慮に入れた。
• 参考スコア（独自算出の注目度）: 24.321416673430978
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural networks that are based on unfolding of an iterative solver, such as LISTA (learned iterative soft threshold algorithm), are widely used due to their accelerated performance. Nevertheless, as opposed to non-learned solvers, these networks are trained on a certain dictionary, and therefore they are inapplicable for varying model scenarios. This work introduces an adaptive learned solver, termed Ada-LISTA, which receives pairs of signals and their corresponding dictionaries as inputs, and learns a universal architecture to serve them all. We prove that this scheme is guaranteed to solve sparse coding in linear rate for varying models, including dictionary perturbations and permutations. We also provide an extensive numerical study demonstrating its practical adaptation capabilities. Finally, we deploy Ada-LISTA to natural image inpainting, where the patch-masks vary spatially, thus requiring such an adaptation.
• Abstract（参考訳）: LISTA (learned iterative soft threshold algorithm) のような反復解法の展開に基づくニューラルネットワークは、その高速化性能のために広く利用されている。 しかしながら、学習しない解法とは対照的に、これらのネットワークは特定の辞書で訓練されているため、様々なモデルシナリオには適用できない。 この研究は、Ada-LISTAと呼ばれる適応型学習解法を導入し、ペアの信号とそれに対応する辞書を入力として受け取り、それらすべてを提供する普遍的なアーキテクチャを学ぶ。 このスキームは、辞書の摂動や置換を含む様々なモデルの線形レートでスパース符号化を解くことが保証されている。 また,その実用的適応能力を示す広範な数値的研究を行った。 最後に,Ada-LISTAを自然な画像塗布に展開し,パッチマスクの空間的変化を考慮に入れた。

関連論文リスト

• Variational Learning ISTA [13.894911545678635]
  本研究では,センサ行列条件の異なるスパース表現と再構成を学習するためのアーキテクチャを提案する。 変分学習ISTA(VLISTA)と呼ばれる変分アプローチを用いて辞書上の分布を学習する。 結果として、VLISTAは、辞書分布と再構成アルゴリズムを様々な知覚行列で共同で学習する確率的方法を提供する。
  論文  参考訳（メタデータ） (2024-07-09T08:17:06Z)
• Interpretability at Scale: Identifying Causal Mechanisms in Alpaca [62.65877150123775]
  本研究では、Boundless DASを用いて、命令に従う間、大規模言語モデルにおける解釈可能な因果構造を効率的に探索する。 私たちの発見は、成長し、最も広くデプロイされている言語モデルの内部構造を忠実に理解するための第一歩です。
  論文  参考訳（メタデータ） (2023-05-15T17:15:40Z)
• Experimental study of Neural ODE training with adaptive solver for dynamical systems modeling [72.84259710412293]
  アダプティブと呼ばれるいくつかのODEソルバは、目の前の問題の複雑さに応じて評価戦略を適用することができる。 本稿では,動的システムモデリングのためのブラックボックスとして適応型ソルバをシームレスに利用できない理由を示すための簡単な実験について述べる。
  論文  参考訳（メタデータ） (2022-11-13T17:48:04Z)
• Equivariance with Learned Canonicalization Functions [77.32483958400282]
  正規化を行うために小さなニューラルネットワークを学習することは、事前定義を使用することよりも優れていることを示す。 実験の結果,正準化関数の学習は多くのタスクで同変関数を学習する既存の手法と競合することがわかった。
  論文  参考訳（メタデータ） (2022-11-11T21:58:15Z)
• AMS-Net: Adaptive Multiscale Sparse Neural Network with Interpretable Basis Expansion for Multiphase Flow Problems [8.991619150027267]
  本研究では、物理過程の学習に応用可能な適応スパース学習アルゴリズムを提案し、大きなスナップショット空間を与えられた解のスパース表現を得る。 基本関数の情報は損失関数に組み込まれており、複数の時間ステップにおけるダウンスケール縮小次数解と参照解との差を最小限に抑える。 複雑なアプリケーションにおける提案手法の有効性と解釈性を示すため, 2相多相流問題に対してより数値的な実験を行った。
  論文  参考訳（メタデータ） (2022-07-24T13:12:43Z)
• A Sparsity-promoting Dictionary Model for Variational Autoencoders [16.61511959679188]
  深層生成モデルにおける潜伏空間の構造化は、より表現力のあるモデルと解釈可能な表現を得るために重要である。 本稿では,空間の空間構造をスパーシティ・プロモーティング・辞書・モデルを用いて簡易かつ効果的に構築する手法を提案する。
  論文  参考訳（メタデータ） (2022-03-29T17:13:11Z)
• It's FLAN time! Summing feature-wise latent representations for interpretability [0.0]
  FLAN(Feature-wise Latent Additive Networks)と呼ばれる構造拘束型ニューラルネットワークの新たなクラスを提案する。 FLANは各入力機能を別々に処理し、それぞれに共通の潜在空間の表現を演算する。 これらの特徴的潜在表現は単純に要約され、集約された表現は予測に使用される。
  論文  参考訳（メタデータ） (2021-06-18T12:19:33Z)
• Learned Greedy Method (LGM): A Novel Neural Architecture for Sparse Coding and Beyond [24.160276545294288]
  同じ目的のために,欲求追従アルゴリズムの展開版を提案する。 Learned Greedy Method(LGM)のキーとなる特徴は、動的に展開された複数のレイヤに対応する能力である。
  論文  参考訳（メタデータ） (2020-10-14T13:17:02Z)
• Learning to Learn Parameterized Classification Networks for Scalable Input Images [76.44375136492827]
  畳み込みニューラルネットワーク(CNN)は、入力解像度の変化に関して予測可能な認識動作を持たない。 我々はメタラーナーを用いて、様々な入力スケールのメインネットワークの畳み込み重みを生成する。 さらに、異なる入力解像度に基づいて、モデル予測よりもフライでの知識蒸留を利用する。
  論文  参考訳（メタデータ） (2020-07-13T04:27:25Z)
• A Flexible Framework for Designing Trainable Priors with Adaptive Smoothing and Game Encoding [57.1077544780653]
  我々は、前方通過を非滑らかな凸最適化問題として解釈できるニューラルネットワーク層の設計とトレーニングのための一般的なフレームワークを紹介する。 グラフのノードに代表されるローカルエージェントによって解決され、正規化関数を介して相互作用する凸ゲームに焦点を当てる。 このアプローチは、訓練可能なエンドツーエンドのディープモデル内で、古典的な画像の事前使用を可能にするため、画像の問題を解決するために魅力的である。
  論文  参考訳（メタデータ） (2020-06-26T08:34:54Z)
• Learning to Encode Position for Transformer with Continuous Dynamical Model [88.69870971415591]
  本研究では,トランスフォーマーモデルなどの非リカレントモデルの位置情報をエンコードする新しい学習方法を提案する。 このような力学系による位置指数に沿った符号化結果の進化をモデル化する。
  論文  参考訳（メタデータ） (2020-03-13T00:41:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。