Fugu-MT 論文翻訳(概要): Landscape Learning for Neural Network Inversion

論文の概要: Landscape Learning for Neural Network Inversion

arxiv url: http://arxiv.org/abs/2206.09027v1
Date: Fri, 17 Jun 2022 22:05:29 GMT
ステータス: 処理完了
システム内更新日: 2022-06-22 15:01:14.148966
Title: Landscape Learning for Neural Network Inversion
Title（参考訳）: ニューラルネットワークインバージョンのための景観学習
Authors: Ruoshi Liu, Chengzhi Mao, Purva Tendulkar, Hao Wang, Carl Vondrick
Abstract要約: 多くの機械学習手法は、推論時にニューラルネットワークを反転させることで動作し、視覚やグラフィックスの逆反転問題を解決するための一般的なテクニックとなっている。
参考スコア（独自算出の注目度）: 25.52874104501493
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Many machine learning methods operate by inverting a neural network at inference time, which has become a popular technique for solving inverse problems in computer vision, robotics, and graphics. However, these methods often involve gradient descent through a highly non-convex loss landscape, causing the optimization process to be unstable and slow. We introduce a method that learns a loss landscape where gradient descent is efficient, bringing massive improvement and acceleration to the inversion process. We demonstrate this advantage on a number of methods for both generative and discriminative tasks, including GAN inversion, adversarial defense, and 3D human pose reconstruction.
Abstract（参考訳）: 多くの機械学習手法は、推論時にニューラルネットワークを反転させることで動作し、コンピュータビジョン、ロボティクス、グラフィックスの逆問題解決の一般的な技術となった。しかしながら、これらの手法は、しばしば非凸な損失ランドスケープを勾配降下させ、最適化プロセスは不安定で遅くなる。本研究では,勾配降下が効率的である損失景観を学習し,インバージョンプロセスに大幅な改善と加速をもたらす手法を提案する。本稿では,GAN逆転,対人防御,3次元ポーズ再構築など,生成的タスクと識別的タスクの両方において,この利点を示す。

関連論文リスト

Gradient-free online learning of subgrid-scale dynamics with neural emulators [5.283819482083864]
機械学習に基づくサブグリッドパラメトリゼーションをオンラインでトレーニングするための汎用アルゴリズムを提案する。我々は、元の解法の勾配を計算することなく、オンライン戦略の利点のほとんどを回復するパラメトリゼーションを訓練することができる。
論文参考訳（メタデータ） (2023-10-30T09:46:35Z)
A Novel Method for improving accuracy in neural network by reinstating traditional back propagation technique [0.0]
本稿では,各層における勾配計算の必要性を解消する新しい瞬時パラメータ更新手法を提案する。提案手法は,学習を加速し,消失する勾配問題を回避し,ベンチマークデータセット上で最先端の手法より優れる。
論文参考訳（メタデータ） (2023-08-09T16:41:00Z)
Accelerating Multiframe Blind Deconvolution via Deep Learning [0.0]
地上からの太陽画像の復元は計算に費用がかかる手続きである。本稿では,アルゴリズムのアンロールに基づく復元を高速化する手法を提案する。両手法が標準最適化法と比較して復元時間を大幅に短縮することを示した。
論文参考訳（メタデータ） (2023-06-21T07:53:00Z)
Online Learning of Wheel Odometry Correction for Mobile Robots with Attention-based Neural Network [63.8376359764052]
現代のロボットプラットフォームは、人間の横で毎日運用するために、信頼性の高いローカライゼーションシステムを必要としている。フィルタされた車輪と慣性オドメトリーに基づく単純なポーズ推定アルゴリズムは、急激なキネマティックな変化とホイールスリップの存在下で失敗することが多い。本稿では,車輪形状補正のための革新的なオンライン学習手法を提案し,ロバストなマルチソースローカライゼーションシステムを提案する。
論文参考訳（メタデータ） (2023-03-21T10:30:31Z)
Scaling Forward Gradient With Local Losses [117.22685584919756]
フォワード学習は、ディープニューラルネットワークを学ぶためのバックプロップに代わる生物学的に妥当な代替手段である。重みよりも活性化に摂動を適用することにより、前方勾配のばらつきを著しく低減できることを示す。提案手法はMNIST と CIFAR-10 のバックプロップと一致し,ImageNet 上で提案したバックプロップフリーアルゴリズムよりも大幅に優れていた。
論文参考訳（メタデータ） (2022-10-07T03:52:27Z)
Half-Inverse Gradients for Physical Deep Learning [25.013244956897832]
異なる物理シミュレータをトレーニングプロセスに統合することは、結果の質を大幅に向上させる。勾配に基づく解法は、多くの物理過程の固有の性質であるスケールと方向を操作できるため、勾配流に深い影響を与える。本研究では,この現象に苦しむことのない新しい手法を導出するために,物理・ニューラルネットワーク最適化の特性を解析する。
論文参考訳（メタデータ） (2022-03-18T19:11:04Z)
Physical Gradients for Deep Learning [101.36788327318669]
最先端のトレーニング技術は、物理的なプロセスに関わる多くの問題に適していないことが分かりました。本稿では,高次最適化手法と機械学習手法を組み合わせた新しいハイブリッドトレーニング手法を提案する。
論文参考訳（メタデータ） (2021-09-30T12:14:31Z)
Neural Descent for Visual 3D Human Pose and Shape [67.01050349629053]
入力RGB画像から3次元のポーズと形状を復元するディープニューラルネットワーク手法を提案する。我々は最近導入された表現力のあるボディ統計モデルGHUMに頼っている。我々の方法論の中心は、HUmanNeural Descent (HUND)と呼ばれるアプローチの学習と最適化である。
論文参考訳（メタデータ） (2020-08-16T13:38:41Z)
Limited-angle tomographic reconstruction of dense layered objects by dynamical machine learning [68.9515120904028]
強い散乱準透明物体の有限角トモグラフィーは困難で、非常に不適切な問題である。このような問題の状況を改善することにより、アーティファクトの削減には、事前の定期化が必要である。我々は,新しい分割畳み込みゲート再帰ユニット(SC-GRU)をビルディングブロックとして,リカレントニューラルネットワーク(RNN)アーキテクチャを考案した。
論文参考訳（メタデータ） (2020-07-21T11:48:22Z)
Binary Neural Networks: A Survey [126.67799882857656]
バイナリニューラルネットワークは、リソース制限されたデバイスにディープモデルをデプロイするための有望なテクニックとして機能する。バイナライゼーションは必然的に深刻な情報損失を引き起こし、さらに悪いことに、その不連続性はディープネットワークの最適化に困難をもたらす。本稿では,2項化を直接実施するネイティブソリューションと,量子化誤差の最小化,ネットワーク損失関数の改善,勾配誤差の低減といった手法を用いて,これらのアルゴリズムを探索する。
論文参考訳（メタデータ） (2020-03-31T16:47:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。