論文の概要: Pseudo Rehearsal using non photo-realistic images
- arxiv url: http://arxiv.org/abs/2004.13414v1
- Date: Tue, 28 Apr 2020 10:44:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-08 22:26:06.446465
- Title: Pseudo Rehearsal using non photo-realistic images
- Title（参考訳）: 非写実画像を用いた擬似リハーサル
- Authors: Bhasker Sri Harsha Suri, Kalidas Yeturu
- Abstract要約: ディープニューラルネットワークは、新しいタスクの学習に直面しているときに、以前の学習タスクを忘れる。
ニューラルネットワークを以前のタスクのトレーニングデータでリハーサルすることで、ネットワークが破滅的な忘れ物から保護することができる。
画像分類設定において、現在の手法は、フォトリアリスティックな合成データを生成しようとするが、ニューラルネットワークは、写真リアリスティックではなく、以前のタスクの良好な保持を実現しているデータに基づいてリハーサルできることを実証した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep Neural networks forget previously learnt tasks when they are faced with
learning new tasks. This is called catastrophic forgetting. Rehearsing the
neural network with the training data of the previous task can protect the
network from catastrophic forgetting. Since rehearsing requires the storage of
entire previous data, Pseudo rehearsal was proposed, where samples belonging to
the previous data are generated synthetically for rehearsal. In an image
classification setting, while current techniques try to generate synthetic data
that is photo-realistic, we demonstrated that Neural networks can be rehearsed
on data that is not photo-realistic and still achieve good retention of the
previous task. We also demonstrated that forgoing the constraint of having
photo realism in the generated data can result in a significant reduction in
the consumption of computational and memory resources for pseudo rehearsal.
- Abstract（参考訳）: ディープニューラルネットワークは、新しいタスクの学習に直面しているときに、以前の学習タスクを忘れる。
これを破滅的忘れという。
ニューラルネットワークを以前のタスクのトレーニングデータでリハーサルすることで、ネットワークが破滅的な忘れ物から保護することができる。
リハーサルには過去のデータ全体を保存する必要があるため、Pseudoリハーサルが提案され、前回のデータに属するサンプルを合成してリハーサルする。
画像分類設定において、現在の手法は、フォトリアリスティックな合成データを生成しようとするが、ニューラルネットワークは、写真リアリスティックではなく、以前のタスクの良好な保持を実現することができることを実証した。
また,生成されたデータにフォトリアリズムを持つという制約を課すことで,擬似リハーサルのための計算資源やメモリ資源の消費を大幅に削減できることを示した。
関連論文リスト
- Understanding Reconstruction Attacks with the Neural Tangent Kernel and
Dataset Distillation [110.61853418925219]
我々は、データセット再構築攻撃のより強力なバージョンを構築し、無限の幅で設定されたエンペントリアルトレーニングを確実に回復する方法を示す。
理論的にも経験的にも再構成された画像は、データセットの「外部」に傾向を示す。
これらのリコンストラクション攻撃は, テクストデータセット蒸留において, 再構成画像上で再トレーニングを行い, 高い予測精度を得ることができる。
論文 参考訳（メタデータ） (2023-02-02T21:41:59Z) - Reconstructing Training Data from Trained Neural Networks [42.60217236418818]
いくつかのケースでは、トレーニングデータのかなりの部分が、実際にトレーニングされたニューラルネットワーク分類器のパラメータから再構成可能であることを示す。
本稿では,勾配に基づくニューラルネットワークの学習における暗黙バイアスに関する最近の理論的結果から,新たな再構成手法を提案する。
論文 参考訳（メタデータ） (2022-06-15T18:35:16Z) - Neural Maximum A Posteriori Estimation on Unpaired Data for Motion
Deblurring [87.97330195531029]
本稿では、ニューラルネットワークをトレーニングし、失明したデータから視覚情報や鋭いコンテンツを復元するためのニューラルネットワークの最大Aポストエリオリ(NeurMAP)推定フレームワークを提案する。
提案されたNeurMAPは、既存のデブロアリングニューラルネットワークに対するアプローチであり、未使用データセット上のイメージデブロアリングネットワークのトレーニングを可能にする最初のフレームワークである。
論文 参考訳（メタデータ） (2022-04-26T08:09:47Z) - Task2Sim : Towards Effective Pre-training and Transfer from Synthetic
Data [74.66568380558172]
本稿では,グラフィックスシミュレータから下流タスクへの合成データに基づく事前学習モデルの転送可能性について検討する。
本稿では、最適なシミュレーションパラメータに対する下流タスク表現を統一したモデルマッピングであるTask2Simを紹介する。
このマッピングはトレーニングによって学習し、"見える"タスクのセットで最適なパラメータのセットを見つける。
トレーニングが完了すると、ワンショットで新しい"見えない"タスクの最適なシミュレーションパラメータを予測するために使用することができる。
論文 参考訳（メタデータ） (2021-11-30T19:25:27Z) - Is Deep Image Prior in Need of a Good Education? [57.3399060347311]
画像再構成に有効な先行画像として, 奥行き画像が導入された。
その印象的な再建性にもかかわらず、学習技術や伝統的な再建技術と比べてアプローチは遅い。
計算課題に対処する2段階の学習パラダイムを開発する。
論文 参考訳（メタデータ） (2021-11-23T15:08:26Z) - Targeted Gradient Descent: A Novel Method for Convolutional Neural
Networks Fine-tuning and Online-learning [9.011106198253053]
畳み込みニューラルネットワーク(ConvNet)は通常、同じ分布から引き出された画像を使用してトレーニングされ、テストされる。
ConvNetをさまざまなタスクに一般化するには、さまざまなタスクから描画されたイメージからなる完全なトレーニングデータセットが必要になることが多い。
本稿では,従来のタスクからデータを再検討することなく,事前学習したネットワークを新しいタスクに拡張可能な,新たな微調整手法であるTGDを提案する。
論文 参考訳（メタデータ） (2021-09-29T21:22:09Z) - Adversarially-Trained Deep Nets Transfer Better: Illustration on Image
Classification [53.735029033681435]
トランスファーラーニングは、訓練済みのディープニューラルネットワークを画像認識タスクに新しいドメインに適用するための強力な方法論である。
本研究では,非逆学習モデルよりも逆学習モデルの方が優れていることを示す。
論文 参考訳（メタデータ） (2020-07-11T22:48:42Z) - Compressive sensing with un-trained neural networks: Gradient descent
finds the smoothest approximation [60.80172153614544]
訓練されていない畳み込みニューラルネットワークは、画像の回復と復元に非常に成功したツールとして登場した。
トレーニングされていない畳み込みニューラルネットワークは、ほぼ最小限のランダムな測定値から、十分に構造化された信号や画像を概ね再構成可能であることを示す。
論文 参考訳（メタデータ） (2020-05-07T15:57:25Z) - Towards Deep Unsupervised SAR Despeckling with Blind-Spot Convolutional
Neural Networks [30.410981386006394]
ディープラーニング技術は、古典的なモデルに基づく非特定アルゴリズムよりも優れています。
本稿では,自己教師型ベイズ解法を提案する。
提案するネットワークの性能は,合成データの教師あり学習手法に非常に近いことを示し,実データ上での競争力を示す。
論文 参考訳（メタデータ） (2020-01-15T12:21:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。