論文の概要: Learning Task-aware Robust Deep Learning Systems
- arxiv url: http://arxiv.org/abs/2010.05125v2
- Date: Thu, 2 Dec 2021 02:39:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-08 12:40:34.798774
- Title: Learning Task-aware Robust Deep Learning Systems
- Title(参考訳): タスク認識型ロバスト深層学習システム
- Authors: Keji Han, Yun Li, Xianzhong Long, Yao Ge
- Abstract要約: ディープラーニングシステムは、ディープラーニングタスクとディープラーニングモデルという2つの部分から構成される。
本稿では、分類タスクを再定義するために、バイナリおよびインターバルラベル符号化方式を採用する。
本手法は,学習課題と深層モデルの両方から,ディープラーニングシステムの堅牢性を向上させるものとみなすことができる。
- 参考スコア(独自算出の注目度): 6.532642348343193
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Many works demonstrate that deep learning system is vulnerable to adversarial
attack. A deep learning system consists of two parts: the deep learning task
and the deep model. Nowadays, most existing works investigate the impact of the
deep model on robustness of deep learning systems, ignoring the impact of the
learning task. In this paper, we adopt the binary and interval label encoding
strategy to redefine the classification task and design corresponding loss to
improve robustness of the deep learning system. Our method can be viewed as
improving the robustness of deep learning systems from both the learning task
and deep model. Experimental results demonstrate that our learning task-aware
method is much more robust than traditional classification while retaining the
accuracy.
- Abstract(参考訳): 多くの研究で、ディープラーニングシステムは敵攻撃に弱いことが示されている。
ディープラーニングシステムは、ディープラーニングタスクとディープラーニングモデルという2つの部分から構成される。
現在、ほとんどの研究は、ディープラーニングシステムの堅牢性に対する深層モデルの影響を調査し、学習課題の影響を無視している。
本稿では,分類タスクを再定義し,学習システムのロバスト性を改善するために,二項・区間ラベル符号化方式を採用する。
本手法は,学習タスクと深層モデルの両方から,深層学習システムのロバスト性を改善するものと考えることができる。
実験の結果,学習タスク認識手法は従来の分類法よりもはるかに頑健であり,精度は保たれていることがわかった。
関連論文リスト
- Continual Learning, Fast and Slow [75.53144246169346]
補完学習システム理論(Complementary Learning Systems theory)によれば、人間は2つの相補的なシステムを通して効果的な共連続学習を行う。
EmphDualNets(Dual Networks)は、タスクの教師付き学習のための高速学習システムと、自己監視学習(SSL)によるタスク非依存の汎用表現の表現学習のための遅い学習システムからなる、一般的な連続学習フレームワークである。
我々はDualNetsの有望な成果を、標準的なオフラインタスク認識設定から、オンラインタスクフリーシナリオまで、幅広い連続的な学習プロトコルで実証する。
論文 参考訳(メタデータ) (2022-09-06T10:48:45Z) - Anti-Retroactive Interference for Lifelong Learning [65.50683752919089]
我々は脳のメタラーニングと連想機構に基づく生涯学習のパラダイムを設計する。
知識の抽出と知識の記憶という2つの側面から問題に取り組む。
提案した学習パラダイムが,異なるタスクのモデルを同じ最適に収束させることができることを理論的に分析した。
論文 参考訳(メタデータ) (2022-08-27T09:27:36Z) - Fault-Tolerant Deep Learning: A Hierarchical Perspective [12.315753706063324]
我々は、フォールトトレラントなディープラーニング設計アプローチに関する総合的な調査を行う。
モデル層, アーキテクチャ層, 回路層, クロス層からのアプローチについて検討する。
論文 参考訳(メタデータ) (2022-04-05T02:31:18Z) - Transferability in Deep Learning: A Survey [80.67296873915176]
知識を習得し再利用する能力は、ディープラーニングにおける伝達可能性として知られている。
本研究は,深層学習における異なる孤立領域と伝達可能性との関係を関連付けるための調査である。
我々はベンチマークとオープンソースライブラリを実装し、転送可能性の観点からディープラーニング手法の公平な評価を可能にする。
論文 参考訳(メタデータ) (2022-01-15T15:03:17Z) - DualNet: Continual Learning, Fast and Slow [14.902239050081032]
我々は「DualNet」という新しい連続学習フレームワークを提案する。
特定のタスクからパターン分離表現を教師付き学習する高速学習システムと、自己監視学習(SSL)技術を介してタスク非依存の汎用表現を教師なしで表現する緩やかな学習システムとから構成される。
実験の結果、DualNetは最先端の連続学習手法よりも大きなマージンで優れていることがわかった。
論文 参考訳(メタデータ) (2021-10-01T02:31:59Z) - Incremental Embedding Learning via Zero-Shot Translation [65.94349068508863]
現在の最先端のインクリメンタル学習手法は、従来の分類ネットワークにおける破滅的な忘れ方問題に取り組む。
ゼロショット変換クラス増分法(ZSTCI)と呼ばれる新しい組込みネットワークのクラス増分法を提案する。
さらに、ZSTCIを既存の正規化ベースのインクリメンタル学習手法と組み合わせることで、組み込みネットワークの性能をより向上させることができる。
論文 参考訳(メタデータ) (2020-12-31T08:21:37Z) - D2RL: Deep Dense Architectures in Reinforcement Learning [47.67475810050311]
コンピュータビジョンと生成モデルにおけるアーキテクチャ選択の成功からインスピレーションを得ます。
各種ロボット学習ベンチマーク環境における強化学習における深層ネットワークと高密度接続の利用について検討した。
論文 参考訳(メタデータ) (2020-10-19T01:27:07Z) - Learning to Stop While Learning to Predict [85.7136203122784]
多くのアルゴリズムにインスパイアされたディープモデルは全ての入力に対して固定深度に制限される。
アルゴリズムと同様に、深いアーキテクチャの最適深さは、異なる入力インスタンスに対して異なるかもしれない。
本稿では, ステアブルアーキテクチャを用いて, この様々な深さ問題に対処する。
学習した深層モデルと停止ポリシーにより,多様なタスクセットのパフォーマンスが向上することを示す。
論文 参考訳(メタデータ) (2020-06-09T07:22:01Z) - Structure preserving deep learning [1.2263454117570958]
深層学習は、大きな関心事のトピックとして、前景に浮かび上がっています。
ディープラーニングの適用には、いくつかの挑戦的な数学的問題がある。
既存のディープラーニング手法の構造を数学的に理解する努力が増えている。
論文 参考訳(メタデータ) (2020-06-05T10:59:09Z) - Enhanced Adversarial Strategically-Timed Attacks against Deep
Reinforcement Learning [91.13113161754022]
本稿では,DRLに基づくナビゲーションシステムに対して,選択した時間フレーム上の物理ノイズパターンを妨害することにより,タイミングに基づく逆方向戦略を導入する。
実験結果から, 対向タイミング攻撃は性能低下を引き起こす可能性が示唆された。
論文 参考訳(メタデータ) (2020-02-20T21:39:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。