論文の概要: Analyzing and Improving Generative Adversarial Training for Generative
Modeling and Out-of-Distribution Detection
- arxiv url: http://arxiv.org/abs/2012.06568v1
- Date: Fri, 11 Dec 2020 18:54:34 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-11 03:05:09.278056
- Title: Analyzing and Improving Generative Adversarial Training for Generative
Modeling and Out-of-Distribution Detection
- Title(参考訳): 生成的モデルと分布外検出のための生成的adversarial trainingの分析と改善
- Authors: Xuwang Yin, Shiying Li, Gustavo K. Rohde
- Abstract要約: gat法を理論的に理解し,生成的モデリングや分布外検出に応用することに焦点を当てた。
本研究では,逐次生成訓練アルゴリズムを開発し,画像生成および逆分布検出に対するアルゴリズムの適用に関する包括的評価を行う。
- 参考スコア(独自算出の注目度): 12.485444061608092
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative adversarial training (GAT) is a recently introduced adversarial
defense method. Previous works have focused on empirical evaluations of its
application to training robust predictive models. In this paper we focus on
theoretical understanding of the GAT method and extending its application to
generative modeling and out-of-distribution detection. We analyze the optimal
solutions of the maximin formulation employed by the GAT objective, and make a
comparative analysis of the minimax formulation employed by GANs. We use
theoretical analysis and 2D simulations to understand the convergence property
of the training algorithm. Based on these results, we develop an incremental
generative training algorithm, and conduct comprehensive evaluations of the
algorithm's application to image generation and adversarial out-of-distribution
detection. Our results suggest that generative adversarial training is a
promising new direction for the above applications.
- Abstract(参考訳): gat(generative adversarial training)は、最近導入された防御法である。
従来の研究は、堅牢な予測モデルをトレーニングするための実験的な評価に重点を置いてきた。
本稿では,gat法を理論的に理解し,生成的モデリングと分散検出に応用することに焦点を当てる。
我々は, GAT の目的によって用いられる最大値定式化の最適解を解析し, GAN が使用する最小値定式化の比較分析を行う。
学習アルゴリズムの収束特性を理解するために,理論解析と2次元シミュレーションを用いる。
これらの結果に基づき,漸進的生成訓練アルゴリズムを開発し,画像生成および逆分布検出に対するアルゴリズムの適用に関する包括的評価を行う。
以上の結果から,生成的敵意訓練は,上記の応用において有望な新しい方向性であることが示唆された。
関連論文リスト
- Supervised Score-Based Modeling by Gradient Boosting [49.556736252628745]
本稿では,スコアマッチングを組み合わせた勾配向上アルゴリズムとして,SSM(Supervised Score-based Model)を提案する。
推測時間と予測精度のバランスをとるため,SSMの学習とサンプリングに関する理論的解析を行った。
我々のモデルは、精度と推測時間の両方で既存のモデルより優れています。
論文 参考訳(メタデータ) (2024-11-02T07:06:53Z) - Training Free Guided Flow Matching with Optimal Control [6.729886762762167]
最適制御を用いたガイドフローマッチングのための学習自由フレームワークであるOC-Flowを提案する。
OC-Flowは,テキスト誘導画像操作,条件分子生成,全原子ペプチド設計において優れた性能を示した。
論文 参考訳(メタデータ) (2024-10-23T17:53:11Z) - Unifying back-propagation and forward-forward algorithms through model predictive control [12.707050104493218]
深層ニューラルネットワークのトレーニングのためのモデル予測制御フレームワークを提案する。
同時に、様々なルック・フォワードの水平線を持つ様々な中間訓練アルゴリズムが生まれる。
我々は、このトレードオフを深い線形ネットワーク上で正確に分析する。
論文 参考訳(メタデータ) (2024-09-29T05:35:39Z) - MAST: Model-Agnostic Sparsified Training [4.962431253126472]
我々は、ブラックボックス関数として機械学習モデル損失を最小限に抑える従来の方法から外れた、新しい最適化問題の定式化を導入する。
従来の定式化とは異なり、提案手法は、初期訓練されたモデルとランダムスケッチ演算子を明示的に組み込む。
本稿では,新しい問題定式化に適応したグラディエント・ディキセント法(SGD)のいくつかの変種について述べる。
論文 参考訳(メタデータ) (2023-11-27T18:56:03Z) - Provable Reward-Agnostic Preference-Based Reinforcement Learning [61.39541986848391]
PbRL(Preference-based Reinforcement Learning)は、RLエージェントが、軌道上のペアワイドな嗜好に基づくフィードバックを用いてタスクを最適化することを学ぶパラダイムである。
本稿では,隠れた報酬関数の正確な学習を可能にする探索軌道を求める理論的報酬非依存PbRLフレームワークを提案する。
論文 参考訳(メタデータ) (2023-05-29T15:00:09Z) - Less is More: Mitigate Spurious Correlations for Open-Domain Dialogue
Response Generation Models by Causal Discovery [52.95935278819512]
本研究で得られたCGDIALOGコーパスに基づくオープンドメイン応答生成モデルのスプリアス相関に関する最初の研究を行った。
因果探索アルゴリズムに着想を得て,反応生成モデルの学習と推論のための新しいモデル非依存手法を提案する。
論文 参考訳(メタデータ) (2023-03-02T06:33:48Z) - RL-PGO: Reinforcement Learning-based Planar Pose-Graph Optimization [1.4884785898657995]
本稿では,最新のDeep Reinforcement Learning (DRL) ベースの環境と2次元ポーズグラフ最適化のためのエージェントを提案する。
本研究では、ポーズグラフ最適化問題を部分的に観測可能な決定プロセスとしてモデル化し、実世界および合成データセットの性能を評価することを実証する。
論文 参考訳(メタデータ) (2022-02-26T20:10:14Z) - Model-Agnostic Meta-Attack: Towards Reliable Evaluation of Adversarial
Robustness [53.094682754683255]
モデル非依存型メタアタック(MAMA)アプローチにより,より強力な攻撃アルゴリズムを自動検出する。
本手法は、繰り返しニューラルネットワークによってパラメータ化された逆攻撃を学習する。
本研究では,未知の防御を攻撃した場合の学習能力を向上させるために,モデルに依存しない訓練アルゴリズムを開発した。
論文 参考訳(メタデータ) (2021-10-13T13:54:24Z) - An AI-Assisted Design Method for Topology Optimization Without
Pre-Optimized Training Data [68.8204255655161]
トポロジ最適化に基づくAI支援設計手法を提示し、最適化された設計を直接的に得ることができる。
設計は、境界条件と入力データとしての充填度に基づいて、人工ニューラルネットワーク、予測器によって提供される。
論文 参考訳(メタデータ) (2020-12-11T14:33:27Z) - On the Generalization Properties of Adversarial Training [21.79888306754263]
本稿では,汎用的対数学習アルゴリズムの一般化性能について検討する。
滑らかさとL1のペナル化がモデルの対向的堅牢性をどのように改善するかを示すために、一連の数値的研究が行われた。
論文 参考訳(メタデータ) (2020-08-15T02:32:09Z) - Adversarial Distributional Training for Robust Deep Learning [53.300984501078126]
逆行訓練(AT)は、逆行例によるトレーニングデータを増やすことにより、モデルロバスト性を改善する最も効果的な手法の一つである。
既存のAT手法の多くは、敵の例を作らせるために特定の攻撃を採用しており、他の目に見えない攻撃に対する信頼性の低い堅牢性につながっている。
本稿では,ロバストモデル学習のための新しいフレームワークであるADTを紹介する。
論文 参考訳(メタデータ) (2020-02-14T12:36:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。