Fugu-MT 論文翻訳(概要): Group-Structured Adversarial Training

論文の概要: Group-Structured Adversarial Training

arxiv url: http://arxiv.org/abs/2106.10324v1
Date: Fri, 18 Jun 2021 19:32:40 GMT
ステータス: 処理完了
システム内更新日: 2021-06-25 06:55:41.573668
Title: Group-Structured Adversarial Training
Title（参考訳）: グループ構造逆行訓練
Authors: Farzan Farnia, Amirali Aghazadeh, James Zou, David Tse
Abstract要約: GSAT(Group-Structured Adperturbrial Training)は、サンプル間で構成された頑健な摂動モデルを学ぶ。本稿では、画像認識および計算生物学データセットに対する構造化摂動に対するGSATフレームワークのいくつかの応用について述べる。
参考スコア（独自算出の注目度）: 33.71353010887395
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Robust training methods against perturbations to the input data have received great attention in the machine learning literature. A standard approach in this direction is adversarial training which learns a model using adversarially-perturbed training samples. However, adversarial training performs suboptimally against perturbations structured across samples such as universal and group-sparse shifts that are commonly present in biological data such as gene expression levels of different tissues. In this work, we seek to close this optimality gap and introduce Group-Structured Adversarial Training (GSAT) which learns a model robust to perturbations structured across samples. We formulate GSAT as a non-convex concave minimax optimization problem which minimizes a group-structured optimal transport cost. Specifically, we focus on the applications of GSAT for group-sparse and rank-constrained perturbations modeled using group and nuclear norm penalties. In order to solve GSAT's non-smooth optimization problem in those cases, we propose a new minimax optimization algorithm called GDADMM by combining Gradient Descent Ascent (GDA) and Alternating Direction Method of Multipliers (ADMM). We present several applications of the GSAT framework to gain robustness against structured perturbations for image recognition and computational biology datasets.
Abstract（参考訳）: 入力データに対する摂動に対するロバストなトレーニング手法は、機械学習の文献で注目されている。この方向の標準的なアプローチは、逆摂動トレーニングサンプルを用いてモデルを学習する逆行訓練である。しかしながら、逆行訓練は、異なる組織の遺伝子発現レベルなどの生物学的データに一般的に見られる普遍的およびグループスパースシフトのようなサンプルにまたがる摂動に対して過度に対処する。本研究では,この最適性ギャップを解消し,サンプル間の摂動に頑健なモデルを学習するGSAT(Group-Structured Adversarial Training)を導入する。 GSATを非凸凹極小最適化問題として定式化し、グループ構造最適輸送コストを最小化する。具体的には、群と核のノルム法則をモデル化したグループスパースおよびランク制約摂動に対するGSATの適用に焦点をあてる。このような場合、GSATの非滑らかな最適化問題を解決するために、GDADMM(Gradient Descent Ascent)とADMM(Alternating Direction Method of Multipliers)を組み合わせることで、GDADMMと呼ばれる新しい最小最適化アルゴリズムを提案する。本稿では、画像認識および計算生物学データセットに対する構造化摂動に対する堅牢性を得るためのGSATフレームワークのいくつかの応用について述べる。

関連論文リスト

$ψ$DAG: Projected Stochastic Approximation Iteration for DAG Structure Learning [6.612096312467342]
Directed A Graphs (DAGs) の構造を学ぶことは、ノード数に応じてスケールする可能なグラフの巨大な検索空間のため、大きな課題となる。近年の進歩は、微分可能指数関数性制約を取り入れた連続最適化タスクとしてこの問題を再定義している。本稿では,SGD(Gradient Descent)に基づく最適化手法と統合した近似手法を用いて,DAGを学習する新しいフレームワークを提案する。
論文参考訳（メタデータ） (2024-10-31T12:13:11Z)
Boosting Adversarial Training via Fisher-Rao Norm-based Regularization [9.975998980413301]
本稿では,ロバスト性と精度のトレードオフを軽減するため,LOAT(Logit-Oriented Adversarial Training)と呼ばれる新たな正規化フレームワークを提案する。実験により,提案した正規化戦略により,有意な対向学習アルゴリズムの性能が向上することを示した。
論文参考訳（メタデータ） (2024-03-26T09:22:37Z)
Bias Amplification Enhances Minority Group Performance [10.380812738348899]
本稿では,新しい2段階学習アルゴリズムであるBAMを提案する。第1段階では、各トレーニングサンプルに対して学習可能な補助変数を導入することにより、バイアス増幅方式を用いてモデルを訓練する。第2段階では、バイアス増幅モデルが誤分類したサンプルを重み付けし、その後、再重み付けされたデータセット上で同じモデルをトレーニングし続けます。
論文参考訳（メタデータ） (2023-09-13T04:40:08Z)
Achieving Sample and Computational Efficient Reinforcement Learning by Action Space Reduction via Grouping [7.691755449724638]
強化学習は、しばしば高次元空間における状態や行動の指数的な成長に対処する必要がある。我々は、動作に類似したMDPの固有の構造を学び、性能劣化とサンプル/計算の複雑さを適切にバランスさせる。
論文参考訳（メタデータ） (2023-06-22T15:40:10Z)
Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。 SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
論文参考訳（メタデータ） (2021-12-12T06:11:16Z)
Harnessing Heterogeneity: Learning from Decomposed Feedback in Bayesian Modeling [68.69431580852535]
サブグループフィードバックを取り入れた新しいGPレグレッションを導入する。我々の修正された回帰は、以前のアプローチと比べて、明らかにばらつきを減らし、したがってより正確な後続を減らした。我々は2つの異なる社会問題に対してアルゴリズムを実行する。
論文参考訳（メタデータ） (2021-07-07T03:57:22Z)
Local AdaGrad-Type Algorithm for Stochastic Convex-Concave Minimax Problems [80.46370778277186]
大規模凸凹型ミニマックス問題は、ゲーム理論、堅牢なトレーニング、生成的敵ネットワークのトレーニングなど、多くの応用で発生する。通信効率のよい分散外グレードアルゴリズムであるLocalAdaSientを開発した。サーバモデル。等質な環境と異質な環境の両方において,その有効性を実証する。
論文参考訳（メタデータ） (2021-06-18T09:42:05Z)
Adaptive Sampling for Minimax Fair Classification [40.936345085421955]
最適化の原理に基づく適応型サンプリングアルゴリズムを提案し,その性能に関する理論的境界を導出する。特定の問題のクラスに対してアルゴリズム独立なローバウンドを導出することにより,適応スキームによる性能は一般に改善できないことを示した。
論文参考訳（メタデータ） (2021-03-01T04:58:27Z)
Attribute-Guided Adversarial Training for Robustness to Natural Perturbations [64.35805267250682]
本稿では,属性空間への分類器の露出を最大化するために,新しいサンプルを生成することを学習する逆学習手法を提案する。我々のアプローチは、ディープニューラルネットワークが自然に発生する摂動に対して堅牢であることを可能にする。
論文参考訳（メタデータ） (2020-12-03T10:17:30Z)
Stochastic Flows and Geometric Optimization on the Orthogonal Group [52.50121190744979]
直交群 $O(d)$ 上の幾何駆動最適化アルゴリズムの新しいクラスを示す。提案手法は,深層,畳み込み,反復的なニューラルネットワーク,強化学習,フロー,メトリック学習など,機械学習のさまざまな分野に適用可能であることを示す。
論文参考訳（メタデータ） (2020-03-30T15:37:50Z)
Adversarial Distributional Training for Robust Deep Learning [53.300984501078126]
逆行訓練(AT)は、逆行例によるトレーニングデータを増やすことにより、モデルロバスト性を改善する最も効果的な手法の一つである。既存のAT手法の多くは、敵の例を作らせるために特定の攻撃を採用しており、他の目に見えない攻撃に対する信頼性の低い堅牢性につながっている。本稿では,ロバストモデル学習のための新しいフレームワークであるADTを紹介する。
論文参考訳（メタデータ） (2020-02-14T12:36:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。