論文の概要: Improving Model Robustness by Adaptively Correcting Perturbation Levels with Active Queries

• arxiv url: http://arxiv.org/abs/2103.14824v1
• Date: Sat, 27 Mar 2021 07:09:01 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-03 13:46:09.654491
• Title: Improving Model Robustness by Adaptively Correcting Perturbation Levels with Active Queries
• Title（参考訳）: アクティブクエリによる摂動レベル適応補正によるモデルのロバスト性向上
• Authors: Kun-Peng Ning, Lue Tao, Songcan Chen, Sheng-Jun Huang
• Abstract要約: モデルが人間の専門家から正しい摂動レベルを対話的に照会できるように,新しいアクティブラーニングフレームワークを提案する。 理論的解析と実験的研究の両方が提案手法の有効性を検証した。
• 参考スコア（独自算出の注目度）: 43.98198697182858
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In addition to high accuracy, robustness is becoming increasingly important for machine learning models in various applications. Recently, much research has been devoted to improving the model robustness by training with noise perturbations. Most existing studies assume a fixed perturbation level for all training examples, which however hardly holds in real tasks. In fact, excessive perturbations may destroy the discriminative content of an example, while deficient perturbations may fail to provide helpful information for improving the robustness. Motivated by this observation, we propose to adaptively adjust the perturbation levels for each example in the training process. Specifically, a novel active learning framework is proposed to allow the model to interactively query the correct perturbation level from human experts. By designing a cost-effective sampling strategy along with a new query type, the robustness can be significantly improved with a few queries. Both theoretical analysis and experimental studies validate the effectiveness of the proposed approach.
• Abstract（参考訳）: 高精度に加えて、さまざまなアプリケーションにおける機械学習モデルにとって堅牢性はますます重要になっている。 近年,騒音摂動訓練によるモデルロバスト性向上に多くの研究が注がれている。 既存の研究の多くは、すべてのトレーニング例に対して一定の摂動レベルを仮定しているが、実際のタスクではそうではない。 実際、過剰な摂動は例の差別的内容を破壊するかもしれないが、不十分な摂動は堅牢性を改善するための有益な情報を提供しない。 この観察に動機づけられ,訓練過程の各例に対する摂動レベルを適応的に調整することを提案する。 具体的には、モデルが人間の専門家から正しい摂動レベルを対話的に照会できるように、新しいアクティブラーニングフレームワークを提案する。 新しいクエリタイプとともにコスト効率の高いサンプリング戦略を設計することで、いくつかのクエリでロバスト性を大幅に改善することができる。 理論的解析と実験的研究の両方が提案手法の有効性を検証する。

関連論文リスト

• Robust Deep Reinforcement Learning with Adaptive Adversarial Perturbations in Action Space [3.639580365066386]
  本稿では,トレーニング中の対向摂動の影響を調整するための適応的対向係数フレームワークを提案する。 提案手法の特長は,実世界のアプリケーションに簡単にデプロイでき,シミュレータに事前にアクセスする必要がなくなることである。 MuJoCoの実験から,本手法はトレーニングの安定性を向上し,異なるテスト環境に移行する際の堅牢なポリシを学習できることが示された。
  論文  参考訳（メタデータ） (2024-05-20T12:31:11Z)
• Not All Steps are Equal: Efficient Generation with Progressive Diffusion Models [62.155612146799314]
  ステップ適応トレーニングと呼ばれる新しい2段階のトレーニング戦略を提案する。 初期段階では、ベース・デノナイジング・モデルはすべてのタイムステップを包含するように訓練される。 タイムステップを別々のグループに分割し、各グループ内でモデルを微調整して、特殊な認知機能を実現します。
  論文  参考訳（メタデータ） (2023-12-20T03:32:58Z)
• Adaptive Robust Learning using Latent Bernoulli Variables [50.223140145910904]
  破損したトレーニングセットから学習するための適応的なアプローチを提案する。 我々は,潜伏したベルヌーイ変数を持つ崩壊した非破壊標本を同定した。 結果の問題は変分推論によって解決される。
  論文  参考訳（メタデータ） (2023-12-01T13:50:15Z)
• Monitoring Machine Learning Models: Online Detection of Relevant Deviations [0.0]
  機械学習モデルは、データ分散やその他の要因の変化によって、時間の経過とともに劣化する可能性がある。 本稿では,関連する変化を検出するための逐次モニタリング手法を提案する。 本研究は, 微ゆらぎと有意義な劣化を区別する実用的な解決法である。
  論文  参考訳（メタデータ） (2023-09-26T18:46:37Z)
• Exploring The Landscape of Distributional Robustness for Question Answering Models [47.178481044045505]
  調査は350以上のモデルと16の質問応答データセットにまたがる。 多くの場合、モデルのバリエーションは堅牢性に影響を与えない。 我々は,質問応答モデルに対するロバストネスの傾向をさらに分析するよう研究者に促すため,すべての評価を公表する。
  論文  参考訳（メタデータ） (2022-10-22T18:17:31Z)
• Learning Sample Reweighting for Accuracy and Adversarial Robustness [15.591611864928659]
  本稿では,クラス条件付きマージンの概念に基づいて,個々のトレーニングサンプルによる損失の軽減を学習する,新たな逆トレーニングフレームワークを提案する。 我々の手法は、関連する手法や最先端のベースラインと比較して、クリーンかつ堅牢な精度を一貫して改善する。
  論文  参考訳（メタデータ） (2022-10-20T18:25:11Z)
• Improving robustness of jet tagging algorithms with adversarial training [56.79800815519762]
  本研究では,フレーバータグ付けアルゴリズムの脆弱性について,敵攻撃による検証を行った。 シミュレーション攻撃の影響を緩和する対人訓練戦略を提案する。
  論文  参考訳（メタデータ） (2022-03-25T19:57:19Z)
• Dynamic Multi-Scale Loss Optimization for Object Detection [14.256807110937622]
  マルチスケール検出器訓練の客観的不均衡について検討する。 本稿では, 適応可変重み付け (AVW) を提案する。 トレーニング中に重み付け方式を確率的に決定する新しい強化学習最適化(RLO)を開発した。
  論文  参考訳（メタデータ） (2021-08-09T13:12:41Z)
• Learning perturbation sets for robust machine learning [97.6757418136662]
  我々は、潜在空間の制約領域上に設定された摂動を定義する条件生成器を用いる。 学習した摂動集合の質を定量的かつ質的に測定する。 我々は、学習した摂動集合を利用して、敵画像の破損や逆光の変動に対して経験的かつ確実に堅牢なモデルを訓練する。
  論文  参考訳（メタデータ） (2020-07-16T16:39:54Z)
• Learning Diverse Representations for Fast Adaptation to Distribution Shift [78.83747601814669]
  本稿では,複数のモデルを学習する手法を提案する。 分散シフトへの迅速な適応を促進するフレームワークの能力を実証する。
  論文  参考訳（メタデータ） (2020-06-12T12:23:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。