論文の概要: A Manifold View of Adversarial Risk
- arxiv url: http://arxiv.org/abs/2203.13277v1
- Date: Thu, 24 Mar 2022 18:11:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-29 02:56:45.541312
- Title: A Manifold View of Adversarial Risk
- Title(参考訳): 逆境リスクのマニフォールド視点
- Authors: Wenjia Zhang, Yikai Zhang, Xiaolin Hu, Mayank Goswami, Chao Chen,
Dimitris Metaxas
- Abstract要約: 本研究は,2種類の新しい対向リスク,通常の方向に沿った摂動による通常の対向リスク,多様体内の摂動による対向リスクについて検討する。
通常のリスクと人的リスクの両方がゼロであっても、標準的な敵のリスクはゼロである可能性があるという悲観的なケースを示します。
- 参考スコア(独自算出の注目度): 23.011667845523267
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The adversarial risk of a machine learning model has been widely studied.
Most previous works assume that the data lies in the whole ambient space. We
propose to take a new angle and take the manifold assumption into
consideration. Assuming data lies in a manifold, we investigate two new types
of adversarial risk, the normal adversarial risk due to perturbation along
normal direction, and the in-manifold adversarial risk due to perturbation
within the manifold. We prove that the classic adversarial risk can be bounded
from both sides using the normal and in-manifold adversarial risks. We also
show with a surprisingly pessimistic case that the standard adversarial risk
can be nonzero even when both normal and in-manifold risks are zero. We
finalize the paper with empirical studies supporting our theoretical results.
Our results suggest the possibility of improving the robustness of a classifier
by only focusing on the normal adversarial risk.
- Abstract(参考訳): 機械学習モデルの敵対的リスクは広く研究されている。
以前の研究のほとんどは、データが環境空間全体にあると仮定している。
我々は新しい角度で多様体の仮定を考慮に入れることを提案する。
データは多様体内にあると仮定し, 通常の方向に沿った摂動による通常の対向リスクと, 多様体内の摂動による対向リスクの2つの新しいタイプの対向リスクについて検討した。
従来の対向リスクは、通常の対向リスクと対向リスクを使って両側から境界づけられることが証明される。
また、標準の逆境リスクは、通常のリスクとマニフォールド内リスクの両方がゼロであっても非ゼロである、という驚くほど悲観的なケースも示しています。
論文を理論的な結果を支持する実証的研究でまとめる。
本研究は,通常の対向リスクのみに着目し,分類器のロバスト性を向上させる可能性を示唆する。
関連論文リスト
- Data-Adaptive Tradeoffs among Multiple Risks in Distribution-Free Prediction [55.77015419028725]
しきい値とトレードオフパラメータが適応的に選択された場合、リスクの有効な制御を可能にする手法を開発する。
提案手法は単調なリスクとほぼ単調なリスクをサポートするが,それ以外は分布的な仮定はしない。
論文 参考訳(メタデータ) (2024-03-28T17:28:06Z) - Non-Asymptotic Bounds for Adversarial Excess Risk under Misspecified
Models [9.65010022854885]
本研究では,ある平滑な条件下での分布的敵攻撃によって引き起こされるリスクに,敵対的リスクが等価であることを示す。
対向推定器の一般化性能を評価するため, 対向過大リスクについて検討した。
論文 参考訳(メタデータ) (2023-09-02T00:51:19Z) - Domain Generalization without Excess Empirical Risk [83.26052467843725]
一般的なアプローチは、一般化を捉え、ペナルティと共同で経験的リスクを最小化するために、データ駆動の代理ペナルティを設計することである。
我々は、このレシピの重大な失敗モードは、共同最適化における誤ったペナルティや難しさによる過度なリスクであると主張している。
我々は,この問題を解消するアプローチを提案し,経験的リスクと刑罰を同時に最小化する代わりに,経験的リスクの最適性の制約の下でのペナルティを最小化する。
論文 参考訳(メタデータ) (2023-08-30T08:46:46Z) - Existence and Minimax Theorems for Adversarial Surrogate Risks in Binary
Classification [16.626667055542086]
敵対的訓練は、敵の攻撃に対して堅牢な訓練方法の最も一般的な方法の1つである。
我々は、逆代理リスクに対する証明と存在、正則性、およびミニマックス定理について述べる。
論文 参考訳(メタデータ) (2022-06-18T03:29:49Z) - Mitigating multiple descents: A model-agnostic framework for risk
monotonization [84.6382406922369]
クロスバリデーションに基づくリスクモノトナイズのための一般的なフレームワークを開発する。
本稿では,データ駆動方式であるゼロステップとワンステップの2つの手法を提案する。
論文 参考訳(メタデータ) (2022-05-25T17:41:40Z) - Efficient Risk-Averse Reinforcement Learning [79.61412643761034]
リスク逆強化学習(RL)では、リターンのリスク測定を最適化することが目標である。
特定の条件下では、これは必然的に局所最適障壁につながることを証明し、それを回避するためのソフトリスク機構を提案する。
迷路ナビゲーション,自律運転,資源配分ベンチマークにおいて,リスク回避の改善を示す。
論文 参考訳(メタデータ) (2022-05-10T19:40:52Z) - Risk regularization through bidirectional dispersion [9.36599317326032]
リスク」という別の概念の多くは、少なくとも上面の尾翼を失う平均よりも敏感であり、下面の偏差を無視する傾向がある。
本研究では,損失偏差を双方向に補償する新たなリスククラスについて検討する。
論文 参考訳(メタデータ) (2022-03-28T01:13:44Z) - Two steps to risk sensitivity [4.974890682815778]
条件付きバリュー・アット・リスク(CVaR)は、人間と動物の計画のモデル化のためのリスク尺度である。
CVaRに対する従来の分布的アプローチを逐次的に導入し、人間の意思決定者の選択を再分析する。
次に,リスク感度,すなわち時間的整合性,さらに重要な特性について考察し,CVaRの代替案を示す。
論文 参考訳(メタデータ) (2021-11-12T16:27:47Z) - PAC$^m$-Bayes: Narrowing the Empirical Risk Gap in the Misspecified
Bayesian Regime [75.19403612525811]
この研究は、2つのリスク間のトレードオフを分散することでギャップを埋めることのできるマルチサンプル損失を開発する。
実証的研究は予測分布の改善を示す。
論文 参考訳(メタデータ) (2020-10-19T16:08:34Z) - Learning Bounds for Risk-sensitive Learning [86.50262971918276]
リスクに敏感な学習では、損失のリスク・アバース(またはリスク・シーキング)を最小化する仮説を見つけることを目的としている。
最適化された確実性等価性によって最適性を記述するリスク感応学習スキームの一般化特性について検討する。
論文 参考訳(メタデータ) (2020-06-15T05:25:02Z) - Deep Survival Machines: Fully Parametric Survival Regression and
Representation Learning for Censored Data with Competing Risks [14.928328404160299]
本稿では,検閲データを用いた時系列予測問題において,相対リスクを推定するための新しいアプローチについて述べる。
我々のアプローチは、基礎となる生存分布の一定の比例的ハザードの強い仮定を必要としない。
これは検閲の有無で競合するリスクを伴う生存時間を完全にパラメトリックに推定する最初の作品である。
論文 参考訳(メタデータ) (2020-03-02T20:21:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。