論文の概要: Transductive Robust Learning Guarantees
- arxiv url: http://arxiv.org/abs/2110.10602v1
- Date: Wed, 20 Oct 2021 14:55:00 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-23 18:47:29.571458
- Title: Transductive Robust Learning Guarantees
- Title(参考訳): トランスダクティブロバスト学習保証
- Authors: Omar Montasser, Steve Hanneke, Nathan Srebro
- Abstract要約: 本研究では,トランスダクティブ・セッティングにおける対角的頑健な学習の問題について検討する。
有界VC次元のクラス $mathcalH$ に対して、簡単な帰納的学習法を提案する。
テスト例をVC次元で線形な堅牢なエラー率で正しくラベル付けする。
- 参考スコア(独自算出の注目度): 37.13850246542325
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study the problem of adversarially robust learning in the transductive
setting. For classes $\mathcal{H}$ of bounded VC dimension, we propose a simple
transductive learner that when presented with a set of labeled training
examples and a set of unlabeled test examples (both sets possibly adversarially
perturbed), it correctly labels the test examples with a robust error rate that
is linear in the VC dimension and is adaptive to the complexity of the
perturbation set. This result provides an exponential improvement in dependence
on VC dimension over the best known upper bound on the robust error in the
inductive setting, at the expense of competing with a more restrictive notion
of optimal robust error.
- Abstract(参考訳): トランスダクティブ・セッティングにおける敵対的ロバスト学習の問題点について検討する。
有界VC次元のクラス $\mathcal{H}$ に対して、簡単なトランスダクティブ学習器を提案し、ラベル付きトレーニング例のセットとラベル付きテスト例のセット(どちらも逆摂動の可能性がある)を提示すると、VC次元において線形で摂動集合の複雑さに適応する頑健な誤差率でテスト例を正しくラベル付けする。
この結果は、最適なロバスト誤差というより制限的な概念と競合する代わりに、帰納的設定におけるロバストエラーに最もよく知られた上限よりもVC次元への依存を指数関数的に改善する。
関連論文リスト
- Stabilizing Linear Passive-Aggressive Online Learning with Weighted Reservoir Sampling [46.01254613933967]
オンライン学習手法は、高次元ストリーミングデータ、アウトオブコア処理、その他のスループットに敏感なアプリケーションに依然として有効である。
このようなアルゴリズムの多くは、その収束の鍵として個々のエラーへの高速な適応に依存している。
このようなアルゴリズムは理論上の後悔は少ないが、現実の展開では個々の外れ値に敏感であり、アルゴリズムが過度に修正される可能性がある。
論文 参考訳(メタデータ) (2024-10-31T03:35:48Z) - On the Geometry of Regularization in Adversarial Training: High-Dimensional Asymptotics and Generalization Bounds [11.30047438005394]
本研究では, 正規化ノルム $lVert cdot rVert$ を二項分類のための高次元対角訓練の文脈で選択する方法について検討する。
我々は、摂動サイズと$lVert cdot rVert$の最適選択との関係を定量的に評価し、データ不足状態において、摂動が大きくなるにつれて、正則化のタイプが敵の訓練にとってますます重要になっていることを確認する。
論文 参考訳(メタデータ) (2024-10-21T14:53:12Z) - Unveiling the Statistical Foundations of Chain-of-Thought Prompting Methods [59.779795063072655]
CoT(Chain-of-Thought)の促進とその変種は、多段階推論問題を解決する効果的な方法として人気を集めている。
統計的推定の観点からCoTのプロンプトを解析し,その複雑さを包括的に評価する。
論文 参考訳(メタデータ) (2024-08-25T04:07:18Z) - Robust optimization for adversarial learning with finite sample complexity guarantees [1.8434042562191815]
本稿では,線形・非線形な分類問題に着目し,ロバストな分類器に対する新しい逆学習法を提案する。
データ駆動型レンズの下ではロバスト性があり、線形および非線形の分類器の2進および複数クラスシナリオにおける有限標本複雑性境界を導出する。
線形および非線形モデルに対する線形計画法 (LP) と2次コーン計画法 (SOCP) を用いて, 最悪のサロゲート損失を最小限に抑えるアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-03-22T13:49:53Z) - Transformers are Provably Optimal In-context Estimators for Wireless Communications [12.756143424752363]
マルチ層変換器は文脈内推定問題を効率的に解くことができることを示す。
また,このような変圧器の最適構成が,対応するトレーニング損失の最小化要因であることも証明した。
論文 参考訳(メタデータ) (2023-11-01T02:16:24Z) - Binary Classification with Confidence Difference [100.08818204756093]
本稿では,信頼性差分法 (ConfDiff) という,弱教師付き二項分類問題について考察する。
本稿では,この問題に対処するためのリスク一貫性のあるアプローチを提案し,推定誤差が最適収束率と一致することを示す。
また,整合性や収束率も証明されたオーバーフィッティング問題を緩和するためのリスク補正手法も導入する。
論文 参考訳(メタデータ) (2023-10-09T11:44:50Z) - Interactively Learning Preference Constraints in Linear Bandits [100.78514640066565]
我々は、既知の報酬と未知の制約で逐次意思決定を研究する。
応用として,運転シミュレーションにおいて,人間の嗜好を表現するための学習制約を検討する。
論文 参考訳(メタデータ) (2022-06-10T17:52:58Z) - Distributionally robust risk evaluation with a causality constraint and structural information [0.0]
ニューラルネットワークによるテスト関数を近似し、Rademacherの複雑さによるサンプルの複雑さを証明する。
我々のフレームワークは、分散的にロバストなポートフォリオ選択問題において、従来のものよりも優れています。
論文 参考訳(メタデータ) (2022-03-20T14:48:37Z) - Instance-optimality in optimal value estimation: Adaptivity via
variance-reduced Q-learning [99.34907092347733]
本稿では,マルコフ決定過程における最適な$Q$値関数を離散状態と動作で推定する問題を解析する。
局所的なミニマックスフレームワークを用いて、この関数は任意の推定手順の精度の低い境界に現れることを示す。
他方,Q$ラーニングの分散還元版を解析することにより,状態と行動空間の対数的要因まで,下位境界のシャープさを確立する。
論文 参考訳(メタデータ) (2021-06-28T00:38:54Z) - Understanding and Mitigating the Tradeoff Between Robustness and
Accuracy [88.51943635427709]
逆行訓練は、堅牢なエラーを改善するために、摂動でトレーニングセットを増強する。
拡張摂動が最適線形予測器からノイズのない観測を行う場合であっても,標準誤差は増大する可能性がある。
論文 参考訳(メタデータ) (2020-02-25T08:03:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。