論文の概要: Reliable Learning for Test-time Attacks and Distribution Shift

• arxiv url: http://arxiv.org/abs/2304.03370v1
• Date: Thu, 6 Apr 2023 20:54:03 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-10 13:37:57.709259
• Title: Reliable Learning for Test-time Attacks and Distribution Shift
• Title（参考訳）: テストタイムアタックと分散シフトのための信頼性のある学習
• Authors: Maria-Florina Balcan, Steve Hanneke, Rattana Pukdee, Dravyansh Sharma
• Abstract要約: テスト時間攻撃に対する信頼性保証を新たに導入し,解析する。 学習者は予測を出力し、信頼性半径$eta$を出力する必要がある。 本研究では, 学習者に対して, トレーニング分布とは異なる任意の分布Qから, テストポイントを抽出し, 信頼性の高い学習者を解析する。
• 参考スコア（独自算出の注目度）: 30.21243992018842
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine learning algorithms are often used in environments which are not captured accurately even by the most carefully obtained training data, either due to the possibility of `adversarial' test-time attacks, or on account of `natural' distribution shift. For test-time attacks, we introduce and analyze a novel robust reliability guarantee, which requires a learner to output predictions along with a reliability radius $\eta$, with the meaning that its prediction is guaranteed to be correct as long as the adversary has not perturbed the test point farther than a distance $\eta$. We provide learners that are optimal in the sense that they always output the best possible reliability radius on any test point, and we characterize the reliable region, i.e. the set of points where a given reliability radius is attainable. We additionally analyze reliable learners under distribution shift, where the test points may come from an arbitrary distribution Q different from the training distribution P. For both cases, we bound the probability mass of the reliable region for several interesting examples, for linear separators under nearly log-concave and s-concave distributions, as well as for smooth boundary classifiers under smooth probability distributions.
• Abstract（参考訳）: 機械学習アルゴリズムは、最も注意深く取得されたトレーニングデータでも正確にキャプチャされない環境で使用されることが多い。 テストタイムアタックでは,新たな堅牢な信頼性保証を導入し,信頼性半径$\eta$とともに予測を出力する必要がある。これは,敵が距離$\eta$よりも遠くまでテストポイントを乱さない限り,その予測が正しいことが保証されることを意味する。 我々は,任意の試験点において常に可能な限りの信頼性半径を出力するという意味で最適な学習者を提供し,信頼性領域,すなわち与えられた信頼性半径が達成可能な点の集合を特徴付ける。 さらに, 実験点が訓練分布pとは異なる任意の分布qから来る分布シフト下での信頼性の高い学習者の解析を行い, いずれの場合においても, 信頼性の高い領域の確率質量を, ほぼ対数凸分布とs凸分布の線形分離器, 滑らかな確率分布の滑らかな境界分類器に限定した。

関連論文リスト

• Probably Approximately Precision and Recall Learning [62.912015491907994]
  精度とリコールは機械学習の基本的な指標である。 一方的なフィードバック – トレーニング中にのみ肯定的な例が観察される – は,多くの実践的な問題に固有のものだ。 PAC学習フレームワークでは,各仮説をグラフで表現し,エッジは肯定的な相互作用を示す。
  論文  参考訳（メタデータ） (2024-11-20T04:21:07Z)
• Probabilistic Contrastive Learning for Long-Tailed Visual Recognition [78.70453964041718]
  細長い分布は、少数の少数派が限られた数のサンプルを含む実世界のデータにしばしば現れる。 近年の研究では、教師付きコントラスト学習がデータ不均衡を緩和する有望な可能性を示していることが明らかになっている。 本稿では,特徴空間の各クラスからのサンプルデータ分布を推定する確率論的コントラスト学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-03-11T13:44:49Z)
• A Moment-Matching Approach to Testable Learning and a New Characterization of Rademacher Complexity [15.746613321517282]
  我々は、モーメントマッチングやメートル法非依存のツールを用いて、テスト可能な学習アルゴリズムを開発するための強力な新しいアプローチを提案する。 意外なことに、テスト可能な学習における情報理論の複雑さは、概念クラスのRademacher複雑さによって強く特徴づけられている。
  論文  参考訳（メタデータ） (2022-11-23T21:29:51Z)
• Neural Active Learning on Heteroskedastic Distributions [29.01776999862397]
  ヘテロスケダスティックデータセット上でのアクティブ学習アルゴリズムの破滅的な失敗を実証する。 本稿では,各データポイントにモデル差分スコアリング関数を組み込んで,ノイズの多いサンプルとサンプルクリーンなサンプルをフィルタするアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-11-02T07:30:19Z)
• Robustly-reliable learners under poisoning attacks [38.55373038919402]
  複数の軸にまたがる攻撃に直面して強靭性を保証する方法を示す。 我々は、敵が所定の汚職予算を超過していない限り、予測されたラベルが正しいことが保証される、信頼性の高い予測を提供する。 注目すべきは、この設定における学習可能性の完全な特徴付け、特に、認定可能な領域上の上と下の境界にほぼ整合するものである。
  論文  参考訳（メタデータ） (2022-03-08T15:43:33Z)
• A Gentle Introduction to Conformal Prediction and Distribution-Free Uncertainty Quantification [1.90365714903665]
  このハンズオン導入は、配布不要なUQの実践的な実装に関心のある読者を対象としている。 PyTorch構文で、Pythonで説明的なイラストやサンプル、コードサンプルを多数含みます。
  論文  参考訳（メタデータ） (2021-07-15T17:59:50Z)
• Low-Regret Active learning [64.36270166907788]
  トレーニングに最も有用なラベル付きデータポイントを識別するオンライン学習アルゴリズムを開発した。 私たちの仕事の中心は、予測可能な(簡単な)インスタンスの低い後悔を達成するために調整された睡眠専門家のための効率的なアルゴリズムです。
  論文  参考訳（メタデータ） (2021-04-06T22:53:45Z)
• Hidden Cost of Randomized Smoothing [72.93630656906599]
  本稿では、現在のランダム化平滑化による副作用を指摘する。 具体的には,1)スムーズな分類器の決定境界が小さくなり,クラスレベルでの精度の相違が生じること,2)学習過程における雑音増強の適用は,一貫性のない学習目的による縮小問題を必ずしも解決しない,という2つの主要なポイントを具体化し,証明する。
  論文  参考訳（メタデータ） (2020-03-02T23:37:42Z)
• Certified Robustness to Label-Flipping Attacks via Randomized Smoothing [105.91827623768724]
  機械学習アルゴリズムは、データ中毒攻撃の影響を受けやすい。 任意の関数に対するランダム化スムージングの統一的なビューを示す。 本稿では,一般的なデータ中毒攻撃に対して,ポイントワイズで確実に堅牢な分類器を構築するための新しい戦略を提案する。
  論文  参考訳（メタデータ） (2020-02-07T21:28:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。