論文の概要: Trustworthy Actionable Perturbations
- arxiv url: http://arxiv.org/abs/2405.11195v1
- Date: Sat, 18 May 2024 06:14:00 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-21 18:57:45.875589
- Title: Trustworthy Actionable Perturbations
- Title（参考訳）: 信頼できる行動可能な摂動
- Authors: Jesse Friedbaum, Sudarshan Adiga, Ravi Tandon,
- Abstract要約: そこで本研究では,真に根底にある確率を有益に変化させる改良された入力を生成するための新しいフレームワークを提案する。
これは、TAPが反対に振る舞うのではなく、真のクラス確率を変更することを保証する新しい検証手順を含む。
検証手順に対するPAC-Lrnabilityの結果を提示し,新たな報酬測定法を理論的に分析した。
- 参考スコア（独自算出の注目度）: 8.159697831570593
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Counterfactuals, or modified inputs that lead to a different outcome, are an important tool for understanding the logic used by machine learning classifiers and how to change an undesirable classification. Even if a counterfactual changes a classifier's decision, however, it may not affect the true underlying class probabilities, i.e. the counterfactual may act like an adversarial attack and ``fool'' the classifier. We propose a new framework for creating modified inputs that change the true underlying probabilities in a beneficial way which we call Trustworthy Actionable Perturbations (TAP). This includes a novel verification procedure to ensure that TAP change the true class probabilities instead of acting adversarially. Our framework also includes new cost, reward, and goal definitions that are better suited to effectuating change in the real world. We present PAC-learnability results for our verification procedure and theoretically analyze our new method for measuring reward. We also develop a methodology for creating TAP and compare our results to those achieved by previous counterfactual methods.
- Abstract（参考訳）: ファクトファクト(英: Counterfactuals)または、異なる結果をもたらす修正されたインプット(英: modified inputs)は、機械学習の分類器が使用するロジックを理解し、望ましくない分類を変更する方法を理解するための重要なツールである。
しかし、たとえ逆ファクトが分類器の決定を変更しても、それが真に根底にあるクラス確率に影響しないかもしれない。
提案手法は,TAP(Trustworthy Actionable Perturbations)と呼ばれる有用な方法で,真の基盤となる確率を変化させる,修正された入力を生成するための新しいフレームワークである。
これは、TAPが反対に振る舞うのではなく、真のクラス確率を変更することを保証する新しい検証手順を含む。
私たちのフレームワークには新たなコスト、報酬、目標定義が含まれています。
検証手順のPAC学習性について検討し,報奨評価法を理論的に分析した。
また,TAPの作成手法も開発し,その成果を従来の対策手法と比較する。
関連論文リスト
- Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple
Logits Retargeting Approach [102.0769560460338]
我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。
提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
論文 参考訳（メタデータ） (2024-03-01T03:27:08Z) - Learning impartial policies for sequential counterfactual explanations
using Deep Reinforcement Learning [0.0]
近年,SCFの発見政策を学習し,拡張性を高めるための強化学習法が提案されている。
本研究では,特定の行動に対する偏見など,望ましくない特性を持つポリシーを生じるような既存手法の欠点を同定する。
この効果を緩和するために,分類器の出力確率を用いてより情報的な報酬を生成することを提案する。
論文 参考訳（メタデータ） (2023-11-01T13:50:47Z) - The Lipschitz-Variance-Margin Tradeoff for Enhanced Randomized Smoothing [85.85160896547698]
ディープニューラルネットワークの現実的な応用は、ノイズの多い入力や敵攻撃に直面した場合、その不安定な予測によって妨げられる。
入力にノイズ注入を頼りに、認証された半径を持つ効率的な分類器を設計する方法を示す。
新たな認証手法により、ランダムな平滑化による事前学習モデルの使用が可能となり、ゼロショット方式で現在の認証半径を効果的に改善できる。
論文 参考訳（メタデータ） (2023-09-28T22:41:47Z) - Probabilistic Safety Regions Via Finite Families of Scalable Classifiers [2.431537995108158]
監視された分類は、データのパターンを認識して、振る舞いのクラスを分離する。
正準解は、機械学習の数値近似の性質に固有の誤分類誤差を含む。
本稿では,確率論的安全性領域の概念を導入し,入力空間のサブセットとして,誤分類されたインスタンスの数を確率論的に制御する手法を提案する。
論文 参考訳（メタデータ） (2023-09-08T22:40:19Z) - Confidence-aware Training of Smoothed Classifiers for Certified
Robustness [75.95332266383417]
我々は「ガウス雑音下での精度」を、入力に対する対角的ロバスト性の容易に計算可能なプロキシとして利用する。
実験の結果, 提案手法は, 最先端の訓練手法による信頼性向上を継続的に示すことがわかった。
論文 参考訳（メタデータ） (2022-12-18T03:57:12Z) - Reduction from Complementary-Label Learning to Probability Estimates [15.835526669091157]
補完ラベル学習(Complementary-Label Learning, CLL)は、弱い教師付き学習問題である。
本稿では,補足クラスの確率推定に対する新しい視点推論を提案する。
いくつかの重要なCLLアプローチの説明を提供し、改良されたアルゴリズムを設計できる。
論文 参考訳（メタデータ） (2022-09-20T06:36:51Z) - Learning to Rectify for Robust Learning with Noisy Labels [25.149277009932423]
分類ネットワークのトレーニング手順を適応的に修正するためのワープ確率推論(WarPI)を提案する。
雑音ラベルによる頑健な学習の4つのベンチマークでWarPIを評価し, 異種雑音下での新たな最先端の学習を実現する。
論文 参考訳（メタデータ） (2021-11-08T02:25:50Z) - CC-Cert: A Probabilistic Approach to Certify General Robustness of
Neural Networks [58.29502185344086]
安全クリティカルな機械学習アプリケーションでは、モデルを敵の攻撃から守ることが不可欠である。
意味的に意味のある入力変換に対して、ディープラーニングモデルの証明可能な保証を提供することが重要である。
我々はChernoff-Cramer境界に基づく新しい普遍確率的証明手法を提案する。
論文 参考訳（メタデータ） (2021-09-22T12:46:04Z) - Counterfactual Detection meets Transfer Learning [48.82717416666232]
既存のモデルアーキテクチャに最小限の適応で実装可能な,単純なバイナリ分類タスクであることを示す。
本稿では,先行者や後続者をエンティティ認識タスクとして処理するエンド・ツー・エンドパイプラインを導入し,それらをトークン分類に適用する。
論文 参考訳（メタデータ） (2020-05-27T02:02:57Z) - Regularized Training and Tight Certification for Randomized Smoothed
Classifier with Provable Robustness [15.38718018477333]
我々は新たな正規化リスクを導出し、正規化器はスムーズな手法の精度と堅牢性を適応的に促進することができる。
また、正規化効果を利用して、高い確率で保持されるより厳密なロバスト性の下限を提供する新しい認証アルゴリズムを設計する。
論文 参考訳（メタデータ） (2020-02-17T20:54:34Z) - Certified Robustness to Label-Flipping Attacks via Randomized Smoothing [105.91827623768724]
機械学習アルゴリズムは、データ中毒攻撃の影響を受けやすい。
任意の関数に対するランダム化スムージングの統一的なビューを示す。
本稿では,一般的なデータ中毒攻撃に対して,ポイントワイズで確実に堅牢な分類器を構築するための新しい戦略を提案する。
論文 参考訳（メタデータ） (2020-02-07T21:28:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。