論文の概要: Inverse classification with logistic and softmax classifiers: efficient
optimization
- arxiv url: http://arxiv.org/abs/2309.08945v1
- Date: Sat, 16 Sep 2023 10:34:40 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-19 18:23:18.266578
- Title: Inverse classification with logistic and softmax classifiers: efficient
optimization
- Title(参考訳): ロジスティックおよびソフトマックス分類器を用いた逆分類:効率的な最適化
- Authors: Miguel \'A. Carreira-Perpi\~n\'an and Suryabhan Singh Hada
- Abstract要約: 逆分類問題は、固定分類器を含む入力インスタンスベクトルに対する根本的な最適化問題である。
この最適化はロジスティック回帰のための閉形式で解くことができ、ソフトマックス分類器に対しては反復的ではあるが極めて高速であることを示す。
これにより、非常に高次元のインスタンスや多くのクラスであってもミリ秒から1秒程度のランタイムで、どちらのケースも正確に(ほぼ機械の精度で)解決できます。
- 参考スコア(独自算出の注目度): 6.581214715240991
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In recent years, a certain type of problems have become of interest where one
wants to query a trained classifier. Specifically, one wants to find the
closest instance to a given input instance such that the classifier's predicted
label is changed in a desired way. Examples of these ``inverse classification''
problems are counterfactual explanations, adversarial examples and model
inversion. All of them are fundamentally optimization problems over the input
instance vector involving a fixed classifier, and it is of interest to achieve
a fast solution for interactive or real-time applications. We focus on solving
this problem efficiently for two of the most widely used classifiers: logistic
regression and softmax classifiers. Owing to special properties of these
models, we show that the optimization can be solved in closed form for logistic
regression, and iteratively but extremely fast for the softmax classifier. This
allows us to solve either case exactly (to nearly machine precision) in a
runtime of milliseconds to around a second even for very high-dimensional
instances and many classes.
- Abstract(参考訳): 近年、訓練された分類器をクエリしたい場合、ある種の問題に注目が集まっている。
具体的には、分類器の予測ラベルが望ましい方法で変更されるように、与えられた入力インスタンスに最も近いインスタンスを見つける。
これらの「逆分類」問題の例としては、反実的説明、逆例、モデル反転がある。
これらすべては、固定分類器を含む入力インスタンスベクトルに対する根本的な最適化問題であり、インタラクティブまたはリアルタイムアプリケーションのための高速なソリューションを実現することが関心がある。
我々は、ロジスティック回帰とソフトマックス分類器の2つの最も広く使われている分類器に対して、この問題を効率的に解決することに集中する。
これらのモデルの特殊性から,ロジスティック回帰に対しては閉形式で解くことができ,softmax分類器では反復的だが非常に高速であることを示す。
これにより、非常に高次元のインスタンスや多くのクラスであっても、ミリ秒から約1秒のランタイムで、どちらのケースも正確に(ほぼマシン精度まで)解決できます。
関連論文リスト
- Mitigating Word Bias in Zero-shot Prompt-based Classifiers [55.60306377044225]
一致したクラス先行は、オラクルの上界性能と強く相関していることを示す。
また,NLPタスクに対するプロンプト設定において,一貫したパフォーマンス向上を示す。
論文 参考訳(メタデータ) (2023-09-10T10:57:41Z) - Characterizing the Optimal 0-1 Loss for Multi-class Classification with
a Test-time Attacker [57.49330031751386]
我々は,任意の離散データセット上の複数クラス分類器に対するテスト時間攻撃の存在下での損失に対する情報理論的下位境界を求める。
本稿では,データと敵対的制約から競合ハイパーグラフを構築する際に発生する最適0-1損失を求めるための一般的なフレームワークを提供する。
論文 参考訳(メタデータ) (2023-02-21T15:17:13Z) - A machine learning based algorithm selection method to solve the minimum
cost flow problem [0.8399688944263843]
複数の機械学習分類器を訓練し、与えられた解の集合の中で最速の予測を行う。
木をベースとしたモデルでは,最小コストのフロー問題の関連構造を適応し,活用することが示されている。
論文 参考訳(メタデータ) (2022-10-03T16:06:24Z) - Soft-margin classification of object manifolds [0.0]
単一対象の複数の出現に対応する神経集団は、神経応答空間における多様体を定義する。
そのような多様体を分類する能力は、オブジェクト認識やその他の計算タスクは多様体内の変数に無関心な応答を必要とするため、興味がある。
ソフトマージン分類器は、より大きなアルゴリズムのクラスであり、トレーニングセット外のパフォーマンスを最適化するためにアプリケーションで使われる追加の正規化パラメータを提供する。
論文 参考訳(メタデータ) (2022-03-14T12:23:36Z) - Fast Sparse Classification for Generalized Linear and Additive Models [18.19521929966386]
スパース一般化線形および加法モデルに対する高速分類手法を提案する。
これらの技術は、非常に相関性の高い特徴が存在する場合でも、何千もの特徴と何千もの観察を数分で処理することができる。
論文 参考訳(メタデータ) (2022-02-23T10:07:42Z) - A Lagrangian Duality Approach to Active Learning [119.36233726867992]
トレーニングデータのサブセットのみをラベル付けするバッチアクティブな学習問題を考察する。
制約付き最適化を用いて学習問題を定式化し、各制約はラベル付きサンプルにモデルの性能を拘束する。
数値実験により,提案手法は最先端の能動学習法と同等かそれ以上に機能することを示した。
論文 参考訳(メタデータ) (2022-02-08T19:18:49Z) - Counterfactual Explanations for Oblique Decision Trees: Exact, Efficient
Algorithms [0.0]
我々は、ソース入力インスタンスにおける特徴を最小に調整して、与えられた分類の下で対象クラスに分類する問題である、反事実的説明を考える。
これは、トレーニングされたモデルをクエリし、決定を覆す可能性のあるアクションを提案する手段として、最近の関心事となっている。
論文 参考訳(メタデータ) (2021-03-01T16:04:33Z) - Theoretical Insights Into Multiclass Classification: A High-dimensional
Asymptotic View [82.80085730891126]
線形多クラス分類の最初の現代的精度解析を行う。
分析の結果,分類精度は分布に依存していることがわかった。
得られた洞察は、他の分類アルゴリズムの正確な理解の道を開くかもしれない。
論文 参考訳(メタデータ) (2020-11-16T05:17:29Z) - High-Dimensional Quadratic Discriminant Analysis under Spiked Covariance
Model [101.74172837046382]
そこで本研究では,魚の識別比を最大化する2次分類手法を提案する。
数値シミュレーションにより,提案した分類器は,合成データと実データの両方において古典的R-QDAよりも優れるだけでなく,計算量の削減も要求されることがわかった。
論文 参考訳(メタデータ) (2020-06-25T12:00:26Z) - A novel embedded min-max approach for feature selection in nonlinear
support vector machine classification [0.0]
min-max最適化問題に基づく組込み特徴選択法を提案する。
双対性理論を活用することにより、min-max問題を等価に修正し、それ以上のアドを伴わずに解決する。
提案手法の効率性と有用性は,いくつかのベンチマークデータセットで検証される。
論文 参考訳(メタデータ) (2020-04-21T09:40:38Z) - Optimal Clustering from Noisy Binary Feedback [75.17453757892152]
本稿では,二元的ユーザフィードバックから一組のアイテムをクラスタリングする問題について検討する。
最小クラスタ回復誤差率のアルゴリズムを考案する。
適応選択のために,情報理論的誤差下界の導出にインスパイアされたアルゴリズムを開発する。
論文 参考訳(メタデータ) (2019-10-14T09:18:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。