論文の概要: Abstract Interpretation-Based Feature Importance for SVMs
- arxiv url: http://arxiv.org/abs/2210.12456v1
- Date: Sat, 22 Oct 2022 13:57:44 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-25 18:14:12.057541
- Title: Abstract Interpretation-Based Feature Importance for SVMs
- Title(参考訳): SVMにおける抽象解釈に基づく特徴重要度
- Authors: Abhinandan Pal, Francesco Ranzato, Caterina Urban, Marco Zanella
- Abstract要約: 本稿では,抽象解釈を用いたサポートベクトルマシン(SVM)の記号表現を提案する。
我々は,SVMの精度のデータセットに依存しない,抽象的特徴重要度(AFI)と呼ばれる新しい特徴重要度尺度を導出する。
我々の実験結果によると、SVMの精度とは独立に、我々のAFI尺度は機械学習ソフトウェアで広く利用できる特徴重要度よりも、SVMの摂動に対する安定性に強く相関している。
- 参考スコア(独自算出の注目度): 8.879921160392737
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We propose a symbolic representation for support vector machines (SVMs) by
means of abstract interpretation, a well-known and successful technique for
designing and implementing static program analyses. We leverage this
abstraction in two ways: (1) to enhance the interpretability of SVMs by
deriving a novel feature importance measure, called abstract feature importance
(AFI), that does not depend in any way on a given dataset of the accuracy of
the SVM and is very fast to compute, and (2) for verifying stability, notably
individual fairness, of SVMs and producing concrete counterexamples when the
verification fails. We implemented our approach and we empirically demonstrated
its effectiveness on SVMs based on linear and non-linear (polynomial and radial
basis function) kernels. Our experimental results show that, independently of
the accuracy of the SVM, our AFI measure correlates much more strongly with the
stability of the SVM to feature perturbations than feature importance measures
widely available in machine learning software such as permutation feature
importance. It thus gives better insight into the trustworthiness of SVMs.
- Abstract(参考訳): 本稿では,静的プログラム解析の設計と実装においてよく知られた手法である抽象解釈を用いて,サポートベクターマシン(svm)のシンボリック表現を提案する。
我々は,(1)SVMの精度のデータセットに依存せず,計算が極めて高速な,抽象的特徴重要度(AFI)と呼ばれる新しい特徴重要度尺度を導出することにより,SVMの解釈可能性を高めること,(2)SVMの安定性,特に個人の公正性,および検証失敗時の具体的な反例を検証すること,の2つの方法を活用する。
本研究では,線形および非線形(ポリノミカルおよびラジアル基底関数)カーネルに基づくSVM上での有効性を実証的に実証した。
我々の実験結果によると、SVMの精度とは独立に、我々のAFI測度は、置換特徴重要度などの機械学習ソフトウェアで広く利用できる特徴重要度よりも、特徴摂動に対するSVMの安定性と強く相関している。
これにより、SVMの信頼性をよりよく把握できます。
関連論文リスト
- Multiview learning with twin parametric margin SVM [0.0]
マルチビュー学習(MVL)は、相互補完するために多様な視点の利点を活用する。
マルチビュー・ツインパラメトリック・マージン支援ベクトルマシン(MvTPMSVM)を提案する。
MvTPMSVMは、両クラスに対応するパラメトリック・マージン・ハイパープレーンを構築し、異方性雑音構造の影響を規制し、管理することを目的としている。
論文 参考訳(メタデータ) (2024-08-04T10:16:11Z) - Understanding Self-attention Mechanism via Dynamical System Perspective [58.024376086269015]
SAM(Self-attention mechanism)は、人工知能の様々な分野で広く使われている。
常微分方程式(ODE)の高精度解における固有剛性現象(SP)は,高性能ニューラルネットワーク(NN)にも広く存在することを示す。
SAMは、本質的なSPを測定するためのモデルの表現能力を高めることができる剛性対応のステップサイズ適応器でもあることを示す。
論文 参考訳(メタデータ) (2023-08-19T08:17:41Z) - Enhancing Pattern Classification in Support Vector Machines through
Matrix Formulation [0.0]
既存のSVMベースのモデルにおけるベクトルベースの定式化への依存は、柔軟性と、特定の問題に対処するために追加用語を組み込むことの容易さに関する制限を生じさせる。
我々はこれらの制約を効果的に解決するSVMの行列定式化を導入する。
マルチラベルおよびマルチクラスデータセットの実験的評価は、Matrix SVMがより優れた時間効率を実現することを示す。
論文 参考訳(メタデータ) (2023-07-18T15:56:39Z) - Evaluating robustness of support vector machines with the Lagrangian
dual approach [6.868150350359336]
非線形カーネルを用いたベクトルマシン(SVM)の検証性能を向上させる手法を提案する。
我々は,MNISTおよびFashion-MNISTデータセット上で線形および非線形カーネルを持つSVMの対角的ロバスト性を評価する。
実験結果から,テストセット上で得られた証明可能なロバスト性の割合は,最先端技術よりも良好であることが示唆された。
論文 参考訳(メタデータ) (2023-06-05T07:15:54Z) - Variational Distillation for Multi-View Learning [104.17551354374821]
我々は,多視点表現学習における2つの重要な特徴を利用するために,様々な情報ボトルネックを設計する。
厳密な理論的保証の下で,本手法は,観察とセマンティックラベルの内在的相関の把握を可能にする。
論文 参考訳(メタデータ) (2022-06-20T03:09:46Z) - Information-Theoretic Odometry Learning [83.36195426897768]
生体計測推定を目的とした学習動機付け手法のための統合情報理論フレームワークを提案する。
提案フレームワークは情報理論言語の性能評価と理解のためのエレガントなツールを提供する。
論文 参考訳(メタデータ) (2022-03-11T02:37:35Z) - Chance constrained conic-segmentation support vector machine with
uncertain data [0.0]
サポートベクトルマシン(SVM)は、よく知られた学習アルゴリズムのクラスの一つである。
本稿では,CS-SVMのデータポイントの不確かさや誤動作について検討する。
論文 参考訳(メタデータ) (2021-07-28T12:29:47Z) - Machine-Learning-Derived Entanglement Witnesses [55.76279816849472]
本稿では,線形支援ベクトルマシン (SVM) と絡み合い目撃者の対応を示す。
我々はこの対応を利用して、二部類と三部類(およびキュビット)の絡み合った状態に対する絡み合いの証人を生成する。
論文 参考訳(メタデータ) (2021-07-05T22:28:02Z) - Estimating Average Treatment Effects with Support Vector Machines [77.34726150561087]
サポートベクターマシン(SVM)は、機械学習文献で最も人気のある分類アルゴリズムの1つです。
我々はsvmをカーネルベースの重み付け手順として適用し,治療群と制御群の最大平均差を最小化する。
このトレードオフから生じる因果効果推定のバイアスを特徴づけ、提案されたSVM手順と既存のカーネルバランシング手法を結びつけます。
論文 参考訳(メタデータ) (2021-02-23T20:22:56Z) - On Coresets for Support Vector Machines [61.928187390362176]
coresetは、元のデータポイントの小さな、代表的なサブセットである。
我々は,本アルゴリズムを用いて,既製のSVMソルバをストリーミング,分散,動的データ設定に適用可能であることを示す。
論文 参考訳(メタデータ) (2020-02-15T23:25:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。