論文の概要: Employing an Adjusted Stability Measure for Multi-Criteria Model Fitting
on Data Sets with Similar Features
- arxiv url: http://arxiv.org/abs/2106.08105v1
- Date: Tue, 15 Jun 2021 12:48:07 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-16 15:27:46.579038
- Title: Employing an Adjusted Stability Measure for Multi-Criteria Model Fitting
on Data Sets with Similar Features
- Title（参考訳）: 類似した特徴を有するデータセットに適合するマルチクリトリアモデルに対する安定化尺度の適用
- Authors: Andrea Bommert, J\"org Rahnenf\"uhrer, Michel Lang
- Abstract要約: 提案手法は,2つの確立したアプローチと比較して,同じあるいはより良い予測性能が得られることを示す。
このアプローチでは、関係のない機能や冗長な機能を避けながら、関連する機能を選択することに成功しています。
多くの類似した特徴を持つデータセットの場合、特徴選択安定性は調整された安定性尺度で評価されなければならない。
- 参考スコア（独自算出の注目度）: 0.1127980896956825
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Fitting models with high predictive accuracy that include all relevant but no
irrelevant or redundant features is a challenging task on data sets with
similar (e.g. highly correlated) features. We propose the approach of tuning
the hyperparameters of a predictive model in a multi-criteria fashion with
respect to predictive accuracy and feature selection stability. We evaluate
this approach based on both simulated and real data sets and we compare it to
the standard approach of single-criteria tuning of the hyperparameters as well
as to the state-of-the-art technique "stability selection". We conclude that
our approach achieves the same or better predictive performance compared to the
two established approaches. Considering the stability during tuning does not
decrease the predictive accuracy of the resulting models. Our approach succeeds
at selecting the relevant features while avoiding irrelevant or redundant
features. The single-criteria approach fails at avoiding irrelevant or
redundant features and the stability selection approach fails at selecting
enough relevant features for achieving acceptable predictive accuracy. For our
approach, for data sets with many similar features, the feature selection
stability must be evaluated with an adjusted stability measure, that is, a
measure that considers similarities between features. For data sets with only
few similar features, an unadjusted stability measure suffices and is faster to
compute.
- Abstract（参考訳）: 関連するすべての機能や冗長な機能は含まないが、予測精度の高いモデルに適合することは、同様の(例えば)データセットで難しい作業である。
非常に相関した)特徴です
本稿では,予測精度と特徴選択安定性に関して,予測モデルのハイパーパラメータを多基準でチューニングする手法を提案する。
本手法はシミュレーションと実データの両方に基づいて評価し,ハイパーパラメータの単一基準チューニングの標準手法と,最先端技術である「安定性選択」との比較を行った。
提案手法は,確立した2つのアプローチと比較して,同じあるいはより良い予測性能を実現する。
チューニング中の安定性を考えると、結果のモデルの予測精度は低下しない。
このアプローチでは、関係のない機能や冗長な機能を避けながら、関連する機能を選択することに成功しています。
単一分離アプローチは無関係あるいは冗長な特徴を避けることに失敗し、安定性選択アプローチは許容可能な予測精度を達成するのに十分な特徴の選択に失敗する。
提案手法では,多くの類似した特徴を持つデータセットに対して,特徴の選択安定性を調整された安定性尺度,すなわち特徴間の類似性を考慮した尺度で評価する必要がある。
類似した機能が少ないデータセットの場合、不調整の安定性は十分であり、計算が速くなる。
関連論文リスト
- Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳（メタデータ） (2023-11-08T00:10:21Z) - Model Merging by Uncertainty-Based Gradient Matching [70.54580972266096]
ミスマッチを減らすことで性能を改善するための不確実性に基づく新しいスキームを提案する。
我々の新しい手法は、大きな言語モデルと視覚変換器に一貫した改善をもたらす。
論文 参考訳（メタデータ） (2023-10-19T15:02:45Z) - Robust Ordinal Regression for Subsets Comparisons with Interactions [2.6151761714896122]
本稿では,サブセット間の意思決定者の好みを学習するための厳密な順序付け手法を提案する。
Fishburn と LaValle から派生した決定モデルは、部分集合上の厳密な弱順序と互換性を持つほど一般である。
予測された嗜好が、すべての最も単純なモデル(オッカムのカミソリ)がその嗜好データに一致する場合、信頼できると考えられる。
論文 参考訳（メタデータ） (2023-08-07T07:54:33Z) - On the Effectiveness of Parameter-Efficient Fine-Tuning [79.6302606855302]
現在、多くの研究が、パラメータのごく一部のみを微調整し、異なるタスク間で共有されるパラメータのほとんどを保持することを提案している。
これらの手法は, いずれも細粒度モデルであり, 新たな理論的解析を行う。
我々の理論に根ざした空間性の有効性にもかかわらず、調整可能なパラメータをどう選ぶかという問題はまだ未解決のままである。
論文 参考訳（メタデータ） (2022-11-28T17:41:48Z) - Reliability-Aware Prediction via Uncertainty Learning for Person Image
Retrieval [51.83967175585896]
UALは、データ不確実性とモデル不確実性を同時に考慮し、信頼性に配慮した予測を提供することを目的としている。
データ不確実性はサンプル固有のノイズを捕捉する」一方、モデル不確実性はサンプルの予測に対するモデルの信頼を表現している。
論文 参考訳（メタデータ） (2022-10-24T17:53:20Z) - Probabilities Are Not Enough: Formal Controller Synthesis for Stochastic
Dynamical Models with Epistemic Uncertainty [68.00748155945047]
複雑な力学系のモデルにおける不確実性を捉えることは、安全なコントローラの設計に不可欠である。
いくつかのアプローチでは、安全と到達可能性に関する時間的仕様を満たすポリシーを形式的な抽象化を用いて合成する。
我々の貢献は、ノイズ、不確実なパラメータ、外乱を含む連続状態モデルに対する新しい抽象的制御法である。
論文 参考訳（メタデータ） (2022-10-12T07:57:03Z) - Cautious Learning of Multiattribute Preferences [2.6151761714896122]
本稿では,二項属性を特徴とする選択肢間の嗜好を予測するための慎重な学習手法を提案する。
注意」とは、マルチ属性の嗜好を表現するために学んだモデルは、他の選択肢の厳密な弱い順序と互換性があるほど一般であることを意味する。
論文 参考訳（メタデータ） (2022-06-15T07:54:16Z) - Loss-guided Stability Selection [0.0]
LassoやBoostingのようなモデル選択手順は、実際のデータに過度に適合する傾向があることはよく知られている。
標準安定選択は、グローバルな基準、すなわち家族ごとのエラー率に基づいている。
選択された損失関数を付加的な検証ステップで尊重する安定性選択変種を提案する。
論文 参考訳（メタデータ） (2022-02-10T11:20:25Z) - Adjusted Measures for Feature Selection Stability for Data Sets with
Similar Features [0.0]
既存の対策の欠点を克服する新たな調整された安定対策を導入する。
この結果に基づき, 類似した特徴を交換可能なものとみなす新たな安定度尺度を提案する。
論文 参考訳（メタデータ） (2020-09-25T07:52:19Z) - Leveraging Model Inherent Variable Importance for Stable Online Feature
Selection [16.396739487911056]
本稿では,オンライン機能選択のための新しいフレームワークFIRESを紹介する。
私たちのフレームワークは、基盤となるモデルの選択をユーザに委ねるという点で一般的です。
実験の結果,提案フレームワークは特徴選択安定性の点で明らかに優れていることがわかった。
論文 参考訳（メタデータ） (2020-06-18T10:01:18Z) - Causal Feature Selection for Algorithmic Fairness [61.767399505764736]
データ管理の統合コンポーネントにおける公平性について検討する。
本稿では,データセットの公平性を保証する特徴のサブコレクションを同定する手法を提案する。
論文 参考訳（メタデータ） (2020-06-10T20:20:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。