論文の概要: Improving Mutual Information based Feature Selection by Boosting Unique
Relevance
- arxiv url: http://arxiv.org/abs/2212.06143v1
- Date: Fri, 9 Dec 2022 13:55:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-14 13:45:19.789497
- Title: Improving Mutual Information based Feature Selection by Boosting Unique
Relevance
- Title(参考訳): 特異性を高めた相互情報に基づく特徴選択の改善
- Authors: Shiyu Liu, Mehul Motani
- Abstract要約: 相互情報(MI)ベースの特徴選択は、それぞれの特徴を評価するためにMIを使用し、最終的には関連する機能サブセットをショートリスト化する。
特徴選択におけるMIの有効性にもかかわらず、多くの最先端のアルゴリズムは、特徴の唯一の関連性(UR)を無視している。
- 参考スコア(独自算出の注目度): 34.314779866492074
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Mutual Information (MI) based feature selection makes use of MI to evaluate
each feature and eventually shortlists a relevant feature subset, in order to
address issues associated with high-dimensional datasets. Despite the
effectiveness of MI in feature selection, we notice that many state-of-the-art
algorithms disregard the so-called unique relevance (UR) of features, and
arrive at a suboptimal selected feature subset which contains a non-negligible
number of redundant features. We point out that the heart of the problem is
that all these MIBFS algorithms follow the criterion of Maximize Relevance with
Minimum Redundancy (MRwMR), which does not explicitly target UR. This motivates
us to augment the existing criterion with the objective of boosting unique
relevance (BUR), leading to a new criterion called MRwMR-BUR. Depending on the
task being addressed, MRwMR-BUR has two variants, termed MRwMR-BUR-KSG and
MRwMR-BUR-CLF, which estimate UR differently. MRwMR-BUR-KSG estimates UR via a
nearest-neighbor based approach called the KSG estimator and is designed for
three major tasks: (i) Classification Performance. (ii) Feature
Interpretability. (iii) Classifier Generalization. MRwMR-BUR-CLF estimates UR
via a classifier based approach. It adapts UR to different classifiers, further
improving the competitiveness of MRwMR-BUR for classification performance
oriented tasks. The performance of both MRwMR-BUR-KSG and MRwMR-BUR-CLF is
validated via experiments using six public datasets and three popular
classifiers. Specifically, as compared to MRwMR, the proposed MRwMR-BUR-KSG
improves the test accuracy by 2% - 3% with 25% - 30% fewer features being
selected, without increasing the algorithm complexity. MRwMR-BUR-CLF further
improves the classification performance by 3.8%- 5.5% (relative to MRwMR), and
it also outperforms three popular classifier dependent feature selection
methods.
- Abstract(参考訳): 相互情報(MI)ベースの特徴選択は、MIを使用して各特徴を評価し、最終的に関連する特徴サブセットをショートリスト化し、高次元データセットに関連する問題に対処する。
特徴選択におけるMIの有効性にもかかわらず、多くの最先端アルゴリズムは特徴のユニークな関連性(UR)を無視しており、非無視数の冗長特徴を含む最適選択特徴サブセットに到達している。
問題の核心は、これらのMIBFSアルゴリズムが、URを明示的に対象としていない最小冗長性(MRwMR)による最大関連性(Maximize Relevance with Minimum Redundancy)の基準に従うことである。
これにより, MRwMR-BURという新たな基準が生まれ, 独自の関連性(BUR)を高めることを目的として, 既存の基準を補強するモチベーションが得られた。
課題に応じてMRwMR-BURはMRwMR-BUR-KSGとMRwMR-BUR-CLFと呼ばれる2つの変種を持つ。
MRwMR-BUR-KSGは、近辺のKSG推定器 (KSG estimator) と呼ばれるアプローチを用いてURを推定する。
(i)分類性能。
(ii)特徴解釈性。
(iii)分類器の一般化。
MRwMR-BUR-CLFは、分類器に基づくアプローチによりURを推定する。
URを異なる分類器に適応させ、MRwMR-BURの分類性能指向タスクの競争性をさらに向上させる。
MRwMR-BUR-KSGとMRwMR-BUR-CLFの両方の性能は、6つの公開データセットと3つの人気のある分類器を用いて検証した。
具体的には、MRwMRと比較して、提案されたMRwMR-BUR-KSGは、アルゴリズムの複雑さを増大させることなく、選択される機能を25%から30%削減して、テスト精度を2% - 3%改善する。
MRwMR-BUR-CLFは、さらに分類性能を3.8%-5.5%向上させ(MRwMRと比較して)、3つの人気のある分類器依存特徴選択法より優れている。
関連論文リスト
- Accelerated Multi-Contrast MRI Reconstruction via Frequency and Spatial Mutual Learning [50.74383395813782]
本稿では,周波数・空間相互学習ネットワーク(FSMNet)を提案する。
提案したFSMNetは, 加速度係数の異なるマルチコントラストMR再構成タスクに対して, 最先端の性能を実現する。
論文 参考訳(メタデータ) (2024-09-21T12:02:47Z) - SMART-RAG: Selection using Determinantal Matrices for Augmented Retrieval [40.17823569905232]
Retrieval-Augmented Generation (RAG) は、大規模言語モデル(LLM)を大幅に改善し、正確で文脈に根ざした応答を生成する。
RAGアプローチは、クエリコンテキストの関連性のみに基づくトップランクのドキュメントを優先し、冗長性と矛盾する情報をしばしば導入する。
本稿では,RAGにおける文脈選択の最適化を目的とした,教師なしおよびトレーニング不要なフレームワークであるRAG(Mathrices for Augmented Retrieval)によるタスク応答のための選択を提案する。
論文 参考訳(メタデータ) (2024-09-21T03:03:09Z) - A Refreshed Similarity-based Upsampler for Direct High-Ratio Feature Upsampling [54.05517338122698]
本稿では,セマンティック・アウェアとディテール・アウェアの両方の観点から,明示的に制御可能なクエリキー機能アライメントを提案する。
また,モーザイクアーティファクトを緩和するのには単純だが有効であるHR特徴量に対して,きめ細かな近傍選択戦略を開発した。
提案するReSFUフレームワークは,異なるセグメンテーションアプリケーション上での良好な性能を一貫して達成する。
論文 参考訳(メタデータ) (2024-07-02T14:12:21Z) - Towards a Complete Metamorphic Testing Pipeline [56.75969180129005]
システムアンダーテスト(SUT)の連続実行における入出力ペア間の関係を調べてテストオラクル問題に対処するメタモルフィックテスト(MT)
これらの関係は、メタモルフィック関係 (MRs) と呼ばれ、特定の入力変化に起因する期待される出力変化を規定する。
本研究の目的は,MR の生成,制約の定義,MR 結果の説明可能性の提供を支援する手法とツールの開発である。
論文 参考訳(メタデータ) (2023-09-30T10:49:22Z) - MVMR-FS : Non-parametric feature selection algorithm based on Maximum
inter-class Variation and Minimum Redundancy [1.2522889958051284]
クラス間の最大変動と最小冗長度に基づく非パラメトリック特徴選択アルゴリズムを提案する。
10種類の最先端手法と比較して、MVMR-FSは最も高い平均精度を達成し、5%から11%の精度向上を実現している。
論文 参考訳(メタデータ) (2023-07-27T06:33:17Z) - Faster Video Moment Retrieval with Point-Level Supervision [70.51822333023145]
Video Moment Retrieval (VMR)は、自然言語クエリでトリミングされていないビデオから最も関連性の高いイベントを取得することを目的としている。
既存のVMRメソッドには2つの欠陥がある。
CFMR(Cheaper and Faster Moment Retrieval)と呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2023-05-23T12:53:50Z) - Effective and Stable Role-Based Multi-Agent Collaboration by Structural
Information Principles [24.49065333729887]
本稿では,役割発見のための数学的構造情報に基づく役割発見法,すなわちSIRDを提案する。
次に,マルチエージェント協調のためのSIRD最適化型マルチエージェント強化学習フレームワークSR-MARLを提案する。
具体的には、SIRDは構造化、スパーシフィケーション、最適化モジュールで構成され、最適なエンコーディングツリーを生成して、役割を発見するための抽象化を実行する。
論文 参考訳(メタデータ) (2023-04-03T07:13:44Z) - Decision Making for Hierarchical Multi-label Classification with
Multidimensional Local Precision Rate [4.812468844362369]
我々は,各クラスの各対象に対して,多次元局所精度率 (mLPR) と呼ばれる新しい統計モデルを導入する。
我々は,mLPRの下位順序でクラス間でオブジェクトをソートするだけで,クラス階層を確実にすることができることを示す。
これに対し、階層を尊重しながら推定mLPRを用いてCATCHの実証バージョンを最大化する新しいアルゴリズムであるHierRankを導入する。
論文 参考訳(メタデータ) (2022-05-16T17:43:35Z) - Effective Mutation Rate Adaptation through Group Elite Selection [50.88204196504888]
本稿では,GESMR(Group Elite Selection of Mutation Rates)アルゴリズムを提案する。
GESMRは解の集団とMRの集団を共進化させ、各MRは解群に割り当てられる。
同じ数の関数評価とオーバーヘッドのほとんどないGESMRは、以前のアプローチよりも早く、より良いソリューションに収束する。
論文 参考訳(メタデータ) (2022-04-11T01:08:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。