論文の概要: An Adaptive Neuro-Fuzzy System with Integrated Feature Selection and
Rule Extraction for High-Dimensional Classification Problems
- arxiv url: http://arxiv.org/abs/2201.03187v1
- Date: Mon, 10 Jan 2022 06:51:29 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-11 14:49:13.328870
- Title: An Adaptive Neuro-Fuzzy System with Integrated Feature Selection and
Rule Extraction for High-Dimensional Classification Problems
- Title（参考訳）: 高次元分類問題に対する特徴選択と規則抽出を統合した適応型ニューロファジーシステム
- Authors: Guangdong Xue, Qin Chang, Jian Wang, Kai Zhang and Nikhil R. Pal
- Abstract要約: 7000以上の次元を持つデータセットを処理できるニューロファジィフレームワークを提案する。
AdaTSK(Adaptive Takagi-Sugeno-Kang)ファジィシステム(Adaptive Takagi-Sugeno-Kang)と呼ぶ。
7000以上の入力特徴を含む分類のためにファジィシステムが実現されたのはこれが初めてかもしれない。
- 参考スコア（独自算出の注目度）: 10.55364458642472
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A major limitation of fuzzy or neuro-fuzzy systems is their failure to deal
with high-dimensional datasets. This happens primarily due to the use of
T-norm, particularly, product or minimum (or a softer version of it). Thus,
there are hardly any work dealing with datasets with dimensions more than
hundred or so. Here, we propose a neuro-fuzzy framework that can handle
datasets with dimensions even more than 7000! In this context, we propose an
adaptive softmin (Ada-softmin) which effectively overcomes the drawbacks of
``numeric underflow" and ``fake minimum" that arise for existing fuzzy systems
while dealing with high-dimensional problems. We call it an Adaptive
Takagi-Sugeno-Kang (AdaTSK) fuzzy system. We then equip the AdaTSK system to
perform feature selection and rule extraction in an integrated manner. In this
context, a novel gate function is introduced and embedded only in the
consequent parts, which can determine the useful features and rules, in two
successive phases of learning. Unlike conventional fuzzy rule bases, we design
an enhanced fuzzy rule base (En-FRB), which maintains adequate rules but does
not grow the number of rules exponentially with dimension that typically
happens for fuzzy neural networks. The integrated Feature Selection and Rule
Extraction AdaTSK (FSRE-AdaTSK) system consists of three sequential phases: (i)
feature selection, (ii) rule extraction, and (iii) fine tuning. The
effectiveness of the FSRE-AdaTSK is demonstrated on 19 datasets of which five
are in more than 2000 dimension including two with dimension greater than 7000.
This may be the first time fuzzy systems are realized for classification
involving more than 7000 input features.
- Abstract（参考訳）: ファジィやニューロファジーシステムの大きな制限は、高次元データセットを扱うことができないことである。
これは主にTノルム、特に製品または最小(またはよりソフトなバージョン)の使用によって起こる。
したがって、100以上の次元を持つデータセットを扱う作業はほとんどない。
本稿では,次元が7000以上のデータセットを処理できるニューロファジーフレームワークを提案する。
そこで,本稿では,既存のファジィシステムにおいて高次元問題に対処しつつ生じる ``numeric underflow" と ``fake minimum" の欠点を効果的に克服する適応ソフトミン (ada-softmin) を提案する。
AdaTSK(Adaptive Takagi-Sugeno-Kang)ファジィシステムと呼ぶ。
次に、AdaTSKシステムを用いて特徴選択とルール抽出を統合的に行う。
この文脈では、連続した2つの学習段階において、有用な特徴と規則を決定できる連続部分のみに、新しいゲート関数が導入され、埋め込まれる。
従来のファジィルールベースとは異なり、適切なルールを維持するが、ファジィニューラルネットワークで通常発生する次元と指数関数的に規則数を増加しない拡張ファジィルールベース(En-FRB)を設計する。
統合された特徴選択と規則抽出 AdaTSK (FSRE-AdaTSK) システムは3段階からなる。
(i)特徴選択
(ii)規則抽出、及び
(iii)精巧な調律。
FSRE-AdaTSKの有効性は、7000以上の次元を持つ2つを含む5つの次元が2000以上の19のデータセットで実証されている。
7000以上の入力特徴を含む分類のためにファジィシステムが実現されたのはこれが初めてかもしれない。
関連論文リスト
- A Self-Constructing Multi-Expert Fuzzy System for High-dimensional Data Classification [33.926721742862156]
Fuzzy Neural Networks (FNN) は、分類タスクに有効な機械学習モデルである。
自己構築型多機能ファジィシステム(SOME-FS)を提案する。
混合構造学習とマルチエキスパート先進学習の2つの学習戦略を組み合わせる。
論文 参考訳（メタデータ） (2024-10-17T09:41:54Z) - Sub-linear Regret in Adaptive Model Predictive Control [56.705978425244496]
本稿では,STT-MPC (Self-Tuning tube-based Model Predictive Control) について述べる。
システム力学を最初に認識したアルゴリズムと比較して,アルゴリズムの後悔を解析する。
論文 参考訳（メタデータ） (2023-10-07T15:07:10Z) - Neuro-symbolic Rule Learning in Real-world Classification Tasks [75.0907310059298]
pix2ruleのニューラルDNFモジュールを拡張し、実世界のマルチクラスおよびマルチラベル分類タスクにおけるルール学習をサポートする。
多クラス分類において相互排他性を強制するニューラルDNF-EO(Exactly One)と呼ばれる新しい拡張モデルを提案する。
論文 参考訳（メタデータ） (2023-03-29T13:27:14Z) - UNFIS: A Novel Neuro-Fuzzy Inference System with Unstructured Fuzzy
Rules for Classification [1.0660480034605238]
本稿では,分類応用のための神経ファジィ推論システムを提案する。
各ファジィルールを構成するために、異なる入力変数のセットを選択することができる。
構造のないファジィからなる同義的な構造で、より良く、または非常に近い性能を持つ。
論文 参考訳（メタデータ） (2022-10-28T17:51:50Z) - The merged-staircase property: a necessary and nearly sufficient condition for SGD learning of sparse functions on two-layer neural networks [19.899987851661354]
我々は,SGD-Lrnability with $O(d)$ sample complexity in a large ambient dimension。
本研究の主な成果は, 階層的特性である「マージ階段特性」を特徴付けるものである。
鍵となるツールは、潜在低次元部分空間上で定義される函数に適用される新しい「次元自由」力学近似である。
論文 参考訳（メタデータ） (2022-02-17T13:43:06Z) - A novel Deep Neural Network architecture for non-linear system
identification [78.69776924618505]
非線形システム識別のための新しいDeep Neural Network (DNN)アーキテクチャを提案する。
メモリシステムにインスパイアされたインダクティブバイアス(アーキテクチャ)と正規化(損失関数)を導入する。
このアーキテクチャは、利用可能なデータのみに基づいて、自動的な複雑性の選択を可能にする。
論文 参考訳（メタデータ） (2021-06-06T10:06:07Z) - Scale Invariant Solutions for Overdetermined Linear Systems with
Applications to Reinforcement Learning [3.093890460224435]
そこで, 数値関数推定のための2つの新しいアルゴリズムの開発に用いる, スケール不変な基準を提案する。
また、この作業以外でも有用かもしれない、新しい適応的なステップサイズも導入します。
論文 参考訳（メタデータ） (2021-04-15T10:37:38Z) - Curse of Dimensionality for TSK Fuzzy Neural Networks: Explanation and
Solutions [29.72037829995358]
本稿では,ガウス MF を持つ TSK ファジィ系が高次元入力でフェールする理由を考察する。
脱ファジフィケーションをソフトマックス関数の等価形式に変換した後,ソフトマックスの飽和に起因する性能の低下が判明した。
また,2つの解凍操作,LogTSKとHTSKは飽和を回避することができることを示した。
論文 参考訳（メタデータ） (2021-02-08T15:10:19Z) - Capturing scattered discriminative information using a deep architecture
in acoustic scene classification [49.86640645460706]
本研究では,識別情報を捕捉し,同時に過度に適合する問題を緩和する様々な手法について検討する。
我々は、ディープニューラルネットワークにおける従来の非線形アクティベーションを置き換えるために、Max Feature Map法を採用する。
2つのデータ拡張方法と2つの深いアーキテクチャモジュールは、システムの過度な適合を減らし、差別的なパワーを維持するためにさらに検討されている。
論文 参考訳（メタデータ） (2020-07-09T08:32:06Z) - When Residual Learning Meets Dense Aggregation: Rethinking the
Aggregation of Deep Neural Networks [57.0502745301132]
我々は,グローバルな残差学習と局所的なマイクロセンスアグリゲーションを備えた新しいアーキテクチャであるMicro-Dense Netsを提案する。
我々のマイクロセンスブロックはニューラルアーキテクチャ検索に基づくモデルと統合して性能を向上させることができる。
論文 参考訳（メタデータ） (2020-04-19T08:34:52Z) - Evolving Normalization-Activation Layers [100.82879448303805]
我々は、うまく機能しない候補層を迅速にフィルタリングする効率的な拒絶プロトコルを開発した。
EvoNormsは、新しい正規化活性化層であり、新しい構造を持ち、時には驚くべき構造を持つ。
我々の実験は、EvoNormsがResNets、MobileNets、EfficientNetsなどの画像分類モデルでうまく機能していることを示している。
論文 参考訳（メタデータ） (2020-04-06T19:52:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。