論文の概要: Curse of Dimensionality for TSK Fuzzy Neural Networks: Explanation and
Solutions
- arxiv url: http://arxiv.org/abs/2102.04271v1
- Date: Mon, 8 Feb 2021 15:10:19 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-09 15:33:51.260893
- Title: Curse of Dimensionality for TSK Fuzzy Neural Networks: Explanation and
Solutions
- Title(参考訳): TSKファジィニューラルネットワークの次元性に関する一考察:説明と解法
- Authors: Yuqi Cui and Dongrui Wu and Yifan Xu
- Abstract要約: 本稿では,ガウス MF を持つ TSK ファジィ系が高次元入力でフェールする理由を考察する。
脱ファジフィケーションをソフトマックス関数の等価形式に変換した後,ソフトマックスの飽和に起因する性能の低下が判明した。
また,2つの解凍操作,LogTSKとHTSKは飽和を回避することができることを示した。
- 参考スコア(独自算出の注目度): 29.72037829995358
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Takagi-Sugeno-Kang (TSK) fuzzy system with Gaussian membership functions
(MFs) is one of the most widely used fuzzy systems in machine learning.
However, it usually has difficulty handling high-dimensional datasets. This
paper explores why TSK fuzzy systems with Gaussian MFs may fail on
high-dimensional inputs. After transforming defuzzification to an equivalent
form of softmax function, we find that the poor performance is due to the
saturation of softmax. We show that two defuzzification operations, LogTSK and
HTSK, the latter of which is first proposed in this paper, can avoid the
saturation. Experimental results on datasets with various dimensionalities
validated our analysis and demonstrated the effectiveness of LogTSK and HTSK.
- Abstract(参考訳): 高木sugeno-kang (tsk) fuzzy system with gaussian member function (mfs) は機械学習で最も広く使われているファジィシステムの一つである。
しかし、通常、高次元データセットの処理が困難である。
本稿では,ガウス MF を持つ TSK ファジィ系が高次元入力でフェールする理由を考察する。
脱ファジフィケーションをソフトマックス関数の等価形式に変換した後,ソフトマックスの飽和に起因する性能の低下が判明した。
本論文で最初に提案した2つの解凍操作であるLogTSKとHTSKは飽和を回避することができることを示す。
各種次元のデータセットを用いた実験結果から, LogTSK と HTSK の有効性を検証した。
関連論文リスト
- A Self-Constructing Multi-Expert Fuzzy System for High-dimensional Data Classification [33.926721742862156]
Fuzzy Neural Networks (FNN) は、分類タスクに有効な機械学習モデルである。
自己構築型多機能ファジィシステム(SOME-FS)を提案する。
混合構造学習とマルチエキスパート先進学習の2つの学習戦略を組み合わせる。
論文 参考訳(メタデータ) (2024-10-17T09:41:54Z) - MoE-FFD: Mixture of Experts for Generalized and Parameter-Efficient Face Forgery Detection [54.545054873239295]
ディープフェイクは、最近、国民の間で重大な信頼問題とセキュリティ上の懸念を提起した。
ViT法はトランスの表現性を生かし,優れた検出性能を実現する。
この研究は、汎用的でパラメータ効率のよいViTベースのアプローチであるFace Forgery Detection (MoE-FFD)のためのMixture-of-Expertsモジュールを導入する。
論文 参考訳(メタデータ) (2024-04-12T13:02:08Z) - Softmax-free Linear Transformers [90.83157268265654]
視覚変換器(ViT)は、視覚知覚タスクの最先端を推し進めている。
既存の手法は理論的に欠陥があるか、視覚認識に経験的に効果がないかのいずれかである。
我々はSoftmax-Free Transformers (SOFT) のファミリーを提案する。
論文 参考訳(メタデータ) (2022-07-05T03:08:27Z) - PyTSK: A Python Toolbox for TSK Fuzzy Systems [30.40429051129863]
PyTSKはTakagi-Sugeno-Kang (TSK) ファジィシステムを開発するためのPythonツールボックスである。
ユーザーはファジィクラスタリングやミニバッチ勾配勾配(MBGD)ベースのアルゴリズムを使ってTSKファジィシステムを最適化できる。
論文 参考訳(メタデータ) (2022-06-07T13:57:39Z) - An Empirical Evaluation of the t-SNE Algorithm for Data Visualization in
Structural Engineering [2.4493299476776773]
t-Distributed Neighbor Embedding (t-SNE)アルゴリズムは、可視化目的で設定された地震関連データセットの寸法を縮小するために用いられる。
SMOTE(Synthetic Minority Oversampling Technique)は、このようなデータセットの不均衡な性質に対処するために用いられる。
トレーニングデータセットにおけるt-SNEとSMOTEを用いて、ニューラルネットワーク分類器は精度を犠牲にすることなく、有望な結果が得られることを示す。
論文 参考訳(メタデータ) (2021-09-18T01:24:39Z) - High Dimensional Level Set Estimation with Bayesian Neural Network [58.684954492439424]
本稿では,ベイズニューラルネットワークを用いた高次元レベル集合推定問題を解く新しい手法を提案する。
各問題に対して対応する理論情報に基づく取得関数を導出してデータポイントをサンプリングする。
合成データセットと実世界データセットの数値実験により,提案手法は既存手法よりも優れた結果が得られることが示された。
論文 参考訳(メタデータ) (2020-12-17T23:21:53Z) - Feature Selection Based on Sparse Neural Network Layer with Normalizing
Constraints [0.0]
本論文では,2つの制約を導入したニューラルネットワークに基づく特徴選択手法を提案する。
その結果,Sparse Neural Network Layer with Normalizing Constraints (SNEL-FS) に基づく特徴選択は,従来の FS 方式に比べて重要な特徴の選択が可能であり,優れた性能が得られることがわかった。
論文 参考訳(メタデータ) (2020-12-11T14:14:33Z) - Hierarchical Dynamic Filtering Network for RGB-D Salient Object
Detection [91.43066633305662]
RGB-D Salient Object Detection (SOD) の主な目的は、相互融合情報をよりよく統合し活用する方法である。
本稿では,これらの問題を新たな視点から考察する。
我々は、より柔軟で効率的なマルチスケールのクロスモーダルな特徴処理を実装している。
論文 参考訳(メタデータ) (2020-07-13T07:59:55Z) - Weak SINDy For Partial Differential Equations [0.0]
我々はWeak SINDy(WSINDy)フレームワークを偏微分方程式(PDE)の設定にまで拡張する。
弱い形状による点微分近似の除去は、ノイズフリーデータからモデル係数の効率的な機械的精度回復を可能にする。
我々は、いくつかの挑戦的なPDEに対して、WSINDyの堅牢性、速度、精度を実証する。
論文 参考訳(メタデータ) (2020-07-06T16:03:51Z) - Feature Robust Optimal Transport for High-dimensional Data [125.04654605998618]
本研究では,高次元データに対する特徴量ロバスト最適輸送(FROT)を提案する。
実世界の意味対応データセットにおいて,FROTアルゴリズムが最先端の性能を実現することを示す。
論文 参考訳(メタデータ) (2020-05-25T14:07:16Z) - Revisiting Initialization of Neural Networks [72.24615341588846]
ヘッセン行列のノルムを近似し, 制御することにより, 層間における重みのグローバルな曲率を厳密に推定する。
Word2Vec と MNIST/CIFAR 画像分類タスクの実験により,Hessian ノルムの追跡が診断ツールとして有用であることが確認された。
論文 参考訳(メタデータ) (2020-04-20T18:12:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。