論文の概要: MBGD-RDA Training and Rule Pruning for Concise TSK Fuzzy Regression
Models
- arxiv url: http://arxiv.org/abs/2003.00608v2
- Date: Tue, 3 Mar 2020 17:09:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-27 12:46:25.198742
- Title: MBGD-RDA Training and Rule Pruning for Concise TSK Fuzzy Regression
Models
- Title(参考訳): 簡潔TSKファジィ回帰モデルのためのMBGD-RDAトレーニングとルールプランニング
- Authors: Dongrui Wu
- Abstract要約: 正規化, DropRule および AdaBound アルゴリズムを用いたミニバッチグラディエントDescent が最近提案されている。
優れたパフォーマンスを示しているが、ルールの数を直接指定することはできない。
本稿では, MBGD-RDAの2つの変種を提案する。
また,TSKファジィシステムに対して,回帰性能を著しく損なうことなく,ルール数を削減できるルールプーニングアルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 28.49647841631262
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: To effectively train Takagi-Sugeno-Kang (TSK) fuzzy systems for regression
problems, a Mini-Batch Gradient Descent with Regularization, DropRule, and
AdaBound (MBGD-RDA) algorithm was recently proposed. It has demonstrated
superior performances; however, there are also some limitations, e.g., it does
not allow the user to specify the number of rules directly, and only Gaussian
MFs can be used. This paper proposes two variants of MBGD-RDA to remedy these
limitations, and show that they outperform the original MBGD-RDA and the
classical ANFIS algorithms with the same number of rules. Furthermore, we also
propose a rule pruning algorithm for TSK fuzzy systems, which can reduce the
number of rules without significantly sacrificing the regression performance.
Experiments showed that the rules obtained from pruning are generally better
than training them from scratch directly, especially when Gaussian MFs are
used.
- Abstract(参考訳): 回帰問題に対する高木・スゲノカン(TSK)ファジィシステムを効果的に訓練するために, 正規化, DropRule および AdaBound (MBGD-RDA) アルゴリズムを提案する。
優れた性能を示しているが、例えば、ユーザーがルールの数を直接指定することができず、ガウス MF のみが使用できるといった制限もある。
本稿では, MBGD-RDA の2つの変種を提案し, 従来の MBGD-RDA アルゴリズムと古典的 ANFIS アルゴリズムを同じルール数で上回っていることを示す。
さらに,回帰性能を著しく犠牲にすることなくルール数を削減するtskファジィシステムのルールプルーニングアルゴリズムを提案する。
実験の結果、特にガウス MF が用いられる場合、プルーニングから得られるルールは、スクラッチから直接トレーニングするよりも概して優れていることがわかった。
関連論文リスト
- Implicitly normalized forecaster with clipping for linear and non-linear
heavy-tailed multi-armed bandits [85.27420062094086]
Implicitly Normalized Forecaster (INF) は、敵対的マルチアームバンディット(MAB)問題に対する最適解であると考えられている。
重み付き設定のMAB問題に対するクリッピング(INFclip)を用いたINFの新バージョン"Implicitly Normalized Forecaster"を提案する。
INFclipは線形重み付きMAB問題に対して最適であり、非線形問題に対して有効であることを示す。
論文 参考訳(メタデータ) (2023-05-11T12:00:43Z) - Convergence of ease-controlled Random Reshuffling gradient Algorithms under Lipschitz smoothness [0.0]
非常に多くのスムーズで可能な非サイズの関数の平均を考慮し、この問題に対処するために2つの広く最小限のフレームワークを使用します。
IG/RRスキームの簡易制御による修正を定義する。
我々は、完全なバッチ勾配(L-BFGS)とIG/RR手法の実装の両方で実装を証明し、アルゴリズムが同様の計算作業を必要とすることを証明した。
論文 参考訳(メタデータ) (2022-12-04T15:26:36Z) - Compound Batch Normalization for Long-tailed Image Classification [77.42829178064807]
本稿では,ガウス混合に基づく複合バッチ正規化法を提案する。
機能空間をより包括的にモデル化し、ヘッドクラスの優位性を減らすことができる。
提案手法は,画像分類における既存の手法よりも優れている。
論文 参考訳(メタデータ) (2022-12-02T07:31:39Z) - Sample-Then-Optimize Batch Neural Thompson Sampling [50.800944138278474]
我々はトンプソンサンプリング(TS)ポリシーに基づくブラックボックス最適化のための2つのアルゴリズムを提案する。
入力クエリを選択するには、NNをトレーニングし、トレーニングされたNNを最大化してクエリを選択するだけです。
我々のアルゴリズムは、大きなパラメータ行列を逆転する必要性を助長するが、TSポリシーの妥当性は保たれている。
論文 参考訳(メタデータ) (2022-10-13T09:01:58Z) - Towards Target Sequential Rules [52.4562332499155]
ターゲット・シーケンシャル・ルール・マイニング(TaSRM)と呼ばれる効率的なアルゴリズムを提案する。
新たなアルゴリズムであるTaSRMとその変種は,既存のベースラインアルゴリズムと比較して実験性能がよいことを示す。
論文 参考訳(メタデータ) (2022-06-09T18:59:54Z) - FCM-RDpA: TSK Fuzzy Regression Model Construction Using Fuzzy C-Means
Clustering, Regularization, DropRule, and Powerball AdaBelief [31.210783937923832]
本稿では,Powerball AdaBeliefによるMBGD-RDAとAdaBoundを改善したFCM-RDpAを提案する。
MBGD-RDAよりもFCM-RDpAの方が優れていた。
また,FCM-RDpAxという新たな手法を提案し,FCM-RDpAをさらに改良する。
論文 参考訳(メタデータ) (2020-11-30T19:22:15Z) - Fast OSCAR and OWL Regression via Safe Screening Rules [97.28167655721766]
順序付き$L_1$ (OWL)正規化回帰は、高次元スパース学習のための新しい回帰分析である。
近勾配法はOWL回帰を解くための標準手法として用いられる。
未知の順序構造を持つ原始解の順序を探索することにより、OWL回帰の最初の安全なスクリーニングルールを提案する。
論文 参考訳(メタデータ) (2020-06-29T23:35:53Z) - Stratified Rule-Aware Network for Abstract Visual Reasoning [46.015682319351676]
Raven's Progressive Matrices (RPM) テストは一般的に抽象的推論の能力を調べるために使用される。
畳み込みニューラルネットワーク(CNN)を利用した最近の研究は、RPMテストを達成するための奨励的な進歩を達成している。
本稿では,2つの入力シーケンスに対するルール埋め込みを生成するためのSRAN(Stratified Rule-Aware Network)を提案する。
論文 参考訳(メタデータ) (2020-02-17T08:44:05Z) - Adaptive Stopping Rule for Kernel-based Gradient Descent Algorithms [27.002742106701863]
カーネルベース勾配降下アルゴリズムの適応的停止則を提案する。
学習理論の枠組みにおける適応的停止規則の性能を解析する。
論文 参考訳(メタデータ) (2020-01-09T08:12:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。