論文の概要: Exponentially Weighted l_2 Regularization Strategy in Constructing
Reinforced Second-order Fuzzy Rule-based Model
- arxiv url: http://arxiv.org/abs/2007.01208v1
- Date: Thu, 2 Jul 2020 15:42:15 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-14 13:25:19.183477
- Title: Exponentially Weighted l_2 Regularization Strategy in Constructing
Reinforced Second-order Fuzzy Rule-based Model
- Title(参考訳): 強化二階ファジィ規則モデル構築における指数重み付きl_2正規化戦略
- Authors: Congcong Zhang, Sung-Kwun Oh, Witold Pedrycz, Zunwei Fu and Shanzhen
Lu
- Abstract要約: 従来の高木スゲノカン(TSK)型ファジィモデルでは、定数あるいは線形関数がファジィ規則の連続部分として使用されるのが普通である。
調和解析で遭遇する重み関数理論にインスパイアされた指数重みアプローチを導入する。
- 参考スコア(独自算出の注目度): 72.57056258027336
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the conventional Takagi-Sugeno-Kang (TSK)-type fuzzy models, constant or
linear functions are usually utilized as the consequent parts of the fuzzy
rules, but they cannot effectively describe the behavior within local regions
defined by the antecedent parts. In this article, a theoretical and practical
design methodology is developed to address this problem. First, the information
granulation (Fuzzy C-Means) method is applied to capture the structure in the
data and split the input space into subspaces, as well as form the antecedent
parts. Second, the quadratic polynomials (QPs) are employed as the consequent
parts. Compared with constant and linear functions, QPs can describe the
input-output behavior within the local regions (subspaces) by refining the
relationship between input and output variables. However, although QP can
improve the approximation ability of the model, it could lead to the
deterioration of the prediction ability of the model (e.g., overfitting). To
handle this issue, we introduce an exponential weight approach inspired by the
weight function theory encountered in harmonic analysis. More specifically, we
adopt the exponential functions as the targeted penalty terms, which are
equipped with l2 regularization (l2) (i.e., exponential weighted l2, ewl_2) to
match the proposed reinforced second-order fuzzy rule-based model (RSFRM)
properly. The advantage of el 2 compared to ordinary l2 lies in separately
identifying and penalizing different types of polynomial terms in the
coefficient estimation, and its results not only alleviate the overfitting and
prevent the deterioration of generalization ability but also effectively
release the prediction potential of the model.
- Abstract(参考訳): 従来の高木スゲノカン(TSK)型ファジィモデルでは、定数関数や線形関数は通常ファジィ規則の連続部分として使用されるが、先行部分によって定義された局所領域内の振る舞いを効果的に記述することはできない。
本稿では,この問題に対処するために理論的かつ実用的な設計手法を提案する。
まず、情報顆粒化(fuzzy c-means)法を用いて、データの構造をキャプチャし、入力空間を部分空間に分割し、先行部を形成する。
第2に、二次多項式(QP)が連続部分として用いられる。
定数関数や線形関数と比較して、QPは入力変数と出力変数の関係を洗練することにより、局所領域(部分空間)内の入出力挙動を記述することができる。
しかし、QPはモデルの近似能力を向上させることができるが、モデルの予測能力を低下させる可能性がある(例えば、過剰適合)。
この問題に対処するために,調和解析で遭遇する重み関数理論に着想を得た指数重み法を提案する。
具体的には, 2次ファジィ法則モデル (RSFRM) を適切に適合させるために, l2正則化 (l2) (指数重み付きl2, ewl_2) を具備した目標ペナルティ項として指数関数を用いる。
通常の l2 と比較して el 2 の利点は、係数推定において異なる種類の多項式項を別々に同定し、ペナルティを課すことであり、その結果はオーバーフィッティングを緩和し、一般化能力の低下を防ぐだけでなく、モデルの予測ポテンシャルを効果的に放出する。
関連論文リスト
- Variational formulation based on duality to solve partial differential equations: Use of B-splines and machine learning approximants [0.0]
流体力学における偏微分方程式(PDE)、固体における非弾性変形、過渡放物型方程式および双曲型方程式は、正確な原始的変動構造を持たない。
与えられたPDEを制約として扱うために、双対(ラグランジュ乗算器)場に基づく変分原理が提案された。
双対汎函数の最初の変項の消滅は、双対体上のディリクレ境界条件まで、原始PDE問題の弱形式である。
線形, 一次元, 過渡対流拡散方程式の二重弱形式を導出する。
論文 参考訳(メタデータ) (2024-12-02T07:53:47Z) - Scaling and renormalization in high-dimensional regression [72.59731158970894]
本稿では,様々な高次元リッジ回帰モデルの訓練および一般化性能の簡潔な導出について述べる。
本稿では,物理と深層学習の背景を持つ読者を対象に,これらのトピックに関する最近の研究成果の紹介とレビューを行う。
論文 参考訳(メタデータ) (2024-05-01T15:59:00Z) - Double Duality: Variational Primal-Dual Policy Optimization for
Constrained Reinforcement Learning [132.7040981721302]
本研究では,訪問尺度の凸関数を最小化することを目的として,制約付き凸決定プロセス(MDP)について検討する。
制約付き凸MDPの設計アルゴリズムは、大きな状態空間を扱うなど、いくつかの課題に直面している。
論文 参考訳(メタデータ) (2024-02-16T16:35:18Z) - Mean-Field Analysis for Learning Subspace-Sparse Polynomials with Gaussian Input [10.594689377150356]
勾配降下と2層ニューラルネットワークを用いた部分空間スパース学習のための平均場流について検討する。
我々は,目標関数の特性とアクティベーション関数の表現性の両方を含む,SGD-Lrnabilityに必要な条件を確立する。
論文 参考訳(メタデータ) (2024-02-14T05:34:24Z) - Wasserstein proximal operators describe score-based generative models
and resolve memorization [12.321631823103894]
We first formulate SGMs with terms of Wasserstein proximal operator (WPO)
We show that WPO describe the inductive bias of diffusion and score-based model。
本稿では,SGMの性能を劇的に向上させる,スコア関数の解釈可能なカーネルベースモデルを提案する。
論文 参考訳(メタデータ) (2024-02-09T03:33:13Z) - PDE-constrained Gaussian process surrogate modeling with uncertain data locations [1.943678022072958]
本稿では,入力データの可変性を関数と偏微分方程式近似のガウス過程回帰に組み込むベイズ的手法を提案する。
一般化の連続的な良好な性能が観察され、予測の不確実性の実質的な低減が達成される。
論文 参考訳(メタデータ) (2023-05-19T10:53:08Z) - Data-Driven Influence Functions for Optimization-Based Causal Inference [105.5385525290466]
統計的汎関数に対するガトー微分を有限差分法で近似する構成的アルゴリズムについて検討する。
本研究では,確率分布を事前知識がないが,データから推定する必要がある場合について検討する。
論文 参考訳(メタデータ) (2022-08-29T16:16:22Z) - Estimation of Bivariate Structural Causal Models by Variational Gaussian
Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
因果機構は構造因果モデルによって記述できる。
最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
論文 参考訳(メタデータ) (2021-09-06T14:52:58Z) - Learning Likelihoods with Conditional Normalizing Flows [54.60456010771409]
条件正規化フロー(CNF)はサンプリングと推論において効率的である。
出力空間写像に対する基底密度が入力 x 上で条件づけられた CNF について、条件密度 p(y|x) をモデル化する。
論文 参考訳(メタデータ) (2019-11-29T19:17:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。