論文の概要: Exponentially Weighted l_2 Regularization Strategy in Constructing Reinforced Second-order Fuzzy Rule-based Model

• arxiv url: http://arxiv.org/abs/2007.01208v1
• Date: Thu, 2 Jul 2020 15:42:15 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-14 13:25:19.183477
• Title: Exponentially Weighted l_2 Regularization Strategy in Constructing Reinforced Second-order Fuzzy Rule-based Model
• Title（参考訳）: 強化二階ファジィ規則モデル構築における指数重み付きl_2正規化戦略
• Authors: Congcong Zhang, Sung-Kwun Oh, Witold Pedrycz, Zunwei Fu and Shanzhen Lu
• Abstract要約: 従来の高木スゲノカン(TSK)型ファジィモデルでは、定数あるいは線形関数がファジィ規則の連続部分として使用されるのが普通である。 調和解析で遭遇する重み関数理論にインスパイアされた指数重みアプローチを導入する。
• 参考スコア（独自算出の注目度）: 72.57056258027336
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In the conventional Takagi-Sugeno-Kang (TSK)-type fuzzy models, constant or linear functions are usually utilized as the consequent parts of the fuzzy rules, but they cannot effectively describe the behavior within local regions defined by the antecedent parts. In this article, a theoretical and practical design methodology is developed to address this problem. First, the information granulation (Fuzzy C-Means) method is applied to capture the structure in the data and split the input space into subspaces, as well as form the antecedent parts. Second, the quadratic polynomials (QPs) are employed as the consequent parts. Compared with constant and linear functions, QPs can describe the input-output behavior within the local regions (subspaces) by refining the relationship between input and output variables. However, although QP can improve the approximation ability of the model, it could lead to the deterioration of the prediction ability of the model (e.g., overfitting). To handle this issue, we introduce an exponential weight approach inspired by the weight function theory encountered in harmonic analysis. More specifically, we adopt the exponential functions as the targeted penalty terms, which are equipped with l2 regularization (l2) (i.e., exponential weighted l2, ewl_2) to match the proposed reinforced second-order fuzzy rule-based model (RSFRM) properly. The advantage of el 2 compared to ordinary l2 lies in separately identifying and penalizing different types of polynomial terms in the coefficient estimation, and its results not only alleviate the overfitting and prevent the deterioration of generalization ability but also effectively release the prediction potential of the model.
• Abstract（参考訳）: 従来の高木スゲノカン(TSK)型ファジィモデルでは、定数関数や線形関数は通常ファジィ規則の連続部分として使用されるが、先行部分によって定義された局所領域内の振る舞いを効果的に記述することはできない。 本稿では,この問題に対処するために理論的かつ実用的な設計手法を提案する。 まず、情報顆粒化(fuzzy c-means)法を用いて、データの構造をキャプチャし、入力空間を部分空間に分割し、先行部を形成する。 第2に、二次多項式(QP)が連続部分として用いられる。 定数関数や線形関数と比較して、QPは入力変数と出力変数の関係を洗練することにより、局所領域(部分空間)内の入出力挙動を記述することができる。 しかし、QPはモデルの近似能力を向上させることができるが、モデルの予測能力を低下させる可能性がある(例えば、過剰適合)。 この問題に対処するために,調和解析で遭遇する重み関数理論に着想を得た指数重み法を提案する。 具体的には, 2次ファジィ法則モデル (RSFRM) を適切に適合させるために, l2正則化 (l2) (指数重み付きl2, ewl_2) を具備した目標ペナルティ項として指数関数を用いる。 通常の l2 と比較して el 2 の利点は、係数推定において異なる種類の多項式項を別々に同定し、ペナルティを課すことであり、その結果はオーバーフィッティングを緩和し、一般化能力の低下を防ぐだけでなく、モデルの予測ポテンシャルを効果的に放出する。

関連論文リスト

• Scaling and renormalization in high-dimensional regression [72.59731158970894]
  本稿では,様々な高次元リッジ回帰モデルの訓練および一般化性能の簡潔な導出について述べる。 本稿では,物理と深層学習の背景を持つ読者を対象に,これらのトピックに関する最近の研究成果の紹介とレビューを行う。
  論文  参考訳（メタデータ） (2024-05-01T15:59:00Z)
• Double Duality: Variational Primal-Dual Policy Optimization for Constrained Reinforcement Learning [132.7040981721302]
  本研究では,訪問尺度の凸関数を最小化することを目的として,制約付き凸決定プロセス(MDP)について検討する。 制約付き凸MDPの設計アルゴリズムは、大きな状態空間を扱うなど、いくつかの課題に直面している。
  論文  参考訳（メタデータ） (2024-02-16T16:35:18Z)
• Wasserstein proximal operators describe score-based generative models and resolve memorization [12.321631823103894]
  We first formulate SGMs with terms of Wasserstein proximal operator (WPO) We show that WPO describe the inductive bias of diffusion and score-based model。 本稿では,SGMの性能を劇的に向上させる,スコア関数の解釈可能なカーネルベースモデルを提案する。
  論文  参考訳（メタデータ） (2024-02-09T03:33:13Z)
• Physics-Informed Gaussian Process Regression Generalizes Linear PDE Solvers [32.57938108395521]
  線形偏微分方程式と呼ばれる力学モデルのクラスは、熱伝達、電磁気、波動伝播などの物理過程を記述するために用いられる。 離散化に基づく特殊数値法はPDEの解法として用いられる。 パラメータや測定の不確実性を無視することで、古典的なPDE解法は固有の近似誤差の一貫した推定を導出できない可能性がある。
  論文  参考訳（メタデータ） (2022-12-23T17:02:59Z)
• Data-Driven Influence Functions for Optimization-Based Causal Inference [105.5385525290466]
  統計的汎関数に対するガトー微分を有限差分法で近似する構成的アルゴリズムについて検討する。 本研究では,確率分布を事前知識がないが,データから推定する必要がある場合について検討する。
  論文  参考訳（メタデータ） (2022-08-29T16:16:22Z)
• A generalization gap estimation for overparameterized models via the Langevin functional variance [6.231304401179968]
  関数分散は過パラメータ設定においても一般化ギャップを特徴付けることを示す。 本稿では,関数分散の効率的な近似,関数分散のランゲヴィン近似(Langevin FV)を提案する。
  論文  参考訳（メタデータ） (2021-12-07T12:43:05Z)
• Estimation of Bivariate Structural Causal Models by Variational Gaussian Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
  因果機構は構造因果モデルによって記述できる。 最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
  論文  参考訳（メタデータ） (2021-09-06T14:52:58Z)
• Learning Likelihoods with Conditional Normalizing Flows [54.60456010771409]
  条件正規化フロー(CNF)はサンプリングと推論において効率的である。 出力空間写像に対する基底密度が入力 x 上で条件づけられた CNF について、条件密度 p(y|x) をモデル化する。
  論文  参考訳（メタデータ） (2019-11-29T19:17:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。