論文の概要: Exploring the Potential of Polynomial Basis Functions in Kolmogorov-Arnold Networks: A Comparative Study of Different Groups of Polynomials

• arxiv url: http://arxiv.org/abs/2406.02583v2
• Date: Mon, 14 Oct 2024 01:58:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-15 15:05:32.176728
• Title: Exploring the Potential of Polynomial Basis Functions in Kolmogorov-Arnold Networks: A Comparative Study of Different Groups of Polynomials
• Title（参考訳）: Kolmogorov-Arnoldネットワークにおける多項式基底関数の可能性を探る:異なる多項式群の比較研究
• Authors: Seyd Teymoor Seydi,
• Abstract要約: 本稿では,ゴットリーブモゴロフネットワーク(KAN)モデルにおける18の異なる特徴とその潜在的な応用について述べる。 本研究は,手書き桁分類などの複雑なタスクに対するkanモデルにおける基本関数としての theseDistincts の適合性を検討することを目的とする。 総合的精度,Kappa,F1スコアを含むkanモデルの性能指標を評価し,比較した。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: This paper presents a comprehensive survey of 18 distinct polynomials and their potential applications in Kolmogorov-Arnold Network (KAN) models as an alternative to traditional spline-based methods. The polynomials are classified into various groups based on their mathematical properties, such as orthogonal polynomials, hypergeometric polynomials, q-polynomials, Fibonacci-related polynomials, combinatorial polynomials, and number-theoretic polynomials. The study aims to investigate the suitability of these polynomials as basis functions in KAN models for complex tasks like handwritten digit classification on the MNIST dataset. The performance metrics of the KAN models, including overall accuracy, Kappa, and F1 score, are evaluated and compared. The Gottlieb-KAN model achieves the highest performance across all metrics, suggesting its potential as a suitable choice for the given task. However, further analysis and tuning of these polynomials on more complex datasets are necessary to fully understand their capabilities in KAN models. The source code for the implementation of these KAN models is available at https://github.com/seydi1370/Basis_Functions .
• Abstract（参考訳）: 本稿では,従来のスプライン法に代わるKANモデルにおける18個の多項式の包括的調査とその可能性について述べる。 多項式は、直交多項式、超幾何多項式、q-ポリノミアル、フィボナッチ関連多項式、組合せ多項式、数理論多項式などの数学的性質に基づいて、様々な群に分類される。 本研究は,MNISTデータセット上の手書き桁分類のような複雑なタスクに対するkanモデルにおける基底関数としてのこれらの多項式の適合性を検討することを目的とする。 総合的精度,Kappa,F1スコアを含むkanモデルの性能指標を評価し,比較した。 Gottlieb-KANモデルはすべてのメトリクスで最高のパフォーマンスを達成し、与えられたタスクに適した選択肢としての可能性を示している。 しかし、より複雑なデータセット上のこれらの多項式のさらなる解析とチューニングは、kanモデルにおけるそれらの能力を十分に理解するために必要である。 これらのkanモデルの実装のソースコードはhttps://github.com/seydi1370/Basis_Functions で公開されている。

関連論文リスト

• Equivariant Graph Network Approximations of High-Degree Polynomials for Force Field Prediction [62.05532524197309]
  同変深部モデルでは、分子動力学シミュレーションにおいて原子ポテンシャルと力場を正確に予測できることが示されている。 本研究では、同変アーキテクチャの同変関数を解析し、PACEと呼ばれる新しい同変ネットワークを導入する。 一般的なベンチマークで実験されたように、PACEは原子エネルギーと力場の予測における最先端のパフォーマンスを示す。
  論文  参考訳（メタデータ） (2024-11-06T19:34:40Z)
• GINN-LP: A Growing Interpretable Neural Network for Discovering Multivariate Laurent Polynomial Equations [1.1142444517901018]
  本稿では,解釈可能なニューラルネットワークであるGINN-LPを提案する。 私たちの知る限りでは、これは注文に関する事前情報なしで任意の項を発見できる最初のニューラルネットワークである。 GINN-LPは,データセット上での最先端のシンボル回帰手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-12-18T03:44:29Z)
• Learning and Generalizing Polynomials in Simulation Metamodeling [7.41244589428771]
  本稿では、高次ニューラルネットワークを近似するための乗法アーキテクチャ(MNN)を収集し、提案する。 実験の結果、MNNはベースラインモデルよりも一般化し、その検証性能はアウト・オブ・ディストリビューションテストのパフォーマンスに忠実であることがわかった。
  論文  参考訳（メタデータ） (2023-07-20T14:11:29Z)
• Revisiting Tropical Polynomial Division: Theory, Algorithms and Application to Neural Networks [40.137069931650444]
  熱帯幾何学は、最近、一方向線形活性化関数を持つニューラルネットワークの解析にいくつかの応用を見出した。 本稿では,熱帯分断問題に対する新たな考察とニューラルネットワークの単純化への応用について述べる。
  論文  参考訳（メタデータ） (2023-06-27T02:26:07Z)
• Graph Neural Networks with Learnable and Optimal Polynomial Bases [14.8308791628821]
  グラフネットワークの一種である多項式フィルタは、通常、所定のベースを使用して、トレーニングデータから係数を学習する。 トレーニングデータから適切なベースを学べますか? 与えられたグラフとノードの最適な基底を決定できるだろうか?
  論文  参考訳（メタデータ） (2023-02-24T03:24:04Z)
• PAC Reinforcement Learning for Predictive State Representations [60.00237613646686]
  部分的に観察可能な力学系におけるオンライン強化学習(RL)について検討する。 我々は、他のよく知られたモデルをキャプチャする表現モデルである予測状態表現(PSR)モデルに焦点を当てる。 我々は,サンプル複雑性のスケーリングにおいて,ほぼ最適なポリシを学習可能な,PSRのための新しいモデルベースアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2022-07-12T17:57:17Z)
• Partial Counterfactual Identification from Observational and Experimental Data [83.798237968683]
  観測データと実験データの任意の組み合わせから最適境界を近似する有効なモンテカルロアルゴリズムを開発した。 我々のアルゴリズムは、合成および実世界のデータセットに基づいて広範囲に検証されている。
  論文  参考訳（メタデータ） (2021-10-12T02:21:30Z)
• Bilinear Classes: A Structural Framework for Provable Generalization in RL [119.42509700822484]
  Bilinear Classesは強化学習の一般化を可能にする新しい構造フレームワークである。 このフレームワークは、サンプルの複雑さが達成可能な、ほとんどすべての既存のモデルを取り込んでいる。 我々の主な成果は、双線形クラスのためのサンプル複雑性を持つRLアルゴリズムである。
  論文  参考訳（メタデータ） (2021-03-19T16:34:20Z)
• Finite-Function-Encoding Quantum States [52.77024349608834]
  任意の$d$値論理関数を符号化する有限関数符号化(FFE)を導入する。 それらの構造的特性について検討する。
  論文  参考訳（メタデータ） (2020-12-01T13:53:23Z)
• On Polynomial Approximations for Privacy-Preserving and Verifiable ReLU Networks [6.130998208629276]
  次数2のアクティベーション関数を1次項で提案し、より優れたモデルに導出できることを実証的に示す。 提案関数は正方形関数と比較して最大10.4%精度が向上する。
  論文  参考訳（メタデータ） (2020-11-11T03:32:22Z)
• From Sets to Multisets: Provable Variational Inference for Probabilistic Integer Submodular Models [82.95892656532696]
  サブモジュール関数は機械学習やデータマイニングにおいて広く研究されている。 本研究では,整数部分モジュラ函数に対する連続DR-部分モジュラ拡張を提案する。 整数部分モジュラー関数によって定義される新しい確率モデルを定式化する。
  論文  参考訳（メタデータ） (2020-06-01T22:20:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。