論文の概要: FC-KAN: Function Combinations in Kolmogorov-Arnold Networks

• arxiv url: http://arxiv.org/abs/2409.01763v3
• Date: Sun, 02 Feb 2025 13:16:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-04 16:07:30.469793
• Title: FC-KAN: Function Combinations in Kolmogorov-Arnold Networks
• Title（参考訳）: FC-KAN:Kolmogorov-Arnoldネットワークにおける機能結合
• Authors: Hoang-Thang Ta, Duy-Quy Thai, Abu Bakar Siddiqur Rahman, Grigori Sidorov, Alexander Gelbukh,
• Abstract要約: FC-KANはKAN(Kolmogorov-Arnold Network)の一種で、低次元データ上で一般的な数学的関数を利用する。 FC-KANをマルチ層パーセプトロンネットワーク(MLP)と、BSRBF-KAN、EfficientKAN、FastKAN、FasterKANなどの既存のKANと比較する。 B-スプラインからの出力とガウスの差(DoG)とB-スプラインからの出力と2次関数の形での線形変換を組み合わせたFC-KANの2つの変種は、平均上の他のモデル全体よりも優れていた。
• 参考スコア（独自算出の注目度）: 48.39771439237495
• License:
• Abstract: In this paper, we introduce FC-KAN, a Kolmogorov-Arnold Network (KAN) that leverages combinations of popular mathematical functions such as B-splines, wavelets, and radial basis functions on low-dimensional data through element-wise operations. We explore several methods for combining the outputs of these functions, including sum, element-wise product, the addition of sum and element-wise product, representations of quadratic and cubic functions, concatenation, linear transformation of the concatenated output, and others. In our experiments, we compare FC-KAN with a multi-layer perceptron network (MLP) and other existing KANs, such as BSRBF-KAN, EfficientKAN, FastKAN, and FasterKAN, on the MNIST and Fashion-MNIST datasets. Two variants of FC-KAN, which use a combination of outputs from B-splines and Difference of Gaussians (DoG) and from B-splines and linear transformations in the form of a quadratic function, outperformed overall other models on the average of 5 independent training runs. We expect that FC-KAN can leverage function combinations to design future KANs. Our repository is publicly available at: https://github.com/hoangthangta/FC_KAN.
• Abstract（参考訳）: 本稿では,B-スプライン,ウェーブレット,ラジアル基底関数といった一般的な数学的関数を,要素演算による低次元データ上で組み合わせた,コルモゴロフ・アルノルドネットワーク(KAN)について紹介する。 これらの関数の出力を和、要素積、和と要素積の加算、二次関数と立方関数の表現、連結、連結出力の線形変換などを組み合わせるためのいくつかの方法を検討する。 実験では,MNISTデータセットとFashion-MNISTデータセット上で,FC-KANとBSRBF-KAN,EfficientKAN,FastKAN,FasterKANなどの既存のKANとを比較した。 B-スプラインの出力とガウスの差(DoG)とB-スプラインの出力と2次関数の形での線形変換を組み合わせたFC-KANの2つの変種は、平均5つの独立トレーニングランで他のモデルよりも優れていた。 我々は,FC-KANが機能の組み合わせを利用して将来のkanを設計できることを期待している。 私たちのリポジトリは、https://github.com/hoangthangta/FC_KAN.comで公開されています。

関連論文リスト

• Incorporating Arbitrary Matrix Group Equivariance into KANs [69.30866522377694]
  我々は任意の行列群同変をkanに組み込む方法であるEquivariant Kolmogorov-Arnold Networks (EKAN)を提案する。 EKANは、粒子散乱や3体問題といった対称性に関連したタスクにおいて、より小さなデータセットやより少ないパラメータで高い精度を達成する。
  論文  参考訳（メタデータ） (2024-10-01T06:34:58Z)
• Kolmogorov-Arnold Transformer [72.88137795439407]
  Kolmogorov-Arnold Transformer(KAT)は,階層をKAN(Kolmogorov-Arnold Network)層に置き換える新しいアーキテクチャである。 C1)基本関数,(C2)非効率,(C3)重みの3つの主要な課題を特定する。 これらの設計により、KATは従来のトランスフォーマーよりも優れている。
  論文  参考訳（メタデータ） (2024-09-16T17:54:51Z)
• SineKAN: Kolmogorov-Arnold Networks Using Sinusoidal Activation Functions [0.0]
  本稿では,B-Splineアクティベーション関数の学習可能なグリッドを,再重み付き正弦関数のグリッド(SineKAN)に置き換えるモデルを提案する。 我々は,B-Spline Kanモデルに匹敵する性能を示すとともに,周期的コサイン関数と正弦関数をベースとしたKAN実装を提案する。
  論文  参考訳（メタデータ） (2024-07-04T20:53:19Z)
• BSRBF-KAN: A combination of B-splines and Radial Basis Functions in Kolmogorov-Arnold Networks [3.844398528249339]
  本稿では,B-splines と radial basis function (RBF) を組み合わせたコルモゴロフ・アーノルドネットワーク (KAN) のBSRBF-KANを紹介する。 BSRBF-KANは、MNISTで平均97.55%、Fashion-MNISTで89.33%の精度で5回のトレーニングで安定している。
  論文  参考訳（メタデータ） (2024-06-17T03:26:02Z)
• NPEFF: Non-Negative Per-Example Fisher Factorization [52.44573961263344]
  エンド・ツー・エンドの微分可能モデルに容易に適用可能な,NPEFFと呼ばれる新しい解釈可能性手法を提案する。 我々はNPEFFが言語モデルと視覚モデルの実験を通して解釈可能なチューニングを持つことを実証した。
  論文  参考訳（メタデータ） (2023-10-07T02:02:45Z)
• Graph-Regularized Manifold-Aware Conditional Wasserstein GAN for Brain Functional Connectivity Generation [13.009230460620369]
  SPD多様体上でのFCデータ生成のためのグラフ正規化条件付きWasserstein GAN(GR-SPD-GAN)を提案する。 GR-SPD-GANは、より現実的なfMRIベースのFCサンプルを生成する際に、最先端のGANよりも明らかに優れている。
  論文  参考訳（メタデータ） (2022-12-10T14:51:44Z)
• Learning with MISELBO: The Mixture Cookbook [62.75516608080322]
  本稿では,VampPriorとPixelCNNデコーダネットワークを用いて,フローベース階層型変分オートエンコーダ(VAE)の正規化のための変分近似を初めて提案する。 我々は、この協調行動について、VIと適応的重要度サンプリングの新たな関係を描いて説明する。 我々は、MNISTおよびFashionMNISTデータセット上の負のログ類似度の観点から、VAEアーキテクチャの最先端結果を得る。
  論文  参考訳（メタデータ） (2022-09-30T15:01:35Z)
• Graph-adaptive Rectified Linear Unit for Graph Neural Networks [64.92221119723048]
  グラフニューラルネットワーク(GNN)は、従来の畳み込みを非ユークリッドデータでの学習に拡張することで、目覚ましい成功を収めた。 本稿では,周辺情報を利用した新しいパラメトリックアクティベーション機能であるグラフ適応整流線形ユニット(GRELU)を提案する。 我々は,GNNのバックボーンと様々な下流タスクによって,プラグアンドプレイGRELU法が効率的かつ効果的であることを示す包括的実験を行った。
  論文  参考訳（メタデータ） (2022-02-13T10:54:59Z)
• Reciprocal Adversarial Learning via Characteristic Functions [12.961770002117142]
  GAN(Generative Adversarial Nets)は、複雑な分散を伴うタスクに好まれるツールである。 特徴関数(CF)を用いて分布を時間ではなく時間的に比較する方法を示す。 次に、逆数が存在する場合の埋め込み領域とデータ領域の等価性を証明し、自動エンコーダ構造で自然にGANを開発する。 この効率的な構造は、単純なトレーニング戦略とともに2つのモジュールのみを使用して、双方向で鮮明な画像を生成する。
  論文  参考訳（メタデータ） (2020-06-15T14:04:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。