論文の概要: RecKAN: Kolmogorov-Arnold Networks with a Learnable Recursive Polynomial Basis
- arxiv url: http://arxiv.org/abs/2609.01729v1
- Date: Tue, 01 Sep 2026 18:01:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-03 17:53:17.769659
- Title: RecKAN: Kolmogorov-Arnold Networks with a Learnable Recursive Polynomial Basis
- Title(参考訳): RecKAN: Kolmogorov-Arnold Networks with a Learnable Recursive Polynomial Basis
- Abstract要約: ここでは、基底自体を第2次再帰で定義するRecKANを紹介します。$KAN_Rn+1(x) = (axbx+c) + (dxbx+c) + (dxn-1(x)$で、5つの係数が学習されます。
その次数は、それら全てを含む部分族に対して正確に$n$で線形に成長し、学習ベースが固定された古典的選択を超えることができるという具体的な感覚を与える。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Kolmogorov--Arnold Networks (KANs) replace the fixed scalar weights of a standard network with learnable univariate functions on each edge, but existing variants still fix the \emph{basis} that those functions are built from: B-splines, Chebyshev polynomials, wavelets, or Jacobi polynomials, and learn only the combination weights over it. We introduce RecKAN, which instead defines the basis itself by a second order polynomial recurrence, $R_{n+1}(x) = (ax^2+bx+c)R_n(x) + (dx+e)R_{n-1}(x)$, whose five coefficients are learned jointly with the network. We show this recurrence recovers several classical polynomial families including both kinds of Chebyshev polynomials, Fibonacci, Pell, and Jacobsthal polynomials as special cases, and prove that its degree grows linearly in $n$ exactly on the sub-family containing all of them, giving a concrete sense in which the learned basis can move beyond any fixed classical choice. Across multiple benchmark datasets spanning image, text, biomedical time series classification, and time series forecasting, RecKAN outperforms three parameter-matched KAN baselines (Chebyshev, Jacobi, and spline based) on all classification tasks and achieves the lowest MSE on the ETTh1 forecasting benchmark. Additionally, when used as a classifier head with a convolutional backbone, RecKAN achieves higher accuracy than standard MLP heads on Fashion MNIST, CIFAR-10, and SVHN. On a synthetic function fitting benchmark it tracks a sharply oscillatory target that a parameter comparable MLP under fits. We further show that the learned recurrence coefficients are interpretable: on the task requiring the most local structure, training moves the basis away from the linear degree growth regime that contains every classical family we identify, consistent with our theoretical analysis of what that structural shift enables.
- Abstract(参考訳): Kolmogorov--Arnold Networks (KANs) は、標準ネットワークの固定スカラー重みを、各エッジ上の学習可能なユニバリケート関数に置き換えるが、既存の変種は、これらの関数が構築されている 'emph{basis} を固定する: B-スプライン、チェビシェフ多項式、ウェーブレット、ヤコビ多項式。
R_{n+1}(x) = (ax^2+bx+c)R_n(x) + (dx+e)R_n-1}(x)$ である。
この再発は、チェビシェフ多項式、フィボナッチ多項式、ペル多項式、ヤコブスタール多項式の両方を含む古典多項式族を特殊ケースとして復元し、その次数が、それらすべてを含む部分族に対して正確に$n$で線形に増加することを証明し、学習基盤が任意の固定古典的選択を超えることができる具体的な感覚を与える。
画像、テキスト、バイオメディカル時系列分類、時系列予測にまたがる複数のベンチマークデータセットにおいて、RecKANは、すべての分類タスクでパラメータマッチングされたKANSAベースライン(Chebyshev、Jacobi、splineベース)を上回り、ETTh1予測ベンチマークで最低のMSEを達成する。
さらに、畳み込みバックボーンを持つ分類器ヘッドとして使用する場合、RecKANはFashion MNIST、CIFAR-10、SVHNの標準MLPヘッドよりも高い精度を達成する。
合成関数フィッティングベンチマークでは、MLPに匹敵するパラメータが適合する急激な振動目標を追跡する。
さらに、学習された再帰係数が解釈可能であることを示し、最も局所的な構造を必要とするタスクにおいて、トレーニングは、その構造シフトができることに関する理論的解析と整合して、我々が特定した古典的な家族全てを含む線形度成長体制から基礎を移動させる。
関連論文リスト
- Primitive Recursion without Composition: Dynamical Characterizations, from Neural Networks to Polynomial ODEs [0.0]
実数値力学により進化した実数値状態について検討する。
これら3つの状態は、実数値力学によって進化した連続体-実数値状態に作用する。
論文 参考訳(メタデータ) (2026-04-27T11:48:49Z) - Beyond Softmax: A Natural Parameterization for Categorical Random Variables [61.709831225296305]
階層的なバイナリ分割のシーケンスで構成される関数である$textitcatnat$関数を紹介します。
実験により,提案した関数は学習効率を向上し,一貫した試験性能を特徴とするモデルが得られることを示した。
論文 参考訳(メタデータ) (2025-09-29T12:55:50Z) - Ehrenfeucht-Haussler Rank and Chain of Thought [51.33559894954108]
本稿では、よく知られたトランスフォーマーアーキテクチャを基盤とした、ランクの新たな特徴付けについて述べる。
関数 $f$ のランクは、単一層変換器が要求する思考ステップの EmphChain の最小値に対応していることを示す。
また、マルチヘッド単一層トランスをキャプチャするマルチヘッドランクの概念を導入し、有界なマルチヘッドランクを持つ関数クラスのPAC学習性の解析を行う。
論文 参考訳(メタデータ) (2025-01-22T16:30:58Z) - Generalization Bounds and Model Complexity for Kolmogorov-Arnold Networks [1.5850926890180461]
Kolmogorov-Arnold Network (KAN)は、Liuらによって最近提案されたネットワーク構造である。
活性化関数を備えたカンの一般化境界を確立することにより、カンの厳密な理論的解析を提供する。
論文 参考訳(メタデータ) (2024-10-10T15:23:21Z) - Incorporating Arbitrary Matrix Group Equivariance into KANs [69.30866522377694]
Kolmogorov-Arnold Networks (KAN) は科学分野で大きな成功を収めている。
本研究では,Equivariant Kolmogorov-Arnold Networks (EKAN)を提案する。
論文 参考訳(メタデータ) (2024-10-01T06:34:58Z) - Exploring the Potential of Polynomial Basis Functions in Kolmogorov-Arnold Networks: A Comparative Study of Different Groups of Polynomials [0.0]
本稿では,ゴットリーブモゴロフネットワーク(KAN)モデルにおける18の異なる特徴とその潜在的な応用について述べる。
本研究は,手書き桁分類などの複雑なタスクに対するkanモデルにおける基本関数としての theseDistincts の適合性を検討することを目的とする。
総合的精度,Kappa,F1スコアを含むkanモデルの性能指標を評価し,比較した。
論文 参考訳(メタデータ) (2024-05-30T20:40:16Z) - GINN-LP: A Growing Interpretable Neural Network for Discovering
Multivariate Laurent Polynomial Equations [1.1142444517901018]
本稿では,解釈可能なニューラルネットワークであるGINN-LPを提案する。
私たちの知る限りでは、これは注文に関する事前情報なしで任意の項を発見できる最初のニューラルネットワークである。
GINN-LPは,データセット上での最先端のシンボル回帰手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-12-18T03:44:29Z) - A Unified Algebraic Perspective on Lipschitz Neural Networks [88.14073994459586]
本稿では,様々なタイプの1-Lipschitzニューラルネットワークを統一する新しい視点を提案する。
そこで本研究では,SDP(Common semidefinite Programming)条件の解析解を求めることによって,既存の多くの手法を導出し,一般化することができることを示す。
SDPベースのLipschitz Layers (SLL) と呼ばれる我々のアプローチは、非自明で効率的な凸ポテンシャル層の一般化を設計できる。
論文 参考訳(メタデータ) (2023-03-06T14:31:09Z) - Equivariance with Learned Canonicalization Functions [77.32483958400282]
正規化を行うために小さなニューラルネットワークを学習することは、事前定義を使用することよりも優れていることを示す。
実験の結果,正準化関数の学習は多くのタスクで同変関数を学習する既存の手法と競合することがわかった。
論文 参考訳(メタデータ) (2022-11-11T21:58:15Z) - Regular Polytope Networks [29.44144177954405]
我々は、変換は精度を損なわず、メモリ使用量を減らすことなく修正できると主張しています。
また、固定および最大分離埋め込みを学ぶために使用することができます。
埋め込みの定常性とその最大分離表現を理論的に正当化できることを示した。
論文 参考訳(メタデータ) (2021-03-29T14:11:32Z) - Bilinear Classes: A Structural Framework for Provable Generalization in
RL [119.42509700822484]
Bilinear Classesは強化学習の一般化を可能にする新しい構造フレームワークである。
このフレームワークは、サンプルの複雑さが達成可能な、ほとんどすべての既存のモデルを取り込んでいる。
我々の主な成果は、双線形クラスのためのサンプル複雑性を持つRLアルゴリズムである。
論文 参考訳(メタデータ) (2021-03-19T16:34:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。