論文の概要: InKAN: B-Spline KANs via Truncated Power Form
- arxiv url: http://arxiv.org/abs/2609.01956v2
- Date: Thu, 03 Sep 2026 17:25:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-04 16:10:20.291811
- Title: InKAN: B-Spline KANs via Truncated Power Form
- Title(参考訳): インカン B-Spline Kans by Truncated Power Forms (英語)
- Abstract要約: Kolmogorov-Arnold Networksは、ノード上の固定されたアクティベーションではなく、学習可能なB-スプラインのアクティベーションをネットワークエッジに配置する。
InKANは、Cox-de Boorの再帰を停電した電力形式に置き換える。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Kolmogorov-Arnold Networks (KANs) place learnable B-spline activations on network edges rather than fixed activations on nodes. The standard Cox-de Boor recursion evaluates these activations through $k$ sequential passes for degree-$k$ splines, consuming over 90% of forward-pass time. InKAN replaces this recursion with the truncated power form, a classical result from approximation theory that expresses each uniform cubic B-spline as five $(x)_+^3$ terms at shifted knot positions. This paper makes three contributions: (1) a torch.compile-fused implementation that collapses these operations into a single GPU kernel, eliminating all recursion, span lookup, and scatter-gather operations; (2) a bounded-coordinate stabilization that clamps the normalized input to $[0, k{+}1]$, preventing the catastrophic cancellation that historically motivated the Cox-de Boor recursion; and (3) a production-ready, open-source package (pip install inkan) that serves as a drop-in replacement for existing KAN layers.
- Abstract(参考訳): Kolmogorov-Arnold Networks (KAN) は、ノード上の固定アクティベーションではなく、ネットワークエッジ上で学習可能なB-スプラインアクティベーションを配置する。
Cox-de Boor の標準的な再帰は、これらのアクティベーションを$k$シーケンシャルパスで評価する。
InKAN はこの再帰を、シフトノット位置における各均一な立方体 B-スプラインを 5$(x)_+^3$ 項として表す近似理論の古典的な結果である、切り離されたパワー形式に置き換える。
本稿では,従来のCox-de Boor再帰を歴史的に動機づけた破滅的破壊を防止し,既存のKankanレイヤのドロップイン代替として機能する,プロダクション対応のオープンソースパッケージ(pip install inkan)の3つを,1)正規化入力を[0, k{+}1]$にクランプする有界コーディネート安定化を実現する。
関連論文リスト
- Fork Where the Model Changes Its Mind: Belief-Shift Branching for Tree-Structured Reinforcement Learning [62.24941741019998]
分岐配置をチェーンの値曲線のエンフスの位置として定式化し、期待される結果が変わる。
ステップレベルの監視を必要としない3つのインスタンス化は、ブラックボックスプローブ、ログレンズの深さプロファイル、学習されたアクティベーション方向というアクセスレベルにまたがる。
論文 参考訳(メタデータ) (2026-09-10T04:06:45Z) - Geometry-Constrained Kolmogorov-Arnold Networks: Learning Edge Geometry via Banach Duality [0.0]
Kolmogorov-Arnold Networks (KAN) はディープアーキテクチャにおける固定アクティベーションを置き換える。
バナッハ双対写像から導かれるエッジ活性化の族。
学習可能な指数は解釈可能な相対的な信号を与える。
論文 参考訳(メタデータ) (2026-08-26T13:53:13Z) - A mesh-free multiresolution deep energy method with phase-field modeling of brittle fracture [3.177203247615157]
脆性破壊の位相場モデリングはき裂を明示的に追跡する必要をなくす。
本稿では,1つのニューラルネットワークが変位場と位相場を表すメッシュフリーな離散化を提案する。
論文 参考訳(メタデータ) (2026-08-25T06:36:14Z) - BiKAN: Restoring Collapsed Basis of Binary Kolmogorov--Arnold Networks [6.860988566886594]
Kolmogorov-Arnold Network(KAN)のバイナリ化は各レイヤで利用可能な関数空間を変更する。
提案するBiKANは,各2進数2のWalsh文字を加算することにより,この問題に対処する。
W1A1では、ビカンは99.48%、84.38%、Mは55.81%、401AR-10は72AR-100である。
論文 参考訳(メタデータ) (2026-08-02T20:49:59Z) - Quantum Speedups for Stochastic Optimization with Heavy-Tailed Noise [49.730496294398726]
重み付き確率変数に対する新しい量子平均推定器を開発した。
尾指数>4/3$のより強い下界を導出し、次元への非自明な依存が避けられないことを示す。
凸目的関数に対して,量子射影勾配降下法を提案する。
論文 参考訳(メタデータ) (2026-07-28T09:29:37Z) - Identity-Paired Progressive Depth Training: When Trainability Persists Beyond Expressibility [11.5521820702581]
Emphprogressive depth Training (PDT)について検討する。
PDTは階層的なカリキュラムで、新しいレイヤを追加する前に浅い回路をトレーニングする。
以上の結果から,IP-PDTはCNOTゲートの大部分を排除し,両ベースラインよりも低い総ゲートコストを実現することを示す。
論文 参考訳(メタデータ) (2026-07-18T12:47:50Z) - What Does a Discrete Diffusion Model Learn? [71.03603607324338]
離散拡散モデルは、デノイザ、スコア比、ブリッジプラグイン予測器などを学ぶ。
まず, 連続時間マルコフ連鎖 (CTMC) ELBO の任意のノイズ発生過程に対する厳密な導出から始める。
すべてのアイデンティティは、正確に解けるモデル上で近似なしで数値的に検証される。
論文 参考訳(メタデータ) (2026-07-06T17:56:11Z) - Entropy-Gated Latent Recursion [9.65821666936513]
インタイムスケーリングは言語モデル推論を改善する主要なレバーとなっている。
既存の方法は、単一ソースからロールアウトの多様性を導き出す:トークンレベルのサンプリング。
この単軸サンプリング空間は基本的に制限されている。
L$軸は真に温度と相補的であることを示す。
論文 参考訳(メタデータ) (2026-06-15T12:14:01Z) - Learning to Solve Generative ODEs Beyond the Linear Span [50.13853710831612]
空間残留演算子を用いてスカラー係数更新を増強する軽量ニューラルソルバであるSpanLiftを提案する。
SpanLiftは、ピクセル空間の拡散、潜水流のマッチング、降水は今、最先端の数ステップのサンプリングを実現している。
論文 参考訳(メタデータ) (2026-06-07T15:22:13Z) - Efficient Mean Curvature Computation on High-Dimensional Data Manifolds [52.452902154360565]
高次元データセットの各点における局所的な平均曲率の推定は、機械学習アルゴリズムの重要な要素である。
本稿では,このコストを桁違いに削減する2つの補完的貢献を紹介する。
実世界のデータセットの実験では、オリジナルの実装と比較して50倍から300倍のスピードアップが確認されている。
論文 参考訳(メタデータ) (2026-06-04T16:04:31Z) - Quantum Injection Pathways for Implicit Graph Neural Networks [0.8826339811274068]
深度平衡モデル(Deep Equilibrium Model)は、明示的なレイヤのスタックを固定点が出力を定義する単一の演算子に置き換える。
textitIndependent Injectionは、グラフ毎に一度量子信号を計算し、前方固定点解を計算し、解全体にわたって固定する。
textitStateに依存したインジェクションは、代わりにソルバステップ毎に信号を再計算し、現在のイテレーションに適用する。
textitBackboneに依存したインジェクションも同じように再計算されるが、現在のイテレーションで評価された古典的なバックボーンの出力に信号を適用する。
論文 参考訳(メタデータ) (2026-05-09T23:51:46Z) - Collective Kernel EFT for Pre-activation ResNets [0.20625936401496234]
有限幅ディープニューラルネットワークでは、経験的カーネル$G$が層間で進化する。
プリアクティベーション ResNets のための集合カーネル有効場理論 (EFT) を$G$のみのクロージャ階層に基づいて開発し,その有限クロージャウィンドウの診断を行う。
論文 参考訳(メタデータ) (2026-04-17T06:31:50Z) - The Spectral Dimension of NTKs is Constant: A Theory of Implicit Regularization, Finite-Width Stability, and Scalable Estimation [0.0]
定数極限法則 $lim_ntoinfty mathbbE[r_texteff(K_n)] = mathbbE[k(x, x)]2 を証明する。
有限幅 NTK が作用素ノルムにおいて $O_p(m-1/2)$ でずれるなら、$r_texteff$ は $O_p(m-1/2)$ で変化する。
ランダムを用いたスケーラブルな推定器を設計する
論文 参考訳(メタデータ) (2025-11-30T12:14:21Z) - PolyKAN: Efficient Fused GPU Operators for Polynomial Kolmogorov-Arnold Network Variants [10.239332579225522]
Kolmogorov-Arnold Networks (KAN) はマルチレイヤ・パーセプトロンよりも高い表現能力と高い解釈性を約束している。
我々は,kanとその変種の最初のオープンソース実装であるPolyKANというGPUアクセラレーション演算子ライブラリを提案する。
論文 参考訳(メタデータ) (2025-11-18T19:05:16Z) - Sublinear Time Quantum Sensitivity Sampling [57.356528942341534]
本稿では、量子感応サンプリングのための統一的なフレームワークを提案し、量子コンピューティングの利点を古典近似問題の幅広いクラスに拡張する。
我々のフレームワークは、コアセットを構築するための合理化されたアプローチを提供し、クラスタリング、回帰、低ランク近似などのアプリケーションにおいて、大幅なランタイム改善を提供します。
論文 参考訳(メタデータ) (2025-09-20T20:18:49Z) - Convergence Rate Analysis of LION [54.28350823319057]
LION は、勾配カルシュ=クーン=T (sqrtdK-)$で測定された $cal(sqrtdK-)$ の反復を収束する。
従来のSGDと比較して,LIONは損失が小さく,性能も高いことを示す。
論文 参考訳(メタデータ) (2024-11-12T11:30:53Z) - Kolmogorov-Arnold Transformer [72.88137795439407]
Kolmogorov-Arnold Transformer(KAT)は,階層をKAN(Kolmogorov-Arnold Network)層に置き換える新しいアーキテクチャである。
C1)基本関数,(C2)非効率,(C3)重みの3つの主要な課題を特定する。
これらの設計により、KATは従来のトランスフォーマーよりも優れている。
論文 参考訳(メタデータ) (2024-09-16T17:54:51Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Improved techniques for deterministic l2 robustness [63.34032156196848]
畳み込みニューラルネットワーク(CNN)を$l_2$ノルムの下で厳密な1-Lipschitz制約で訓練することは、対向的堅牢性、解釈可能な勾配、安定した訓練に有用である。
我々は,最後の線形層を1重層に置き換えることで,1-Lipschitz CNNのロバスト性を証明する手法を提案する。
我々は,CIFAR-10およびCIFAR-100における標準および証明可能な堅牢な精度の最先端化を図る。
論文 参考訳(メタデータ) (2022-11-15T19:10:12Z) - Regret Bounds for Noise-Free Cascaded Kernelized Bandits [45.551266812295005]
RKHS関数クラスを用いたノイズフリーグレーボックス設定において,関数ネットワークの最適化を検討する。
本研究では,(1)チェーン:スカラー値関数のカスケード,(2)マルチアウトプットチェーン:ベクトル値関数のカスケード,(3)フィードフォワードネットワーク:完全に接続されたスカラー値関数のフィードフォワードネットワークの3種類の構造について検討する。
論文 参考訳(メタデータ) (2022-11-10T09:12:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。