論文の概要: KAConvNet: Kolmogorov-Arnold Convolutional Networks for Vision Recognition
- arxiv url: http://arxiv.org/abs/2604.23320v1
- Date: Sat, 25 Apr 2026 14:14:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-28 17:12:07.268148
- Title: KAConvNet: Kolmogorov-Arnold Convolutional Networks for Vision Recognition
- Title(参考訳): KAConvNet: Kolmogorov-Arnold Convolutional Networks for Vision Recognition
- Authors: Zhaoxiang Liu, Zhicheng Ma, Kaikai Zhao, Kai Wang, Shiguo Lian,
- Abstract要約: コルモゴロフ・アルノルドの表現定理は、ディープラーニングにおいて多層パーセプトロンを置き換える可能性がある。
Kanは学習可能な総和よりも少ないパラメータと説明可能性を提供する。
既存の試みは、学習可能なアクティベーション関数を重みに置き換えただけである。
我々は、コルモゴロフ・アルノルドの表現定理と畳み込みを深く統合した、新しいコルモゴロフ・アルノルド畳み込み層を提案する。
- 参考スコア(独自算出の注目度): 7.167006119077203
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The Convolutional Neural Networks (CNNs) have been the dominant and effective approach for general computer vision tasks. Recently, Kolmogorov-Arnold neural networks (KANs), based on the Kolmogorov-Arnold representation theorem, have shown potential to replace Multi-Layer Perceptrons (MLPs) in deep learning. KANs, which use learnable nonlinear activations on edges and simple summation on nodes, offer fewer parameters and greater explainability compared to MLPs. However, there has been limited exploration of integrating the Kolmogorov-Arnold representation theorem with convolutional methods for computer vision tasks. Existing attempts have merely replaced learnable activation functions with weights, undermining KANs' theoretical foundation and limiting their potential effectiveness. Additionally, the B-spline curves used in KANs suffer from computational inefficiency and a tendency to overfit. In this paper, we propose a novel Kolmogorov-Arnold Convolutional Layer that deeply integrates the Kolmogorov-Arnold representation theorem with convolution. This layer provides stronger method interpretability because it is based on established mathematical theorems and its design has theoretical alignment. Building on the Kolmogorov-Arnold Convolutional Layer, we design an efficient network architecture called KAConvNet, which outperforms existing methods combining KAN and convolution, and achieves competitive performance compared to mainstream ViTs and CNNs. We believe that our work offers valuable insight into the field of artificial intelligence and will inspire the development of more innovative CNNs in the 2020s. The code is publicly available at https://github.com/UnicomAI/KAConvNet.
- Abstract(参考訳): 畳み込みニューラルネットワーク(CNN)は、一般的なコンピュータビジョンタスクにおいて支配的かつ効果的なアプローチである。
近年、コルモゴロフ・アルノルド表現定理に基づくKAN(Kolmogorov-Arnold Neural Network)は、深層学習においてMLP(Multi-Layer Perceptrons)を置き換える可能性を示している。
エッジ上の学習可能な非線形アクティベーションとノード上の単純な和を使用するkanは、MLPよりも少ないパラメータと説明可能性を提供する。
しかし、コルモゴロフ・アルノルド表現定理をコンピュータビジョンタスクの畳み込み法と統合する研究は限られている。
既存の試みでは、学習可能なアクティベーション関数をウェイトに置き換えただけで、カンの理論的基盤を損なわれ、潜在的な有効性を制限している。
さらに、カンで使用されるB-スプライン曲線は、計算の非効率さと過度に適合する傾向に悩まされる。
本稿では、コルモゴロフ・アルノルドの表現定理と畳み込みを深く統合した、新しいコルモゴロフ・アルノルド畳み込み層を提案する。
この層は、確立された数学的定理に基づいており、その設計は理論的なアライメントを持つため、より強い方法の解釈可能性を提供する。
Kolmogorov-Arnold Convolutional Layer上に構築され、KAConvNetと呼ばれる効率的なネットワークアーキテクチャを設計する。
私たちは、私たちの研究が人工知能の分野に関する貴重な洞察を与え、2020年代により革新的なCNNの開発を促すと信じています。
コードはhttps://github.com/UnicomAI/KAConvNetで公開されている。
関連論文リスト
- KAT to KANs: A Review of Kolmogorov-Arnold Networks and the Neural Leap Forward [0.0]
Kolmogorov-Arnold Networksは次元の呪いの影響を受けないとして注目を集めている。
本稿では,コルモゴロフ・アルノルド表現定理と,コルモゴロフ・アルノルドネットワークの基礎となる数学的原理について考察する。
論文 参考訳(メタデータ) (2024-11-15T23:02:26Z) - Residual Kolmogorov-Arnold Network for Enhanced Deep Learning [0.9399249626168465]
深層畳み込みニューラルネットワーク(Deep Convolutional Neural Network, CNN)は、ネットワーク深度内に数百のレイヤがあるため、最適化が困難で、トレーニングにコストがかかる。
我々はResidual Kolmogorov-Arnold Network (RKAN)と呼ばれる"plug-in"モジュールを導入する。
RKANは、異なるビジョンタスクにおけるベースラインモデルよりも一貫した改善を提供する。
論文 参考訳(メタデータ) (2024-10-07T21:12:32Z) - Convolutional Kolmogorov-Arnold Networks [41.94295877935867]
我々はConvolutional Kolmogorov-Arnold Networks(KANs)を紹介する。
Kanは従来の固定重カーネルを学習可能な非線形関数に置き換える。
我々は、Fashion-MNISTデータセット上でConvolutional Kansを評価し、ベースラインCNNと比較して最大50%少ないパラメータで競合精度を実証した。
論文 参考訳(メタデータ) (2024-06-19T02:09:44Z) - U-KAN Makes Strong Backbone for Medical Image Segmentation and Generation [48.40120035775506]
Kolmogorov-Arnold Networks (KAN)は、非線形学習可能なアクティベーション関数のスタックを通じてニューラルネットワーク学習を再構築する。
トークン化中間表現であるU-KAN上に専用kan層を統合することにより,確立したU-Netパイプラインを検証,修正,再設計する。
さらに、拡散モデルにおける代替U-Netノイズ予測器としてのU-KANの可能性を探り、タスク指向モデルアーキテクチャの生成にその適用性を実証した。
論文 参考訳(メタデータ) (2024-06-05T04:13:03Z) - Efficient and Flexible Neural Network Training through Layer-wise Feedback Propagation [49.44309457870649]
レイヤワイドフィードバックフィードバック(LFP)は、ニューラルネットワークのような予測器のための新しいトレーニング原則である。
LFPはそれぞれの貢献に基づいて個々のニューロンに報酬を分解する。
提案手法は,ネットワークの有用な部分と有害な部分の弱体化を両立させる手法である。
論文 参考訳(メタデータ) (2023-08-23T10:48:28Z) - Knowledge Enhanced Neural Networks for relational domains [83.9217787335878]
我々は、ニューラルネットワークに事前論理的知識を注入するニューラルネットワークアーキテクチャであるKENNに焦点を当てる。
本稿では,関係データに対するKENNの拡張を提案する。
論文 参考訳(メタデータ) (2022-05-31T13:00:34Z) - Reinforcement Learning with External Knowledge by using Logical Neural
Networks [67.46162586940905]
論理ニューラルネットワーク(LNN)と呼ばれる最近のニューラルシンボリックフレームワークは、ニューラルネットワークとシンボリックロジックの両方のキープロパティを同時に提供することができる。
外部知識ソースからのモデルフリー強化学習を可能にする統合手法を提案する。
論文 参考訳(メタデータ) (2021-03-03T12:34:59Z) - Neural Networks Enhancement with Logical Knowledge [83.9217787335878]
関係データに対するKENNの拡張を提案する。
その結果、KENNは、存在関係データにおいても、基礎となるニューラルネットワークの性能を高めることができることがわかった。
論文 参考訳(メタデータ) (2020-09-13T21:12:20Z) - Geometrically Principled Connections in Graph Neural Networks [66.51286736506658]
我々は、幾何学的深層学習の新興分野におけるイノベーションの原動力は、幾何が依然として主要な推進力であるべきだと論じている。
グラフニューラルネットワークとコンピュータグラフィックスとデータ近似モデルとの関係:放射基底関数(RBF)
完全連結層とグラフ畳み込み演算子を組み合わせた新しいビルディングブロックであるアフィンスキップ接続を導入する。
論文 参考訳(メタデータ) (2020-04-06T13:25:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。