論文の概要: KAN-MLP-Mixer: A comprehensive investigation of the usage of Kolmogorov-Arnold Networks (KANs) for improving IMU-based Human Activity Recognition
- arxiv url: http://arxiv.org/abs/2605.19031v1
- Date: Mon, 18 May 2026 18:55:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-20 15:03:08.930753
- Title: KAN-MLP-Mixer: A comprehensive investigation of the usage of Kolmogorov-Arnold Networks (KANs) for improving IMU-based Human Activity Recognition
- Title(参考訳): Kan-MLP-Mixer:IMUに基づく人間活動認識向上のためのKAN(Kolmogorov-Arnold Networks)の利用に関する総合的研究
- Authors: Mengxi Liu, Sizhen Bian, Vitor Fortes, Francisco Calatrava Nicolas, Daniel Geißler, Maximilian Kiefer-Emmanouilidis, Bo Zhou, Paul Lukowicz,
- Abstract要約: Kolmogorov-Arnold Networks (KAN) はクリーンで低次元のデータで複雑な関数を学習する能力を示した。
対照的に、従来の多層パーセプトロン(MLP)はノイズに対してはるかに耐性があり、計算効率が良い。
HARモデルですべてのコンポーネントをkanに置き換えると、精度と効率が低下することが多い。
両パラダイムの強みを戦略的に相乗化するハイブリッドアーキテクチャを提案する。
- 参考スコア(独自算出の注目度): 11.011155958467787
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Kolmogorov-Arnold Networks (KANs) have demonstrated an exceptional ability to learn complex functions on clean, low-dimensional data but struggle to maintain performance on noisy and imperfect real-world datasets. In contrast, conventional multi-layer perceptrons (MLPs) are far more tolerant to noise and computationally efficient. Replacing all MLP components with KANs in HAR models often degrades accuracy and computation efficiency, highlighting an open challenge: how to combine KANs' precision with MLPs' noise robustness and efficiency. To address this, we systematically explore various placements of KAN modules within deep HAR networks and propose a hybrid architecture that strategically synergizes the strengths of both paradigms, which uses a KAN-based input embedding layer, retains MLP layers for intermediate feature mixing, and introduces a specialized LarctanKAN module for final activity classification. Across eight public HAR datasets, the hybrid KAN-MLP model achieves an average macro F1 score relative improvement of 5.33\% compared pure-MLP model, significantly outperforming standalone KAN and MLP baselines. Furthermore, integrating this hybrid strategy into other state-of-the-art HAR architectures consistently boosts their performance. Our findings demonstrate that a carefully orchestrated combination of KAN, MLP, or other conventional neural components yields more robust and accurate HAR models for real-world wearable sensing environments.
- Abstract(参考訳): Kolmogorov-Arnold Networks (KAN)は、クリーンで低次元のデータで複雑な関数を学習する能力を示したが、ノイズや不完全な実世界のデータセットのパフォーマンスを維持するのに苦労している。
対照的に、従来の多層パーセプトロン(MLP)はノイズに対してはるかに耐性があり、計算効率が良い。
HARモデルですべてのMLPコンポーネントをKansに置き換えると、精度と計算効率が劣化し、オープンな課題が浮き彫りになる。
そこで我々は, 深層HARネットワークにおけるkanモジュールの配置を体系的に検討し, 両パラダイムの強みを戦略的に相乗化するハイブリッドアーキテクチャを提案する。
8つの公開HARデータセット全体で、ハイブリッドなKAN-MLPモデルは、純粋なMLPモデルと比較して平均的なマクロF1スコアの相対的な改善を達成し、スタンドアローンのKANとMLPベースラインを著しく上回った。
さらに、このハイブリッド戦略を他の最先端のHARアーキテクチャに統合することは、そのパフォーマンスを継続的に向上させる。
以上の結果から,KAN,MLP,その他の従来のニューラルコンポーネントを慎重に組み合わせることで,現実のウェアラブルセンシング環境においてより堅牢で正確なHARモデルが得られることが示唆された。
関連論文リスト
- Adaptive Dual-Weighting Framework for Federated Learning via Out-of-Distribution Detection [53.45696787935487]
Federated Learning (FL)は、大規模分散サービスノード間の協調的なモデルトレーニングを可能にする。
実世界のサービス指向デプロイメントでは、異種ユーザ、デバイス、アプリケーションシナリオによって生成されたデータは本質的にIIDではない。
FLoodは、オフ・オブ・ディストリビューション(OOD)検出にインスパイアされた新しいFLフレームワークである。
論文 参考訳(メタデータ) (2026-02-01T05:54:59Z) - FMIP: Joint Continuous-Integer Flow For Mixed-Integer Linear Programming [52.52020895303244]
Mixed-Integer Linear Programming (MILP)は、複雑な意思決定問題の基本的なツールである。
混合整数線形計画法(FMIP)のための連立連続整数フローを提案する。これはMILPソリューションにおける整数変数と連続変数の共分散をモデル化する最初の生成フレームワークである。
FMIPは任意のバックボーンネットワークや様々なダウンストリームソルバと完全に互換性があり、現実世界のMILPアプリケーションにも適している。
論文 参考訳(メタデータ) (2025-07-31T10:03:30Z) - Scientific Machine Learning with Kolmogorov-Arnold Networks [0.0]
科学機械学習の分野は、データエンコーディングにコルモゴロフ・アルノルドネットワーク(KAN)をますます採用している。
カンは、複雑な非線形相互作用のより効率的なモデリングを可能にする、解釈可能性と柔軟性の強化による問題に対処する。
本稿では,データ駆動学習(i)物理インフォームドモデリング(ii)深層学習(iii)の3つの観点から,KAモデルにおける最近の進歩を分類する。
論文 参考訳(メタデータ) (2025-07-30T01:26:44Z) - Bridging KAN and MLP: MJKAN, a Hybrid Architecture with Both Efficiency and Expressiveness [5.474797258314827]
Modulation Joint Kan (MJKAN)は、これらの課題を克服するために設計された新しいニューラルネットワーク層である。
MJKANは、FILM(Feature-wise Linear Modulation)のようなメカニズムと放射基底関数の活性化を統合している。
我々は,関数回帰,画像分類(MNIST, CIFAR-10/100),自然言語処理(AG News, SMS)など,様々なベンチマークでMJKANの性能を実証的に検証した。
論文 参考訳(メタデータ) (2025-07-07T06:13:32Z) - Enhancing Federated Learning with Kolmogorov-Arnold Networks: A Comparative Study Across Diverse Aggregation Strategies [0.24578723416255752]
Kolmogorov-Arnold Networks (KAN) は複雑な非線形関係をモデル化する有望な能力を示している。
Kansは精度、安定性、収束効率の点で、Multilayer Perceptronsを一貫して上回っている。
論文 参考訳(メタデータ) (2025-05-12T14:56:27Z) - Kolmogorov-Arnold Networks in Low-Data Regimes: A Comparative Study with Multilayer Perceptrons [2.77390041716769]
Kolmogorov-Arnold Networks (KAN) は、ネットワークエッジ上で直接、高度に柔軟な学習可能なアクティベーション関数を使用する。
kanは学習可能なパラメータの数を大幅に増加させ、データスカース環境での有効性に対する懸念を高めます。
個別化活性化関数はパラメータの緩やかな増加だけで予測精度が大幅に向上することを示す。
論文 参考訳(メタデータ) (2024-09-16T16:56:08Z) - Model-Based RL for Mean-Field Games is not Statistically Harder than Single-Agent RL [57.745700271150454]
モデルに基づく関数近似を用いた平均フィールドゲーム(MFG)における強化学習のサンプル複雑性について検討した。
本稿では、モデルクラスの複雑性を特徴付けるためのより効果的な概念である部分モデルベースエルダー次元(P-MBED)を紹介する。
論文 参考訳(メタデータ) (2024-02-08T14:54:47Z) - Efficient Language Modeling with Sparse all-MLP [53.81435968051093]
すべてのMLPは、言語モデリングにおいてTransformerと一致するが、下流タスクではまだ遅れている。
特徴量と入力量の両方でMoE(Mix-of-Experts)を混合したスパースオールMLPを提案する。
6つの下流タスクにおいて、ゼロショットのインコンテキスト学習性能を評価し、トランスフォーマーベースのMoEや高密度トランスフォーマーを上回る結果を得た。
論文 参考訳(メタデータ) (2022-03-14T04:32:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。