論文の概要: Sample-Efficiency of Kolmogorov-Arnold Networks
- arxiv url: http://arxiv.org/abs/2610.10627v1
- Date: Wed, 07 Oct 2026 11:17:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.580936
- Title: Sample-Efficiency of Kolmogorov-Arnold Networks
- Title(参考訳): Kolmogorov-Arnold ネットワークのサンプル効率
- Abstract要約: Kolmogorov-Arnold Networksは制御問題の物理的関係を効果的に学習できるアーキテクチャである。
同様の性能は、Kolmogorov-Arnoldアーキテクチャを用いて、40%少ないサンプルで達成可能であることを示す。
これらの結果は、よりサンプル効率のよい強化学習のためのコルモゴロフ・アルノルド建築の可能性を強調している。
- 参考スコア(独自算出の注目度): 7.019812620105444
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep reinforcement learning has achieved substantial performance gains over classical control approaches. Yet, a central challenge to learning in real-world applications is acquiring costly samples. Kolmogorov-Arnold Networks are a recently proposed architecture that can learn physical relationships in control problems effectively, with significantly higher parameter efficiency and interpretability when compared to Multi-Layer-Perceptron architectures. In this work, we systematically study sample-efficiency using computational experiments, covering the Feynman dataset and the Gymnasium RL benchmark. The results show that similar performance can be achieved with 40% fewer samples using the Kolmogorov-Arnold architecture, and that relative performance improvements up to 50% occur during the training process. The observed gains are robust to varying levels of noise in rewards. These results highlight the potential of the Kolmogorov-Arnold architectures for more sample-efficient reinforcement learning. Code: https://github.com/DerKevinRiehl/neurips26_kan_training
- Abstract(参考訳): 深層強化学習は古典的な制御手法よりも大きな性能向上を達成した。
しかし、現実世界のアプリケーションで学習する上で重要な課題は、コストのかかるサンプルを取得することだ。
Kolmogorov-Arnold Networksは、制御問題における物理的関係を効果的に学習できるアーキテクチャである。
本研究では,Feynman データセットと Gymnasium RL ベンチマークを対象とし,計算実験を用いてサンプル効率を体系的に研究する。
その結果、Kolmogorov-Arnoldアーキテクチャを用いて、40%のサンプルで同様のパフォーマンスを達成でき、トレーニングプロセス中に50%までの相対的なパフォーマンス改善が達成できることがわかった。
観測された利得は、報酬の様々なレベルのノイズに対して堅牢である。
これらの結果は、よりサンプル効率のよい強化学習のためのコルモゴロフ・アルノルド建築の可能性を強調している。
コード:https://github.com/DerKevinRiehl/neurips26_kan_training
関連論文リスト
- A framework for measuring the training efficiency of a neural architecture [1.5373453926913085]
本稿では,ニューラルアーキテクチャのトレーニング効率を測定するための実験フレームワークを提案する。
我々は,MNISTタスクとCIFAR-10タスクにおける畳み込みニューラルネットワークとベイズ等価性のトレーニング効率を解析した。
論文 参考訳(メタデータ) (2024-09-12T10:45:38Z) - Enhancing Fast Feed Forward Networks with Load Balancing and a Master Leaf Node [49.08777822540483]
高速フィードフォワードネットワーク(FFF)は、入力空間の異なる領域が広いネットワークのニューロンの異なるサブセットを活性化する観察を利用する。
本稿では,FFFアーキテクチャにロードバランシングとマスタリーフ技術を導入し,性能向上とトレーニングプロセスの簡素化を図る。
論文 参考訳(メタデータ) (2024-05-27T05:06:24Z) - Towards Mitigating Architecture Overfitting on Distilled Datasets [2.3371504588528635]
本稿では,テキストアーキテクチャオーバーフィッティングの問題を緩和するための一連のアプローチを紹介する。
具体的には、DropPathは、大きなモデルをそのサブネットワークの暗黙のアンサンブルとして表現し、知識蒸留により、各サブネットワークが、小さいが、優れた教師ネットワークと同様に振る舞うことが保証される。
テストネットワークがトレーニングネットワークよりも大きい場合、我々のアプローチは同等あるいはそれ以上のパフォーマンスを実現します。
論文 参考訳(メタデータ) (2023-09-08T08:12:29Z) - Metric Residual Networks for Sample Efficient Goal-conditioned
Reinforcement Learning [52.59242013527014]
ゴール条件強化学習(GCRL)は、現実世界の幅広い応用の可能性を秘めている。
サンプル効率は、GCRLにとって最も重要であり、デフォルトでは、エージェントはその目標に達するとのみ報酬を受ける。
GCRLのための新しいニューラルアーキテクチャを導入し、一般的なモノリシックネットワークアーキテクチャよりもはるかに優れたサンプリング効率を実現する。
論文 参考訳(メタデータ) (2022-08-17T08:04:41Z) - Multi-objective Neural Architecture Search with Almost No Training [9.93048700248444]
本稿ではRWE(Random-Weight Evaluation)という,ネットワークアーキテクチャの性能を迅速に評価する手法を提案する。
RWEは、アーキテクチャを評価するための計算コストを数時間から秒に短縮する。
進化的多目的アルゴリズムに統合されると、RWEはCIFAR-10上で2時間以内で1枚のGPUカードを検索し、最先端の性能を持つ効率的なアーキテクチャの集合を得る。
論文 参考訳(メタデータ) (2020-11-27T07:39:17Z) - Off-Policy Reinforcement Learning for Efficient and Effective GAN
Architecture Search [50.40004966087121]
本稿では,GANアーキテクチャ探索のための強化学習に基づくニューラルアーキテクチャ探索手法を提案する。
鍵となる考え方は、よりスムーズなアーキテクチャサンプリングのためのマルコフ決定プロセス(MDP)として、GANアーキテクチャ探索問題を定式化することである。
我々は,従来の政策によって生成されたサンプルを効率的に活用する,非政治的なGANアーキテクチャ探索アルゴリズムを利用する。
論文 参考訳(メタデータ) (2020-07-17T18:29:17Z) - FBNetV3: Joint Architecture-Recipe Search using Predictor Pretraining [65.39532971991778]
サンプル選択とランキングの両方を導くことで、アーキテクチャとトレーニングのレシピを共同でスコアする精度予測器を提案する。
高速な進化的検索をCPU分で実行し、さまざまなリソース制約に対するアーキテクチャと準備のペアを生成します。
FBNetV3は最先端のコンパクトニューラルネットワークのファミリーを構成しており、自動と手動で設計された競合より優れている。
論文 参考訳(メタデータ) (2020-06-03T05:20:21Z) - A Semi-Supervised Assessor of Neural Architectures [157.76189339451565]
我々は、ニューラルネットワークの有意義な表現を見つけるためにオートエンコーダを用いる。
アーキテクチャの性能を予測するために、グラフ畳み込みニューラルネットワークを導入する。
論文 参考訳(メタデータ) (2020-05-14T09:02:33Z) - Fitting the Search Space of Weight-sharing NAS with Graph Convolutional
Networks [100.14670789581811]
サンプルサブネットワークの性能に適合するグラフ畳み込みネットワークを訓練する。
この戦略により、選択された候補集合において、より高いランク相関係数が得られる。
論文 参考訳(メタデータ) (2020-04-17T19:12:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。