論文の概要: Learning Nonlinear Heterogeneity in Physical Kolmogorov-Arnold Networks
- arxiv url: http://arxiv.org/abs/2601.15340v1
- Date: Tue, 20 Jan 2026 16:00:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-23 21:37:20.363403
- Title: Learning Nonlinear Heterogeneity in Physical Kolmogorov-Arnold Networks
- Title（参考訳）: 物理コルモゴロフ・アルノルドネットワークにおける非線形不均一性の学習
- Authors: Fabiana Taglietti, Andrea Pulici, Maxwell Roxburgh, Gabriele Seguini, Ian Vidamour, Stephan Menzel, Edoardo Franco, Michele Laus, Eleni Vasilaki, Michele Perego, Thomas J. Hayward, Marco Fanciulli, Jack C. Gartside,
- Abstract要約: 物理ニューラルネットワークは典型的には線形シナプス重みを訓練し、デバイス非線形性を固定として扱う。
シナプス非線形性自体をトレーニングすることで、物理リソース当たりのタスク性能が著しく向上することを示す。
我々は「シナプス素子」と呼ぶシリコンオン絶縁体デバイスにおける物理KAを実験的に実現した。
- 参考スコア（独自算出の注目度）: 0.7743990032107954
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Physical neural networks typically train linear synaptic weights while treating device nonlinearities as fixed. We show the opposite - by training the synaptic nonlinearity itself, as in Kolmogorov-Arnold Network (KAN) architectures, we yield markedly higher task performance per physical resource and improved performance-parameter scaling than conventional linear weight-based networks, demonstrating ability of KAN topologies to exploit reconfigurable nonlinear physical dynamics. We experimentally realise physical KANs in silicon-on-insulator devices we term 'Synaptic Nonlinear Elements' (SYNEs), operating at room temperature, 0.1-1 microampere currents, and 2 MHz speeds with no observed degradation over 10^13 measurements and months-long timescales. We demonstrate nonlinear function regression, classification, and prediction of Li-Ion battery dynamics from noisy real-world multi-sensor data. Physical KANs outperform equivalently-parameterised software multilayer perceptron networks across all tasks, with up to two orders of magnitude fewer parameters, and two orders of magnitude fewer devices than linear weight based physical networks. These results establish learned physical nonlinearity as a hardware-native computational primitive for compact and efficient learning systems, and SYNE devices as effective substrates for heterogenous nonlinear computing.
- Abstract（参考訳）: 物理ニューラルネットワークは典型的には線形シナプス重みを訓練し、デバイス非線形性を固定として扱う。
我々は,KANアーキテクチャのようにシナプス非線形性自体をトレーニングすることにより,従来の線形重み付けネットワークよりも物理資源当たりのタスク性能が著しく向上し,性能パラメータのスケーリングが向上し,再構成可能な非線形物理力学を活用できるKAトポロジーの能力を実証する。
SYNE(Synaptic Non Elements)と呼ばれるシリコンオン絶縁体デバイスにおいて,10^13測定値と1ヶ月の時間スケールでの劣化を観測することなく,室温0.1-1マイクロアンペア電流,2MHzの速度で動作させる物理KAを実験的に実現した。
雑音の多い実世界のマルチセンサデータからLi-Ion電池の非線形特性の回帰、分類、予測を実証する。
物理カンは、全てのタスクにわたって同等にパラメータ化されたソフトウェア多層パーセプトロンネットワークより優れており、最大2桁のパラメータが小さく、また2桁のデバイスは線形重みベースの物理ネットワークよりもはるかに少ない。
これらの結果は、ハードウェアネイティブな学習プリミティブとして学習物理的非線形性を確立し、SynEデバイスを異種非線形コンピューティングの効果的な基盤とする。
関連論文リスト
- Bridging Function Approximation and Device Physics via Negative Differential Resistance Networks [17.356504841908826]
Kanalogue は、負の差動抵抗デバイスを用いた Kolmogorov-Arnold Networks (KAN) の完全なアナログ実装である。
NbSi2N4/HfSi2N4ヘテロ構造から作製したトンネルダイオードの固有負差抵抗特性を利用して、座標ワイド非線形性を構築する。
その結果,デジタルベースラインと競合する分類精度を維持しつつ,最小限のパラメータで複雑な関数を近似できることが示唆された。
論文 参考訳（メタデータ） (2025-10-24T15:38:22Z) - Neural Contraction Metrics with Formal Guarantees for Discrete-Time Nonlinear Dynamical Systems [17.905596843865705]
収縮メトリクスは、様々な力学系の安定性、堅牢性、収束性を分析する強力なフレームワークを提供する。
しかしながら、複雑な非線形系に対するこれらの指標の同定は、効果的なツールが欠如しているため、未解決の課題である。
本稿では,離散的スケーラブル非線形システムに対する検証可能な収縮指標について述べる。
論文 参考訳（メタデータ） (2025-04-23T21:27:32Z) - Generative System Dynamics in Recurrent Neural Networks [56.958984970518564]
リカレントニューラルネットワーク(RNN)の連続時間ダイナミクスについて検討する。
線形および非線形構成の両方において安定な極限サイクルを実現するためには,スキュー対称性の重み行列が基本であることを示す。
数値シミュレーションは、非線形活性化関数が極限周期を維持するだけでなく、システム統合プロセスの数値安定性を高めることを示す。
論文 参考訳（メタデータ） (2025-04-16T10:39:43Z) - Multiscale Analysis of Woven Composites Using Hierarchical Physically Recurrent Neural Networks [0.0]
織物複合材料のマルチスケール均質化には, 詳細なミクロメカニカル評価が必要である。
本研究では,2段階の代理モデルを用いた階層型物理リカレントニューラルネットワーク(HPRNN)を提案する。
論文 参考訳（メタデータ） (2025-03-06T19:02:32Z) - Physics-Informed Regularization for Domain-Agnostic Dynamical System Modeling [41.82469276824927]
本稿では,幅広い力学系に対して高精度なモデリングを実現するフレームワークを提案する。
保守的なシステムのエネルギーを保ちつつ、非保守的で可逆的なシステムの強い誘導バイアスとして機能する。
ニューラル常微分方程式モデルにTRS損失を組み込むことにより、提案モデルであるTREATは様々な物理系において優れた性能を示す。
論文 参考訳（メタデータ） (2024-10-08T21:04:01Z) - TANGO: Time-Reversal Latent GraphODE for Multi-Agent Dynamical Systems [43.39754726042369]
連続グラフニューラルネットワークに基づく常微分方程式(GraphODE)により予測される前後の軌跡を整列するソフト制約として,単純かつ効果的な自己監督型正規化項を提案する。
時間反転対称性を効果的に課し、古典力学の下でより広い範囲の力学系にわたってより正確なモデル予測を可能にする。
様々な物理システムに対する実験結果から,提案手法の有効性が示された。
論文 参考訳（メタデータ） (2023-10-10T08:52:16Z) - Physics-Informed Long Short-Term Memory for Forecasting and
Reconstruction of Chaos [5.8010446129208155]
カオスシステムにおける未測定変数の進化を再現し,予測するために,物理インフォームド・ロング短期記憶(PI-LSTM)ネットワークを提案する。
トレーニングは規則化項によって制約され、システムの支配方程式に反する解を罰する。
この研究は、非線形システムの状態再構成と力学の学習の新しい機会を開く。
論文 参考訳（メタデータ） (2023-02-03T18:27:59Z) - Physics-informed Neural Network for Nonlinear Dynamics in Fiber Optics [10.335960060544904]
深層学習と物理を組み合わせる物理インフォームドニューラルネットワーク (PINN) について, 非線形シュリンガー方程式を解くために検討した。
PINNは、効果的な偏微分方程式解法であるだけでなく、光ファイバーにおける科学計算と自動モデリングの進歩にも期待できる技術である。
論文 参考訳（メタデータ） (2021-09-01T12:19:32Z) - Hyperbolic Neural Networks++ [66.16106727715061]
ニューラルネットワークの基本成分を1つの双曲幾何モデル、すなわちポアンカーの球モデルで一般化する。
実験により, 従来の双曲成分と比較してパラメータ効率が優れ, ユークリッド成分よりも安定性と性能が優れていた。
論文 参考訳（メタデータ） (2020-06-15T08:23:20Z) - Liquid Time-constant Networks [117.57116214802504]
本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。
暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。
これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
論文 参考訳（メタデータ） (2020-06-08T09:53:35Z) - Training End-to-End Analog Neural Networks with Equilibrium Propagation [64.0476282000118]
本稿では,勾配降下による終端から終端までのアナログニューラルネットワークの学習法を提案する。
数学的には、アナログニューラルネットワークのクラス(非線形抵抗性ネットワークと呼ばれる)がエネルギーベースモデルであることが示される。
我々の研究は、オンチップ学習をサポートする、超高速でコンパクトで低消費電力のニューラルネットワークの新世代の開発を導くことができる。
論文 参考訳（メタデータ） (2020-06-02T23:38:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。