論文の概要: Low-power analogue neural networks with trainable nonlinear connections for continuous control
- arxiv url: http://arxiv.org/abs/2606.23742v1
- Date: Sun, 21 Jun 2026 15:55:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-24 22:16:48.594546
- Title: Low-power analogue neural networks with trainable nonlinear connections for continuous control
- Title(参考訳): 連続制御のためのトレーニング可能な非線形接続を有する低消費電力アナログニューラルネットワーク
- Authors: Ian T. Vidamour, Fernando Aguirre, Thomas J. Hayward, Matthew O. A. Ellis, Charles Swindells, Alexander McDonnell, Martin Trefzer, Finley Robins, Luca Manneschi, Susan Stepney, Tony Kenyon, Oliver J. Sutton, Jack C. Gartside, Ivan Y. Tyukin, Adnan Mehonic, Eleni Vasilaki,
- Abstract要約: 物理ニューラルネットワークはアナログデバイス物理を直接計算することで低消費電力の機械学習を約束する。
トレーニング可能な非線形関数を接続上に配置し、各物理接続を学習可能な計算要素とする。
その利点はタスク依存であり、物理的基盤の滑らかさから従うことが分かる。
- 参考スコア(独自算出の注目度): 54.59241649882409
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Physical neural networks promise low-power machine learning by computing directly with analogue device physics, but most architectures force nonlinear device responses to act as scalar weights. Inspired by Kolmogorov-Arnold networks, we place trainable nonlinear functions on the connections, making each physical connection a learnable computational element. Realising these functions as analogue band-pass filters on field-programmable analogue arrays, we find that the benefit is task-dependent and follows from the smoothness of the physical basis: the networks represent smooth, continuously valued targets, including robotic kinematics, continuous control, and photovoltaic maximum-power-point tracking, with far fewer nodes and connections than multilayer perceptrons, but offer no parameter-efficiency advantage on classification-like decision boundaries. Trained networks transfer to hardware across approximately 35,000 connections with quantified fidelity, and a dedicated CMOS implementation is projected to operate at approximately 30 microwatts. A memristive realisation reproduces the same behaviour in simulation, indicating that the advantage comes from placing trainable nonlinearity on connections, rather than from a particular device.
- Abstract(参考訳): 物理ニューラルネットワークはアナログデバイス物理を直接計算することで低消費電力の機械学習を約束するが、ほとんどのアーキテクチャは非線形デバイス応答をスカラーウェイトとして振る舞うように強制する。
Kolmogorov-Arnoldネットワークにヒントを得て、トレーニング可能な非線形関数を接続上に配置し、各物理接続を学習可能な計算要素とする。
ネットワークは,ロボットキネマティクス,連続制御,光起電力点追跡など,スムーズで連続的な目標を表現し,マルチ層パーセプトロンよりもノードや接続がはるかに少ないが,分類的決定境界におけるパラメータ効率の優位性は得られない。
トレーニングされたネットワークは、約35,000の接続と量子化された忠実度でハードウェアに転送され、約30マイクロワットで動作する専用CMOS実装が計画されている。
経験的実現は、シミュレーションにおいて同じ振る舞いを再現し、利点は特定のデバイスからではなく、接続にトレーニング可能な非線形性を置くことにあることを示している。
関連論文リスト
- Relay-Assisted Activation-Integrated SIM for Wireless Physical Neural Networks [53.64687377045908]
無線物理ニューラルネットワーク(WPNN)は、無線システムの物理層で直接ニューラルネットワークを実行するための有望なパラダイムとして登場した。
本稿では,アクティベーション統合された集積型知的準曲面(AI-SIM)に基づくリレー支援型WPNNアーキテクチャを提案する。
論文 参考訳(メタデータ) (2026-04-05T18:07:13Z) - Learning Nonlinear Heterogeneity in Physical Kolmogorov-Arnold Networks [0.7743990032107954]
物理ニューラルネットワークは典型的には線形シナプス重みを訓練し、デバイス非線形性を固定として扱う。
シナプス非線形性自体をトレーニングすることで、物理リソース当たりのタスク性能が著しく向上することを示す。
我々は「シナプス素子」と呼ぶシリコンオン絶縁体デバイスにおける物理KAを実験的に実現した。
論文 参考訳(メタデータ) (2026-01-20T16:00:26Z) - Bridging Function Approximation and Device Physics via Negative Differential Resistance Networks [17.356504841908826]
Kanalogue は、負の差動抵抗デバイスを用いた Kolmogorov-Arnold Networks (KAN) の完全なアナログ実装である。
NbSi2N4/HfSi2N4ヘテロ構造から作製したトンネルダイオードの固有負差抵抗特性を利用して、座標ワイド非線形性を構築する。
その結果,デジタルベースラインと競合する分類精度を維持しつつ,最小限のパラメータで複雑な関数を近似できることが示唆された。
論文 参考訳(メタデータ) (2025-10-24T15:38:22Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - DS-Net++: Dynamic Weight Slicing for Efficient Inference in CNNs and
Transformers [105.74546828182834]
本稿では,様々な難易度を持つ入力に対して,ネットワークパラメータの一部を適応的にスライスする動的ウェイトスライシングという,ハードウェア効率のよい動的推論方式を示す。
我々は、CNNのフィルタ数とCNNと変換器の多重次元を入力依存的に調整することで、動的スライム可能なネットワーク(DS-Net)と動的スライス可能なネットワーク(DS-Net++)を提案する。
論文 参考訳(メタデータ) (2021-09-21T09:57:21Z) - Nonlinear computations in spiking neural networks through multiplicative
synapses [3.1498833540989413]
非線形計算は、スパイクニューラルネットワークでうまく実装できる。
これは教師付きトレーニングを必要とし、その結果の接続性は解釈が難しい。
いくつかの非線形力学系において, 必要な接続性を直接導出する方法を示す。
論文 参考訳(メタデータ) (2020-09-08T16:47:27Z) - Training End-to-End Analog Neural Networks with Equilibrium Propagation [64.0476282000118]
本稿では,勾配降下による終端から終端までのアナログニューラルネットワークの学習法を提案する。
数学的には、アナログニューラルネットワークのクラス(非線形抵抗性ネットワークと呼ばれる)がエネルギーベースモデルであることが示される。
我々の研究は、オンチップ学習をサポートする、超高速でコンパクトで低消費電力のニューラルネットワークの新世代の開発を導くことができる。
論文 参考訳(メタデータ) (2020-06-02T23:38:35Z) - One-step regression and classification with crosspoint resistive memory
arrays [62.997667081978825]
高速で低エネルギーのコンピュータは、エッジでリアルタイム人工知能を実現するために要求されている。
ワンステップ学習は、ボストンの住宅のコスト予測と、MNIST桁認識のための2層ニューラルネットワークのトレーニングによって支援される。
結果は、クロスポイントアレイ内の物理計算、並列計算、アナログ計算のおかげで、1つの計算ステップで得られる。
論文 参考訳(メタデータ) (2020-05-05T08:00:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。