論文の概要: Optimizing Physical Neural Networks through Device Variable Selection
- arxiv url: http://arxiv.org/abs/2610.33522v1
- Date: Sat, 24 Oct 2026 08:02:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.353042
- Title: Optimizing Physical Neural Networks through Device Variable Selection
- Title(参考訳): デバイス可変選択による物理ニューラルネットワークの最適化
- Abstract要約: 物理ニューラルネットワーク(PNN)は、エネルギー効率のよいニューラルネットワークを実現するために、エレクトロニクス、光学、および関連する領域におけるデバイス物理を利用する。
我々は、信号と入力変数間のルーティングをトレーニング可能なパラメータとして扱うことにより、壊れた同型PNNから出現するネットワークアーキテクチャを利用する。
このアプローチは、物理変換のデバイスレベルのチューニング性を拡張し、システムレベルでは、無視できる追加の推論オーバーヘッドを伴うPNNの表現性の向上を示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Physical neural networks (PNNs) leverage device physics in electronics, optics, and related domains to enable energy-efficient neural networks. Broken-isomorphism PNNs replace linear operations with multivariate physical transformations, modifying how input signals are mapped to device variables. We exploit network architectures emerging from these mappings by treating the routing between signals and input variables of physical devices as trainable parameters. This approach expands device-level tunability of the physical transformations while, at the system level, demonstrating improved expressivity of PNNs with negligible additional inference overhead. This discrete routing is optimized by training a categorical distribution using Gumbel-Softmax reparametrization. We evaluate this approach using experimentally calibrated differentiable models of multivariate electronic RNPUs for MNIST and CIFAR-10 classification. Using variable selection, we improve the MNIST classification accuracy for a small CNN model from 94.5% to 96.9% and the accuracy of CIFAR-10 from 62.8% to 68.0%. Our method uniquely leverages the induced biases of broken-isomorphism PNN architectures, paving the way towards more efficient physics-based neural network inference.
- Abstract(参考訳): 物理ニューラルネットワーク(PNN)は、エネルギー効率のよいニューラルネットワークを実現するために、エレクトロニクス、光学、および関連する領域におけるデバイス物理を利用する。
ブローケン同型PNNは線形演算を多変量変換に置き換え、入力信号をデバイス変数にマップする方法を変更する。
物理機器の信号と入力変数間のルーティングをトレーニング可能なパラメータとして扱うことにより,これらのマッピングから出現するネットワークアーキテクチャを利用する。
このアプローチは、物理変換のデバイスレベルのチューニング性を拡張し、システムレベルでは、無視できる追加の推論オーバーヘッドを伴うPNNの表現性の向上を示す。
この離散ルーティングは、Gumbel-Softmax再パラメータ化を用いてカテゴリ分布をトレーニングすることによって最適化される。
我々は、MNISTとCIFAR-10分類のための多変量電子RNPUの実験的校正可能なモデルを用いて、このアプローチを評価する。
変数選択を用いて、小型CNNモデルのMNIST分類精度を94.5%から96.9%に改善し、CIFAR-10の精度を62.8%から68.0%に改善した。
本手法は, 破壊同型PNNアーキテクチャの誘起バイアスを一意に利用し, より効率的な物理ベースニューラルネットワーク推論への道を開く。
関連論文リスト
- Mask-PINNs: Mitigating Internal Covariate Shift in Physics-Informed Neural Networks [1.2667864219315372]
PINNは偏微分方程式を解くための強力なフレームワークとして登場した。
特徴分布を制御するための学習可能なマスク関数であるMask-PINNを提案する。
その結果, 予測精度, 収束安定性, 頑健性は一貫した改善が見られた。
論文 参考訳(メタデータ) (2025-05-09T15:38:52Z) - Deep-Unrolling Multidimensional Harmonic Retrieval Algorithms on Neuromorphic Hardware [78.17783007774295]
本稿では,高精度かつエネルギー効率の高い単発多次元高調波検索のための変換に基づくニューロモルフィックアルゴリズムの可能性について検討する。
複雑な値の畳み込み層と活性化をスパイクニューラルネットワーク(SNN)に変換する新しい手法を開発した。
変換されたSNNは、元のCNNに比べて性能が低下し、ほぼ5倍の電力効率を実現している。
論文 参考訳(メタデータ) (2024-12-05T09:41:33Z) - Randomized Forward Mode Gradient for Spiking Neural Networks in Scientific Machine Learning [4.178826560825283]
スパイキングニューラルネットワーク(SNN)は、ディープニューラルネットワークの階層的学習能力とスパイクベースの計算のエネルギー効率を組み合わせた、機械学習における有望なアプローチである。
SNNの伝統的なエンドツーエンドトレーニングは、しばしばバックプロパゲーションに基づいており、重み更新はチェーンルールによって計算された勾配から導かれる。
この手法は, 生体適合性に限界があり, ニューロモルフィックハードウェアの非効率性のため, 課題に遭遇する。
本研究では,SNNの代替トレーニング手法を導入する。後方伝搬の代わりに,前方モード内での重量摂動手法を活用する。
論文 参考訳(メタデータ) (2024-11-11T15:20:54Z) - Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。
我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。
本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文 参考訳(メタデータ) (2024-03-18T18:01:01Z) - Neural Functional Transformers [99.98750156515437]
本稿では,ニューラルファンクショナルトランスフォーマー (NFT) と呼ばれる新しい変分同変量空間層を定義するために,アテンション機構を用いる。
NFTは重み空間の置換対称性を尊重し、注意の利点を取り入れ、複数の領域で顕著な成功を収めた。
Inr2Arrayは暗黙的ニューラル表現(INR)の重みから置換不変表現を計算する新しい方法である。
論文 参考訳(メタデータ) (2023-05-22T23:38:27Z) - Permutation Equivariant Neural Functionals [92.0667671999604]
この研究は、他のニューラルネットワークの重みや勾配を処理できるニューラルネットワークの設計を研究する。
隠れた層状ニューロンには固有の順序がないため, 深いフィードフォワードネットワークの重みに生じる置換対称性に着目する。
実験の結果, 置換同変ニューラル関数は多種多様なタスクに対して有効であることがわかった。
論文 参考訳(メタデータ) (2023-02-27T18:52:38Z) - Functional Neural Networks: Shift invariant models for functional data
with applications to EEG classification [0.0]
我々は、データのスムーズさを保ちながら不変な新しいタイプのニューラルネットワークを導入する:関数型ニューラルネットワーク(FNN)
そこで我々は,多層パーセプトロンと畳み込みニューラルネットワークを機能データに拡張するために,機能データ分析(FDA)の手法を用いる。
脳波(EEG)データの分類にFNNをうまく利用し,FDAのベンチマークモデルより優れていることを示す。
論文 参考訳(メタデータ) (2023-01-14T09:41:21Z) - Supervised training of spiking neural networks for robust deployment on
mixed-signal neuromorphic processors [2.6949002029513167]
混合信号アナログ/デジタル電子回路はスパイキングニューロンやシナプスを非常に高いエネルギー効率でエミュレートすることができる。
ミスマッチは、同一構成ニューロンとシナプスの効果的なパラメータの違いとして表現される。
ミスマッチに対する堅牢性や,その他の一般的なノイズ源を最大化することで,この課題に対処する,教師付き学習アプローチを提案する。
論文 参考訳(メタデータ) (2021-02-12T09:20:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。