論文の概要: Circuit realization and hardware linearization of monotone operator equilibrium networks
- arxiv url: http://arxiv.org/abs/2509.13793v1
- Date: Wed, 17 Sep 2025 08:03:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-18 18:41:50.776903
- Title: Circuit realization and hardware linearization of monotone operator equilibrium networks
- Title(参考訳): 単調作用素平衡ネットワークの回路実現とハードウェア線形化
- Authors: Thomas Chaffey,
- Abstract要約: 抵抗ダイオードネットワークのポート挙動は、ReLU単調作用素平衡ネットワークの解に対応することを示す。
我々は、フィードフォワードや他の非対称ネットワークの実装に使用できる抵抗ダイオードネットワークのカスケードに結果を拡張する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: It is shown that the port behavior of a resistor- diode network corresponds to the solution of a ReLU monotone operator equilibrium network (a neural network in the limit of infinite depth), giving a parsimonious construction of a neural network in analog hardware. We furthermore show that the gradient of such a circuit can be computed directly in hardware, using a procedure we call hardware linearization. This allows the network to be trained in hardware, which we demonstrate with a device-level circuit simulation. We extend the results to cascades of resistor-diode networks, which can be used to implement feedforward and other asymmetric networks. We finally show that different nonlinear elements give rise to different activation functions, and introduce the novel diode ReLU which is induced by a non-ideal diode model.
- Abstract(参考訳): 抵抗ダイオードネットワークのポート挙動は、ReLUモノトン作用素平衡ネットワーク(無限深度限界のニューラルネットワーク)の解に対応し、アナログハードウェアにおけるニューラルネットワークの類似的な構成を与える。
さらに、ハードウェア線形化と呼ばれる手法を用いて、そのような回路の勾配をハードウェア内で直接計算できることも示す。
これにより、デバイスレベルの回路シミュレーションで示すように、ハードウェアでネットワークをトレーニングすることができる。
我々は、フィードフォワードや他の非対称ネットワークの実装に使用できる抵抗ダイオードネットワークのカスケードに結果を拡張する。
最終的に、異なる非線形要素が異なる活性化関数をもたらすことを示すとともに、非イデアルダイオードモデルによって誘導される新しいダイオードReLUを導入する。
関連論文リスト
- Reciprocal lumped-element superconducting circuits: quantization, decomposition, and model extraction [0.2092728936840121]
超伝導量子デバイス用ラム素子回路モデルの量子化,分解,抽出(電磁シミュレーションから)のための新しい手法を提案する。
我々のフラックスチャージ対称プロシージャは、回路のインダクティブループと容量ノードの接続を符号化するネットワークマトリックスを中心にしている。
論文 参考訳(メタデータ) (2024-12-09T19:00:00Z) - Stacked networks improve physics-informed training: applications to
neural networks and deep operator networks [0.9999629695552196]
本稿では,物理インフォームドニューラルネットワークと演算子ネットワークを積み重ねる新しい多元性フレームワークを提案する。
物理インフォームドニューラルネットワークと演算子ネットワークの精度向上と必要なサイズ削減のために,スタックリングがいかに有効かを示す。
論文 参考訳(メタデータ) (2023-11-11T05:43:54Z) - Recurrent Neural Networks as Electrical Networks, a formalization [0.0]
本稿では,アナログ回路とニューラルネットワークの等価性を正式に得る方法を示す。
また、これらの電気ネットワークが満たさなければならない特性についても示す。
論文 参考訳(メタデータ) (2023-04-11T15:15:04Z) - Simple initialization and parametrization of sinusoidal networks via
their kernel bandwidth [92.25666446274188]
従来の活性化機能を持つネットワークの代替として、活性化を伴う正弦波ニューラルネットワークが提案されている。
まず,このような正弦波ニューラルネットワークの簡易版を提案する。
次に、ニューラルタンジェントカーネルの観点からこれらのネットワークの挙動を分析し、そのカーネルが調整可能な帯域幅を持つ低域フィルタを近似することを実証する。
論文 参考訳(メタデータ) (2022-11-26T07:41:48Z) - Pretraining Graph Neural Networks for few-shot Analog Circuit Modeling
and Design [68.1682448368636]
本稿では、新しい未知のトポロジや未知の予測タスクに適応可能な回路表現を学習するための教師付き事前学習手法を提案する。
異なる回路の変動位相構造に対処するため、各回路をグラフとして記述し、グラフニューラルネットワーク(GNN)を用いてノード埋め込みを学習する。
出力ノード電圧の予測における事前学習GNNは、新しい未知のトポロジや新しい回路レベル特性の予測に適応可能な学習表現を促進することができることを示す。
論文 参考訳(メタデータ) (2022-03-29T21:18:47Z) - Artificial Neural Networks generated by Low Discrepancy Sequences [59.51653996175648]
我々は、高密度ネットワークグラフ上のランダムウォーキングとして、人工ニューラルネットワークを生成する。
このようなネットワークはスクラッチからスパースを訓練することができ、高密度ネットワークをトレーニングし、その後圧縮する高価な手順を避けることができる。
我々は,低差分シーケンスで生成された人工ニューラルネットワークが,より低い計算複雑性で,密度の高いニューラルネットワークの到達範囲内で精度を達成できることを実証した。
論文 参考訳(メタデータ) (2021-03-05T08:45:43Z) - Lipschitz Recurrent Neural Networks [100.72827570987992]
我々のリプシッツ再帰ユニットは、他の連続時間RNNと比較して、入力やパラメータの摂動に対してより堅牢であることを示す。
実験により,Lipschitz RNNは,ベンチマークタスクにおいて,既存のリカレントユニットよりも優れた性能を発揮することが示された。
論文 参考訳(メタデータ) (2020-06-22T08:44:52Z) - Training End-to-End Analog Neural Networks with Equilibrium Propagation [64.0476282000118]
本稿では,勾配降下による終端から終端までのアナログニューラルネットワークの学習法を提案する。
数学的には、アナログニューラルネットワークのクラス(非線形抵抗性ネットワークと呼ばれる)がエネルギーベースモデルであることが示される。
我々の研究は、オンチップ学習をサポートする、超高速でコンパクトで低消費電力のニューラルネットワークの新世代の開発を導くことができる。
論文 参考訳(メタデータ) (2020-06-02T23:38:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。