論文の概要: A universal approximation theorem for nonlinear resistive networks

• arxiv url: http://arxiv.org/abs/2312.15063v2
• Date: Tue, 19 Nov 2024 02:40:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-20 13:33:00.729783
• Title: A universal approximation theorem for nonlinear resistive networks
• Title（参考訳）: 非線形抵抗ネットワークに対する普遍近似定理
• Authors: Benjamin Scellier, Siddhartha Mishra,
• Abstract要約: レジストレータネットワークは、機械学習のためのアナログコンピューティングプラットフォームとして関心を集めている。 電圧源, 線形抵抗器, ダイオード, 電圧制御電圧源からなる回路網は, 連続関数を任意の精度で近似できることを示す。
• 参考スコア（独自算出の注目度）: 13.587017708994763
• License:
• Abstract: Resistor networks have recently attracted interest as analog computing platforms for machine learning, particularly due to their compatibility with the Equilibrium Propagation training framework. In this work, we explore the computational capabilities of these networks. We prove that electrical networks consisting of voltage sources, linear resistors, diodes, and voltage-controlled voltage sources (VCVS) can approximate any continuous function to arbitrary precision. Central to our proof is a method for translating a ReLU neural network into an approximately equivalent electrical network comprising these four elements. Our proof relies on two assumptions: (a) circuit elements are ideal, and (b) variable resistor conductances and VCVS amplification factors can take any value (arbitrarily small or large). Our findings provide insights that could guide the development of universal self-learning electrical networks.
• Abstract（参考訳）: Resistor Networkは最近、機械学習のためのアナログコンピューティングプラットフォームとして関心を集めており、特にEquilibrium Propagationトレーニングフレームワークとの互換性のためである。 本研究では,これらのネットワークの計算能力について検討する。 我々は、電圧源、線形抵抗器、ダイオード、電圧制御電圧源(VCVS)からなる電気ネットワークが、任意の精度で連続関数を近似できることを証明した。 我々の証明の中心は、ReLUニューラルネットワークをこれら4つの要素からなるほぼ等価な電気ネットワークに変換する方法である。 我々の証明は2つの仮定に依存している。 a)回路要素は理想的で b) 可変抵抗コンダクタンスとVCVS増幅係数は、任意の値(任意に小さいか大きいか)を取ることができる。 我々の発見は、普遍的な自己学習型電気ネットワークの開発を導く洞察を与えてくれる。

関連論文リスト

• Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
  ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。 我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。 我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
  論文  参考訳（メタデータ） (2023-10-02T03:25:32Z)
• Recurrent Neural Networks as Electrical Networks, a formalization [0.0]
  本稿では,アナログ回路とニューラルネットワークの等価性を正式に得る方法を示す。 また、これらの電気ネットワークが満たさなければならない特性についても示す。
  論文  参考訳（メタデータ） (2023-04-11T15:15:04Z)
• Neural networks trained with SGD learn distributions of increasing complexity [78.30235086565388]
  勾配降下法を用いてトレーニングされたニューラルネットワークは、まず低次入力統計を用いて入力を分類する。 その後、トレーニング中にのみ高次の統計を利用する。 本稿では,DSBと他の単純度バイアスとの関係について論じ,学習における普遍性の原理にその意味を考察する。
  論文  参考訳（メタデータ） (2022-11-21T15:27:22Z)
• Pretraining Graph Neural Networks for few-shot Analog Circuit Modeling and Design [68.1682448368636]
  本稿では、新しい未知のトポロジや未知の予測タスクに適応可能な回路表現を学習するための教師付き事前学習手法を提案する。 異なる回路の変動位相構造に対処するため、各回路をグラフとして記述し、グラフニューラルネットワーク(GNN)を用いてノード埋め込みを学習する。 出力ノード電圧の予測における事前学習GNNは、新しい未知のトポロジや新しい回路レベル特性の予測に適応可能な学習表現を促進することができることを示す。
  論文  参考訳（メタデータ） (2022-03-29T21:18:47Z)
• Towards Understanding Theoretical Advantages of Complex-Reaction Networks [77.34726150561087]
  パラメータ数を用いて,関数のクラスを複素反応ネットワークで近似できることを示す。 経験的リスク最小化については,複素反応ネットワークの臨界点集合が実数値ネットワークの固有部分集合であることを示す。
  論文  参考訳（メタデータ） (2021-08-15T10:13:49Z)
• A Gradient Estimator for Time-Varying Electrical Networks with Non-Linear Dissipation [0.0]
  電気回路理論を用いて、深層指向ニューラルネットワークを記述できるラグランジアンを構築する。 シナプスコンダクタンスなどのネットワークの物理パラメータの勾配を推定するための推定器を導出する。 結論として,これらの結果を生物学的に妥当なニューロンのネットワークに拡張する方法を提案する。
  論文  参考訳（メタデータ） (2021-03-09T02:07:39Z)
• On reaction network implementations of neural networks [0.0]
  本稿では,(フィードフォワード)ニューラルネットワークの実装に決定論的にモデル化された化学反応ネットワークの利用について述べる。 ニューラルネットワークのある種の反応ネットワーク実装に付随する常微分方程式(ODE)が望ましい性質を持つことを示す。
  論文  参考訳（メタデータ） (2020-10-26T02:37:26Z)
• Universal Approximation Power of Deep Residual Neural Networks via Nonlinear Control Theory [9.210074587720172]
  我々は、幾何学的非線形制御により、ディープ残差ニューラルネットワークの普遍近似能力を説明する。 残余ネットワークと制御システムとのリンクを確立する最近の研究に触発されて、残余ネットワークが普遍近似の力を持つための一般的な条件を提供する。
  論文  参考訳（メタデータ） (2020-07-12T14:53:30Z)
• Neural Anisotropy Directions [63.627760598441796]
  我々は、アーキテクチャの方向性誘導バイアスをカプセル化するベクトルとして、神経異方性方向(NAD)を定義する。 CIFAR-10データセットでは、NADはCNNが異なるクラス間で識別するために使用する特徴を特徴付ける。
  論文  参考訳（メタデータ） (2020-06-17T08:36:28Z)
• Training End-to-End Analog Neural Networks with Equilibrium Propagation [64.0476282000118]
  本稿では,勾配降下による終端から終端までのアナログニューラルネットワークの学習法を提案する。 数学的には、アナログニューラルネットワークのクラス(非線形抵抗性ネットワークと呼ばれる)がエネルギーベースモデルであることが示される。 我々の研究は、オンチップ学習をサポートする、超高速でコンパクトで低消費電力のニューラルネットワークの新世代の開発を導くことができる。
  論文  参考訳（メタデータ） (2020-06-02T23:38:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。