論文の概要: Universality of physical neural networks with multivariate nonlinearity

• arxiv url: http://arxiv.org/abs/2509.05420v1
• Date: Sat, 06 Sep 2025 14:08:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-09 14:07:03.502244
• Title: Universality of physical neural networks with multivariate nonlinearity
• Title（参考訳）: 多変量非線形性を持つ物理ニューラルネットワークの普遍性
• Authors: Benjamin Savinson, David J. Norris, Siddhartha Mishra, Samuel Lanthaler,
• Abstract要約: 物理ニューラルネットワークは、物理的なシステムを利用して機械学習をより効率的に実行しようとする。 本稿では,物理ニューラルネットワークの普遍性条件を確立するための基本定理を提案する。 本稿では,自由空間光学を用いたスケーラブルなアーキテクチャを提案する。
• 参考スコア（独自算出の注目度）: 17.32613615949005
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The enormous energy demand of artificial intelligence is driving the development of alternative hardware for deep learning. Physical neural networks try to exploit physical systems to perform machine learning more efficiently. In particular, optical systems can calculate with light using negligible energy. While their computational capabilities were long limited by the linearity of optical materials, nonlinear computations have recently been demonstrated through modified input encoding. Despite this breakthrough, our inability to determine if physical neural networks can learn arbitrary relationships between data -- a key requirement for deep learning known as universality -- hinders further progress. Here we present a fundamental theorem that establishes a universality condition for physical neural networks. It provides a powerful mathematical criterion that imposes device constraints, detailing how inputs should be encoded in the tunable parameters of the physical system. Based on this result, we propose a scalable architecture using free-space optics that is provably universal and achieves high accuracy on image classification tasks. Further, by combining the theorem with temporal multiplexing, we present a route to potentially huge effective system sizes in highly practical but poorly scalable on-chip photonic devices. Our theorem and scaling methods apply beyond optical systems and inform the design of a wide class of universal, energy-efficient physical neural networks, justifying further efforts in their development.
• Abstract（参考訳）: 人工知能の膨大なエネルギー需要は、ディープラーニングのための代替ハードウェアの開発を推進している。 物理ニューラルネットワークは、物理的なシステムを利用して機械学習をより効率的に実行しようとする。 特に、光学系は無視可能なエネルギーを用いて光で計算することができる。 それらの計算能力は、光学材料の線形性によって長い間制限されてきたが、最近、非線形計算は、修正された入力エンコーディングによって証明されている。 このブレークスルーにもかかわらず、物理ニューラルネットワークがデータ間の任意の関係(普遍性として知られるディープラーニングの鍵となる要件)を学習できるかどうかを判断できないことは、さらなる進歩を妨げる。 ここでは、物理ニューラルネットワークの普遍性条件を確立する基本定理を示す。 デバイスに制約を課す強力な数学的基準を提供し、物理的なシステムのチューニング可能なパラメータに入力がどのようにエンコードすべきかを詳述する。 そこで本研究では,自由空間光学を用いたスケーラブルなアーキテクチャを提案する。 さらに, この定理を時間多重化と組み合わせることで, 高実用性, スケーラビリティの低いオンチップフォトニックデバイスにおいて, 潜在的に潜在的に有効なシステムサイズへの道筋を示す。 我々の定理とスケーリング手法は光学系を超えて適用され、広範に普遍的でエネルギー効率の良い物理ニューラルネットワークの設計を通知し、開発におけるさらなる取り組みを正当化する。

関連論文リスト

• Nonlinear Computation with Linear Optics via Source-Position Encoding [0.0]
  完全線形媒体における非線形計算を実現するための新しい手法を提案する。 本手法は低消費電力で動作可能であり,光システムをデータ依存空間位置で駆動する機能のみを必要とする。 我々は、高度に専門化された光学ニューラルネットワークのための、完全に自動化されたトポロジ最適化ベースのハードウェア設計フレームワークを定式化する。
  論文  参考訳（メタデータ） (2025-04-29T03:55:05Z)
• Mechanistic Neural Networks for Scientific Machine Learning [58.99592521721158]
  我々は、科学における機械学習応用のためのニューラルネットワーク設計であるメカニスティックニューラルネットワークを提案する。 新しいメカニスティックブロックを標準アーキテクチャに組み込んで、微分方程式を表現として明示的に学習する。 我々のアプローチの中心は、線形プログラムを解くために線形ODEを解く技術に着想を得た、新しい線形計画解法(NeuRLP)である。
  論文  参考訳（メタデータ） (2024-02-20T15:23:24Z)
• A Review of Neuroscience-Inspired Machine Learning [58.72729525961739]
  バイオプルーシブル・クレジット・アサインメントは、事実上あらゆる学習条件と互換性があり、エネルギー効率が高い。 本稿では,人工ニューラルネットワークにおける信用代入の生体評価可能なルールをモデル化する,いくつかの重要なアルゴリズムについて検討する。 我々は,このようなアルゴリズムを実用アプリケーションでより有用にするためには,今後の課題に対処する必要があることを論じる。
  論文  参考訳（メタデータ） (2024-02-16T18:05:09Z)
• A Survey on Brain-Inspired Deep Learning via Predictive Coding [85.93245078403875]
  予測符号化(PC)は、マシンインテリジェンスタスクにおいて有望なパフォーマンスを示している。 PCは様々な脳領域で情報処理をモデル化することができ、認知制御やロボティクスで使用することができる。
  論文  参考訳（メタデータ） (2023-08-15T16:37:16Z)
• Physics-informed ConvNet: Learning Physical Field from a Shallow Neural Network [0.180476943513092]
  マルチ物理システムのモデル化と予測は、避けられないデータ不足とノイズのために依然として課題である。 物理インフォームド・コンボリューション・ネットワーク(PICN)と呼ばれる新しいフレームワークは、CNNの観点から推奨されている。 PICNは物理インフォームド機械学習において、代替のニューラルネットワークソルバとなる可能性がある。
  論文  参考訳（メタデータ） (2022-01-26T14:35:58Z)
• Credit Assignment in Neural Networks through Deep Feedback Control [59.14935871979047]
  ディープフィードバックコントロール(Deep Feedback Control, DFC)は、フィードバックコントローラを使用して、望ましい出力ターゲットにマッチするディープニューラルネットワークを駆動し、クレジット割り当てに制御信号を使用する新しい学習方法である。 学習規則は空間と時間において完全に局所的であり、幅広い接続パターンに対するガウス・ニュートンの最適化を近似する。 さらに,DFCと皮質錐体ニューロンのマルチコンパートメントモデルと,局所的な電圧依存性のシナプス可塑性規則を関連づける。
  論文  参考訳（メタデータ） (2021-06-15T05:30:17Z)
• A deep learning theory for neural networks grounded in physics [2.132096006921048]
  ニューロモルフィックアーキテクチャ上で大規模で高速で効率的なニューラルネットワークを構築するには、それらを実装および訓練するためのアルゴリズムを再考する必要がある。 私たちのフレームワークは、非常に幅広いモデル、すなわち状態やダイナミクスが変動方程式によって記述されるシステムに適用されます。
  論文  参考訳（メタデータ） (2021-03-18T02:12:48Z)
• Reservoir Computing with Magnetic Thin Films [35.32223849309764]
  新しい非伝統的なコンピューティングハードウェアは、自然現象を利用して効率を上げる可能性を秘めている。 物理貯水池計算は、様々な非伝統的なシステムでこれを実証している。 マイクロスケールシミュレーションにより薄膜の3つの磁性体を初期探査する。
  論文  参考訳（メタデータ） (2021-01-29T17:37:17Z)
• Deep neural networks for the evaluation and design of photonic devices [0.0]
  レビュー:ディープニューラルネットワークは、トレーニングセットからどのように学習し、高速サロゲート電磁解法として動作するか。 フォトニクスの文脈内での基本的なデータ科学についても論じる。
  論文  参考訳（メタデータ） (2020-06-30T19:52:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。