論文の概要: Training deep physical neural networks with local physical information bottleneck
- arxiv url: http://arxiv.org/abs/2602.09569v1
- Date: Tue, 10 Feb 2026 09:20:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-11 20:17:43.466558
- Title: Training deep physical neural networks with local physical information bottleneck
- Title(参考訳): 局所的物理情報ボトルネックを用いた深部ニューラルネットワークの訓練
- Authors: Hao Wang, Ziao Wang, Xiangpeng Liang, Han Zhao, Jianqi Hu, Junjie Jiang, Xing Fu, Jianshi Tang, Huaqiang Wu, Sylvain Gigan, Qiang Liu,
- Abstract要約: ディープラーニングは現代の社会に革命をもたらしたが、エネルギーとレイテンシの制約が増大している。
本稿では,情報理論と局所学習を統合するフレームワークであるPhysical Information Bottleneck(PIB)を紹介する。
PIBは厳しいハードウェア障害に適応し、地理的に分散したリソースによる並列トレーニングを可能にする。
- 参考スコア(独自算出の注目度): 21.46485164162144
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning has revolutionized modern society but faces growing energy and latency constraints. Deep physical neural networks (PNNs) are interconnected computing systems that directly exploit analog dynamics for energy-efficient, ultrafast AI execution. Realizing this potential, however, requires universal training methods tailored to physical intricacies. Here, we present the Physical Information Bottleneck (PIB), a general and efficient framework that integrates information theory and local learning, enabling deep PNNs to learn under arbitrary physical dynamics. By allocating matrix-based information bottlenecks to each unit, we demonstrate supervised, unsupervised, and reinforcement learning across electronic memristive chips and optical computing platforms. PIB also adapts to severe hardware faults and allows for parallel training via geographically distributed resources. Bypassing auxiliary digital models and contrastive measurements, PIB recasts PNN training as an intrinsic, scalable information-theoretic process compatible with diverse physical substrates.
- Abstract(参考訳): ディープラーニングは現代の社会に革命をもたらしたが、エネルギーとレイテンシの制約が増大している。
ディープ物理ニューラルネットワーク(Deep physical Neural Network, PNN)は、エネルギー効率の高い超高速AI実行のためにアナログ力学を直接利用する相互接続型コンピューティングシステムである。
しかし、この可能性を実現するには、物理的な複雑さに合わせた普遍的な訓練方法が必要である。
本稿では、情報理論と局所学習を統合した汎用的で効率的なフレームワークであるPhysical Information Bottleneck(PIB)について述べる。
行列に基づく情報ボトルネックを各ユニットに割り当てることで、電子記憶チップや光コンピューティングプラットフォームにまたがる教師付き、教師なし、強化学習を実演する。
PIBは厳しいハードウェア障害にも適応し、地理的に分散したリソースによる並列トレーニングを可能にする。
補助的なデジタルモデルとコントラスト測定を通すことで、PIBはPNNトレーニングを様々な物理基板と互換性のある本質的でスケーラブルな情報理論プロセスとして再放送する。
関連論文リスト
- Self-Organising Memristive Networks as Physical Learning Systems [0.8752279866335758]
物理システムによる学習は、物理基板の本質的な非線形ダイナミクスを学習に活用しようとする、新たなパラダイムである。
このパースペクティブは、抵抗性メモリナノスケールコンポーネントからなる物理ネットワークを用いた有望なアプローチである。
この視点の全体的目的は、ナノテクノロジー、統計物理学、複雑なシステム、そして自己組織化原理の収束が、いかにして新しい世代の物理知能技術を前進させるユニークな機会を提供するかを示すことである。
論文 参考訳(メタデータ) (2025-08-31T08:44:02Z) - Blending Optimal Control and Biologically Plausible Learning for Noise-Robust Physical Neural Networks [0.9423257767158634]
物理ニューラルネットワーク(PNN)は、効率的なニューロモルフィック情報処理を提供する。
本稿では,このトレーニングコストを大幅に削減するトレーニング手法を提案する。
トレーニング時間の短縮に加えて, 測定誤差やノイズの下でも, 頑健な処理を実現する。
論文 参考訳(メタデータ) (2025-02-26T11:10:40Z) - Multistable Physical Neural Networks [1.3499500088995462]
物理ニューラルネットワーク(PNN)は、一般的な材料や物理現象をネットワークとして見る機会を提供する。
本研究では,PNNに機械的不安定性を導入し,メモリと計算と物理動作の直接リンクを可能にする。
我々の研究から得られた洞察は、スマートテクノロジー、メタマテリアル、医療機器、ソフトロボティクス、その他の分野におけるインテリジェントな構造の実装の道を開いた。
論文 参考訳(メタデータ) (2024-05-31T13:24:39Z) - Mechanistic Neural Networks for Scientific Machine Learning [58.99592521721158]
我々は、科学における機械学習応用のためのニューラルネットワーク設計であるメカニスティックニューラルネットワークを提案する。
新しいメカニスティックブロックを標準アーキテクチャに組み込んで、微分方程式を表現として明示的に学習する。
我々のアプローチの中心は、線形プログラムを解くために線形ODEを解く技術に着想を得た、新しい線形計画解法(NeuRLP)である。
論文 参考訳(メタデータ) (2024-02-20T15:23:24Z) - ETLP: Event-based Three-factor Local Plasticity for online learning with
neuromorphic hardware [105.54048699217668]
イベントベース3要素局所塑性(ETLP)の計算複雑性に明らかな優位性を有する精度の競争性能を示す。
また, 局所的可塑性を用いた場合, スパイキングニューロンの閾値適応, 繰り返しトポロジーは, 時間的構造が豊富な時間的パターンを学習するために必要であることを示した。
論文 参考訳(メタデータ) (2023-01-19T19:45:42Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - Physical Deep Learning with Biologically Plausible Training Method [2.5608506499175094]
直感フィードバックアライメントと呼ばれる生物学的に妥当なトレーニングアルゴリズムを拡張し,物理深層学習を提案する。
このトレーニングの計算を、シンプルでスケーラブルな物理システム上でエミュレートし、高速化することができる。
本結果は,ニューロモルフィック計算の訓練と加速のための実用的なソリューションを提供する。
論文 参考訳(メタデータ) (2022-04-01T05:46:16Z) - Physics-informed ConvNet: Learning Physical Field from a Shallow Neural
Network [0.180476943513092]
マルチ物理システムのモデル化と予測は、避けられないデータ不足とノイズのために依然として課題である。
物理インフォームド・コンボリューション・ネットワーク(PICN)と呼ばれる新しいフレームワークは、CNNの観点から推奨されている。
PICNは物理インフォームド機械学習において、代替のニューラルネットワークソルバとなる可能性がある。
論文 参考訳(メタデータ) (2022-01-26T14:35:58Z) - Credit Assignment in Neural Networks through Deep Feedback Control [59.14935871979047]
ディープフィードバックコントロール(Deep Feedback Control, DFC)は、フィードバックコントローラを使用して、望ましい出力ターゲットにマッチするディープニューラルネットワークを駆動し、クレジット割り当てに制御信号を使用する新しい学習方法である。
学習規則は空間と時間において完全に局所的であり、幅広い接続パターンに対するガウス・ニュートンの最適化を近似する。
さらに,DFCと皮質錐体ニューロンのマルチコンパートメントモデルと,局所的な電圧依存性のシナプス可塑性規則を関連づける。
論文 参考訳(メタデータ) (2021-06-15T05:30:17Z) - Learning Contact Dynamics using Physically Structured Neural Networks [81.73947303886753]
ディープニューラルネットワークと微分方程式の接続を用いて、オブジェクト間の接触ダイナミクスを表現するディープネットワークアーキテクチャのファミリを設計する。
これらのネットワークは,ノイズ観測から不連続な接触事象をデータ効率良く学習できることを示す。
以上の結果から,タッチフィードバックの理想化形態は,この学習課題を扱いやすくするための重要な要素であることが示唆された。
論文 参考訳(メタデータ) (2021-02-22T17:33:51Z) - Deep Learning for Ultra-Reliable and Low-Latency Communications in 6G
Networks [84.2155885234293]
まず,データ駆動型教師付き深層学習と深部強化学習をURLLCに適用する方法を概説する。
このようなオープンな問題に対処するために、デバイスインテリジェンス、エッジインテリジェンス、およびURLLCのためのクラウドインテリジェンスを可能にするマルチレベルアーキテクチャを開発した。
論文 参考訳(メタデータ) (2020-02-22T14:38:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。