論文の概要: Lock-in EP: An In-Situ Training Algorithm for Oscillatory Hardware
- arxiv url: http://arxiv.org/abs/2610.07283v1
- Date: Mon, 05 Oct 2026 19:20:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.614906
- Title: Lock-in EP: An In-Situ Training Algorithm for Oscillatory Hardware
- Title(参考訳): Lock-in EP: 振動ハードウェアのためのその場トレーニングアルゴリズム
- Abstract要約: ロックイン平衡伝播法(LIEP)の導出と実証を行った。
LIEPは、ネットワーク内の各コンポーネントに対して、前方と後方のスイープを分離することなく、局所的な勾配情報を提供する。
LIEPは,ab-initioトレーニングだけでなく,事前学習したパラメータの摂動時の性能回復にも有効であることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Analog hardware platforms offer the potential to reduce energy consumption over digital architectures, but in order to succeed, large-scale analog systems must also be able to operate with or recover from the variability of their components. Towards this goal, we derive and demonstrate the lock-in equilibrium propagation (LIEP) training method. LIEP provides local gradient information for each component in an oscillatory network without separate forward and backward sweeps, potentially allowing for in-situ learning capabilities on analog oscillatory hardware platforms. We demonstrate that LIEP can be used both for ab-initio training as well as recovering performance when pre-trained parameters are perturbed. We show that LIEP can be formulated as a three-factor update rule, and suggest that although the method is currently only validated on shallow networks, alternate architectures may allow it to extend to deep and large-scale networks addressing complex tasks.
- Abstract(参考訳): アナログハードウェアプラットフォームは、デジタルアーキテクチャよりもエネルギー消費を減らす可能性を秘めているが、成功させるためには、大規模なアナログシステムは、そのコンポーネントの変動性から操作または回復できる必要がある。
この目標に向けて,ロックイン平衡伝播(LIEP)訓練法を考案し,実証する。
LIEPは、前方と後方のスイープを分離することなく、発振ネットワークの各コンポーネントに局所的な勾配情報を提供し、アナログ発振ハードウェアプラットフォームでその場で学習できる可能性がある。
LIEPは、ab-initioトレーニングと、事前訓練されたパラメータが摂動した場合のパフォーマンス回復の両方に使用できることを示す。
LIEPを3要素更新規則として定式化できることを示し,提案手法は浅層ネットワーク上でのみ検証されているが,複雑なタスクに対処する大規模ネットワークにまで拡張可能であることを示唆する。
関連論文リスト
- Unlocking High-Fidelity Analog Joint Source-Channel Coding on Standard Digital Transceivers [54.82164616081277]
D2AJSCCは、標準デジタルPHY上に高忠実度アナログJ SCCをデプロイできる新しいフレームワークである。
本システムは,SNR条件にまたがる優雅な劣化を伴って,ほぼ理想のアナログJ SCC性能を実現する。
ハードウェア変更なしにレガシーインフラストラクチャ上で次世代のセマンティックトランスミッションを可能にすることで,ネットワークの持続的進化を促進する。
論文 参考訳(メタデータ) (2026-03-10T01:42:23Z) - Near-Equilibrium Propagation training in nonlinear wave systems [0.0]
現代の人工知能のワークホースであるバックプロパゲーション学習アルゴリズムは、物理ニューラルネットワークの実装が難しいことで知られている。
我々はEP学習を離散的および連続的な複素数値波系に拡張する。
単純な論理的タスクや手書きデジタル認識を含む標準ベンチマークに関する数値的研究は、安定な収束を示す。
論文 参考訳(メタデータ) (2025-10-17T15:03:07Z) - Network Sparsity Unlocks the Scaling Potential of Deep Reinforcement Learning [57.3885832382455]
静的ネットワークの疎結合を単独で導入することで,最先端アーキテクチャの高密度化を超えて,さらなるスケーリング可能性を実現することができることを示す。
解析の結果,高密度DRLネットワークをネーティブにスケールアップするのとは対照的に,疎ネットワークは高いパラメータ効率とネットワーク表現性を両立させることがわかった。
論文 参考訳(メタデータ) (2025-06-20T17:54:24Z) - Unsupervised Learning in Echo State Networks for Input Reconstruction [0.0]
エコー状態ネットワーク(ESN)は、リードアウト層のみをトレーニング可能な、リカレントニューラルネットワークのクラスである。
本研究では,読み出し層をトレーニングし,ESNに入力された入力時系列を再構成する入出力再構成(IR)に焦点を当てた。
論文 参考訳(メタデータ) (2025-01-20T11:16:44Z) - Towards training digitally-tied analog blocks via hybrid gradient computation [1.800676987432211]
フィードフォワード型エネルギーベースモデル(ff-EBM)を紹介する。
フィードフォワード部とエネルギーベース部でそれぞれ逆プロパゲーションと「eqプロパゲーション」することで、FF-EBMの勾配をエンドツーエンドに計算する新しいアルゴリズムを導出する。
我々のアプローチは、自己学習可能なアナログ計算プリミティブを既存のデジタルアクセラレータに徐々に統合する、原則的でスケーラブルで漸進的なロードマップを提供する。
論文 参考訳(メタデータ) (2024-09-05T07:22:19Z) - Efficient Parallel Split Learning over Resource-constrained Wireless
Edge Networks [44.37047471448793]
本稿では,エッジコンピューティングパラダイムと並列分割学習(PSL)の統合を提唱する。
そこで本研究では,モデル学習を高速化するために,効率的な並列分割学習(EPSL)という革新的なPSLフレームワークを提案する。
提案するEPSLフレームワークは,目標精度を達成するために必要なトレーニング遅延を著しく低減することを示す。
論文 参考訳(メタデータ) (2023-03-26T16:09:48Z) - Deep Reinforcement Learning for Computational Fluid Dynamics on HPC
Systems [17.10464381844892]
強化学習(Reinforcement Learning, RL)は、動的システムの文脈における制御戦略の考案に非常に適している。
近年の研究では、RL強化計算流体力学(CFD)の解法が最先端技術を超えることが示唆されている。
我々は、機械学習とHPCシステム上の最新のCFDソルバ間のギャップを埋めるスケーラブルなRLフレームワークとしてRelexiを提示する。
論文 参考訳(メタデータ) (2022-05-13T08:21:18Z) - Pretraining Graph Neural Networks for few-shot Analog Circuit Modeling
and Design [68.1682448368636]
本稿では、新しい未知のトポロジや未知の予測タスクに適応可能な回路表現を学習するための教師付き事前学習手法を提案する。
異なる回路の変動位相構造に対処するため、各回路をグラフとして記述し、グラフニューラルネットワーク(GNN)を用いてノード埋め込みを学習する。
出力ノード電圧の予測における事前学習GNNは、新しい未知のトポロジや新しい回路レベル特性の予測に適応可能な学習表現を促進することができることを示す。
論文 参考訳(メタデータ) (2022-03-29T21:18:47Z) - Enabling Incremental Training with Forward Pass for Edge Devices [0.0]
進化戦略(ES)を用いてネットワークを部分的に再トレーニングし,エラー発生後に変更に適応し,回復できるようにする手法を提案する。
この技術は、バックプロパゲーションを必要とせず、最小限のリソースオーバーヘッドで推論専用ハードウェアのトレーニングを可能にする。
論文 参考訳(メタデータ) (2021-03-25T17:43:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。