論文の概要: Optimizing Energy-based Neural Network Training with Coherent Ising Machine
- arxiv url: http://arxiv.org/abs/2606.09117v1
- Date: Mon, 08 Jun 2026 07:11:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-09 14:42:06.785052
- Title: Optimizing Energy-based Neural Network Training with Coherent Ising Machine
- Title(参考訳): コヒーレントイジングマシンを用いたエネルギーベースニューラルネットワークトレーニングの最適化
- Authors: Chen-Rui Fan, Bo Lu, Zhi-Hong Zhang, Run-Qing Zhang, Jing-Wei Wen, Chuan Wang,
- Abstract要約: 我々は、コヒーレントイジングマシン(CIM)を利用して、エネルギーベースのニューラルネットワークをトレーニングする。
我々は、ホップフィールドエネルギーネットワークの基底状態を解決するためにAdamを統合することで、アルゴリズムをさらに強化する。
- 参考スコア(独自算出の注目度): 10.13239251232474
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While Ising machines serve as advanced physical solvers for the Ising model,enabling applications in combinatorial optimization and neural network training,their scalability for large-scale neural networks remains constrained by hardware connectivity limitations and suboptimal training methodologies. In this work,we leverage a Coherent Ising Machine (CIM) to train an energy-based neural network using Equilibrium Propagation, achieving performance comparable to existing software-based implementations. We further enhance the algorithm by integrating the Adam optimizer to solve for the ground state of a Hopfield energy network, significantly improving convergence speed and solution accuracy. Additionally, we demonstrate the scalability of our approach across deeper network architectures and convolutional operations. Our results highlight the potential of CIM dynamics as a scalable platform for training complex neural networks, offering a pathway toward energy-efficient implementations via analog circuits, optoelectronics, or integrated photonics. This work establishes a novel physical framework for next-generation AI hardware development.
- Abstract(参考訳): Isingマシンは、Isingモデルの高度な物理解法として機能し、組合せ最適化やニューラルネットワークトレーニングの応用を促進する一方で、大規模ニューラルネットワークのスケーラビリティは、ハードウェア接続制限や準最適トレーニング手法によって制限されている。
本研究では、コヒーレントイジングマシン(CIM)を利用して、Equilibrium Propagationを使用してエネルギーベースのニューラルネットワークをトレーニングし、既存のソフトウェアベースの実装に匹敵するパフォーマンスを達成する。
我々は、ホップフィールドエネルギーネットワークの基底状態を解くためにアダム最適化器を統合することでアルゴリズムをさらに強化し、収束速度と解の精度を大幅に改善する。
さらに、より深いネットワークアーキテクチャと畳み込み操作にまたがるアプローチのスケーラビリティを実証する。
この結果は、複雑なニューラルネットワークをトレーニングするためのスケーラブルなプラットフォームとしてのCIMダイナミックスの可能性を強調し、アナログ回路、光エレクトロニクス、集積フォトニクスによるエネルギー効率の高い実装への道筋を提供する。
この研究は、次世代AIハードウェア開発のための新しい物理フレームワークを確立する。
関連論文リスト
- Low-rank surrogate modeling and stochastic zero-order optimization for training of neural networks with black-box layers [4.1673753346810765]
本稿では、再構成可能な物理層を持つハイブリッドネットワークのエンドツーエンドトレーニングのためのフレームワークを提案する。
提案手法の重要な構成要素は,プロジェクタ分割型インテグレータアルゴリズムであり,各前方通過後の軽量サロゲートモデルを更新する。
我々は,コンピュータビジョン,音声分類,言語モデリングなど,多様なディープラーニングタスクにまたがる手法を実証する。
論文 参考訳(メタデータ) (2025-09-18T16:17:44Z) - Hardware-Efficient Photonic Tensor Core: Accelerating Deep Neural Networks with Structured Compression [15.665630650382226]
本稿では,構造圧縮型光ニューラルネットワーク(StrC-ONN)アーキテクチャのためのブロック循環型フォトニックテンソルコアを提案する。
この研究は、実用的でスケーラブルなONNへの新たな道筋を探求し、将来の計算効率の課題に対処するための有望な道筋を浮き彫りにしている。
論文 参考訳(メタデータ) (2025-02-01T17:03:45Z) - An Attempt to Devise a Pairwise Ising-Type Maximum Entropy Model Integrated Cost Function for Optimizing SNN Deployment [0.0]
スパイクニューラルネットワーク(SNN)は、生物学的ニューロンのスパイク動作をエミュレートし、通常、分散メモリニューロモルフィックハードウェアにデプロイされる。
We model SNN dynamics using a Ising-type pairwise interaction framework, bridging micro neuron interaction with macroscopic network behavior。
我々は、sPyNNakerニューロモルフィックプラットフォーム上に配置された2つのSNNに対するアプローチを評価した。
論文 参考訳(メタデータ) (2024-07-09T16:33:43Z) - Auto-Train-Once: Controller Network Guided Automatic Network Pruning from Scratch [72.26822499434446]
オートトレインオース (Auto-Train-Once, ATO) は、DNNの計算コストと記憶コストを自動的に削減するために設計された、革新的なネットワークプルーニングアルゴリズムである。
総合的な収束解析と広範な実験を行い,本手法が様々なモデルアーキテクチャにおける最先端性能を実現することを示す。
論文 参考訳(メタデータ) (2024-03-21T02:33:37Z) - Recent Advances in Scalable Energy-Efficient and Trustworthy Spiking
Neural networks: from Algorithms to Technology [11.479629320025673]
スパイキングニューラルネットワーク(SNN)は、幅広い信号処理アプリケーションのために、ディープニューラルネットワークの魅力的な代替品となっている。
我々は、低レイテンシとエネルギー効率のSNNを効率的に訓練し、拡張するためのアルゴリズムと最適化の進歩について述べる。
デプロイ可能なSNNシステム構築における研究の今後の可能性について論じる。
論文 参考訳(メタデータ) (2023-12-02T19:47:00Z) - Efficient and Flexible Neural Network Training through Layer-wise Feedback Propagation [49.44309457870649]
レイヤワイドフィードバックフィードバック(LFP)は、ニューラルネットワークのような予測器のための新しいトレーニング原則である。
LFPはそれぞれの貢献に基づいて個々のニューロンに報酬を分解する。
提案手法は,ネットワークの有用な部分と有害な部分の弱体化を両立させる手法である。
論文 参考訳(メタデータ) (2023-08-23T10:48:28Z) - Evolving Connectivity for Recurrent Spiking Neural Networks [8.80300633999542]
リカレントニューラルネットワーク(RSNN)は、人工知能の進歩に大きな可能性を秘めている。
本稿では、RSNNをトレーニングするための推論のみの手法である、進化的接続性(EC)フレームワークを提案する。
論文 参考訳(メタデータ) (2023-05-28T07:08:25Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - Cross-receptive Focused Inference Network for Lightweight Image
Super-Resolution [64.25751738088015]
トランスフォーマーに基づく手法は、単一画像超解像(SISR)タスクにおいて顕著な性能を示した。
動的に特徴を抽出するために文脈情報を組み込む必要がある変換器は無視される。
我々は,CNNとTransformerを混合したCTブロックのカスケードで構成される,軽量なクロスレセプティブ・フォーカスド・推論・ネットワーク(CFIN)を提案する。
論文 参考訳(メタデータ) (2022-07-06T16:32:29Z) - Deep Multi-Task Learning for Cooperative NOMA: System Design and
Principles [52.79089414630366]
我々は,近年のディープラーニング(DL)の進歩を反映した,新しいディープ・コラボレーティブなNOMAスキームを開発する。
我々は,システム全体を包括的に最適化できるように,新しいハイブリッドカスケードディープニューラルネットワーク(DNN)アーキテクチャを開発した。
論文 参考訳(メタデータ) (2020-07-27T12:38:37Z) - Spiking Neural Networks Hardware Implementations and Challenges: a
Survey [53.429871539789445]
スパイキングニューラルネットワークは、ニューロンとシナプスの操作原理を模倣する認知アルゴリズムである。
スパイキングニューラルネットワークのハードウェア実装の現状について述べる。
本稿では,これらのイベント駆動アルゴリズムの特性をハードウェアレベルで活用するための戦略について論じる。
論文 参考訳(メタデータ) (2020-05-04T13:24:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。