論文の概要: Investigation of D-Wave quantum annealing for training Restricted Boltzmann Machines and mitigating catastrophic forgetting
- arxiv url: http://arxiv.org/abs/2508.15697v1
- Date: Thu, 21 Aug 2025 16:26:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-22 16:26:46.406749
- Title: Investigation of D-Wave quantum annealing for training Restricted Boltzmann Machines and mitigating catastrophic forgetting
- Title(参考訳): 制限ボルツマンマシンのトレーニング用D波量子アニールの検討と破滅的忘れを緩和する
- Authors: Abdelmoula El-Yazizi, Yaroslav Koshka,
- Abstract要約: 古典とQAのコントリビューションを組み合わせた新しいハイブリッドサンプリング手法について検討した。
この作業では、RBMトレーニングの改善は行われていない。
分布の低確率部分から十分な多様性のサンプルを生成する能力は、他の機械学習アプリケーションに利益をもたらす可能性がある。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Modest statistical differences between the sampling performances of the D-Wave quantum annealer (QA) and the classical Markov Chain Monte Carlo (MCMC), when applied to Restricted Boltzmann Machines (RBMs), are explored to explain, and possibly address, the absence of significant and consistent improvements in RBM trainability when the D-Wave sampling was used in previous investigations. A novel hybrid sampling approach, combining the classical and the QA contributions, is investigated as a promising way to benefit from the modest differences between the two sampling methods. No improvements in the RBM training are achieved in this work, thereby suggesting that the differences between the QA-based and MCMC sampling, mainly found in the medium-to-low probability regions of the distribution, which are less important for the quality of the sample, are insufficient to benefit the training. Difficulties in achieving sufficiently high quality of embedding RBMs into the lattice of the newer generation of D-Wave hardware could be further complicating the task. On the other hand, the ability to generate samples of sufficient variety from lower-probability parts of the distribution has a potential to benefit other machine learning applications, such as the mitigation of catastrophic forgetting (CF) during incremental learning. The feasibility of using QA-generated patterns of desirable classes for CF mitigation by the generative replay is demonstrated in this work for the first time. While the efficiency of the CF mitigation using the D-Wave QA was comparable to that of the classical mitigation, both the speed of generating a large number of distinct desirable patterns and the potential for further improvement make this approach promising for a variety of challenging machine learning applications.
- Abstract(参考訳): D-Wave Quantum Annealer (QA) と古典的マルコフ・チェイン・モンテカルロ (MCMC) のサンプリング性能は、制限ボルツマン・マシンズ (RBMs) に適用された場合と、D-Wave sample が以前の研究で使用された場合の RBM のトレーニング性に対する顕著で一貫した改善が欠如していることを説明するため、そして、おそらく対処するために行われた。
従来のサンプリング手法とQAのコントリビューションを組み合わせた新しいハイブリッドサンプリング手法を,2つのサンプリング手法の質的な違いの恩恵を受けるための有望な方法として検討した。
本研究では, RBMトレーニングの改善は得られず, 試料の品質にはあまり重要でない分布の中~低確率領域におけるQAベースサンプリングとMCMCサンプリングの違いが, トレーニングの便益となるには不十分であることが示唆された。
次世代のD-Waveハードウェアの格子にRBMを埋め込むのに十分な品質の達成が困難であることは、その作業をさらに複雑にする可能性がある。
一方、分布の低確率部分から十分な多様性のサンプルを生成する能力は、漸進的な学習における破滅的忘れ(CF)の軽減など、他の機械学習応用に恩恵をもたらす可能性がある。
本研究は, CF緩和のためのQA生成パターンを用いて, 生成再生によるQA生成パターンの有効性を初めて示すものである。
D-Wave QAを用いたCF緩和の効率は古典的な緩和に匹敵するが、多くの異なる望ましいパターンを生成するスピードとさらなる改善の可能性の両方が、このアプローチを様々な挑戦的な機械学習アプリケーションに約束している。
関連論文リスト
- Comparison of D-Wave Quantum Annealing and Markov Chain Monte Carlo for Sampling from a Probability Distribution of a Restricted Boltzmann Machine [0.0]
制限ボルツマンマシン(RBM)のサンプリング品質評価における局所バレー中心のアプローチ
古典的に訓練されたRBMのD-WaveおよびGibsサンプルは、対照的な発散に基づくRBM学習に関連する条件下で得られた。
論文 参考訳(メタデータ) (2025-08-13T22:50:44Z) - Sequential Controlled Langevin Diffusions [80.93988625183485]
2つの一般的な方法として,(1) 所定のマルコフ連鎖と再サンプリング工程を通した連続モンテカルロ (SMC) と,(2) 学習された動的輸送を用いる拡散に基づくサンプリング手法が最近開発された。
本稿では,SMC と拡散型サンプリング器を連続的に観察し,経路空間の測度を考慮し,SMC と拡散型サンプリング器を組み合わせるための基本的枠組みを提案する。
これは、従来の拡散のトレーニング予算の10%しか使用しない場合が多いが、これらの手法の利点を活用でき、複数のベンチマーク問題の性能向上に資するSCLD(Sequential Controlled Langevin Diffusion)サンプリング手法の成果である。
論文 参考訳(メタデータ) (2024-12-10T00:47:10Z) - Learning Energy-Based Models by Cooperative Diffusion Recovery Likelihood [64.95663299945171]
高次元データに基づくエネルギーベースモデル(EBM)の訓練は、困難かつ時間を要する可能性がある。
EBMと、GANや拡散モデルのような他の生成フレームワークとの間には、サンプル品質に顕著なギャップがある。
本研究では,協調拡散回復可能性 (CDRL) を提案する。
論文 参考訳(メタデータ) (2023-09-10T22:05:24Z) - Learning a Restricted Boltzmann Machine using biased Monte Carlo
sampling [0.6554326244334867]
マルコフ・チェイン・モンテカルロによる平衡分布のサンプリングはバイアスサンプリング法により劇的に加速できることを示す。
また、このサンプリング手法を用いて、トレーニング中のログライクな勾配の計算を改善することも示している。
論文 参考訳(メタデータ) (2022-06-02T21:29:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。