論文の概要: Bridging Classical and Quantum Machine Learning: Knowledge Transfer From
Classical to Quantum Neural Networks Using Knowledge Distillation
- arxiv url: http://arxiv.org/abs/2311.13810v1
- Date: Thu, 23 Nov 2023 05:06:43 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-28 00:30:49.345519
- Title: Bridging Classical and Quantum Machine Learning: Knowledge Transfer From
Classical to Quantum Neural Networks Using Knowledge Distillation
- Title（参考訳）: 古典と量子機械学習のブリッジ:知識蒸留を用いた古典から量子ニューラルネットワークへの知識伝達
- Authors: Mohammad Junayed Hasan and M.R.C.Mahdy
- Abstract要約: 本稿では,知識蒸留を用いた古典的ニューラルネットワークから量子ニューラルネットワークへ知識を伝達する新しい手法を提案する。
我々は、LeNetやAlexNetのような古典的畳み込みニューラルネットワーク(CNN)アーキテクチャを教師ネットワークとして活用する。
量子モデルは、MNISTデータセットで0.80%、より複雑なFashion MNISTデータセットで5.40%の平均精度改善を達成する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Very recently, studies have shown that quantum neural networks surpass
classical neural networks in tasks like image classification when a similar
number of learnable parameters are used. However, the development and
optimization of quantum models are currently hindered by issues such as qubit
instability and limited qubit availability, leading to error-prone systems with
weak performance. In contrast, classical models can exhibit high-performance
owing to substantial resource availability. As a result, more studies have been
focusing on hybrid classical-quantum integration. A line of research
particularly focuses on transfer learning through classical-quantum integration
or quantum-quantum approaches. Unlike previous studies, this paper introduces a
new method to transfer knowledge from classical to quantum neural networks
using knowledge distillation, effectively bridging the gap between classical
machine learning and emergent quantum computing techniques. We adapt classical
convolutional neural network (CNN) architectures like LeNet and AlexNet to
serve as teacher networks, facilitating the training of student quantum models
by sending supervisory signals during backpropagation through KL-divergence.
The approach yields significant performance improvements for the quantum models
by solely depending on classical CNNs, with quantum models achieving an average
accuracy improvement of 0.80% on the MNIST dataset and 5.40% on the more
complex Fashion MNIST dataset. Applying this technique eliminates the
cumbersome training of huge quantum models for transfer learning in
resource-constrained settings and enables re-using existing pre-trained
classical models to improve performance.Thus, this study paves the way for
future research in quantum machine learning (QML) by positioning knowledge
distillation as a core technique for advancing QML applications.
- Abstract（参考訳）: ごく最近の研究では、同じ数の学習可能なパラメータが使用される場合、量子ニューラルネットワークが画像分類のようなタスクにおいて古典的なニューラルネットワークを上回ることが示されている。
しかし、量子モデルの開発と最適化は、現在、量子ビット不安定性や量子ビット可用性の制限といった問題によって妨げられている。
対照的に、古典的なモデルはリソースのかなりの可用性のために高性能を示すことができる。
その結果、より多くの研究が古典量子統合のハイブリッドに焦点をあてている。
特に、古典量子積分や量子量子アプローチによる転送学習に重点が置かれている。
従来の研究とは異なり、従来の機械学習と創発的量子コンピューティングのギャップを効果的に橋渡しし、知識を古典的ニューラルネットワークから量子ニューラルネットワークに移す新しい手法を提案する。
我々は、ルネットやアレックスネットのような古典的畳み込みニューラルネットワーク(CNN)アーキテクチャを教師ネットワークとして利用し、KL分割によるバックプロパガンス中の監視信号を送信することによって、学生量子モデルのトレーニングを容易にする。
このアプローチは、古典的cnnのみに依存することで量子モデルのパフォーマンスを大幅に改善し、量子モデルの平均精度はmnistデータセットで0.80%、より複雑なファッションmnistデータセットで5.40%向上した。
この技術を適用することで、リソース制約された環境での移動学習のための巨大な量子モデルの煩雑なトレーニングを不要にし、既存の事前学習された古典的モデルを再利用して性能を向上させることができる。
関連論文リスト
- Quantum-Trained Convolutional Neural Network for Deepfake Audio Detection [3.2927352068925444]
ディープフェイク技術は プライバシー セキュリティ 情報整合性に 課題をもたらす
本稿では,ディープフェイク音声の検出を強化するために,量子学習型畳み込みニューラルネットワークフレームワークを提案する。
論文 参考訳（メタデータ） (2024-10-11T20:52:10Z) - Let the Quantum Creep In: Designing Quantum Neural Network Models by
Gradually Swapping Out Classical Components [1.024113475677323]
現代のAIシステムはニューラルネットワーク上に構築されることが多い。
古典的ニューラルネットワーク層を量子層に置き換える枠組みを提案する。
画像分類データセットの数値実験を行い、量子部品の体系的導入による性能変化を実証する。
論文 参考訳（メタデータ） (2024-09-26T07:01:29Z) - QTRL: Toward Practical Quantum Reinforcement Learning via Quantum-Train [18.138290778243075]
我々はQTRLと呼ばれる強化学習タスクにQuantum-Train法を適用し、古典的なポリシーネットワークモデルを訓練する。
QTRLのトレーニング結果は古典的なモデルであり、推論段階は古典的なコンピュータのみを必要とする。
論文 参考訳（メタデータ） (2024-07-08T16:41:03Z) - A Quantum-Classical Collaborative Training Architecture Based on Quantum
State Fidelity [50.387179833629254]
我々は,コ・テンク (co-TenQu) と呼ばれる古典量子アーキテクチャを導入する。
Co-TenQuは古典的なディープニューラルネットワークを41.72%まで向上させる。
他の量子ベースの手法よりも1.9倍も優れており、70.59%少ない量子ビットを使用しながら、同様の精度を達成している。
論文 参考訳（メタデータ） (2024-02-23T14:09:41Z) - ShadowNet for Data-Centric Quantum System Learning [188.683909185536]
本稿では,ニューラルネットワークプロトコルと古典的シャドウの強みを組み合わせたデータ中心学習パラダイムを提案する。
ニューラルネットワークの一般化力に基づいて、このパラダイムはオフラインでトレーニングされ、これまで目に見えないシステムを予測できる。
量子状態トモグラフィーおよび直接忠実度推定タスクにおいて、我々のパラダイムのインスタンス化を示し、60量子ビットまでの数値解析を行う。
論文 参考訳（メタデータ） (2023-08-22T09:11:53Z) - Pooling techniques in hybrid quantum-classical convolutional neural
networks [0.0]
2次元医用画像の分類のためのハイブリッド量子古典畳み込みニューラルネットワーク(QCCNN)におけるプーリング手法の詳細な研究を行う。
プールのない等価な古典モデルやQCCNNと比較すると,類似性や性能が向上する。
QCCNNにおけるアーキテクチャの選択を、将来のアプリケーションのためにより深く研究することを約束している。
論文 参考訳（メタデータ） (2023-05-09T16:51:46Z) - Problem-Dependent Power of Quantum Neural Networks on Multi-Class
Classification [83.20479832949069]
量子ニューラルネットワーク(QNN)は物理世界を理解する上で重要なツールとなっているが、その利点と限界は完全には理解されていない。
本稿では,多クラス分類タスクにおけるQCの問題依存力について検討する。
我々の研究はQNNの課題依存力に光を当て、その潜在的なメリットを評価するための実践的なツールを提供する。
論文 参考訳（メタデータ） (2022-12-29T10:46:40Z) - The Quantum Path Kernel: a Generalized Quantum Neural Tangent Kernel for
Deep Quantum Machine Learning [52.77024349608834]
古典的なディープニューラルネットワークの量子アナログを構築することは、量子コンピューティングにおける根本的な課題である。
鍵となる問題は、古典的なディープラーニングの本質的な非線形性にどのように対処するかである。
我々は、深層機械学習のこれらの側面を複製できる量子機械学習の定式化であるQuantum Path Kernelを紹介する。
論文 参考訳（メタデータ） (2022-12-22T16:06:24Z) - Classical-to-quantum convolutional neural network transfer learning [1.9336815376402723]
量子畳み込みニューラルネットワーク(QCNN)を用いた機械学習は、量子データ分類と古典データ分類の両方で成功している。
ノイズの多い中規模量子時代に小さなQCNNを利用するための効果的な方法として転送学習を提案する。
論文 参考訳（メタデータ） (2022-08-31T09:15:37Z) - The dilemma of quantum neural networks [63.82713636522488]
量子ニューラルネットワーク(QNN)は、古典的な学習モデルに対して何の恩恵も与えないことを示す。
QNNは、現実世界のデータセットの一般化が不十分な、極めて限られた有効モデル能力に悩まされている。
これらの結果から、現在のQNNの役割を再考し、量子的優位性で現実の問題を解決するための新しいプロトコルを設計せざるを得ない。
論文 参考訳（メタデータ） (2021-06-09T10:41:47Z) - Quantum Deformed Neural Networks [83.71196337378022]
我々は,量子コンピュータ上で効率的に動作するように設計された新しい量子ニューラルネットワーク層を開発した。
入力状態の絡み合いに制限された場合、古典的なコンピュータでシミュレートすることができる。
論文 参考訳（メタデータ） (2020-10-21T09:46:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。