論文の概要: HiQ-Lip: The First Quantum-Classical Hierarchical Method for Global Lipschitz Constant Estimation of ReLU Networks
- arxiv url: http://arxiv.org/abs/2503.16342v1
- Date: Thu, 20 Mar 2025 16:58:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-21 16:36:03.047877
- Title: HiQ-Lip: The First Quantum-Classical Hierarchical Method for Global Lipschitz Constant Estimation of ReLU Networks
- Title（参考訳）: HiQ-Lip:ReLUネットワークのグローバルリプシッツ定数推定のための最初の量子古典的階層法
- Authors: Haoqi He, Yan Xiao,
- Abstract要約: ニューラルネットワークのグローバルリプシッツ定数の推定は、その堅牢性と一般化能力の理解と改善に不可欠である。
我々は,コヒーレントイジングマシン(CIM)を利用したハイブリッド量子古典的階層法である textbfHiQ-Lip を提案し,大域リプシッツ定数を推定する。
- 参考スコア（独自算出の注目度）: 2.44505480142099
- License:
- Abstract: Estimating the global Lipschitz constant of neural networks is crucial for understanding and improving their robustness and generalization capabilities. However, precise calculations are NP-hard, and current semidefinite programming (SDP) methods face challenges such as high memory usage and slow processing speeds. In this paper, we propose \textbf{HiQ-Lip}, a hybrid quantum-classical hierarchical method that leverages Coherent Ising Machines (CIMs) to estimate the global Lipschitz constant. We tackle the estimation by converting it into a Quadratic Unconstrained Binary Optimization (QUBO) problem and implement a multilevel graph coarsening and refinement strategy to adapt to the constraints of contemporary quantum hardware. Our experimental evaluations on fully connected neural networks demonstrate that HiQ-Lip not only provides estimates comparable to state-of-the-art methods but also significantly accelerates the computation process. In specific tests involving two-layer neural networks with 256 hidden neurons, HiQ-Lip doubles the solving speed and offers more accurate upper bounds than the existing best method, LiPopt. These findings highlight the promising utility of small-scale quantum devices in advancing the estimation of neural network robustness.
- Abstract（参考訳）: ニューラルネットワークのグローバルリプシッツ定数の推定は、その堅牢性と一般化能力の理解と改善に不可欠である。
しかし、正確な計算はNPハードであり、現在の半定値プログラミング(SDP)法は高いメモリ使用率や遅い処理速度といった課題に直面している。
本稿では,コヒーレント・イジング・マシン(CIM)を利用して大域リプシッツ定数を推定するハイブリッド量子古典的階層法である \textbf{HiQ-Lip} を提案する。
本稿では,これを擬似非拘束バイナリ最適化(QUBO)問題に変換し,同時代の量子ハードウェアの制約に適応するために,多レベルグラフの粗大化と改善戦略を実装した。
完全連結ニューラルネットワークに関する実験により、HiQ-Lipは最先端の手法に匹敵する見積を提供するだけでなく、計算処理を大幅に高速化することを示した。
256個の隠れニューロンを持つ2層ニューラルネットワークを含む特定のテストでは、HiQ-Lipは解法速度を2倍にし、既存のベストメソッドであるLiPoptよりも正確な上限を提供する。
これらの知見は、ニューラルネットワークの堅牢性の推定を推し進める上で、小規模量子デバイスが有望であることを示す。
関連論文リスト
- Constraint Guided Model Quantization of Neural Networks [0.0]
Constraint Guided Model Quantization (CGMQ) は、計算資源の上限を使い、ニューラルネットワークのパラメータのビット幅を削減する量子化対応トレーニングアルゴリズムである。
MNISTでは、CGMQの性能が最先端の量子化対応トレーニングアルゴリズムと競合していることが示されている。
論文 参考訳（メタデータ） (2024-09-30T09:41:16Z) - Memory-Augmented Hybrid Quantum Reservoir Computing [0.0]
本稿では、量子計測の古典的後処理を通じてメモリを実装するハイブリッド量子古典的アプローチを提案する。
我々は、完全に連結されたIsingモデルとRydberg原子配列の2つの物理プラットフォーム上でモデルをテストした。
論文 参考訳（メタデータ） (2024-09-15T22:44:09Z) - A Quantum-Classical Collaborative Training Architecture Based on Quantum
State Fidelity [50.387179833629254]
我々は,コ・テンク (co-TenQu) と呼ばれる古典量子アーキテクチャを導入する。
Co-TenQuは古典的なディープニューラルネットワークを41.72%まで向上させる。
他の量子ベースの手法よりも1.9倍も優れており、70.59%少ない量子ビットを使用しながら、同様の精度を達成している。
論文 参考訳（メタデータ） (2024-02-23T14:09:41Z) - State of practice: evaluating GPU performance of state vector and tensor network methods [2.4851820343103035]
本稿では,8種類の量子サブルーチンを用いたテストベンチにおける現状シミュレーション手法の限界について検討する。
我々は,最大1桁のスピードアップを達成し,最適なシミュレーション戦略を選択する方法について強調する。
論文 参考訳（メタデータ） (2024-01-11T09:22:21Z) - Efficient Bound of Lipschitz Constant for Convolutional Layers by Gram
Iteration [122.51142131506639]
循環行列理論を用いて畳み込み層のスペクトルノルムに対して、精密で高速で微分可能な上界を導入する。
提案手法は, 精度, 計算コスト, スケーラビリティの観点から, 他の最先端手法よりも優れていることを示す。
これは畳み込みニューラルネットワークのリプシッツ正則化に非常に効果的であり、並行アプローチに対する競合的な結果である。
論文 参考訳（メタデータ） (2023-05-25T15:32:21Z) - Scaling Limits of Quantum Repeater Networks [62.75241407271626]
量子ネットワーク(QN)は、セキュアな通信、強化されたセンシング、効率的な分散量子コンピューティングのための有望なプラットフォームである。
量子状態の脆弱な性質のため、これらのネットワークはスケーラビリティの観点から大きな課題に直面している。
本稿では,量子リピータネットワーク(QRN)のスケーリング限界について解析する。
論文 参考訳（メタデータ） (2023-05-15T14:57:01Z) - Problem-Dependent Power of Quantum Neural Networks on Multi-Class
Classification [83.20479832949069]
量子ニューラルネットワーク(QNN)は物理世界を理解する上で重要なツールとなっているが、その利点と限界は完全には理解されていない。
本稿では,多クラス分類タスクにおけるQCの問題依存力について検討する。
我々の研究はQNNの課題依存力に光を当て、その潜在的なメリットを評価するための実践的なツールを提供する。
論文 参考訳（メタデータ） (2022-12-29T10:46:40Z) - Accelerating the training of single-layer binary neural networks using
the HHL quantum algorithm [58.720142291102135]
Harrow-Hassidim-Lloyd (HHL) の量子力学的実装から有用な情報が抽出可能であることを示す。
しかし,本論文では,HHLの量子力学的実装から有用な情報を抽出し,古典的側面における解を見つける際の複雑性を低減することを目的としている。
論文 参考訳（メタデータ） (2022-10-23T11:58:05Z) - Decomposition of Matrix Product States into Shallow Quantum Circuits [62.5210028594015]
テンソルネットワーク(TN)アルゴリズムは、パラメタライズド量子回路(PQC)にマッピングできる
本稿では,現実的な量子回路を用いてTN状態を近似する新しいプロトコルを提案する。
その結果、量子回路の逐次的な成長と最適化を含む1つの特定のプロトコルが、他の全ての手法より優れていることが明らかとなった。
論文 参考訳（メタデータ） (2022-09-01T17:08:41Z) - Low-bit Shift Network for End-to-End Spoken Language Understanding [7.851607739211987]
本稿では,連続パラメータを低ビットの2値に量子化する2乗量子化法を提案する。
これにより、高価な乗算演算を除去し、低ビット重みを使用すれば計算の複雑さを低減できる。
論文 参考訳（メタデータ） (2022-07-15T14:34:22Z) - Quantum Robustness Verification: A Hybrid Quantum-Classical Neural
Network Certification Algorithm [1.439946676159516]
本研究では、堅牢性多変数混合整数プログラム(MIP)の解法を含むReLUネットワークの検証について検討する。
この問題を軽減するために、ニューラルネットワーク検証にQCを用い、証明可能な証明書を計算するためのハイブリッド量子プロシージャを導入することを提案する。
シミュレーション環境では,我々の証明は健全であり,問題の近似に必要な最小量子ビット数に制限を与える。
論文 参考訳（メタデータ） (2022-05-02T13:23:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。