論文の概要: Quantum-Aided Meta-Learning for Bayesian Binary Neural Networks via Born
Machines
- arxiv url: http://arxiv.org/abs/2203.17089v1
- Date: Thu, 31 Mar 2022 15:09:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-01 16:10:26.168417
- Title: Quantum-Aided Meta-Learning for Bayesian Binary Neural Networks via Born
Machines
- Title(参考訳): バイジアン二元ニューラルネットワークの量子支援型メタラーニング
- Authors: Ivana Nikoloska and Osvaldo Simeone
- Abstract要約: 本稿では,バイナリベイズニューラルネットワークの学習におけるBornマシンの利用について検討する。
ボルンマシンは、ニューラルネットワークの2重みの変動分布をモデル化するために使用される。
本手法は,ボルンマシンによる勾配に基づくメタラーニングと変分推論を組み合わせ,従来の共同学習戦略より優れていることを示す。
- 参考スコア(独自算出の注目度): 38.467834562966594
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Near-term noisy intermediate-scale quantum circuits can efficiently implement
implicit probabilistic models in discrete spaces, supporting distributions that
are practically infeasible to sample from using classical means. One of the
possible applications of such models, also known as Born machines, is
probabilistic inference, which is at the core of Bayesian methods. This paper
studies the use of Born machines for the problem of training binary Bayesian
neural networks. In the proposed approach, a Born machine is used to model the
variational distribution of the binary weights of the neural network, and data
from multiple tasks is used to reduce training data requirements on new tasks.
The method combines gradient-based meta-learning and variational inference via
Born machines, and is shown in a prototypical regression problem to outperform
conventional joint learning strategies.
- Abstract(参考訳): 近い将来、ノイズの多い中間スケール量子回路は、離散空間における暗黙的確率モデルを効率的に実装することができ、古典的手法でサンプル化できない分布をサポートする。
そのようなモデルの考えられる応用の1つは、ベイズ法の中核である確率的推論である。
本稿では,バイナリベイズニューラルネットワークの学習におけるBornマシンの利用について検討する。
提案手法では、ニューラルネットワークの2値重みの変動分布をモデル化するためにボーンマシンを使用し、複数のタスクからのデータを使用して新しいタスクのトレーニングデータ要求を削減する。
この方法は、勾配に基づくメタラーニングとボルンマシンによる変分推論を組み合わせることで、従来の共同学習戦略を上回り、原型回帰問題で示される。
関連論文リスト
- Neural Lineage [56.34149480207817]
本稿では,親子間の系統関係の発見を目的としたニューラルライン検出という新しいタスクを提案する。
実用上,ニューラルネットワーク表現類似度指標に微調整プロセスの近似を組み込んだ学習自由アプローチを導入する。
精度を追求するために,エンコーダと変圧器検出器からなる学習系系統検出装置を導入する。
論文 参考訳(メタデータ) (2024-06-17T01:11:53Z) - BEND: Bagging Deep Learning Training Based on Efficient Neural Network Diffusion [56.9358325168226]
BEND(Efficient Neural Network Diffusion)に基づくバッグング深層学習学習アルゴリズムを提案する。
我々のアプローチは単純だが効果的であり、まず複数のトレーニングされたモデルの重みとバイアスを入力として、オートエンコーダと潜伏拡散モデルを訓練する。
提案したBENDアルゴリズムは,元のトレーニングモデルと拡散モデルの両方の平均および中央値の精度を一貫して向上させることができる。
論文 参考訳(メタデータ) (2024-03-23T08:40:38Z) - A Metalearned Neural Circuit for Nonparametric Bayesian Inference [4.767884267554628]
機械学習の分類への応用のほとんどは、バランスの取れたクラスの閉じた集合を前提としている。
これは、クラス発生統計が長い尾の力量分布に従うことがしばしばある実世界と矛盾する。
本研究では,非パラメトリックベイズモデルから誘導バイアスを抽出し,人工ニューラルネットワークに転送する手法を提案する。
論文 参考訳(メタデータ) (2023-11-24T16:43:17Z) - Classified as unknown: A novel Bayesian neural network [0.0]
完全連結ニューラルネットワークのための効率の良いベイズ学習アルゴリズムを開発した。
多層パーセプトロンから多層パーセプトロンへの二元分類のための単一パーセプトロンのアルゴリズムを一般化する。
論文 参考訳(メタデータ) (2023-01-31T04:27:09Z) - An unfolding method based on conditional Invertible Neural Networks
(cINN) using iterative training [0.0]
非可逆ニューラルネットワーク(INN)のような生成ネットワークは確率的展開を可能にする。
模擬トレーニングサンプルとデータ間のずれを調整した展開のための反復条件INN(IcINN)を導入する。
論文 参考訳(メタデータ) (2022-12-16T19:00:05Z) - Fully differentiable model discovery [0.0]
ニューラルネットワークに基づくサロゲートとスパースベイズ学習を組み合わせたアプローチを提案する。
我々の研究は、PINNを様々なタイプのニューラルネットワークアーキテクチャに拡張し、ニューラルネットワークベースのサロゲートをベイズパラメータ推論のリッチフィールドに接続する。
論文 参考訳(メタデータ) (2021-06-09T08:11:23Z) - A Bayesian Perspective on Training Speed and Model Selection [51.15664724311443]
モデルのトレーニング速度の測定値を用いて,その限界確率を推定できることを示す。
線形モデルと深部ニューラルネットワークの無限幅限界に対するモデル選択タスクの結果を検証する。
以上の結果から、勾配勾配勾配で訓練されたニューラルネットワークが、一般化する関数に偏りがある理由を説明するための、有望な新たな方向性が示唆された。
論文 参考訳(メタデータ) (2020-10-27T17:56:14Z) - Reservoir Memory Machines as Neural Computers [70.5993855765376]
微分可能なニューラルネットワークは、干渉することなく明示的なメモリで人工ニューラルネットワークを拡張する。
我々は、非常に効率的に訓練できるモデルを用いて、微分可能なニューラルネットワークの計算能力を実現する。
論文 参考訳(メタデータ) (2020-09-14T12:01:30Z) - The Gaussian equivalence of generative models for learning with shallow
neural networks [30.47878306277163]
本研究では,事前学習した生成モデルから得られたデータに基づいて学習したニューラルネットワークの性能について検討する。
この等価性を裏付ける厳密で解析的で数値的な証拠を3本提供します。
これらの結果は、現実的なデータを持つ機械学習モデルの理論研究への有効な道を開く。
論文 参考訳(メタデータ) (2020-06-25T21:20:09Z) - Belief Propagation Reloaded: Learning BP-Layers for Labeling Problems [83.98774574197613]
最も単純な推論手法の1つとして、切り詰められた最大積のBelief伝播を取り上げ、それをディープラーニングモデルの適切なコンポーネントにするために必要となるものを加えます。
このBP-Layerは畳み込みニューラルネットワーク(CNN)の最終ブロックまたは中間ブロックとして使用できる
このモデルは様々な密集予測問題に適用可能であり、パラメータ効率が高く、ステレオ、光フロー、セマンティックセグメンテーションにおける堅牢な解を提供する。
論文 参考訳(メタデータ) (2020-03-13T13:11:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。