論文の概要: Pattern reconstruction with restricted Boltzmann machines
- arxiv url: http://arxiv.org/abs/2205.07087v3
- Date: Fri, 27 Oct 2023 18:13:49 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-01 01:39:28.030407
- Title: Pattern reconstruction with restricted Boltzmann machines
- Title(参考訳): 制限ボルツマンマシンによるパターン再構成
- Authors: Giuseppe Genovese
- Abstract要約: 可視光ユニットの零温度景観を記述した有効エネルギー関数を同定する。
制限ボルツマンマシンがランダムなパターンを再構成する能力は、実際には隠れた事前分布のテールにのみ依存することを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Restricted Boltzmann machines are energy models made of a visible and a
hidden layer. We identify an effective energy function describing the
zero-temperature landscape on the visible units and depending only on the tail
behaviour of the hidden layer prior distribution. Studying the location of the
local minima of such an energy function, we show that the ability of a
restricted Boltzmann machine to reconstruct a random pattern depends indeed
only on the tail of the hidden prior distribution. We find that hidden priors
with strictly super-Gaussian tails give only a logarithmic loss in pattern
retrieval, while an efficient retrieval is much harder with hidden units with
strictly sub-Gaussian tails; if the hidden prior has Gaussian tails, the
retrieval capability is determined by the number of hidden units (as in the
Hopfield model).
- Abstract(参考訳): 制限ボルツマンマシンは可視層と隠れ層からなるエネルギーモデルである。
可視光ユニット上のゼロ温度の風景を記述した有効エネルギー関数を同定し, 先行分布の隠蔽層の尾の挙動にのみ依存する。
このようなエネルギー関数の局所的ミニマの位置を調べることで、制限されたボルツマン機械がランダムなパターンを再構築する能力は、隠れた事前分布のテールのみに依存することを示した。
厳密な超ガウスの尾を持つ隠蔽先行はパターン検索において対数的損失しか与えず、厳密な準ガウスの尾を持つ隠蔽単位では効率的な探索ははるかに困難であり、隠蔽先行がガウスの尾を持つ場合、その検索能力は隠れ単位の数(ホップフィールドモデルなど)によって決定される。
関連論文リスト
- Universal representation by Boltzmann machines with Regularised Axons [34.337412054122076]
正規化されたボルツマンマシンは任意の分布を表現できることを示す。
また、正規化されたボルツマンマシンは、任意の相関した多くの可視パターンを完全検索で指数関数的に保存できることを示す。
論文 参考訳(メタデータ) (2023-10-22T20:05:47Z) - Hiding Images in Deep Probabilistic Models [58.23127414572098]
我々は、画像の深い確率モデルに隠蔽するための異なる計算フレームワークについて述べる。
具体的には、DNNを用いて、カバー画像の確率密度をモデル化し、学習した分布の特定の場所に秘密画像を隠す。
我々は,抽出精度とモデルセキュリティの観点から,SinGANアプローチの実現可能性を示す。
論文 参考訳(メタデータ) (2022-10-05T13:33:25Z) - An Energy-Based Prior for Generative Saliency [62.79775297611203]
本稿では,情報的エネルギーベースモデルを事前分布として採用する,新たな生成正当性予測フレームワークを提案する。
生成サリエンシモデルを用いて,画像から画素単位の不確実性マップを得ることができ,サリエンシ予測におけるモデル信頼度を示す。
実験結果から, エネルギーベース先行モデルを用いた生成塩分率モデルでは, 精度の高い塩分率予測だけでなく, 人間の知覚と整合した信頼性の高い不確実性マップを実現できることが示された。
論文 参考訳(メタデータ) (2022-04-19T10:51:00Z) - Location-Free Camouflage Generation Network [82.74353843283407]
カモフラージュ(Camouflage)は一般的な視覚現象で、前景の物体を背景のイメージに隠すことで、人間の目からは一時的に見えなくなる。
本稿では,前景と背景像の高次特徴を融合させ,一つの推論によって結果を生成する,ロケーションフリーなカモフラージュ生成ネットワーク(LCG-Net)を提案する。
実験により,本手法は単一外観領域における最先端技術と同程度に良好であり,完全に見えない可能性が低いが,多外観領域における最先端技術の品質をはるかに上回っていることが示された。
論文 参考訳(メタデータ) (2022-03-18T10:33:40Z) - Bayesian neural network unit priors and generalized Weibull-tail
property [2.578242050187029]
最近の研究は、有限ベイズニューラルネットワークが内部表現を柔軟に適応するため、無限のニューラルネットワークよりも優れていることを示唆している。
我々の主な成果は、隠れたユニットの尾の正確な記述であり、ユニットの先行がより深くなったことを示している。
この発見は、有限ベイズニューラルネットワークの隠れたユニットの挙動に光を当てる。
論文 参考訳(メタデータ) (2021-10-06T16:12:37Z) - Entanglement Induced Barren Plateaus [2.8038382295783943]
量子ニューラルネットワークにおける可視ユニットと隠れユニットの絡み合いの過大さは学習を妨げると我々は主張する。
エンタングルメントエントロピーにおける体積法則を満たす量子ニューラルネットワークが,高い確率で学習するには適さないモデルを生み出すことを示す。
論文 参考訳(メタデータ) (2020-10-29T22:05:30Z) - Differentiable Unsupervised Feature Selection based on a Gated Laplacian [7.970954821067042]
本稿では,低周波特徴を優先するラプラシアンスコアと,特徴選択のためのゲーティング機構を組み合わせた識別可能な損失関数を提案する。
我々は,提案手法を数学的に動機付け,高雑音条件下では,全特徴集合ではなく,ゲート入力上でラプラシアンを計算することが重要であることを示す。
論文 参考訳(メタデータ) (2020-07-09T11:58:16Z) - Generative Semantic Hashing Enhanced via Boltzmann Machines [61.688380278649056]
既存の生成ハッシュ法は、主に後部分布の分解形式を仮定する。
本稿では,ボルツマンマシンの分布を検索後部として利用することを提案する。
ハッシュコード内の異なるビット間の相関関係を効果的にモデル化することにより、我々のモデルは大幅な性能向上を達成できることを示す。
論文 参考訳(メタデータ) (2020-06-16T01:23:39Z) - ArTIST: Autoregressive Trajectory Inpainting and Scoring for Tracking [80.02322563402758]
オンラインマルチオブジェクトトラッキング(MOT)フレームワークの中核的なコンポーネントの1つは、既存のトラックレットと新しい検出を関連付けることである。
そこで我々は,トラックレットが自然運動を表す可能性を直接測定することにより,トラックレットの提案を評価する確率論的自己回帰生成モデルを提案する。
論文 参考訳(メタデータ) (2020-04-16T06:43:11Z) - Entropy, Free Energy, and Work of Restricted Boltzmann Machines [0.08594140167290096]
我々は統計物理学の文脈で制限されたボルツマンマシンの訓練過程を分析する。
トレーニングが進むにつれて,エントロピーのサブ付加性を通じて,可視層と隠蔽層との相関関係が成長することを示す。
本稿では,作業の指数関数の経路平均と学習前後の自由エネルギーの差を結合するジャージンスキー等式について論じる。
論文 参考訳(メタデータ) (2020-04-10T04:16:33Z) - Bayesian Deep Learning and a Probabilistic Perspective of Generalization [56.69671152009899]
ディープアンサンブルはベイズ辺化を近似する有効なメカニズムであることを示す。
また,アトラクションの流域内での辺縁化により,予測分布をさらに改善する関連手法を提案する。
論文 参考訳(メタデータ) (2020-02-20T15:13:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。