論文の概要: Multi-level Data Representation For Training Deep Helmholtz Machines
- arxiv url: http://arxiv.org/abs/2210.14855v1
- Date: Wed, 26 Oct 2022 16:55:40 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-27 15:25:08.323348
- Title: Multi-level Data Representation For Training Deep Helmholtz Machines
- Title（参考訳）: 深部ヘルムホルツマシン訓練のための多レベルデータ表現
- Authors: Jose Miguel Ramos, Luis Sa-Couto and Andreas Wichert
- Abstract要約: 我々は,Human Image Perception 機構を用いて,複雑な検索空間において,Helmholtz Machine と呼ばれる生物学的に妥当な生成モデルの学習を指導する。
我々は,マルチレベルデータ表現を用いて,異なる解像度の視覚的キューをネットワークの隠蔽層に提供することで,この問題を解決することを提案する。
いくつかの画像データセットの結果は、モデルがより優れた全体的な品質を得るだけでなく、生成された画像のより広範な多様性を得ることができることを示した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: A vast majority of the current research in the field of Machine Learning is
done using algorithms with strong arguments pointing to their biological
implausibility such as Backpropagation, deviating the field's focus from
understanding its original organic inspiration to a compulsive search for
optimal performance. Yet, there have been a few proposed models that respect
most of the biological constraints present in the human brain and are valid
candidates for mimicking some of its properties and mechanisms. In this paper,
we will focus on guiding the learning of a biologically plausible generative
model called the Helmholtz Machine in complex search spaces using a heuristic
based on the Human Image Perception mechanism. We hypothesize that this model's
learning algorithm is not fit for Deep Networks due to its Hebbian-like local
update rule, rendering it incapable of taking full advantage of the
compositional properties that multi-layer networks provide. We propose to
overcome this problem, by providing the network's hidden layers with visual
queues at different resolutions using a Multi-level Data representation. The
results on several image datasets showed the model was able to not only obtain
better overall quality but also a wider diversity in the generated images,
corroborating our intuition that using our proposed heuristic allows the model
to take more advantage of the network's depth growth. More importantly, they
show the unexplored possibilities underlying brain-inspired models and
techniques.
- Abstract（参考訳）: 機械学習の分野での現在の研究の大部分は、バックプロパゲーションのような生物学的な難しさを指摘し、元の有機的なインスピレーションの理解から最適なパフォーマンスの強制的な探索まで、この分野の焦点を逸脱させる強い議論を持つアルゴリズムを用いて行われている。
しかし、ヒトの脳に存在する生物学的制約の多くを尊重し、その性質やメカニズムを模倣する有効な候補となるモデルがいくつか提案されている。
本稿では,人間の画像知覚機構に基づくヒューリスティックを用いて,複雑な探索空間におけるヘルムホルツ機械と呼ばれる生物学的に妥当な生成モデルの学習を指導することに焦点を当てる。
このモデルの学習アルゴリズムは、Hebbianのようなローカル更新ルールのため、ディープネットワークには適さないと仮定し、多層ネットワークが提供する構成特性を最大限に活用することができない。
我々は,マルチレベルデータ表現を用いて,異なる解像度の視覚的キューをネットワークの隠蔽層に提供することで,この問題を解決することを提案する。
いくつかの画像データセットの結果から、モデルがより優れた全体的な品質を得るだけでなく、生成した画像のより広範な多様性を得ることができることが示され、提案したヒューリスティックを用いて、モデルがネットワークの深さ成長をより活用できるという直感が裏付けられた。
さらに重要なことは、脳にインスパイアされたモデルや技術の基礎となる未調査の可能性を示すことだ。
関連論文リスト
- Towards Scalable and Versatile Weight Space Learning [51.78426981947659]
本稿では,重み空間学習におけるSANEアプローチを紹介する。
ニューラルネットワーク重みのサブセットの逐次処理に向けて,超表現の概念を拡張した。
論文 参考訳（メタデータ） (2024-06-14T13:12:07Z) - Artificial Bee Colony optimization of Deep Convolutional Neural Networks
in the context of Biomedical Imaging [9.334663477968027]
我々は,人工蜂コロニーアルゴリズムと進化計算ツールを統合して,スクラッチからモデルを生成する,新しいハイブリッド型ニューロエボレーティブアルゴリズムを提案する。
Chimera Algorithmは、自然画像と医療画像の2つのデータセットで検証され、Transfer Learningのパフォーマンスを上回りました。
論文 参考訳（メタデータ） (2024-02-23T10:21:03Z) - Unveiling the Unseen: Identifiable Clusters in Trained Depthwise
Convolutional Kernels [56.69755544814834]
深部分離型畳み込みニューラルネットワーク(DS-CNN)の最近の進歩は、新しいアーキテクチャをもたらす。
本稿では,DS-CNNアーキテクチャのもう一つの顕著な特性を明らかにする。
論文 参考訳（メタデータ） (2024-01-25T19:05:53Z) - Neural Echos: Depthwise Convolutional Filters Replicate Biological
Receptive Fields [56.69755544814834]
哺乳類網膜で観察される生体受容野を,深部核が効果的に複製していることを示す証拠を提示する。
生体受容の分野からインスピレーションを得る手法を提案する。
論文 参考訳（メタデータ） (2024-01-18T18:06:22Z) - Visual Prompting Upgrades Neural Network Sparsification: A Data-Model Perspective [64.04617968947697]
より優れた重量空間を実現するために、新しいデータモデル共設計視点を導入する。
具体的には、提案したVPNフレームワークでニューラルネットワークのスパーシフィケーションをアップグレードするために、カスタマイズされたVisual Promptが実装されている。
論文 参考訳（メタデータ） (2023-12-03T13:50:24Z) - Multimodal Adaptive Fusion of Face and Gait Features using Keyless
attention based Deep Neural Networks for Human Identification [67.64124512185087]
歩行のような軟式生体認証は、人物認識や再識別といった監視作業において顔に広く使われている。
本稿では,キーレス注意深層ニューラルネットワークを活用することで,歩行と顔のバイオメトリック・キューを動的に組み込むための適応型マルチバイオメトリック・フュージョン戦略を提案する。
論文 参考訳（メタデータ） (2023-03-24T05:28:35Z) - GM-NeRF: Learning Generalizable Model-based Neural Radiance Fields from
Multi-view Images [79.39247661907397]
本稿では,自由視点画像の合成に有効なフレームワークであるGeneralizable Model-based Neural Radiance Fieldsを提案する。
具体的には、多視点2D画像からの出現コードを幾何学的プロキシに登録するための幾何学誘導型アテンション機構を提案する。
論文 参考訳（メタデータ） (2023-03-24T03:32:02Z) - Interpretability of an Interaction Network for identifying $H
\rightarrow b\bar{b}$ jets [4.553120911976256]
近年、ディープニューラルネットワークに基づくAIモデルは、これらのアプリケーションの多くで人気が高まっている。
我々は、高揚した$Hto bbarb$ jetを識別するために設計されたインタラクションネットワーク(IN)モデルを調べることで、AIモデルの解釈可能性を検討する。
さらに、INモデル内の隠れレイヤの活動を、ニューラルアクティベーションパターン(NAP)ダイアグラムとして記述する。
論文 参考訳（メタデータ） (2022-11-23T08:38:52Z) - Generative Deep Learning Techniques for Password Generation [0.5249805590164902]
パスワード推測に照らして,深層学習モデルと確率ベースモデルの幅広い収集について検討した。
本研究では,最先端サンプリング性能を示す変分オートエンコーダを用いた新しい生成深層学習モデルを提案する。
我々は、よく知られたデータセット上の統一制御フレームワークにおいて、徹底的な経験分析を行う。
論文 参考訳（メタデータ） (2020-12-10T14:11:45Z) - Network Bending: Expressive Manipulation of Deep Generative Models [0.2062593640149624]
ネットワーク曲げと呼ばれる深層生成モデルを操作するための新しいフレームワークを提案する。
生成過程において意味論的に意味のある側面を直接操作できるだけでなく、幅広い表現的な結果を得ることができるかを示す。
論文 参考訳（メタデータ） (2020-05-25T21:48:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。