論文の概要: Virtual neural networks: hundreds of souls in a body
- arxiv url: http://arxiv.org/abs/2609.24782v1
- Date: Mon, 21 Sep 2026 15:46:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:01.361165
- Title: Virtual neural networks: hundreds of souls in a body
- Title(参考訳): 仮想ニューラルネットワーク:身体に何百もの魂
- Abstract要約: トレーニング可能なパラメータの数を一定に保つ、仮想ニューラルネットワークと呼ばれる新しい概念が導入されている。
この概念は、標準的な畳み込みニューラルネットワークを使用して実現可能な抽象的なフレームワークである。
- 参考スコア(独自算出の注目度): 1.5632754424046598
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A new concept, termed virtual neural networks, is introduced, where the count of trainable parameters is kept constant, and scalability is attained purely through computational resources. This concept is an abstract framework that can be realized using any standard convolutional neural network. It merges siamese neural networks with a deep ensemble technique by generating numerous virtual models that share weights derived from a small set of physical models. The ensemble comprises up to hundreds of trained models simultaneously. All virtual networks take the same input, and their interconnected structure induces an internal distortion that boosts the entire ensemble robustness. The accuracy of the ensemble improves as the number of virtual networks increases, without changing the capacity. Virtual neural networks outperform larger capacity models, typical deep ensembles, and contemporary approaches like SWA and Masksembles. Additionally, the highest-performing individual model from the ensemble surpasses other models trained individually, even those with a greater number of parameters. Code: gitlab.com/EnginCZ/virtual-models-public
- Abstract(参考訳): トレーニング可能なパラメータの数を一定に保ち、スケーラビリティは純粋に計算リソースによって達成される。
この概念は、標準的な畳み込みニューラルネットワークを使用して実現可能な抽象的なフレームワークである。
それは、小さな物理モデルの集合から派生した重みを共有する多数の仮想モデルを生成することによって、シアムニューラルネットワークとディープアンサンブルテクニックを融合する。
アンサンブルは最大で数百の訓練されたモデルで構成されている。
全ての仮想ネットワークは同じ入力を受け取り、それらの相互接続構造は内部の歪みを誘発し、アンサンブル全体の堅牢性を高める。
アンサンブルの精度は、キャパシティを変更することなく、仮想ネットワークの数が増えるにつれて向上する。
仮想ニューラルネットワークは、より大きなキャパシティモデル、典型的なディープアンサンブル、SWAやMasksemblesのような現代的なアプローチよりも優れています。
さらに、アンサンブルから得られる最高のパフォーマンスの個々のモデルは、より多くのパラメータを持つモデルでさえ、個別に訓練された他のモデルを上回る。
コード:gitlab.com/EnginCZ/virtual-models-public
関連論文リスト
- Towards Scalable and Versatile Weight Space Learning [51.78426981947659]
本稿では,重み空間学習におけるSANEアプローチを紹介する。
ニューラルネットワーク重みのサブセットの逐次処理に向けて,超表現の概念を拡張した。
論文 参考訳(メタデータ) (2024-06-14T13:12:07Z) - Unsupervised representation learning with Hebbian synaptic and structural plasticity in brain-like feedforward neural networks [0.0]
教師なし表現学習が可能な脳様ニューラルネットワークモデルを導入,評価する。
このモデルは、一般的な機械学習ベンチマークのさまざまなセットでテストされた。
論文 参考訳(メタデータ) (2024-06-07T08:32:30Z) - Towards Explaining Hypercomplex Neural Networks [6.543091030789653]
ハイパーコンプレックスニューラルネットワークは、ディープラーニングコミュニティへの関心が高まっている。
本稿では,本質的に解釈可能なPHNNと4元ネットワークを提案する。
我々は、このユニークなニューラルネットワークのブランチがどのように機能するかを洞察する。
論文 参考訳(メタデータ) (2024-03-26T17:58:07Z) - Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。
我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。
本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文 参考訳(メタデータ) (2024-03-18T18:01:01Z) - Creating Powerful and Interpretable Models withRegression Networks [2.2049183478692584]
本稿では,ニューラルネットワークのパワーと回帰分析の可視性を組み合わせた新しいアーキテクチャRegression Networksを提案する。
これらのモデルが,いくつかのベンチマークデータセット上での解釈可能なモデルの最先端性能を上回ることを実証する。
論文 参考訳(メタデータ) (2021-07-30T03:37:00Z) - Reservoir Memory Machines as Neural Computers [70.5993855765376]
微分可能なニューラルネットワークは、干渉することなく明示的なメモリで人工ニューラルネットワークを拡張する。
我々は、非常に効率的に訓練できるモデルを用いて、微分可能なニューラルネットワークの計算能力を実現する。
論文 参考訳(メタデータ) (2020-09-14T12:01:30Z) - Model Fusion via Optimal Transport [64.13185244219353]
ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。
これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
論文 参考訳(メタデータ) (2019-10-12T22:07:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。