Fugu-MT 論文翻訳(概要): A comparative analysis of a neural network with calculated weights and a neural network with random generation of weights based on the training dataset size

論文の概要: A comparative analysis of a neural network with calculated weights and a neural network with random generation of weights based on the training dataset size

arxiv url: http://arxiv.org/abs/2505.23876v1
Date: Thu, 29 May 2025 14:31:25 GMT
ステータス: 翻訳完了
システム内更新日: 2025-06-02 19:47:52.595279
Title: A comparative analysis of a neural network with calculated weights and a neural network with random generation of weights based on the training dataset size
Title（参考訳）: 計算重み付きニューラルネットワークとトレーニングデータセットサイズに基づくランダムな重み付きニューラルネットワークの比較解析
Authors: Polad Geidarov,
Abstract要約: 本稿では,メートル法を実装した多層パーセプトロンニューラルネットワークの性能について論じる。その結果、事前計算した重みを持つ多層パーセプトロンはより高速にトレーニングでき、トレーニングデータセットの縮小に対してより堅牢であることがわかった。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: The paper discusses the capabilities of multilayer perceptron neural networks implementing metric recognition methods, for which the values of the weights are calculated analytically by formulas. Comparative experiments in training a neural network with pre-calculated weights and with random initialization of weights on different sizes of the MNIST training dataset are carried out. The results of the experiments show that a multilayer perceptron with pre-calculated weights can be trained much faster and is much more robust to the reduction of the training dataset.
Abstract（参考訳）: 本稿では,重みの値が式によって解析的に計算される計量認識手法を実装した多層パーセプトロンニューラルネットワークの性能について論じる。ニューラルネットワークを事前計算した重み付きトレーニングと、MNISTトレーニングデータセットの異なるサイズでの重み付きランダム初期化の比較実験を行った。実験の結果、事前計算した重みを持つ多層パーセプトロンはより高速にトレーニングでき、トレーニングデータセットの縮小に対してより堅牢であることが示された。

関連論文リスト

Efficient Training with Denoised Neural Weights [65.14892033932895]
この研究は、初期化のために神経重みを合成するウェイトジェネレータを構築するための新しい一歩を踏み出した。本稿では,モデル重みの収集を容易にするために,GANを用いた画像間翻訳タスクを例に挙げる。拡散モデルによって予測される重み付き画像翻訳モデルを初期化することにより、トレーニングは43.3秒しか必要としない。
論文参考訳（メタデータ） (2024-07-16T17:59:42Z)
Diffusion-Based Neural Network Weights Generation [80.89706112736353]
D2NWGは拡散に基づくニューラルネットワーク重み生成技術であり、転送学習のために高性能な重みを効率よく生成する。本稿では,ニューラルネットワーク重み生成のための遅延拡散パラダイムを再放送するために,生成的ハイパー表現学習を拡張した。我々のアプローチは大規模言語モデル(LLM)のような大規模アーキテクチャにスケーラブルであり、現在のパラメータ生成技術の限界を克服しています。
論文参考訳（メタデータ） (2024-02-28T08:34:23Z)
Data Augmentations in Deep Weight Spaces [89.45272760013928]
そこで本研究では,Mixup法に基づく新しい拡張手法を提案する。既存のベンチマークと新しいベンチマークでこれらのテクニックのパフォーマンスを評価する。
論文参考訳（メタデータ） (2023-11-15T10:43:13Z)
Understanding Weight Similarity of Neural Networks via Chain Normalization Rule and Hypothesis-Training-Testing [58.401504709365284]
非畳み込みニューラルネットワークの重み類似度を定量化できる重み類似度尺度を提案する。まず,ニューラルネットワークの重みをチェーン正規化規則により正規化し,重み訓練表現学習を導入する。ニューラルネットワークの重み類似性に関する仮説を検証するため,従来の仮説検証手法を拡張した。
論文参考訳（メタデータ） (2022-08-08T19:11:03Z)
With Greater Distance Comes Worse Performance: On the Perspective of Layer Utilization and Model Generalization [3.6321778403619285]
ディープニューラルネットワークの一般化は、マシンラーニングにおける主要なオープンな問題の1つだ。初期のレイヤは一般的に、トレーニングデータとテストデータの両方のパフォーマンスに関する表現を学びます。より深いレイヤは、トレーニングのリスクを最小限に抑え、テストや不正なラベル付けされたデータとうまく連携できない。
論文参考訳（メタデータ） (2022-01-28T05:26:32Z)
Dynamic Neural Diversification: Path to Computationally Sustainable Neural Networks [68.8204255655161]
訓練可能なパラメータが制限された小さなニューラルネットワークは、多くの単純なタスクに対してリソース効率の高い候補となる。学習過程において隠れた層内のニューロンの多様性を探索する。ニューロンの多様性がモデルの予測にどのように影響するかを分析する。
論文参考訳（メタデータ） (2021-09-20T15:12:16Z)
MLDS: A Dataset for Weight-Space Analysis of Neural Networks [0.0]
MLDSは、注意深く制御されたパラメータを持つ何千ものトレーニングニューラルネットワークからなる新しいデータセットである。このデータセットは、モデル-to-modelとモデル-to-training-data関係に関する新たな洞察を可能にする。
論文参考訳（メタデータ） (2021-04-21T14:24:26Z)
The distance between the weights of the neural network is meaningful [9.329400348695435]
ニューラルネットワークの適用においては、問題複雑性とデータセットスケールに基づいて適切なモデルを選択する必要がある。本稿では,異なるトレーニング段階におけるニューラルネットワーク重み間の距離を用いて,トレーニング過程において,ネットワークが蓄積した情報を直接推定できることを示す。
論文参考訳（メタデータ） (2021-01-31T06:44:49Z)
Statistical model-based evaluation of neural networks [74.10854783437351]
ニューラルネットワーク(NN)の評価のための実験装置を開発する。このセットアップは、NNs vis-a-vis minimum-mean-square-error (MMSE)パフォーマンス境界のベンチマークに役立つ。これにより、トレーニングデータサイズ、データ次元、データ幾何学、ノイズ、トレーニング条件とテスト条件のミスマッチの影響をテストできます。
論文参考訳（メタデータ） (2020-11-18T00:33:24Z)
Linear discriminant initialization for feed-forward neural networks [0.0]
最良クラスを識別する線形判別器を用いてニューラルネットワークの第1層を初期化する。この方法でのネットワークは、同じレベルのトレーニングに到達するためのトレーニングステップを減らします。
論文参考訳（メタデータ） (2020-07-24T21:53:48Z)
Predicting Neural Network Accuracy from Weights [25.73213712719546]
トレーニングされたニューラルネットワークの精度は、その重みだけを見て驚くほど正確に予測できることを実験的に示す。この分野のさらなる研究を促進するために、4つの異なるデータセットでトレーニングされた120kの畳み込みニューラルネットワークのコレクションをリリースする。
論文参考訳（メタデータ） (2020-02-26T13:06:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。