論文の概要: Pupil Learning Mechanism
- arxiv url: http://arxiv.org/abs/2307.16141v1
- Date: Sun, 30 Jul 2023 06:38:44 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-01 17:25:55.851444
- Title: Pupil Learning Mechanism
- Title(参考訳): 瞳孔学習機構
- Authors: Rua-Huan Tsaih, Yu-Hang Chien, Shih-Yi Chien
- Abstract要約: 2層ニューラルネットワーク(2LNN)のネットワーク構造と重みを修飾する瞳孔学習機構(PLM)を導出する。
PLMは、逐次学習、適応学習、完全学習、過度に適合しない学習のためのモジュールで構成されている。
実験により, PLMモジュールの設計が線形回帰モデルと従来のバックプロパゲーションベース2LNNモデルよりも優れていることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Studies on artificial neural networks rarely address both vanishing gradients
and overfitting issues. In this study, we follow the pupil learning procedure,
which has the features of interpreting, picking, understanding, cramming, and
organizing, to derive the pupil learning mechanism (PLM) by which to modify the
network structure and weights of 2-layer neural networks (2LNNs). The PLM
consists of modules for sequential learning, adaptive learning, perfect
learning, and less-overfitted learning. Based upon a copper price forecasting
dataset, we conduct an experiment to validate the PLM module design modules,
and an experiment to evaluate the performance of PLM. The empirical results
indeed approve the PLM module design and show the superiority of the proposed
PLM model over the linear regression model and the conventional
backpropagation-based 2LNN model.
- Abstract(参考訳): 人工ニューラルネットワークの研究は、消失する勾配と過適合の問題の両方にほとんど対処しない。
本研究では,2層ニューラルネットワーク (2LNN) のネットワーク構造と重みを変化させる学習機構 (PLM) を導出するために, 解釈, 抽出, 理解, クラミング, 整理といった特徴を持つ瞳孔学習手順に従う。
PLMは、逐次学習、適応学習、完全学習、過度な学習のためのモジュールで構成されている。
銅価格予測データセットに基づいて,plmモジュールの設計モジュールを検証する実験と,plmの性能評価実験を行った。
実験により, PLMモジュールの設計が線形回帰モデルと従来のバックプロパゲーションベース2LNNモデルよりも優れていることを示す。
関連論文リスト
- Layer-wise Feedback Propagation [53.00944147633484]
本稿では、ニューラルネットワークのような予測器のための新しいトレーニング手法であるLFP(Layer-wise Feedback Propagation)を提案する。
LFPは、与えられたタスクの解決に対するそれぞれの貢献に基づいて、個々のコネクションに報酬を割り当てる。
各種モデルやデータセットの勾配降下に匹敵する性能を達成できることの有効性を実証する。
論文 参考訳(メタデータ) (2023-08-23T10:48:28Z) - CodeGen2: Lessons for Training LLMs on Programming and Natural Languages [116.74407069443895]
我々はエンコーダとデコーダベースのモデルを単一のプレフィックスLMに統一する。
学習方法は,「フリーランチ」仮説の主張を考察する。
データ配信においては,混合分布と多言語学習がモデル性能に及ぼす影響について検討した。
論文 参考訳(メタデータ) (2023-05-03T17:55:25Z) - Fitting a Directional Microstructure Model to Diffusion-Relaxation MRI
Data with Self-Supervised Machine Learning [2.8167227950959206]
教師付き学習の魅力的な代替手段として、自己教師型機械学習が登場している。
本稿では,指向性マイクロ構造モデルに適用可能な自己教師型機械学習モデルを実証する。
提案手法は, パラメータ推定と計算時間において, 通常の非線形最小二乗整合と比較して明らかに改善されている。
論文 参考訳(メタデータ) (2022-10-05T15:51:39Z) - Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。
本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文 参考訳(メタデータ) (2021-06-17T17:26:31Z) - Learning Variational Data Assimilation Models and Solvers [34.22350850350653]
データ同化のためのエンドツーエンドニューラルネットワークアーキテクチャを導入する。
提案するエンドツーエンド学習アーキテクチャの重要な特徴は、教師なし戦略と教師なし戦略の両方を用いてNNモデルをトレーニングできることである。
論文 参考訳(メタデータ) (2020-07-25T14:28:48Z) - Transfer Learning without Knowing: Reprogramming Black-box Machine
Learning Models with Scarce Data and Limited Resources [78.72922528736011]
そこで我々は,ブラックボックス・アタベラル・リプログラミング (BAR) という新しい手法を提案する。
ゼロオーダー最適化とマルチラベルマッピング技術を用いて、BARは入力出力応答のみに基づいてブラックボックスMLモデルをプログラムする。
BARは最先端の手法より優れ、バニラ対逆プログラミング法に匹敵する性能を得る。
論文 参考訳(メタデータ) (2020-07-17T01:52:34Z) - PAC Bounds for Imitation and Model-based Batch Learning of Contextual
Markov Decision Processes [31.83144400718369]
本稿では,コンテキスト記述子を用いたマルチタスク強化学習のバッチ化の問題点について考察する。
直接政策学習(DPL)、専門家の軌道から学習する模倣学習に基づくアプローチ、モデルに基づく学習という2つの一般的な学習アルゴリズムについて研究する。
論文 参考訳(メタデータ) (2020-06-11T11:57:08Z) - Towards Interpretable Deep Learning Models for Knowledge Tracing [62.75876617721375]
本稿では,深層学習に基づく知識追跡(DLKT)モデルの解釈可能性問題に対処するポストホック手法を提案する。
具体的には、RNNに基づくDLKTモデルを解釈するために、レイヤワイズ関連伝搬法(LRP)を適用することに焦点をあてる。
実験結果から,DLKTモデルの予測をLRP法で解釈できることを示す。
論文 参考訳(メタデータ) (2020-05-13T04:03:21Z) - On Training and Evaluation of Neural Network Approaches for Model
Predictive Control [9.8918553325509]
本稿では,制約ニューラルネットワークを用いて実装されたモデル予測制御(MPC)のトレーニングと評価を行うフレームワークである。
モチベーションは、安全クリティカルフィードバック制御システムのリアルタイム最適化を、ニューラルネットワークと最適化層という形で学習されたマッピングに置き換えることである。
論文 参考訳(メタデータ) (2020-05-08T15:37:55Z) - Obtaining Faithful Interpretations from Compositional Neural Networks [72.41100663462191]
NLVR2およびDROPデータセット上でNMNの中間出力を評価する。
中間出力は期待出力と異なり,ネットワーク構造がモデル動作の忠実な説明を提供していないことを示す。
論文 参考訳(メタデータ) (2020-05-02T06:50:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。