論文の概要: Representaciones del aprendizaje reutilizando los gradientes de la
retropropagacion
- arxiv url: http://arxiv.org/abs/2012.03188v1
- Date: Sun, 6 Dec 2020 06:15:44 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-22 08:34:36.954425
- Title: Representaciones del aprendizaje reutilizando los gradientes de la
retropropagacion
- Title(参考訳): Representacions del aprendizaje reutilizando los gradientes de la retropropagacion
- Authors: Roberto Reyes-Ochoa and Servando Lopez-Aguayo
- Abstract要約: 本研究は,学習の異なる段階における特徴の重要度を決定するために,バックプロパゲーション勾配を利用するアルゴリズムを提案する。
スカルンが提供したウィスコンシンのがんデータセット上で実験が行われた。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This work proposes an algorithm for taking advantage of backpropagation
gradients to determine feature importance at different stages of training.
Additionally, we propose a way to represent the learning process qualitatively.
Experiments were performed over the Wisconsin cancer dataset provided by
sklearn, and results showed an interesting convergence of the so called
"learning gradients" towards the most important features.
---
Este trabajo propone el algoritmo de gradientes de aprendizaje para encontrar
significado en las entradas de una red neuronal. Ademas, se propone una manera
de evaluarlas por orden de importancia y representar el proceso de aprendizaje
a traves de las etapas de entrenamiento. Los resultados obtenidos utilizan como
referencia el conjunto de datos acerca de tumores malignos y benignos en
Wisconsin. Esta referencia sirvio para detectar un patron en las variables mas
importantes del modelo gracias, asi como su evolucion temporal.
- Abstract(参考訳): 本研究では,バックプロパゲーション勾配を活用し,異なるトレーニング段階における特徴量を決定するアルゴリズムを提案する。
さらに,学習過程を定性的に表現する方法を提案する。
スカルンが提供したウィスコンシンのがんデータセット上で実験を行い、その結果、いわゆる「学習勾配」が最も重要な特徴へと興味深い収束を示した。
--este trabajo propone el algoritmo de gradientes de aprendizaje para encontrar significado en las entradas de una red neuronal。
ademas, se propone una manera de evaluarlas por orden de importancia y representar el proceso de aprendizaje a traves de las etapas de entrenamiento (英語)
Los resultados utilizan como referencia el conjunto de datos acerca de tumores malignos y benignos en Wisconsin
esta referencia sirvio para detectar un patron en las variables mas importantes del modelo gracias, asi como su evolucion temporal を参照。
関連論文リスト
- Learn to Unlearn for Deep Neural Networks: Minimizing Unlearning
Interference with Gradient Projection [56.292071534857946]
最近のデータプライバシ法は、機械学習への関心を喚起している。
課題は、残りのデータセットに関する知識を変更することなく、忘れたデータに関する情報を捨てることである。
我々は、プロジェクテッド・グラディエント・アンラーニング(PGU)という、プロジェクテッド・グラディエント・ベースの学習手法を採用する。
トレーニングデータセットがもはやアクセスできない場合でも、スクラッチからスクラッチで再トレーニングされたモデルと同じような振る舞いをするモデルを、我々のアンラーニング手法が生成できることを実証するための実証的な証拠を提供する。
論文 参考訳(メタデータ) (2023-12-07T07:17:24Z) - A Study of Forward-Forward Algorithm for Self-Supervised Learning [65.268245109828]
本研究では,自己指導型表現学習におけるフォワードとバックプロパゲーションのパフォーマンスについて検討する。
我々の主な発見は、フォワードフォワードアルゴリズムが(自己教師付き)トレーニング中にバックプロパゲーションに相容れないように機能するのに対し、転送性能は研究されたすべての設定において著しく遅れていることである。
論文 参考訳(メタデータ) (2023-09-21T10:14:53Z) - Feature Gradient Flow for Interpreting Deep Neural Networks in Head and
Neck Cancer Prediction [2.9477900773805032]
本稿では,人間に理解可能な機能の観点から,ディープラーニングモデルを解釈する新しい手法である特徴勾配流を提案する。
モデルの勾配流と解釈可能な特徴の一致を測定する。
我々は、損失関数に正規化項を追加することにより、ニューラルネットワークをより解釈できるようにトレーニングする技術を開発した。
論文 参考訳(メタデータ) (2023-07-24T18:25:59Z) - Graph Neural Networks Provably Benefit from Structural Information: A
Feature Learning Perspective [53.999128831324576]
グラフニューラルネットワーク(GNN)は、グラフ表現学習の先駆けとなった。
本研究では,特徴学習理論の文脈におけるグラフ畳み込みの役割について検討する。
論文 参考訳(メタデータ) (2023-06-24T10:21:11Z) - Using a novel fractional-order gradient method for CNN back-propagation [1.6679382332181059]
研究者たちは、新しいディープラーニングモデルを提案し、それを新型コロナウイルスの診断に適用する。
モデルは分数計算のツールを使用し、勾配法の性能を向上させる可能性がある。
論文 参考訳(メタデータ) (2022-05-01T23:38:06Z) - Invariance Learning in Deep Neural Networks with Differentiable Laplace
Approximations [76.82124752950148]
我々はデータ拡張を選択するための便利な勾配法を開発した。
我々はKronecker-factored Laplace近似を我々の目的とする限界確率に近似する。
論文 参考訳(メタデータ) (2022-02-22T02:51:11Z) - From data to functa: Your data point is a function and you should treat
it like one [18.55139634143589]
菌類データの深層学習のためのフレームワークを提案する。
この見解は、データからfunctaへの効率的な変換に関して、多くの課題を提示している。
これらの課題を克服し、幅広いデータモダリティに適用するためのレシピを概説する。
論文 参考訳(メタデータ) (2022-01-28T15:59:58Z) - Point Discriminative Learning for Unsupervised Representation Learning
on 3D Point Clouds [54.31515001741987]
3次元点雲上での教師なし表現学習のための点識別学習法を提案する。
我々は、中間レベルとグローバルレベルの特徴に新しい点識別損失を課すことにより、これを達成した。
提案手法は強力な表現を学習し,新しい最先端性能を実現する。
論文 参考訳(メタデータ) (2021-08-04T15:11:48Z) - Gradient Projection Memory for Continual Learning [5.43185002439223]
過去のタスクを忘れずに継続的に学習する能力は、人工学習システムにとって望ましい属性です。
ニューラルネットワークは,従来のタスクにとって重要と考えられる勾配部分空間に直交方向の勾配を向けることで,新しいタスクを学習する手法を提案する。
論文 参考訳(メタデータ) (2021-03-17T16:31:29Z) - Value-driven Hindsight Modelling [68.658900923595]
値推定は強化学習(RL)パラダイムの重要な構成要素である。
モデル学習は、観測系列に存在する豊富な遷移構造を利用することができるが、このアプローチは通常、報酬関数に敏感ではない。
この2つの極点の間に位置するRLにおける表現学習のアプローチを開発する。
これにより、タスクに直接関連し、値関数の学習を加速できる、抽出可能な予測ターゲットが提供される。
論文 参考訳(メタデータ) (2020-02-19T18:10:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。