論文の概要: Zenkai -- Framework For Exploring Beyond Backpropagation
- arxiv url: http://arxiv.org/abs/2311.09663v1
- Date: Thu, 16 Nov 2023 08:29:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-17 15:47:49.808265
- Title: Zenkai -- Framework For Exploring Beyond Backpropagation
- Title(参考訳): Zenkai - バックプロパゲーションを超えて探究するフレームワーク
- Authors: Greg Short
- Abstract要約: Zenkaiはオープンソースのフレームワークで、研究者がディープラーニングマシンの構築とトレーニングをよりコントロールできるように設計されている。
ディープラーニングマシンを、独自のターゲットと学習アルゴリズムを備えた半自律学習マシンの層に分割することで、これを実現している。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Zenkai is an open-source framework designed to give researchers more control
and flexibility over building and training deep learning machines. It does this
by dividing the deep learning machine into layers of semi-autonomous learning
machines with their own target and learning algorithm. This is to allow
researchers greater exploration such as the use of non-differentiable layers or
learning algorithms beyond those based on error backpropagation.
Backpropagation Rumelhart et al. [1986] has powered deep learning to become
one of the most exciting fields of the 21st century. As a result, a large
number of software tools have been developed to support efficient
implementation and training of neural networks through the use of backpropa-
gation. While these have been critical to the success of deep learning,
building frameworks around backpropagation can make it challenging to implement
solutions that do not adhere to it. Zenkai aims to make it easier to get around
these limitations and help researchers more easily explore new frontiers in
deep learning that do not strictly adhere to the backpropagation framework.
- Abstract(参考訳): Zenkaiはオープンソースのフレームワークで、ディープラーニングマシンの構築と訓練よりも、研究者のコントロールと柔軟性を高める。
ディープラーニングマシンを、独自のターゲットと学習アルゴリズムを備えた半自律学習マシンの層に分割することで、これを実現できる。
これは、非微分可能なレイヤの使用や、エラーバックプロパゲーションに基づく学習アルゴリズムなど、研究者によるさらなる探索を可能にする。
Rumelhart et al. の略。
1986年]ディープラーニングは21世紀の最もエキサイティングな分野のひとつになりました。
その結果,バックプロパゲーションを用いたニューラルネットワークの効率的な実装とトレーニングを支援するソフトウェアツールが多数開発されている。
これらはディープラーニングの成功に不可欠だが、バックプロパゲーションを中心としたフレームワークの構築は、それに準拠しないソリューションの実装を難しくする可能性がある。
zenkaiは、これらの制限を回避することを容易にし、研究者がバックプロパゲーションフレームワークに厳密に準拠していない深層学習の新しいフロンティアを、より容易に探求することを目指している。
関連論文リスト
- A Unified Framework for Neural Computation and Learning Over Time [56.44910327178975]
Hamiltonian Learningはニューラルネットワークを"時間とともに"学習するための新しい統合フレームワーク
i)外部ソフトウェアソルバを必要とせずに統合できる、(ii)フィードフォワードおよびリカレントネットワークにおける勾配に基づく学習の概念を一般化する、(iii)新しい視点で開放する、という微分方程式に基づいている。
論文 参考訳(メタデータ) (2024-09-18T14:57:13Z) - Self-STORM: Deep Unrolled Self-Supervised Learning for Super-Resolution Microscopy [55.2480439325792]
我々は、シーケンス固有のモデルベースのオートエンコーダをトレーニングすることで、そのようなデータの必要性を軽減する、深層無学習の自己教師付き学習を導入する。
提案手法は, 監視対象の性能を超過する。
論文 参考訳(メタデータ) (2024-03-25T17:40:32Z) - Fault-Tolerant Deep Learning: A Hierarchical Perspective [12.315753706063324]
我々は、フォールトトレラントなディープラーニング設計アプローチに関する総合的な調査を行う。
モデル層, アーキテクチャ層, 回路層, クロス層からのアプローチについて検討する。
論文 参考訳(メタデータ) (2022-04-05T02:31:18Z) - Flashlight: Enabling Innovation in Tools for Machine Learning [50.63188263773778]
私たちは、機械学習ツールやシステムの革新を促進するために構築されたオープンソースのライブラリであるFlashlightを紹介します。
Flashlightは、広く使われているライブラリを下流で活用し、機械学習とシステム研究者をより緊密に連携させる研究を可能にするツールだと考えています。
論文 参考訳(メタデータ) (2022-01-29T01:03:29Z) - Improving the sample-efficiency of neural architecture search with
reinforcement learning [0.0]
この作業では、Automated Machine Learning(AutoML)の領域にコントリビュートしたいと思っています。
我々の焦点は、最も有望な研究方向の一つ、強化学習である。
児童ネットワークの検証精度は、コントローラを訓練するための報奨信号として機能する。
我々は、これをより現代的で複雑なアルゴリズムであるPPOに修正することを提案する。
論文 参考訳(メタデータ) (2021-10-13T14:30:09Z) - Ten Quick Tips for Deep Learning in Biology [116.78436313026478]
機械学習は、データのパターンを認識し、予測モデリングに使用するアルゴリズムの開発と応用に関係している。
ディープラーニングは、独自の機械学習のサブフィールドになっている。
生物学的研究の文脈において、ディープラーニングは高次元の生物学的データから新しい洞察を導き出すためにますます使われてきた。
論文 参考訳(メタデータ) (2021-05-29T21:02:44Z) - PyTorch-Hebbian: facilitating local learning in a deep learning
framework [67.67299394613426]
ヘビーンの局所学習は、バックプロパゲーションの代替の訓練メカニズムとしての可能性を示している。
本稿では,既存のディープラーニングパイプラインにおける局所学習ルールの網羅的かつ体系的な評価のための枠組みを提案する。
このフレームワークは、Krotov-Hopfield学習規則を精度を犠牲にすることなく標準の畳み込みニューラルネットワークに拡張するために使用される。
論文 参考訳(メタデータ) (2021-01-31T10:53:08Z) - Orpheus: A New Deep Learning Framework for Easy Deployment and
Evaluation of Edge Inference [0.0]
Orpheusは推論最適化を簡単にプロトタイピング、デプロイ、評価するための新しいディープラーニングフレームワークである。
最小限の依存関係と、他のサードパーティシステムを統合するためのシンプルなプロセスが特徴だ。
論文 参考訳(メタデータ) (2020-07-24T14:54:40Z) - Structure preserving deep learning [1.2263454117570958]
深層学習は、大きな関心事のトピックとして、前景に浮かび上がっています。
ディープラーニングの適用には、いくつかの挑戦的な数学的問題がある。
既存のディープラーニング手法の構造を数学的に理解する努力が増えている。
論文 参考訳(メタデータ) (2020-06-05T10:59:09Z) - AutoML-Zero: Evolving Machine Learning Algorithms From Scratch [76.83052807776276]
基本数学的操作をビルディングブロックとして使うだけで,完全な機械学習アルゴリズムを自動的に発見できることが示される。
汎用的な検索空間を通じて人間のバイアスを大幅に低減する新しいフレームワークを導入することでこれを実証する。
機械学習アルゴリズムをゼロから発見する上で、これらの予備的な成功は、この分野における有望な新しい方向性を示していると信じている。
論文 参考訳(メタデータ) (2020-03-06T19:00:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。