論文の概要: Dendrite Net: A White-Box Module for Classification, Regression, and
System Identification
- arxiv url: http://arxiv.org/abs/2004.03955v6
- Date: Fri, 19 Nov 2021 03:24:11 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-15 08:29:37.376897
- Title: Dendrite Net: A White-Box Module for Classification, Regression, and
System Identification
- Title(参考訳): Dendrite Net: 分類、回帰、システム識別のためのホワイトボックスモジュール
- Authors: Gang Liu and Jing Wang
- Abstract要約: 本稿では,SVM (Support Vector Machine) やMLP (Multilayer Perceptron) と同じように,Dendrite Net あるいは DD という基本的な機械学習アルゴリズムを提案する。
DDの主な概念は、出力の論理式が入力間の対応するクラスの論理的関係を含んでいる場合、学習後にアルゴリズムがこのクラスを認識することである。
- 参考スコア(独自算出の注目度): 6.2611437040083855
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The simulation of biological dendrite computations is vital for the
development of artificial intelligence (AI). This paper presents a basic
machine learning algorithm, named Dendrite Net or DD, just like Support Vector
Machine (SVM) or Multilayer Perceptron (MLP). DD's main concept is that the
algorithm can recognize this class after learning, if the output's logical
expression contains the corresponding class's logical relationship among inputs
(and$\backslash$or$\backslash$not). Experiments and main results: DD, a
white-box machine learning algorithm, showed excellent system identification
performance for the black-box system. Secondly, it was verified by nine
real-world applications that DD brought better generalization capability
relative to MLP architecture that imitated neurons' cell body (Cell body Net)
for regression. Thirdly, by MNIST and FASHION-MNIST datasets, it was verified
that DD showed higher testing accuracy under greater training loss than Cell
body Net for classification. The number of modules can effectively adjust DD's
logical expression capacity, which avoids over-fitting and makes it easy to get
a model with outstanding generalization capability. Finally, repeated
experiments in MATLAB and PyTorch (Python) demonstrated that DD was faster than
Cell body Net both in epoch and forward-propagation. The main contribution of
this paper is the basic machine learning algorithm (DD) with a white-box
attribute, controllable precision for better generalization capability, and
lower computational complexity. Not only can DD be used for generalized
engineering, but DD has vast development potential as a module for deep
learning. DD code is available at GitHub:
https://github.com/liugang1234567/Gang-neuron .
- Abstract(参考訳): 生物学的デンドライト計算のシミュレーションは人工知能(AI)の発展に不可欠である。
本稿では,SVM (Support Vector Machine) やMLP (Multilayer Perceptron) と同じように,Dendrite Net あるいは DD という基本的な機械学習アルゴリズムを提案する。
DDの主な概念は、出力の論理式が入力間の対応するクラスの論理的関係(および$\backslash$or$\backslash$not)を含んでいる場合、学習後にアルゴリズムがこのクラスを認識することである。
実験と主な結果:ホワイトボックス機械学習アルゴリズムDDはブラックボックスシステムに対して優れたシステム識別性能を示した。
第二に、ddはニューロンの細胞体(細胞体網)を模倣したmlpアーキテクチャよりも優れた一般化能力をもたらしたという9つの実世界応用によって検証された。
第3に,MNISTおよびFASHION-MNISTデータセットにより,DDは細胞体ネットよりも高いトレーニング損失下で高い試験精度を示した。
モジュール数はDDの論理式キャパシティを効果的に調整することができ、過剰な適合を回避し、優れた一般化能力を持つモデルを簡単に取得できる。
最後に、MATLABとPyTorch(Python)の反復実験では、DDはエポックおよびフォワードプロパゲーションの両方において細胞体ネットよりも高速であることが示された。
本論文の主な貢献は,ホワイトボックス属性を持つ基本機械学習アルゴリズム(dd),一般化能力の向上のための制御可能な精度,計算複雑性の低減である。
DDは汎用エンジニアリングに利用できるだけでなく、ディープラーニングのモジュールとして大きな開発可能性を持っている。
ddコードはgithubで入手できる: https://github.com/liugang1234567/gang-neuron。
関連論文リスト
- DDxT: Deep Generative Transformer Models for Differential Diagnosis [51.25660111437394]
より単純な教師付き学習信号と自己教師付き学習信号で訓練した生成的アプローチが,現在のベンチマークにおいて優れた結果が得られることを示す。
The proposed Transformer-based generative network, named DDxT, autoregressive produce a set of possible pathology,, i. DDx, and predicts the real pathology using a neural network。
論文 参考訳(メタデータ) (2023-12-02T22:57:25Z) - Can pre-trained models assist in dataset distillation? [21.613468512330442]
事前訓練されたモデル(PTM)は知識リポジトリとして機能し、元のデータセットからの広範な情報を含んでいる。
PTMは、知識を合成データセットに効果的に転送し、DDを正確に導くことができますか?
我々は,初期化パラメータ,モデルアーキテクチャ,エポックトレーニング,ドメイン知識など,PTMのさまざまな選択肢を体系的に研究する。
論文 参考訳(メタデータ) (2023-10-05T03:51:21Z) - Automated Sizing and Training of Efficient Deep Autoencoders using
Second Order Algorithms [0.46040036610482665]
一般化線形分類器の多段階学習法を提案する。
検証エラーは不要な入力のプルーニングによって最小化される。
所望の出力は、Ho-Kashyapルールに似た方法で改善される。
論文 参考訳(メタデータ) (2023-08-11T16:48:31Z) - Modular Neural Network Approaches for Surgical Image Recognition [0.0]
本稿では,DCSS不安定性分類のためのモジュール型学習の異なるアーキテクチャを導入,評価する。
実験の結果,モジュール型学習は非モジュール型システムと比較して性能が向上することがわかった。
第2部では,肩関節鏡画像への自己訓練によるデータラベリングとセグメンテーションのアプローチを提案する。
論文 参考訳(メタデータ) (2023-07-17T22:28:16Z) - Towards Better Out-of-Distribution Generalization of Neural Algorithmic
Reasoning Tasks [51.8723187709964]
ニューラルネットワーク推論タスクのOOD一般化について検討する。
目標は、ディープニューラルネットワークを使用して入出力ペアからアルゴリズムを学ぶことである。
論文 参考訳(メタデータ) (2022-11-01T18:33:20Z) - Adaptive Convolutional Dictionary Network for CT Metal Artifact
Reduction [62.691996239590125]
本稿では,金属人工物削減のための適応畳み込み辞書ネットワーク(ACDNet)を提案する。
我々のACDNetは、トレーニングデータを介して、アーティファクトフリーCT画像の事前を自動で学習し、入力されたCT画像ごとに表現カーネルを適応的に調整することができる。
本手法は,モデルに基づく手法の明確な解釈可能性を継承し,学習に基づく手法の強力な表現能力を維持する。
論文 参考訳(メタデータ) (2022-05-16T06:49:36Z) - Neurosymbolic hybrid approach to driver collision warning [64.02492460600905]
自律運転システムには2つの主要なアルゴリズムアプローチがある。
ディープラーニングだけでは、多くの分野で最先端の結果が得られています。
しかし、ディープラーニングモデルが機能しない場合、デバッグが非常に難しい場合もあります。
論文 参考訳(メタデータ) (2022-03-28T20:29:50Z) - Explainability Tools Enabling Deep Learning in Future In-Situ Real-Time
Planetary Explorations [58.720142291102135]
ディープラーニング(DL)は、効果的な機械学習とコンピュータビジョン技術であることが証明されている。
ディープニューラルネットワーク(DNN)アーキテクチャのほとんどは複雑すぎて'ブラックボックス'と見なされている。
本稿では,各ニューロンの出力クラスへの属性を記述するために,積分勾配を用いた。
DNNのブラックボックスを開くための説明可能性ツールセット(ET)を提供するので、分類へのニューロンの個々の貢献をランク付けし視覚化することができる。
論文 参考訳(メタデータ) (2022-01-15T07:10:00Z) - Learning Efficient, Explainable and Discriminative Representations for
Pulmonary Nodules Classification [2.4565395352560895]
本研究では,効率的かつ(部分的に)説明可能な分類モデルの構築を目指す。
我々は,3次元ネットワークアーキテクチャを高精度かつ高速なトレードオフで自動検索するために,ニューロンアーキテクチャサーチ(NAS)を用いる。
推論段階では、予測精度とロバスト性を改善するために、多様なニューラルネットワークのアンサンブルを用いる。
論文 参考訳(メタデータ) (2021-01-19T02:53:44Z) - Learning Low-rank Deep Neural Networks via Singular Vector Orthogonality
Regularization and Singular Value Sparsification [53.50708351813565]
各ステップにSVDを適用することなく、トレーニング中に低ランクDNNを明示的に達成する最初の方法であるSVDトレーニングを提案する。
SVDトレーニングがDNN層のランクを著しく低減し,同じ精度で計算負荷の低減を実現することを実証的に示す。
論文 参考訳(メタデータ) (2020-04-20T02:40:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。