論文の概要: Bucketed PCA Neural Networks with Neurons Mirroring Signals

• arxiv url: http://arxiv.org/abs/2108.00605v1
• Date: Mon, 2 Aug 2021 02:43:59 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-04 01:35:00.797114
• Title: Bucketed PCA Neural Networks with Neurons Mirroring Signals
• Title（参考訳）: ニューロンミラー信号を用いたバケット型PCAニューラルネットワーク
• Authors: Jackie Shen
• Abstract要約: ここでは、ディープニューラルネットワーク(DNN)をベンチマークするために、トランスフォーメーションを備えたバケット付きPCAニューラルネットワーク(PCA-NN)を開発した。 バケツ入りPCA-NNの3つの構成要素は概念的に理解しやすい。 準ランダムなニューロンがDNNをユビキタスに観測しているのと異なり、ニューロンは入力信号に類似または類似している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The bucketed PCA neural network (PCA-NN) with transforms is developed here in an effort to benchmark deep neural networks (DNN's), for problems on supervised classification. Most classical PCA models apply PCA to the entire training data set to establish a reductive representation and then employ non-network tools such as high-order polynomial classifiers. In contrast, the bucketed PCA-NN applies PCA to individual buckets which are constructed in two consecutive phases, as well as retains a genuine architecture of a neural network. This facilitates a fair apple-to-apple comparison to DNN's, esp. to reveal that a major chunk of accuracy achieved by many impressive DNN's could possibly be explained by the bucketed PCA-NN (e.g., 96% out of 98% for the MNIST data set as an example). Compared with most DNN's, the three building blocks of the bucketed PCA-NN are easier to comprehend conceptually - PCA, transforms, and bucketing for error correction. Furthermore, unlike the somewhat quasi-random neurons ubiquitously observed in DNN's, the PCA neurons resemble or mirror the input signals and are more straightforward to decipher as a result.
• Abstract（参考訳）: 深いニューラルネットワーク(DNN)をベンチマークするために、トランスフォーメーションを備えたバケット付きPCAニューラルネットワーク(PCA-NN)を開発した。 ほとんどの古典的PCAモデルは、還元表現を確立するためにトレーニングデータセット全体にPCAを適用し、高階多項式分類器のような非ネットワークツールを使用する。 対照的に、バケット付きPCA-NNは、2つの連続したフェーズで構築される個々のバケットにPCAを適用し、ニューラルネットワークの真のアーキテクチャを保持する。 これにより、dnnのespとapple対appleの公平な比較が容易になる。 多くの印象的なDNNによって達成された大きな精度は、バケツ入りPCA-NNによって説明できる可能性がある(例:MNISTデータセットの98%のうち96%)。 多くのDNNと比較して、バケット付きPCA-NNの3つのビルディングブロックは概念的に理解しやすい。 さらに、DNNで広く見られる準ランダムニューロンとは異なり、PCAニューロンは入力信号に類似または反映しており、結果としてより容易に解読できる。

関連論文リスト

• Accurate Mapping of RNNs on Neuromorphic Hardware with Adaptive Spiking Neurons [2.9410174624086025]
  我々は、SigmaDelta$-low-pass RNN(lpRNN)を、レートベースのRNNをスパイクニューラルネットワーク(SNN)にマッピングするために提示する。 適応スパイキングニューロンモデルは、$SigmaDelta$-modulationを使って信号を符号化し、正確なマッピングを可能にする。 我々は、Intelのニューロモルフィック研究チップLoihiにおけるlpRNNの実装を実演する。
  論文  参考訳（メタデータ） (2024-07-18T14:06:07Z)
• Random-coupled Neural Network [17.53731608985241]
  パルス結合ニューラルネットワーク(PCNN)は、コンピュータビジョンとニューラルネットワークの分野における人間の脳の特徴を模倣するためのよく応用されたモデルである。 本研究では,ランダム結合ニューラルネットワーク(RCNN)を提案する。 ランダム不活性化プロセスを通じて、PCNNのニューロモルフィックコンピューティングの困難を克服する。
  論文  参考訳（メタデータ） (2024-03-26T09:13:06Z)
• Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
  ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。 我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。 我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
  論文  参考訳（メタデータ） (2023-10-02T03:25:32Z)
• Separable PINN: Mitigating the Curse of Dimensionality in Physics-Informed Neural Networks [6.439575695132489]
  物理インフォームドニューラルネットワーク(PINN)は、前方および逆問題の両方に新しいデータ駆動型PDEソルバとして登場した。 自動微分(AD)の計算は、PINNのトレーニングにおいて前方モードADを活用することで大幅に削減できることを示す。 我々は、より効率的な計算のために、前進モードADを容易に行える分離可能なPINN(SPINN)と呼ばれるネットワークアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2022-11-16T08:46:52Z)
• Extrapolation and Spectral Bias of Neural Nets with Hadamard Product: a Polynomial Net Study [55.12108376616355]
  NTKの研究は典型的なニューラルネットワークアーキテクチャに特化しているが、アダマール製品(NNs-Hp)を用いたニューラルネットワークには不完全である。 本研究では,ニューラルネットワークの特別なクラスであるNNs-Hpに対する有限幅Kの定式化を導出する。 我々は,カーネル回帰予測器と関連するNTKとの等価性を証明し,NTKの適用範囲を拡大する。
  論文  参考訳（メタデータ） (2022-09-16T06:36:06Z)
• Topological Measurement of Deep Neural Networks Using Persistent Homology [0.7919213739992464]
  ディープニューラルネットワーク(DNN)の内部表現は解読不能である。 持続的ホモロジー(PH)は、訓練されたDNNの複雑さを調べるために用いられた。
  論文  参考訳（メタデータ） (2021-06-06T03:06:15Z)
• Strengthening the Training of Convolutional Neural Networks By Using Walsh Matrix [0.0]
  分類性能を向上させるため,DNNのトレーニングと構造を変更した。 畳み込みニューラルネットワーク(CNN)の最後の層に続く最小距離ネットワーク(MDN)が分類器として使用される。 異なる領域では、ノード数が少ないDivFEを使用することでより高い分類性能が得られたことが観察されている。
  論文  参考訳（メタデータ） (2021-03-31T18:06:11Z)
• BreakingBED -- Breaking Binary and Efficient Deep Neural Networks by Adversarial Attacks [65.2021953284622]
  CNNのホワイトボックス攻撃やブラックボックス攻撃に対する堅牢性について検討する。 結果は、蒸留されたCNN、エージェントベースの最新のprunedモデル、およびバイナライズニューラルネットワークのために示されています。
  論文  参考訳（メタデータ） (2021-03-14T20:43:19Z)
• Neural Anisotropy Directions [63.627760598441796]
  我々は、アーキテクチャの方向性誘導バイアスをカプセル化するベクトルとして、神経異方性方向(NAD)を定義する。 CIFAR-10データセットでは、NADはCNNが異なるクラス間で識別するために使用する特徴を特徴付ける。
  論文  参考訳（メタデータ） (2020-06-17T08:36:28Z)
• $\Pi-$nets: Deep Polynomial Neural Networks [86.36557534288535]
  $Pi$-Netsは、出力が入力の高次であるニューラルネットワークである。 我々は、$Pi$-Netsが標準のDCNNよりも優れた表現能力を持っていることを実証的に実証した。 近年のStyleGANのような生成モデルが,先行モデルに改良を加えた理由を解明する。
  論文  参考訳（メタデータ） (2020-03-08T18:48:43Z)
• Approximation and Non-parametric Estimation of ResNet-type Convolutional Neural Networks [52.972605601174955]
  本稿では,ResNet型CNNが重要な関数クラスにおいて最小誤差率を達成可能であることを示す。 Barron と H'older のクラスに対する前述のタイプの CNN の近似と推定誤差率を導出する。
  論文  参考訳（メタデータ） (2019-03-24T19:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。