論文の概要: On the Solvability of the {XOR} Problem by Spiking Neural Networks
- arxiv url: http://arxiv.org/abs/2408.05845v1
- Date: Sun, 11 Aug 2024 19:01:39 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-13 15:15:52.356609
- Title: On the Solvability of the {XOR} Problem by Spiking Neural Networks
- Title（参考訳）: スパイクニューラルネットワークによる「XOR」問題の解決可能性について
- Authors: Bernhard A. Moser, Michael Lunglmayr,
- Abstract要約: 線形分離不能なXOR問題とバイナリ論理ゲートを表す関連する問題を再考する。
この問題を例として,情報符号化などのハイパーパラメータの影響について検討する。
隠れた層に2つのニューロンしか持たない最小構成のスパース解を実現できることを示す。
- 参考スコア（独自算出の注目度）: 0.46040036610482665
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The linearly inseparable XOR problem and the related problem of representing binary logical gates is revisited from the point of view of temporal encoding and its solvability by spiking neural networks with minimal configurations of leaky integrate-and-fire (LIF) neurons. We use this problem as an example to study the effect of different hyper parameters such as information encoding, the number of hidden units in a fully connected reservoir, the choice of the leaky parameter and the reset mechanism in terms of reset-to-zero and reset-by-subtraction based on different refractory times. The distributions of the weight matrices give insight into the difficulty, respectively the probability, to find a solution. This leads to the observation that zero refractory time together with graded spikes and an adapted reset mechanism, reset-to-mod, makes it possible to realize sparse solutions of a minimal configuration with only two neurons in the hidden layer to resolve all binary logic gate constellations with XOR as a special case.
- Abstract（参考訳）: 線形分離不能なXOR問題とバイナリ論理ゲートの表現に関する問題は、漏洩した積分と発火(LIF)ニューロンの最小構成でニューラルネットワークをスパイクすることで、時間的エンコーディングと解法の観点から再考される。
本稿では,情報符号化,完全接続型貯水池における隠蔽ユニット数,漏れパラメータの選択,リセット・ツー・ゼロ,リセット・バイ・サブトラクションといった高次パラメータの影響について,屈折時間に基づいて検討する。
重み行列の分布は、解を見つけるのにそれぞれ難易度、確率について洞察を与える。
これにより、グレードされたスパイクと適応されたリセット機構(reset-to-mod)とともにゼロ屈折時間がゼロとなり、隠れた層に2つのニューロンしか持たない最小構成のスパース解を実現できる。
関連論文リスト
- Score-based Neural Ordinary Differential Equations for Computing Mean Field Control Problems [13.285775352653546]
本稿では,ディープニューラルネットワークに基づく一階および二階のスコア関数を表すニューラルディファレンシャル方程式のシステムを提案する。
本研究では,個々の雑音に対する平均粘性場制御(MFC)問題を,提案したニューラルODEシステムによって構成された制約のない最適化問題に再構成する。
論文 参考訳（メタデータ） (2024-09-24T21:45:55Z) - LinSATNet: The Positive Linear Satisfiability Neural Networks [116.65291739666303]
本稿では,ニューラルネットワークに人気の高い正の線形満足度を導入する方法について検討する。
本稿では,古典的なシンクホーンアルゴリズムを拡張し,複数の辺分布の集合を共同で符号化する,最初の微分可能満足層を提案する。
論文 参考訳（メタデータ） (2024-07-18T22:05:21Z) - Q2A: Querying Implicit Fully Continuous Feature Pyramid to Align Features for Medical Image Segmentation [10.66113563605316]
本稿では,INRベースのデコーダの特徴的不整合問題を解決するために,新しい一段階のクエリベースの整合性パラダイムであるQ2Aを提案する。
各目標座標について、Q2Aはまず、その座標に整列したコンテキスト特徴の空間オフセットとセル解像度を記述した複数のクエリを生成し、それに対応する特徴を算出する。
論文 参考訳（メタデータ） (2024-04-15T05:53:26Z) - Adaptive Multilevel Neural Networks for Parametric PDEs with Error Estimation [0.0]
ニューラルネットワークアーキテクチャは高次元パラメータ依存偏微分方程式(pPDE)を解くために提示される
モデルデータのパラメータを対応する有限要素解にマッピングするために構築される。
適応有限要素法(AFEM)で生成される粗いグリッド解と一連の補正を出力する。
論文 参考訳（メタデータ） (2024-03-19T11:34:40Z) - Solving Elliptic Optimal Control Problems via Neural Networks and Optimality System [3.8704302640118864]
最適制御問題に対するニューラルネットワークに基づく解法(ボックス制約付き/なし)について検討する。
削減されたシステムのソリューションを表現するために、ディープニューラルネットワークを使用している。
本手法を説明するためにいくつかの数値例を提示し,既存の2つの数値例と比較する。
論文 参考訳（メタデータ） (2023-08-23T05:18:19Z) - On the Effective Number of Linear Regions in Shallow Univariate ReLU
Networks: Convergence Guarantees and Implicit Bias [50.84569563188485]
我々は、ラベルが$r$のニューロンを持つターゲットネットワークの符号によって決定されるとき、勾配流が方向収束することを示す。
我々の結果は、標本サイズによらず、幅が$tildemathcalO(r)$である、緩やかなオーバーパラメータ化をすでに維持しているかもしれない。
論文 参考訳（メタデータ） (2022-05-18T16:57:10Z) - Mean-field Analysis of Piecewise Linear Solutions for Wide ReLU Networks [83.58049517083138]
勾配勾配勾配を用いた2層ReLUネットワークについて検討する。
SGDは単純な解に偏りがあることが示される。
また,データポイントと異なる場所で結び目が発生するという経験的証拠も提供する。
論文 参考訳（メタデータ） (2021-11-03T15:14:20Z) - The Separation Capacity of Random Neural Networks [78.25060223808936]
標準ガウス重みと一様分布バイアスを持つ十分に大きな2層ReLUネットワークは、この問題を高い確率で解くことができることを示す。
我々は、相互複雑性という新しい概念の観点から、データの関連構造を定量化する。
論文 参考訳（メタデータ） (2021-07-31T10:25:26Z) - LocalDrop: A Hybrid Regularization for Deep Neural Networks [98.30782118441158]
本稿では,ローカルラデマチャー複雑性を用いたニューラルネットワークの正規化のための新しい手法であるLocalDropを提案する。
フルコネクテッドネットワーク(FCN)と畳み込みニューラルネットワーク(CNN)の両方のための新しい正規化機能は、ローカルラデマチャー複雑さの上限提案に基づいて開発されました。
論文 参考訳（メタデータ） (2021-03-01T03:10:11Z) - On Connectivity of Solutions in Deep Learning: The Role of
Over-parameterization and Feature Quality [21.13299067136635]
パラメータ空間における2つの任意の点の接続を保証するための新しい条件を提案する。
この条件はドロップアウトの安定性よりも明らかに穏やかであり、低損失経路の発見問題とニューラルネットワークの記憶能力との関係を提供する。
論文 参考訳（メタデータ） (2021-02-18T23:44:08Z) - Joint Deep Reinforcement Learning and Unfolding: Beam Selection and
Precoding for mmWave Multiuser MIMO with Lens Arrays [54.43962058166702]
離散レンズアレイを用いたミリ波マルチユーザマルチインプット多重出力(MU-MIMO)システムに注目が集まっている。
本研究では、DLA を用いた mmWave MU-MIMO システムのビームプリコーディング行列の共同設計について検討する。
論文 参考訳（メタデータ） (2021-01-05T03:55:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。