論文の概要: Correlative Information Maximization Based Biologically Plausible Neural
Networks for Correlated Source Separation
- arxiv url: http://arxiv.org/abs/2210.04222v2
- Date: Sat, 8 Apr 2023 08:58:38 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-11 23:26:58.825037
- Title: Correlative Information Maximization Based Biologically Plausible Neural
Networks for Correlated Source Separation
- Title(参考訳): 相関情報最大化に基づく生物学的に妥当なニューラルネットワークによる音源分離
- Authors: Bariscan Bozkurt, Ates Isfendiyaroglu, Cengiz Pehlevan, Alper T.
Erdogan
- Abstract要約: 本稿では,そのドメインに関する情報を利用して相関した潜伏源を抽出する生物学的にもっともらしいニューラルネットワークを提案する。
この最適化問題のオンライン定式化は、自然に局所的な学習規則を持つニューラルネットワークにつながる。
単純あるいはポリトープのソースドメインの選択は、断片的な線形活性化関数を持つネットワークをもたらす。
- 参考スコア(独自算出の注目度): 17.740376367999705
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The brain effortlessly extracts latent causes of stimuli, but how it does
this at the network level remains unknown. Most prior attempts at this problem
proposed neural networks that implement independent component analysis which
works under the limitation that latent causes are mutually independent. Here,
we relax this limitation and propose a biologically plausible neural network
that extracts correlated latent sources by exploiting information about their
domains. To derive this network, we choose maximum correlative information
transfer from inputs to outputs as the separation objective under the
constraint that the outputs are restricted to their presumed sets. The online
formulation of this optimization problem naturally leads to neural networks
with local learning rules. Our framework incorporates infinitely many source
domain choices and flexibly models complex latent structures. Choices of
simplex or polytopic source domains result in networks with piecewise-linear
activation functions. We provide numerical examples to demonstrate the superior
correlated source separation capability for both synthetic and natural sources.
- Abstract(参考訳): 脳は絶え間なく刺激の原因を抽出するが、どのようにネットワークレベルで行うかは不明である。
この問題に対するほとんどの先行の試みは、潜在原因が相互に独立であるという制限の下で機能する独立成分分析を実装するニューラルネットワークを提案した。
本稿では、この制限を緩和し、その領域に関する情報を活用し、関連づけられた潜在源を抽出する生物学的に妥当なニューラルネットワークを提案する。
このネットワークを導出するために,入力から出力への最大相関情報転送を,出力が推定集合に制限される制約の下で分離対象として選択する。
この最適化問題のオンライン定式化は、自然に局所学習ルールを持つニューラルネットワークにつながる。
我々のフレームワークは無限に多くのソースドメインの選択と柔軟に複雑な潜在構造をモデル化する。
単純あるいはポリトピックソースドメインの選択は、断片的な線形活性化関数を持つネットワークをもたらす。
合成源と自然源の両方において,より優れた相関源分離能力を示す数値例を示す。
関連論文リスト
- Addressing caveats of neural persistence with deep graph persistence [54.424983583720675]
神経の持続性に影響を与える主な要因は,ネットワークの重みのばらつきと大きな重みの空間集中である。
単一層ではなく,ニューラルネットワーク全体へのニューラルネットワークの持続性に基づくフィルタリングの拡張を提案する。
これにより、ネットワーク内の永続的なパスを暗黙的に取り込み、分散に関連する問題を緩和するディープグラフの永続性測定が得られます。
論文 参考訳(メタデータ) (2023-07-20T13:34:11Z) - Neural Bayesian Network Understudy [13.28673601999793]
ニューラルネットワークは条件付き確率を出力するように訓練でき、ベイズネットワークとほぼ同じ機能を提供する。
ニューラルネットワークに与えられた因果構造から推定される独立関係を符号化する2つのトレーニング戦略を提案する。
論文 参考訳(メタデータ) (2022-11-15T15:56:51Z) - Zonotope Domains for Lagrangian Neural Network Verification [102.13346781220383]
我々は、ディープニューラルネットワークを多くの2層ニューラルネットワークの検証に分解する。
我々の手法は線形プログラミングとラグランジアンに基づく検証技術の両方により改善された境界を与える。
論文 参考訳(メタデータ) (2022-10-14T19:31:39Z) - Biologically-Plausible Determinant Maximization Neural Networks for
Blind Separation of Correlated Sources [19.938405188113027]
本稿では,生物学的に解明可能なニューラルネットを用いて,潜在的に依存/関連のあるソースの盲点分離を提案する。
我々は、様々なソースドメインから派生したソースに混合物を分離できる2層生物学的に証明可能なニューラルネットワークアルゴリズムを導出する。
我々のアルゴリズムは、相関源分離問題において、他の生物学的に証明可能なBSSアルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2022-09-27T09:12:10Z) - Decomposing neural networks as mappings of correlation functions [57.52754806616669]
本研究では,ディープフィードフォワードネットワークによって実装された確率分布のマッピングについて検討する。
ニューラルネットワークで使用できる異なる情報表現と同様に、データに不可欠な統計を識別する。
論文 参考訳(メタデータ) (2022-02-10T09:30:31Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z) - Biologically plausible single-layer networks for nonnegative independent
component analysis [21.646490546361935]
生物学的に妥当な単一層ニューラルネットワークによるブラインドソース分離アルゴリズムを提案する。
生物学的信頼性のためには、神経回路の以下の3つの基本的な特性を満たすためにネットワークが必要である。
論文 参考訳(メタデータ) (2020-10-23T19:31:49Z) - Learning Connectivity of Neural Networks from a Topological Perspective [80.35103711638548]
本稿では,ネットワークを解析のための完全なグラフに表現するためのトポロジ的視点を提案する。
接続の規模を反映したエッジに学習可能なパラメータを割り当てることにより、学習プロセスを異なる方法で行うことができる。
この学習プロセスは既存のネットワークと互換性があり、より大きな検索空間と異なるタスクへの適応性を持っている。
論文 参考訳(メタデータ) (2020-08-19T04:53:31Z) - Resource Allocation via Graph Neural Networks in Free Space Optical
Fronthaul Networks [119.81868223344173]
本稿では,自由空間光(FSO)フロントホールネットワークにおける最適資源割り当てについて検討する。
我々は、FSOネットワーク構造を利用するために、ポリシーパラメータ化のためのグラフニューラルネットワーク(GNN)を検討する。
本アルゴリズムは,システムモデルに関する知識が不要なモデルフリーでGNNを訓練するために開発された。
論文 参考訳(メタデータ) (2020-06-26T14:20:48Z) - Blind Bounded Source Separation Using Neural Networks with Local
Learning Rules [23.554584457413483]
我々は新しい最適化問題である境界類似性マッチング(BSM)を提案する。
適応的BSMアルゴリズムの原理的導出は、クリッピング非線形性を持つリカレントニューラルネットワークにつながる。
ネットワークは局所的な学習規則に適応し、ニューロモルフィックハードウェアにおける生物学的妥当性と実装性の両方に重要な制約を満たす。
論文 参考訳(メタデータ) (2020-04-11T20:20:22Z) - Neural Rule Ensembles: Encoding Sparse Feature Interactions into Neural
Networks [3.7277730514654555]
決定木を用いて、関連する特徴とその相互作用をキャプチャし、抽出した関係をニューラルネットワークにエンコードするマッピングを定義する。
同時に、機能選択により、アートツリーベースのアプローチの状況と比較して、コンパクトな表現の学習が可能になる。
論文 参考訳(メタデータ) (2020-02-11T11:22:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。