Fugu-MT 論文翻訳(概要): Linear Classification of Neural Manifolds with Correlated Variability

論文の概要: Linear Classification of Neural Manifolds with Correlated Variability

arxiv url: http://arxiv.org/abs/2211.14961v1
Date: Sun, 27 Nov 2022 23:01:43 GMT
ステータス: 処理完了
システム内更新日: 2022-11-29 15:21:47.951483
Title: Linear Classification of Neural Manifolds with Correlated Variability
Title（参考訳）: 相関変数を持つニューラルマニフォールドの線形分類
Authors: Albert J. Wakhloo, Tamara J. Sussman, SueYeon Chung
Abstract要約: 対象表現間の相関関係がキャパシティ,すなわち線形分離可能性にどのように影響するかを示す。次に、実際のニューラルネットワークによるキャパシティを正確に見積もることができることを示す。
参考スコア（独自算出の注目度）: 3.3946853660795893
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Understanding how the statistical and geometric properties of neural activations relate to network performance is a key problem in theoretical neuroscience and deep learning. In this letter, we calculate how correlations between object representations affect the capacity, a measure of linear separability. We show that for spherical object manifolds, introducing correlations between centroids effectively pushes the spheres closer together, while introducing correlations between the spheres' axes effectively shrinks their radii, revealing a duality between neural correlations and geometry. We then show that our results can be used to accurately estimate the capacity with real neural data.
Abstract（参考訳）: ニューラルアクティベーションの統計的および幾何学的性質がネットワーク性能にどのように関係しているかを理解することは、理論的神経科学とディープラーニングの重要な問題である。本稿では,対象表現間の相関がキャパシティに与える影響,すなわち線形分離可能性の尺度を計算する。球面多様体では、中心体間の相関が効果的に球面を近づける一方で、球面の軸間の相関が効果的に半径を縮小し、神経相関と幾何学の双対性が明らかにされる。その結果,実際のニューラルデータを用いて正確な推定能力が得られた。

関連論文リスト

Intrinsic Dimension Correlation: uncovering nonlinear connections in multimodal representations [0.4223422932643755]
本稿では,内在次元と相関関係の絡み合いを利用して相関関係を定量化する計量を提案する。まず,制御環境における合成データの検証を行い,その利点と欠点を既存手法と比較した。ニューラルネットワーク表現における大規模アプリケーションに分析を拡張します。
論文参考訳（メタデータ） (2024-06-22T10:36:04Z)
Learning Complete Topology-Aware Correlations Between Relations for Inductive Link Prediction [121.65152276851619]
関係性間の意味的相関は本質的にエッジレベルとエンティティ非依存であることを示す。本研究では,関係関係のトポロジ・アウェア・コレレーションをモデル化するための新しいサブグラフベース手法,TACOを提案する。 RCNのポテンシャルをさらに活用するために, 完全コモンニアインダストリアルサブグラフを提案する。
論文参考訳（メタデータ） (2023-09-20T08:11:58Z)
Towards a mathematical understanding of learning from few examples with nonlinear feature maps [68.8204255655161]
トレーニングセットがわずか数個のデータポイントから構成されるデータ分類の問題を考える。我々は、AIモデルの特徴空間の幾何学、基礎となるデータ分布の構造、モデルの一般化能力との間の重要な関係を明らかにする。
論文参考訳（メタデータ） (2022-11-07T14:52:58Z)
Learning Neural Causal Models with Active Interventions [83.44636110899742]
本稿では,データ生成プロセスの根底にある因果構造を素早く識別する能動的介入ターゲット機構を提案する。本手法は,ランダムな介入ターゲティングと比較して,要求される対話回数を大幅に削減する。シミュレーションデータから実世界のデータまで,複数のベンチマークにおいて優れた性能を示す。
論文参考訳（メタデータ） (2021-09-06T13:10:37Z)
The Interplay Between Implicit Bias and Benign Overfitting in Two-Layer Linear Networks [51.1848572349154]
ノイズの多いデータに完全に適合するニューラルネットワークモデルは、見当たらないテストデータにうまく一般化できる。我々は,2層線形ニューラルネットワークを2乗損失の勾配流で補間し,余剰リスクを導出する。
論文参考訳（メタデータ） (2021-08-25T22:01:01Z)
Causal Inference in Geosciences with Kernel Sensitivity Maps [9.800027003240674]
回帰と依存推定を通じて変数対から因果関係を導出する枠組みを提案する。 28の地球科学因果推論問題の大規模なコレクションの結果は、この方法の良い能力を示しています。
論文参考訳（メタデータ） (2020-12-07T21:13:21Z)
Estimating Causal Effects with the Neural Autoregressive Density Estimator [6.59529078336196]
我々は、Pearlのdo-calculusフレームワーク内の因果効果を推定するために、神経自己回帰密度推定器を使用する。本手法は,変数間の相互作用を明示的にモデル化することなく,非線形システムから因果効果を抽出できることを示す。
論文参考訳（メタデータ） (2020-08-17T13:12:38Z)
Unsupervised Heterogeneous Coupling Learning for Categorical Representation [50.1603042640492]
この研究は、結合間の相互作用を解き放ち、結合したカテゴリデータを表現するためのUNTIE(UNsupervised heTerogeneous couplIng lEarning)アプローチを導入する。 UNTIEは、ヘテロジニアスおよび階層的値-オブジェクト結合の教師なし表現学習のために、カーネルk平均目的関数を効率よく最適化する。 UNTIEで学習した表現は、最先端のカテゴリ表現やディープ表現モデルに対して大幅な性能改善を行う。
論文参考訳（メタデータ） (2020-07-21T11:23:27Z)
Weakly-correlated synapses promote dimension reduction in deep neural networks [1.7532045941271799]
シナプス相関が神経相関にどのように影響し、絡み合った隠された表現を生み出すかは、いまだ解明されていない。本稿では,シナプス間の相互相関を考慮した次元縮小モデルを提案する。我々の理論は、数学的自己整合性のみを必要とするシナプス相関スケーリング形式を決定する。
論文参考訳（メタデータ） (2020-06-20T13:11:37Z)
On Disentangled Representations Learned From Correlated Data [59.41587388303554]
相関データに対する最も顕著な絡み合うアプローチの挙動を解析することにより、現実のシナリオにギャップを埋める。本研究では,データセットの体系的相関が学習され,潜在表現に反映されていることを示す。また、トレーニング中の弱い監督や、少数のラベルで事前訓練されたモデルを修正することで、これらの潜伏相関を解消する方法を実証する。
論文参考訳（メタデータ） (2020-06-14T12:47:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。