論文の概要: Neural Tangent Kernel Maximum Mean Discrepancy
- arxiv url: http://arxiv.org/abs/2106.03227v1
- Date: Sun, 6 Jun 2021 20:00:39 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-08 18:23:37.427375
- Title: Neural Tangent Kernel Maximum Mean Discrepancy
- Title(参考訳): ニューラルタンジェントカーネル最大値の相違
- Authors: Xiuyuan Cheng, Yao Xie
- Abstract要約: 我々は,ニューラル・タンジェント・カーネル(NTK)とMDD統計との接続を同定し,新しいニューラルネットワークの最大平均離散性(MMD)統計量を示す。
この接続により,MDD統計量を計算するための計算効率が高く,メモリ効率のよい手法が開発できる。
- 参考スコア(独自算出の注目度): 15.181152078304846
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We present a novel neural network Maximum Mean Discrepancy (MMD) statistic by
identifying a connection between neural tangent kernel (NTK) and MMD statistic.
This connection enables us to develop a computationally efficient and
memory-efficient approach to compute the MMD statistic and perform neural
network based two-sample tests towards addressing the long-standing challenge
of memory and computational complexity of the MMD statistic, which is essential
for online implementation to assimilate new samples. Theoretically, such a
connection allows us to understand the properties of the new test statistic,
such as Type-I error and testing power for performing the two-sample test, by
leveraging analysis tools for kernel MMD. Numerical experiments on synthetic
and real-world datasets validate the theory and demonstrate the effectiveness
of the proposed NTK-MMD statistic.
- Abstract(参考訳): ニューラル・タンジェント・カーネル(NTK)とMDD統計との接続を同定し,新しいニューラルネットワークの最大平均離散性(MMD)統計量を示す。
この接続により、mmd統計を計算し、ニューラルネットワークに基づく2つのサンプルテストを実行するための計算効率とメモリ効率のよい手法を開発し、mmd統計の長年の課題と計算の複雑さに対処することができる。
理論的には、2サンプルテストを実行するためのType-Iエラーやテスト能力など、カーネルMDDの分析ツールを活用することで、新しいテスト統計量の性質を理解することができる。
合成および実世界のデータセットに関する数値実験により、提案したNTK-MMD統計学の有効性が検証された。
関連論文リスト
- An Efficient Permutation-Based Kernel Two-Sample Test [12.331562761756679]
2サンプル仮説テストは統計学と機械学習の基本的な問題である。
本研究では,最大平均誤差(MMD)のNystr "om approxation"を用いて,計算効率よく実用的なテストアルゴリズムを設計する。
論文 参考訳(メタデータ) (2025-02-19T09:22:48Z) - Learning Massive-scale Partial Correlation Networks in Clinical Multi-omics Studies with HP-ACCORD [10.459304300065186]
擬似表現に基づくグラフィカル・モデル・フレームワークを提案する。
これは高次元の仮定の下で様々な指標における推定と選択の整合性を維持する。
最大100万変数のシミュレーションデータを用いて,我々のフレームワークの高性能コンピューティング実装を検証した。
論文 参考訳(メタデータ) (2024-12-16T08:38:02Z) - Deep-Unrolling Multidimensional Harmonic Retrieval Algorithms on Neuromorphic Hardware [78.17783007774295]
本稿では,高精度かつエネルギー効率の高い単発多次元高調波検索のための変換に基づくニューロモルフィックアルゴリズムの可能性について検討する。
複雑な値の畳み込み層と活性化をスパイクニューラルネットワーク(SNN)に変換する新しい手法を開発した。
変換されたSNNは、元のCNNに比べて性能が低下し、ほぼ5倍の電力効率を実現している。
論文 参考訳(メタデータ) (2024-12-05T09:41:33Z) - Training Guarantees of Neural Network Classification Two-Sample Tests by Kernel Analysis [58.435336033383145]
2つのデータセットが同じ分布から来たかどうかを判断するために、ニューラルネットワークの2サンプルテストを構築し、分析する。
NTK2サンプルテストがデータセット間の偏差レベルを検出するのに必要となる、理論的に最小限のトレーニング時間を導出する。
ニューラルネットワークのトレーニングサンプルとテスト評価サンプルが無限に近づくにつれて、ニューラルネットワークの2サンプルテストに関連する統計的パワーは1になる。
論文 参考訳(メタデータ) (2024-07-05T18:41:16Z) - A Multi-Grained Symmetric Differential Equation Model for Learning Protein-Ligand Binding Dynamics [73.35846234413611]
薬物発見において、分子動力学(MD)シミュレーションは、結合親和性を予測し、輸送特性を推定し、ポケットサイトを探索する強力なツールを提供する。
我々は,数値MDを容易にし,タンパク質-リガンド結合ダイナミクスの正確なシミュレーションを提供する,最初の機械学習サロゲートであるNeuralMDを提案する。
従来の数値MDシミュレーションと比較して1K$times$ Speedupを実現することにより,NeuralMDの有効性と有効性を示す。
論文 参考訳(メタデータ) (2024-01-26T09:35:17Z) - MMD-FUSE: Learning and Combining Kernels for Two-Sample Testing Without
Data Splitting [28.59390881834003]
最大平均離散性(MMD)に基づく2サンプルテストのパワーを最大化する新しい統計法を提案する。
これらのカーネルは、データ分割を避けるために、よく校正されたテストで、データ依存だが置換に依存しない方法でどのように選択できるかを示す。
我々は,合成低次元および実世界の高次元データに対するMDD-FUSEテストの適用性を強調し,その性能を現状のカーネルテストと比較した。
論文 参考訳(メタデータ) (2023-06-14T23:13:03Z) - mSPD-NN: A Geometrically Aware Neural Framework for Biomarker Discovery
from Functional Connectomics Manifolds [8.37609145576126]
本稿では,コネクトーム,すなわちmSPD-NNのための幾何学的認識型ニューラルネットワークフレームワークを提案する。
我々は,SPD平均推定のための一般的な選択肢に対するmSPD-NNの有効性を実証した。
ADHD-ASD併用性および健常者におけるネットワークの微妙な差異に関連する安定なバイオマーカーを明らかにする。
論文 参考訳(メタデータ) (2023-03-27T08:30:11Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-02-18T22:41:51Z) - Statistical model-based evaluation of neural networks [74.10854783437351]
ニューラルネットワーク(NN)の評価のための実験装置を開発する。
このセットアップは、NNs vis-a-vis minimum-mean-square-error (MMSE)パフォーマンス境界のベンチマークに役立つ。
これにより、トレーニングデータサイズ、データ次元、データ幾何学、ノイズ、トレーニング条件とテスト条件のミスマッチの影響をテストできます。
論文 参考訳(メタデータ) (2020-11-18T00:33:24Z) - A Kernel Two-Sample Test for Functional Data [0.76146285961466]
2つの関数のサンプルが同じ基底分布を持つという仮説をテストするために,最大平均離散性(MMD)に基づく非パラメトリック2サンプル試験法を提案する。
この構造は、MDDベースの次元の増大するデータセットに対する効率のスケーリング分析によって動機付けられている。
論文 参考訳(メタデータ) (2020-08-25T15:19:02Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳(メタデータ) (2020-07-02T17:55:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。