論文の概要: Neural Tangent Kernel Maximum Mean Discrepancy
- arxiv url: http://arxiv.org/abs/2106.03227v1
- Date: Sun, 6 Jun 2021 20:00:39 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-08 18:23:37.427375
- Title: Neural Tangent Kernel Maximum Mean Discrepancy
- Title(参考訳): ニューラルタンジェントカーネル最大値の相違
- Authors: Xiuyuan Cheng, Yao Xie
- Abstract要約: 我々は,ニューラル・タンジェント・カーネル(NTK)とMDD統計との接続を同定し,新しいニューラルネットワークの最大平均離散性(MMD)統計量を示す。
この接続により,MDD統計量を計算するための計算効率が高く,メモリ効率のよい手法が開発できる。
- 参考スコア(独自算出の注目度): 15.181152078304846
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We present a novel neural network Maximum Mean Discrepancy (MMD) statistic by
identifying a connection between neural tangent kernel (NTK) and MMD statistic.
This connection enables us to develop a computationally efficient and
memory-efficient approach to compute the MMD statistic and perform neural
network based two-sample tests towards addressing the long-standing challenge
of memory and computational complexity of the MMD statistic, which is essential
for online implementation to assimilate new samples. Theoretically, such a
connection allows us to understand the properties of the new test statistic,
such as Type-I error and testing power for performing the two-sample test, by
leveraging analysis tools for kernel MMD. Numerical experiments on synthetic
and real-world datasets validate the theory and demonstrate the effectiveness
of the proposed NTK-MMD statistic.
- Abstract(参考訳): ニューラル・タンジェント・カーネル(NTK)とMDD統計との接続を同定し,新しいニューラルネットワークの最大平均離散性(MMD)統計量を示す。
この接続により、mmd統計を計算し、ニューラルネットワークに基づく2つのサンプルテストを実行するための計算効率とメモリ効率のよい手法を開発し、mmd統計の長年の課題と計算の複雑さに対処することができる。
理論的には、2サンプルテストを実行するためのType-Iエラーやテスト能力など、カーネルMDDの分析ツールを活用することで、新しいテスト統計量の性質を理解することができる。
合成および実世界のデータセットに関する数値実験により、提案したNTK-MMD統計学の有効性が検証された。
関連論文リスト
- Training Guarantees of Neural Network Classification Two-Sample Tests by Kernel Analysis [58.435336033383145]
2つのデータセットが同じ分布から来たかどうかを判断するために、ニューラルネットワークの2サンプルテストを構築し、分析する。
NTK2サンプルテストがデータセット間の偏差レベルを検出するのに必要となる、理論的に最小限のトレーニング時間を導出する。
ニューラルネットワークのトレーニングサンプルとテスト評価サンプルが無限に近づくにつれて、ニューラルネットワークの2サンプルテストに関連する統計的パワーは1になる。
論文 参考訳(メタデータ) (2024-07-05T18:41:16Z) - A Multi-Grained Symmetric Differential Equation Model for Learning Protein-Ligand Binding Dynamics [73.35846234413611]
薬物発見において、分子動力学(MD)シミュレーションは、結合親和性を予測し、輸送特性を推定し、ポケットサイトを探索する強力なツールを提供する。
我々は,数値MDを容易にし,タンパク質-リガンド結合ダイナミクスの正確なシミュレーションを提供する,最初の機械学習サロゲートであるNeuralMDを提案する。
従来の数値MDシミュレーションと比較して1K$times$ Speedupを実現することにより,NeuralMDの有効性と有効性を示す。
論文 参考訳(メタデータ) (2024-01-26T09:35:17Z) - An LSTM-Based Predictive Monitoring Method for Data with Time-varying
Variability [3.5246670856011035]
本稿では、繰り返し発生するニューラルネットワーク構造がプロセスを監視する能力について考察する。
本研究では,長期短期記憶(LSTM)予測間隔に基づく時間変動データに対する制御チャートを提案する。
提案手法は時系列センサデータにも適用され,本手法が異常検出に有効な手法であることを確認した。
論文 参考訳(メタデータ) (2023-09-05T06:13:09Z) - MMD-FUSE: Learning and Combining Kernels for Two-Sample Testing Without
Data Splitting [28.59390881834003]
最大平均離散性(MMD)に基づく2サンプルテストのパワーを最大化する新しい統計法を提案する。
これらのカーネルは、データ分割を避けるために、よく校正されたテストで、データ依存だが置換に依存しない方法でどのように選択できるかを示す。
我々は,合成低次元および実世界の高次元データに対するMDD-FUSEテストの適用性を強調し,その性能を現状のカーネルテストと比較した。
論文 参考訳(メタデータ) (2023-06-14T23:13:03Z) - mSPD-NN: A Geometrically Aware Neural Framework for Biomarker Discovery
from Functional Connectomics Manifolds [8.37609145576126]
本稿では,コネクトーム,すなわちmSPD-NNのための幾何学的認識型ニューラルネットワークフレームワークを提案する。
我々は,SPD平均推定のための一般的な選択肢に対するmSPD-NNの有効性を実証した。
ADHD-ASD併用性および健常者におけるネットワークの微妙な差異に関連する安定なバイオマーカーを明らかにする。
論文 参考訳(メタデータ) (2023-03-27T08:30:11Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-02-18T22:41:51Z) - Estimation of the Mean Function of Functional Data via Deep Neural
Networks [6.230751621285321]
関数データに対して非パラメトリック回帰を行うディープニューラルネットワーク手法を提案する。
本手法は,アルツハイマー病患者における陽電子放出トモグラフィ画像の解析に用いる。
論文 参考訳(メタデータ) (2020-12-08T17:18:16Z) - Statistical model-based evaluation of neural networks [74.10854783437351]
ニューラルネットワーク(NN)の評価のための実験装置を開発する。
このセットアップは、NNs vis-a-vis minimum-mean-square-error (MMSE)パフォーマンス境界のベンチマークに役立つ。
これにより、トレーニングデータサイズ、データ次元、データ幾何学、ノイズ、トレーニング条件とテスト条件のミスマッチの影響をテストできます。
論文 参考訳(メタデータ) (2020-11-18T00:33:24Z) - A Kernel Two-Sample Test for Functional Data [0.76146285961466]
2つの関数のサンプルが同じ基底分布を持つという仮説をテストするために,最大平均離散性(MMD)に基づく非パラメトリック2サンプル試験法を提案する。
この構造は、MDDベースの次元の増大するデータセットに対する効率のスケーリング分析によって動機付けられている。
論文 参考訳(メタデータ) (2020-08-25T15:19:02Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳(メタデータ) (2020-07-02T17:55:47Z) - Communication-Efficient Distributed Stochastic AUC Maximization with
Deep Neural Networks [50.42141893913188]
本稿では,ニューラルネットワークを用いた大規模AUCのための分散変数について検討する。
我々のモデルは通信ラウンドをはるかに少なくし、理論上はまだ多くの通信ラウンドを必要としています。
いくつかのデータセットに対する実験は、我々の理論の有効性を示し、我々の理論を裏付けるものである。
論文 参考訳(メタデータ) (2020-05-05T18:08:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。