論文の概要: Neural Network Ground State from the Neural Tangent Kernel Perspective: The Sign Bias

• arxiv url: http://arxiv.org/abs/2411.03980v1
• Date: Wed, 06 Nov 2024 15:18:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-07 19:22:30.841847
• Title: Neural Network Ground State from the Neural Tangent Kernel Perspective: The Sign Bias
• Title（参考訳）: ニューラル・タンジェント・カーネルから見たニューラルネットワークの基底状態:サインバイアス
• Authors: Harel Kol-Namer, Moshe Goldstein,
• Abstract要約: ニューラルネットワークは,手話問題に苦しむ人よりも,ニューラルネットワークによる解法に適していることが示される。 我々は,新しいパフォーマンス指標を導入し,その最適化の条件を探究する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Neural networks has recently attracted much interest as useful representations of quantum many body ground states, which might help address the infamous sign problem. Most attention was directed at their representability properties, while possible limitations on finding the desired optimal state have not been suitably explored. By leveraging well-established results applicable in the context of infinite width, specifically regarding the renowned neural tangent kernel and conjugate kernel, a comprehensive analysis of the convergence and initialization characteristics of the method is conducted. We reveal the dependence of these characteristics on the interplay among these kernels, the Hamiltonian, and the basis used for its representation. We introduce and motivate novel performance metrics and explore the condition for their optimization. By leveraging these findings, we elucidate a substantial dependence of the effectiveness of this approach on the selected basis, demonstrating that so-called stoquastic Hamiltonians are more amenable to solution through neural networks than those suffering from a sign problem.
• Abstract（参考訳）: ニューラルネットワークは近年、量子多体基底状態の有用な表現として多くの関心を集めており、悪名高いサイン問題に対処するのに役立つかもしれない。 ほとんどの注意はそれらの表現可能性の性質に向けられたが、望ましい最適状態を見つけるための制限は適当に検討されていない。 ニューラルネットワークカーネルと共役カーネルについて、無限幅のコンテキストに適用可能な確立された結果を活用することにより、この手法の収束と初期化特性の包括的解析を行う。 これらの特徴がこれらのカーネル間の相互作用、ハミルトニアン、およびそれらの表現に使用される基底に依存していることを明らかにする。 我々は,新しいパフォーマンス指標を導入し,その最適化の条件を探究する。 これらの知見を活用することで、この手法の有効性のかなりの依存性を選択的に解明し、いわゆる確率的ハミルトニアン(英語版)が、符号問題よりもニューラルネットワークを介して解法できることを示す。

関連論文リスト

• Joint Diffusion Processes as an Inductive Bias in Sheaf Neural Networks [14.224234978509026]
  せん断ニューラルネットワーク(SNN)は自然にグラフニューラルネットワーク(GNN)を拡張する 構造図をより直感的に理解するための2つの新しいせん断学習手法を提案する。 評価では,これまでのSNNで使用されている実世界のベンチマークの限界を示す。
  論文  参考訳（メタデータ） (2024-07-30T07:17:46Z)
• Addressing caveats of neural persistence with deep graph persistence [54.424983583720675]
  神経の持続性に影響を与える主な要因は,ネットワークの重みのばらつきと大きな重みの空間集中である。 単一層ではなく,ニューラルネットワーク全体へのニューラルネットワークの持続性に基づくフィルタリングの拡張を提案する。 これにより、ネットワーク内の永続的なパスを暗黙的に取り込み、分散に関連する問題を緩和するディープグラフの永続性測定が得られます。
  論文  参考訳（メタデータ） (2023-07-20T13:34:11Z)
• Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
  線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。 ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
  論文  参考訳（メタデータ） (2023-04-17T14:23:43Z)
• Zonotope Domains for Lagrangian Neural Network Verification [102.13346781220383]
  我々は、ディープニューラルネットワークを多くの2層ニューラルネットワークの検証に分解する。 我々の手法は線形プログラミングとラグランジアンに基づく検証技術の両方により改善された境界を与える。
  論文  参考訳（メタデータ） (2022-10-14T19:31:39Z)
• What Can the Neural Tangent Kernel Tell Us About Adversarial Robustness? [0.0]
  ニューラルネットワークとカーネルメソッドを接続する最近の理論の進歩によって得られた分析ツールを用いて、トレーニングされたニューラルネットワークの逆例について研究する。 NTKがいかにして、トレーニングフリーのやり方で敵の例を生成できるかを示し、遅延のやり方で、有限幅のニューラルネットを騙すために移行することを実証する。
  論文  参考訳（メタデータ） (2022-10-11T16:11:48Z)
• Momentum Diminishes the Effect of Spectral Bias in Physics-Informed Neural Networks [72.09574528342732]
  物理インフォームドニューラルネットワーク(PINN)アルゴリズムは、偏微分方程式(PDE)を含む幅広い問題を解く上で有望な結果を示している。 彼らはしばしば、スペクトルバイアスと呼ばれる現象のために、ターゲット関数が高周波の特徴を含むとき、望ましい解に収束しない。 本研究は, 運動量による勾配降下下で進化するPINNのトレーニングダイナミクスを, NTK(Neural Tangent kernel)を用いて研究するものである。
  論文  参考訳（メタデータ） (2022-06-29T19:03:10Z)
• Provably and Practically Efficient Neural Contextual Bandits [16.0251555430107]
  有限状態においても有効である証明可能なサブ線形後悔境界を持つアルゴリズムを提案する。 非漸近的エラー境界は、神経コンテキストの包帯における活性化関数の滑らかさとカーネルの包帯におけるカーネルの滑らかさとの関係を確立するためのツールとして、より広い関心を持つかもしれない。
  論文  参考訳（メタデータ） (2022-05-31T20:16:55Z)
• Linear approximability of two-layer neural networks: A comprehensive analysis based on spectral decay [4.042159113348107]
  まず、単一ニューロンの場合について考察し、コルモゴロフ幅で定量化される線形近似性は、共役核の固有値崩壊によって制御されることを示す。 また,2層ニューラルネットワークについても同様の結果が得られた。
  論文  参考訳（メタデータ） (2021-08-10T23:30:29Z)
• And/or trade-off in artificial neurons: impact on adversarial robustness [91.3755431537592]
  ネットワークに十分な数のOR様ニューロンが存在すると、分類の脆さと敵の攻撃に対する脆弱性が増加する。 そこで我々は,AND様ニューロンを定義し,ネットワーク内での割合を増大させる対策を提案する。 MNISTデータセットによる実験結果から,本手法はさらなる探索の方向として有望であることが示唆された。
  論文  参考訳（メタデータ） (2021-02-15T08:19:05Z)
• Online neural connectivity estimation with ensemble stimulation [5.156484100374058]
  スパースネットワークにおけるこのプロセスの効率を大幅に向上させる,ノイズの多いグループテストに基づく手法を提案する。 人口規模に比例して対数的にしか成長しない多数のテストにより、二項化ネットワーク接続を回復可能であることを示す。 また、ネット上の数万のニューロンのネットワークに対して、接続性を推測する可能性も示しています。
  論文  参考訳（メタデータ） (2020-07-27T23:47:03Z)
• Towards Deeper Graph Neural Networks [63.46470695525957]
  グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。 いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。 本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
  論文  参考訳（メタデータ） (2020-07-18T01:11:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。