論文の概要: Klein Model for Hyperbolic Neural Networks

• arxiv url: http://arxiv.org/abs/2410.16813v1
• Date: Tue, 22 Oct 2024 08:40:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-23 14:29:39.910779
• Title: Klein Model for Hyperbolic Neural Networks
• Title（参考訳）: 双曲型ニューラルネットワークのクラインモデル
• Authors: Yidan Mao, Jing Gu, Marcus C. Werner, Dongmian Zou,
• Abstract要約: Kleinモデルに基づく双曲型ニューラルネットワークのためのフレームワークを提案する。 Klein HNN が Poincar'e の球モデルと同等に動作することを示す。
• 参考スコア（独自算出の注目度）: 6.693502127460251
• License:
• Abstract: Hyperbolic neural networks (HNNs) have been proved effective in modeling complex data structures. However, previous works mainly focused on the Poincar\'e ball model and the hyperboloid model as coordinate representations of the hyperbolic space, often neglecting the Klein model. Despite this, the Klein model offers its distinct advantages thanks to its straight-line geodesics, which facilitates the well-known Einstein midpoint construction, previously leveraged to accompany HNNs in other models. In this work, we introduce a framework for hyperbolic neural networks based on the Klein model. We provide detailed formulation for representing useful operations using the Klein model. We further study the Klein linear layer and prove that the "tangent space construction" of the scalar multiplication and parallel transport are exactly the Einstein scalar multiplication and the Einstein addition, analogous to the M\"obius operations used in the Poincar\'e ball model. We show numerically that the Klein HNN performs on par with the Poincar\'e ball model, providing a third option for HNN that works as a building block for more complicated architectures.
• Abstract（参考訳）: 双曲型ニューラルネットワーク(HNN)は複雑なデータ構造をモデル化するのに有効であることが証明されている。 しかし、以前の研究は主に双曲空間の座標表現としてのポアンカー・イ・ボールモデルと双曲モデルに焦点を合わせ、しばしばクラインモデルを無視した。 これにもかかわらず、クラインモデルは、有名なアインシュタイン中間点の構築を促進する直線測地学(英語版)により、以前は他のモデルで付随するHNNに利用されていた、明確な利点を提供している。 そこで本研究では,Kleinモデルに基づく双曲型ニューラルネットワークのためのフレームワークを提案する。 Kleinモデルを用いて有用な操作を表現するための詳細な定式化を提供する。 さらに、クライン線型層を研究し、スカラー乗算と平行移動の「接空間構成」が、まさにアインシュタインスカラー乗算とアインシュタイン加法であり、ポインカーの球モデルで用いられる「M\」オビウス演算に類似していることを証明する。 Klein HNN が Poincar\'e の球モデルと同等に動作していることを示し、より複雑なアーキテクチャのためのビルディングブロックとして機能する HNN に対して第3の選択肢を提供する。

関連論文リスト

• Hyperbolic Machine Learning Moment Closures for the BGK Equations [0.0]
  本稿では,BGKのモーメントデータに基づいてトレーニングされたニューラルネットワーク(NN)を用いて,Bhatnagar-Gross-Krookの運動モデルのグラッドモーメント展開のための双曲的クロージャを導入する。 この閉鎖は、Huang2022-RTE1輸送路における閉鎖に関する論文で得られた自由ストリーミング制限の正確な閉鎖によって動機づけられる。
  論文  参考訳（メタデータ） (2024-01-09T19:14:57Z)
• Geometric Neural Diffusion Processes [55.891428654434634]
  拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。 これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
  論文  参考訳（メタデータ） (2023-07-11T16:51:38Z)
• Towards a Foundation Model for Neural Network Wavefunctions [5.145741425164946]
  本稿では,非相関で計算コストの低いHartree-Fock軌道を相関した高精度ニューラルネットワーク軌道にマッピングするニューラルネットワークアンサッツを提案する。 このアンザッツは本質的に複数の化合物とジオメトリーにわたる単一波動関数を学習することができる。
  論文  参考訳（メタデータ） (2023-03-17T16:03:10Z)
• The Numerical Stability of Hyperbolic Representation Learning [36.32817250000654]
  双曲空間に対する2つの一般的なモデル、すなわちポアンカーの球とローレンツ模型の極限を解析する。 我々は、このユークリッドパラメトリゼーションを双曲型超平面に拡張し、双曲型SVMの性能を向上させる能力を示す。
  論文  参考訳（メタデータ） (2022-10-31T22:51:59Z)
• Neural Basis Models for Interpretability [33.51591891812176]
  一般化加法モデル(GAMs)は本質的に解釈可能なモデルのクラスである。 形状関数の基底分解を利用するGAMの全く新しいサブファミリーを提案する。 少数の基底関数はすべての機能で共有され、与えられたタスクに対して共同で学習される。
  論文  参考訳（メタデータ） (2022-05-27T17:31:19Z)
• Neural Operator with Regularity Structure for Modeling Dynamics Driven by SPDEs [70.51212431290611]
  偏微分方程式 (SPDE) は、大気科学や物理学を含む多くの分野において、力学をモデル化するための重要なツールである。 本研究では,SPDEによって駆動されるダイナミクスをモデル化するための特徴ベクトルを組み込んだニューラル演算子(NORS)を提案する。 動的Phi41モデルと2d Navier-Stokes方程式を含む様々なSPDE実験を行った。
  論文  参考訳（メタデータ） (2022-04-13T08:53:41Z)
• Low-Rank Constraints for Fast Inference in Structured Models [110.38427965904266]
  この研究は、大規模構造化モデルの計算とメモリの複雑さを低減するための単純なアプローチを示す。 言語モデリング,ポリフォニック・ミュージック・モデリング,教師なし文法帰納法,ビデオ・モデリングのためのニューラルパラメータ構造モデルを用いた実験により,我々の手法は大規模状態空間における標準モデルの精度と一致することを示した。
  論文  参考訳（メタデータ） (2022-01-08T00:47:50Z)
• Fully Hyperbolic Neural Networks [63.22521652077353]
  ローレンツモデルに基づく双曲型ネットワークを構築するための,完全双曲型フレームワークを提案する。 提案手法は,浅層ネットワークと深層ネットワークの両方を構築する上で,優れた性能を示す。
  論文  参考訳（メタデータ） (2021-05-31T03:36:49Z)
• Hyperbolic Variational Graph Neural Network for Modeling Dynamic Graphs [77.33781731432163]
  我々は,ノード表現の推論を目的とした双曲空間における動的グラフ表現を初めて学習する。 本稿では,HVGNNと呼ばれる新しいハイパーボリック変動グラフネットワークを提案する。 特に,動力学をモデル化するために,理論的に接地した時間符号化手法に基づく時間gnn(tgnn)を導入する。
  論文  参考訳（メタデータ） (2021-04-06T01:44:15Z)
• Hyperbolic Neural Networks++ [66.16106727715061]
  ニューラルネットワークの基本成分を1つの双曲幾何モデル、すなわちポアンカーの球モデルで一般化する。 実験により, 従来の双曲成分と比較してパラメータ効率が優れ, ユークリッド成分よりも安定性と性能が優れていた。
  論文  参考訳（メタデータ） (2020-06-15T08:23:20Z)
• A Geometric Modeling of Occam's Razor in Deep Learning [8.007631014276896]
  ディープニューラルネットワーク(DNN)は、非常に高次元のパラメータ空間の恩恵を受ける。 彼らの巨大なパラメータの複雑さと実践上の素晴らしいパフォーマンスは、より興味深く、説明できないものです。 本稿では,この現象を研究するための幾何学的フレーバー付き情報理論手法を提案する。
  論文  参考訳（メタデータ） (2019-05-27T07:57:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。