論文の概要: A Rotated Hyperbolic Wrapped Normal Distribution for Hierarchical Representation Learning

• arxiv url: http://arxiv.org/abs/2205.13371v1
• Date: Wed, 25 May 2022 07:21:45 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-28 15:18:41.458330
• Title: A Rotated Hyperbolic Wrapped Normal Distribution for Hierarchical Representation Learning
• Title（参考訳）: 階層表現学習のための回転双曲ラップ正規分布
• Authors: Seunghyuk Cho, Juyong Lee, Jaesik Park, Dongwoo Kim
• Abstract要約: 回転型双曲型包括正規分布 (RoWN) は, 単純かつ効果的な双曲型包括正規分布 (HWN) の変化である。 本研究では,確率モデルにおける分布の標準選択である対角HWNの幾何学的性質を解析する。 新たに提案されたディストリビューションであるRoWNは,ノイズの多い合成二分木,WordNet,Atari 2600 Breakoutなど,さまざまな階層的データセットの制限を緩和できることを示す。
• 参考スコア（独自算出の注目度）: 9.980145127016172
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We present a rotated hyperbolic wrapped normal distribution (RoWN), a simple yet effective alteration of a hyperbolic wrapped normal distribution (HWN). The HWN expands the domain of probabilistic modeling from Euclidean to hyperbolic space, where a tree can be embedded with arbitrary low distortion in theory. In this work, we analyze the geometric properties of the diagonal HWN, a standard choice of distribution in probabilistic modeling. The analysis shows that the distribution is inappropriate to represent the data points at the same hierarchy level through their angular distance with the same norm in the Poincar\'e disk model. We then empirically verify the presence of limitations of HWN, and show how RoWN, the newly proposed distribution, can alleviate the limitations on various hierarchical datasets, including noisy synthetic binary tree, WordNet, and Atari 2600 Breakout.
• Abstract（参考訳）: 回転型双曲型包括正規分布 (RoWN) は, 単純かつ効果的な双曲型包括正規分布 (HWN) の変化である。 HWNは確率的モデリングの領域をユークリッド空間から双曲空間へと拡張し、理論上は木を任意の低歪みで埋め込むことができる。 本研究では,確率モデルにおける分布の標準選択である対角HWNの幾何学的性質を解析する。 この分析は、分布がポインカーディスクモデルで同じノルムを持つ角距離を通して、同じ階層レベルでのデータポイントを表現するのに不適切であることを示している。 次にhwnの制限の存在を実証し、新しく提案された分散であるrownが、ノイズの多い合成バイナリツリー、wordnet、atari 2600のブレークアウトなど、さまざまな階層データセットの制限をいかに緩和できるかを示す。

関連論文リスト

• Categorical SDEs with Simplex Diffusion [25.488210663637265]
  この理論ノートは、n-次元確率単純点上のデータポイントを直接拡散する手段であるSimplex Diffusionを提案する。 多次元 Cox-Ingersoll-Ross プロセスにより, シンプレックス上のディリクレ分布と類似の SDE がどのように実現されるかを示す。
  論文  参考訳（メタデータ） (2022-10-26T15:27:43Z)
• ManiFlow: Implicitly Representing Manifolds with Normalizing Flows [145.9820993054072]
  正規化フロー(NF)は、複雑な実世界のデータ分布を正確にモデル化することが示されているフレキシブルな明示的な生成モデルである。 摂動分布から標本を与えられた多様体上の最も可能性の高い点を復元する最適化目的を提案する。 最後に、NFsの明示的な性質、すなわち、ログのような勾配とログのような勾配から抽出された表面正規化を利用する3次元点雲に焦点を当てる。
  論文  参考訳（メタデータ） (2022-08-18T16:07:59Z)
• A Unification Framework for Euclidean and Hyperbolic Graph Neural Networks [8.080621697426997]
  ハイパーボリックニューラルネットワークは、グラフデータセット固有の階層を効果的にキャプチャする。 層内の複数の非連続(ジャイロ-)ベクトル空間を絡み合わせることで、一般化と拡張性の観点から制限される。 検索空間としてPoincareディスクモデルを提案し,ディスク上にすべての近似を適用する。 我々のモデルは、解釈可能性や様々なモデルコンポーネントの効率的な実行といったユークリッドネットワークのパワーを利用するだけでなく、様々なベンチマークにおいてユークリッドと双曲の双方よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-06-09T05:33:02Z)
• On the Effective Number of Linear Regions in Shallow Univariate ReLU Networks: Convergence Guarantees and Implicit Bias [50.84569563188485]
  我々は、ラベルが$r$のニューロンを持つターゲットネットワークの符号によって決定されるとき、勾配流が方向収束することを示す。 我々の結果は、標本サイズによらず、幅が$tildemathcalO(r)$である、緩やかなオーバーパラメータ化をすでに維持しているかもしれない。
  論文  参考訳（メタデータ） (2022-05-18T16:57:10Z)
• Geometric Graph Representation Learning via Maximizing Rate Reduction [73.6044873825311]
  学習ノード表現は、コミュニティ検出やノード分類などのグラフ解析において、さまざまな下流タスクの恩恵を受ける。 教師なしの方法でノード表現を学習するための幾何学グラフ表現学習(G2R)を提案する。 G2R は異なるグループ内のノードを異なる部分空間にマッピングし、各部分空間はコンパクトで異なる部分空間が分散される。
  論文  参考訳（メタデータ） (2022-02-13T07:46:24Z)
• Arbitrary Conditional Distributions with Energy [11.081460215563633]
  より一般的で有用な問題は任意の条件密度推定である。 本稿では, 分布$p(mathbfx_umid mathbfx_o)$を同時に推定できる新しい手法であるArbitrary Conditioning with Energy (ACE)を提案する。 また,1次元条件のみを学習することで学習問題を単純化し,推論中により複雑な分布を復元する。
  論文  参考訳（メタデータ） (2021-02-08T18:36:26Z)
• Generative Model without Prior Distribution Matching [26.91643368299913]
  変分オートエンコーダ(VAE)とその変分は、いくつかの先行分布を満たすために低次元の潜在表現を学習することによって古典的な生成モデルである。 我々は、先行変数に適合させるのではなく、先行変数が埋め込み分布と一致するように提案する。
  論文  参考訳（メタデータ） (2020-09-23T09:33:24Z)
• Variational Hyper-Encoding Networks [62.74164588885455]
  ニューラルネットワークパラメータの分布を符号化するHyperVAEというフレームワークを提案する。 遅延符号の後部分布を予測し,行列ネットワークデコーダを用いて後部分布q(theta)を生成する。
  論文  参考訳（メタデータ） (2020-05-18T06:46:09Z)
• GANs with Conditional Independence Graphs: On Subadditivity of Probability Divergences [70.30467057209405]
  GAN(Generative Adversarial Networks)は、データセットの基盤となる分布を学習するための現代的な手法である。 GANは、基礎となるディストリビューションに関する追加情報がないモデルフリーで設計されている。 本稿では,ベイズネット/MRFの近傍に単純な識別器群を用いたモデルベースGANの設計を提案する。
  論文  参考訳（メタデータ） (2020-03-02T04:31:22Z)
• Latent Variable Modelling with Hyperbolic Normalizing Flows [35.1659722563025]
  双曲型VAEとユークリッド正規化流に新しい正規化フローを導入する。 提案手法は,実世界のグラフデータの再構成とともに,密度推定の性能向上を実現する。
  論文  参考訳（メタデータ） (2020-02-15T07:44:00Z)
• Block-Approximated Exponential Random Graphs [77.4792558024487]
  指数乱グラフ(ERG)の分野における重要な課題は、大きなグラフ上の非自明なERGの適合である。 本稿では,非自明なERGに対する近似フレームワークを提案する。 我々の手法は、数百万のノードからなるスパースグラフにスケーラブルである。
  論文  参考訳（メタデータ） (2020-02-14T11:42:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。