論文の概要: Improving Local Identifiability in Probabilistic Box Embeddings

• arxiv url: http://arxiv.org/abs/2010.04831v2
• Date: Thu, 29 Oct 2020 01:39:49 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-09 04:03:22.211680
• Title: Improving Local Identifiability in Probabilistic Box Embeddings
• Title（参考訳）: 確率的ボックス埋め込みにおける局所識別性の向上
• Authors: Shib Sankar Dasgupta, Michael Boratko, Dongxu Zhang, Luke Vilnis, Xiang Lorraine Li, Andrew McCallum
• Abstract要約: ボックス埋め込みは、オブジェクトがn次元の超矩形で表現されるような埋め込みの有望な例である。 幾何学的埋め込みの利点は、局所的な識別可能性の問題をもたらし、パラメータの近傍全体が等価な損失をもたらす。 予測される交叉の計算には全てのパラメータが関係していることを示し、このようなモデルの学習能力を大幅に向上させることを実験的に実証する。
• 参考スコア（独自算出の注目度）: 39.354564663134234
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Geometric embeddings have recently received attention for their natural ability to represent transitive asymmetric relations via containment. Box embeddings, where objects are represented by n-dimensional hyperrectangles, are a particularly promising example of such an embedding as they are closed under intersection and their volume can be calculated easily, allowing them to naturally represent calibrated probability distributions. The benefits of geometric embeddings also introduce a problem of local identifiability, however, where whole neighborhoods of parameters result in equivalent loss which impedes learning. Prior work addressed some of these issues by using an approximation to Gaussian convolution over the box parameters, however, this intersection operation also increases the sparsity of the gradient. In this work, we model the box parameters with min and max Gumbel distributions, which were chosen such that space is still closed under the operation of the intersection. The calculation of the expected intersection volume involves all parameters, and we demonstrate experimentally that this drastically improves the ability of such models to learn.
• Abstract（参考訳）: 幾何学的埋め込みは、封じ込めによって過渡的非対称関係を表現する自然能力に注目されている。 対象を n-次元超矩形で表現するボックス埋め込みは、そのような埋め込みの特に有望な例であり、交叉の下で閉ざされ、体積が容易に計算できるので、校正された確率分布を自然に表現することができる。 しかし、幾何学的埋め込みの利点は局所的識別可能性の問題ももたらし、パラメータの近傍全体が学習を妨げる等価な損失をもたらす。 以前の研究では、ボックスパラメータ上のガウス畳み込みに対する近似を用いてこれらの問題に対処していたが、この交叉演算は勾配の空間性も増大させた。 本研究では,空間が依然として交叉の操作の下で閉じているように選択された min および max Gumbel 分布のボックスパラメータをモデル化する。 予測交叉体積の計算には,全てのパラメータが関与し,このようなモデルの学習能力を大幅に向上させることを示す。

関連論文リスト

• Optimal function estimation with photonic quantum sensor networks [0.0]
  量子ビットセンサにそれぞれ線形に結合した未知の局所パラメータの解析関数を最適に測定する。 特に、局所位相シフトまたは二次変位の線形関数を推定する際に、達成可能な平均二乗誤差の下位境界を導出する。 二次変位に対しては、任意の線型函数の場合に有界を拡張する。
  論文  参考訳（メタデータ） (2024-01-29T19:00:00Z)
• Intrinsic Bayesian Cramér-Rao Bound with an Application to Covariance Matrix Estimation [49.67011673289242]
  本稿では, 推定パラメータが滑らかな多様体内にある推定問題に対して, 新たな性能境界を提案する。 これはパラメータ多様体の幾何学と推定誤差測度の本質的な概念を誘導する。
  論文  参考訳（メタデータ） (2023-11-08T15:17:13Z)
• Parameterizing density operators with arbitrary symmetries to gain advantage in quantum state estimation [0.0]
  任意の対称性を持つ密度行列をパラメータ化する方法を示し、リー代数の生成元を知る。 さらに、数値実験を行い、これらのパラメータ化を異なる対称性を持つ状態の量子状態推定に適用する。
  論文  参考訳（メタデータ） (2022-08-13T01:24:03Z)
• Characterization of variational quantum algorithms using free fermions [0.0]
  我々はこれらの対称性と対象状態の局所性の間の相互作用を数値的に研究する。 解に収束するイテレーションの数は、システムサイズと線形にスケールする。
  論文  参考訳（メタデータ） (2022-06-13T18:11:16Z)
• Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
  ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。 本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
  論文  参考訳（メタデータ） (2020-12-09T20:19:32Z)
• A numerical framework for elastic surface matching, comparison, and interpolation [10.09712608508383]
  表面比較とマッチングはコンピュータビジョンにおいて難しい問題である。 本稿では,再パラメータ化の直接推定を回避した代替手法を提案する。 再パラメータ化の必要性を完全に回避することによって、単純なメッシュを扱うための柔軟性を提供する。
  論文  参考訳（メタデータ） (2020-06-20T20:35:59Z)
• Variational Inference as Iterative Projection in a Bayesian Hilbert Space with Application to Robotic State Estimation [14.670851095242451]
  変分ベイズ推論は統計学からロボット工学への応用を見つける重要な機械学習ツールである。 KLの発散に基づく変分推論は、ユークリッドの意味では、選択された近似族に対応する部分空間へのベイズ後方の反復射影に等しいことを示す。
  論文  参考訳（メタデータ） (2020-05-14T21:33:31Z)
• Asymptotic Analysis of an Ensemble of Randomly Projected Linear Discriminants [94.46276668068327]
  [1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。 我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。 また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
  論文  参考訳（メタデータ） (2020-04-17T12:47:04Z)
• Spatially Adaptive Inference with Stochastic Feature Sampling and Interpolation [72.40827239394565]
  スパースサンプリングされた場所のみの機能を計算することを提案する。 次に、効率的な手順で特徴写像を密に再構築する。 提案したネットワークは、様々なコンピュータビジョンタスクの精度を維持しながら、かなりの計算を省くために実験的に示されている。
  論文  参考訳（メタデータ） (2020-03-19T15:36:31Z)
• Convex Geometry and Duality of Over-parameterized Neural Networks [70.15611146583068]
  有限幅2層ReLUネットワークの解析のための凸解析手法を開発した。 正規化学習問題に対する最適解が凸集合の極点として特徴づけられることを示す。 高次元では、トレーニング問題は無限に多くの制約を持つ有限次元凸問題としてキャストできることが示される。
  論文  参考訳（メタデータ） (2020-02-25T23:05:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。