論文の概要: Isotropy, Clusters, and Classifiers
- arxiv url: http://arxiv.org/abs/2402.03191v1
- Date: Mon, 5 Feb 2024 16:57:24 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-06 14:42:26.419768
- Title: Isotropy, Clusters, and Classifiers
- Title(参考訳): 等方性、クラスター、分類器
- Authors: Timothee Mickus, Stig-Arne Gr\"onroos, Joseph Attieh
- Abstract要約: 我々は、等方性がクラスタの存在と互換性のない埋め込み空間に要求を課すことを強調する。
我々は、この事実を実証的に証明し、それを使って、文献の以前の結果に光を当てる。
- 参考スコア(独自算出の注目度): 4.3606491818214295
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Whether embedding spaces use all their dimensions equally, i.e., whether they
are isotropic, has been a recent subject of discussion. Evidence has been
accrued both for and against enforcing isotropy in embedding spaces. In the
present paper, we stress that isotropy imposes requirements on the embedding
space that are not compatible with the presence of clusters -- which also
negatively impacts linear classification objectives. We demonstrate this fact
empirically and use it to shed light on previous results from the literature.
- Abstract(参考訳): 埋め込み空間がすべての次元を等しく使用するか、すなわち等方的であるかは、近年議論の対象となっている。
埋め込み空間における等方性とそれに対する証拠が得られた。
本稿では,等方性がクラスタの存在と相容れない埋め込み空間に要求を課すことを強調し,これは線形分類の目的にも悪影響を及ぼす。
我々は,この事実を実証的に示し,文献から得られたこれまでの結果に光を当てる。
関連論文リスト
- Alignment and Outer Shell Isotropy for Hyperbolic Graph Contrastive
Learning [69.6810940330906]
高品質なグラフ埋め込みを学習するための新しいコントラスト学習フレームワークを提案する。
具体的には、階層的なデータ不変情報を効果的にキャプチャするアライメントメトリックを設計する。
双曲空間において、木の性質に関連する葉と高さの均一性に対処する必要があることを示す。
論文 参考訳(メタデータ) (2023-10-27T15:31:42Z) - Stable Anisotropic Regularization [18.52015282224059]
I-STAR: IsoScore*-based STable Anisotropic regularization, a novel regularization method that can can be increase or reduce of isotropy in embedded space during training。
I-STARはIsoScore*を用いており、IsoScore*はアイソトロピーの最初の正確な測定値であり、ミニバッチ計算では微分可能で安定である。
論文 参考訳(メタデータ) (2023-05-30T18:57:45Z) - Entanglement in tripartitions of topological orders: a diagrammatic
approach [0.0]
我々は、ボソニックトポロジカル秩序の3分割で、混合状態絡み合い尺度である反射エントロピーと対数ネガティビティを計算した。
前者の場合、アベリア順序と非アベリア順序を区別する負性への寄与を見出す。
後者では、反射エントロピーへの明確な普遍的な寄与を見出す。
論文 参考訳(メタデータ) (2023-01-18T20:01:21Z) - Continuous percolation in a Hilbert space for a large system of qubits [58.720142291102135]
パーコレーション遷移は無限クラスターの出現によって定義される。
ヒルベルト空間の指数的に増加する次元性は、有限サイズの超球面による被覆を非効率にすることを示す。
コンパクトな距離空間におけるパーコレーション遷移への我々のアプローチは、他の文脈での厳密な処理に有用である。
論文 参考訳(メタデータ) (2022-10-15T13:53:21Z) - Intrinsic dimension estimation for discrete metrics [65.5438227932088]
本稿では,離散空間に埋め込まれたデータセットの内在次元(ID)を推定するアルゴリズムを提案する。
我々は,その精度をベンチマークデータセットで示すとともに,種鑑定のためのメダゲノミクスデータセットの分析に応用する。
このことは、列の空間の高次元性にもかかわらず、蒸発圧が低次元多様体に作用することを示唆している。
論文 参考訳(メタデータ) (2022-07-20T06:38:36Z) - How Does Fine-tuning Affect the Geometry of Embedding Space: A Case
Study on Isotropy [18.490856440975996]
埋め込み空間の等方性が微調整後にどのように変化するかを分析する。
事前学習した文脈単語表現(CWR)の局所構造は、微調整中に大きく変化する。
論文 参考訳(メタデータ) (2021-09-10T08:58:59Z) - A Distance Covariance-based Kernel for Nonlinear Causal Clustering in
Heterogeneous Populations [1.2763567932588586]
本稿では,異なるサンプルの非線形因果構造間の類似性を測定するために,距離共分散に基づくカーネルを提案する。
このカーネルはクラスタリングを行い、同種サブポピュレーションを識別する。
遺伝子学の応用による因果的クラスタリングにカーネルを用いることで、測定された遺伝子発現レベルを調節する潜伏転写因子ネットワークを解明することができる。
論文 参考訳(メタデータ) (2021-06-07T10:16:34Z) - Long-distance entanglement of purification and reflected entropy in
conformal field theory [58.84597116744021]
量子論における混合状態の絡み合い特性について、精製と反射エントロピーの絡み合いを通して研究する。
両者の崩壊, 浄化の絡み合い, 反射エントロピーが, 相互情報行動に関して増大していることを示す基礎的証明が得られた。
論文 参考訳(メタデータ) (2021-01-29T19:00:03Z) - Geometry of Similarity Comparisons [51.552779977889045]
空間形式の順序容量は、その次元と曲率の符号に関係していることを示す。
さらに重要なことは、類似性グラフ上で定義された順序拡散確率変数の統計的挙動が、その基礎となる空間形式を特定するのに利用できることである。
論文 参考訳(メタデータ) (2020-06-17T13:37:42Z) - On the Replicability of Combining Word Embeddings and Retrieval Models [71.18271398274513]
我々は、Fisherカーネルフレームワークの使用に関する魅力的な仮説を実証しようとする最近の実験を再現する。
具体的には、von Mises-Fisher (VMF) 分布の混合モデルを使用することは、VMF とベクトル空間モデルの両方の余弦距離に焦点をあてることによって有益である。
論文 参考訳(メタデータ) (2020-01-13T19:01:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。