論文の概要: Hyperbolic Busemann Learning with Ideal Prototypes
- arxiv url: http://arxiv.org/abs/2106.14472v1
- Date: Mon, 28 Jun 2021 08:36:59 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-29 17:58:45.105565
- Title: Hyperbolic Busemann Learning with Ideal Prototypes
- Title(参考訳): 理想的プロトタイプを用いた双曲型ブセマン学習
- Authors: Mina Ghadimi Atigh, Martin Keller-Ressel, Pascal Mettes
- Abstract要約: 本研究では,任意のデータの表現学習のための双曲型ブセマン学習を提案する。
理想のプロトタイプに対して近似性を計算するために、罰則を付したブセマン損失を導入する。
実験により,本手法は,近年の超球面・双曲型プロトタイプよりも高い精度で,分類信頼性の自然な解釈を提供することを示した。
- 参考スコア(独自算出の注目度): 14.525985704735055
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Hyperbolic space has become a popular choice of manifold for representation
learning of arbitrary data, from tree-like structures and text to graphs.
Building on the success of deep learning with prototypes in Euclidean and
hyperspherical spaces, a few recent works have proposed hyperbolic prototypes
for classification. Such approaches enable effective learning in
low-dimensional output spaces and can exploit hierarchical relations amongst
classes, but require privileged information about class labels to position the
hyperbolic prototypes. In this work, we propose Hyperbolic Busemann Learning.
The main idea behind our approach is to position prototypes on the ideal
boundary of the Poincare ball, which does not require prior label knowledge. To
be able to compute proximities to ideal prototypes, we introduce the penalised
Busemann loss. We provide theory supporting the use of ideal prototypes and the
proposed loss by proving its equivalence to logistic regression in the
one-dimensional case. Empirically, we show that our approach provides a natural
interpretation of classification confidence, while outperforming recent
hyperspherical and hyperbolic prototype approaches.
- Abstract(参考訳): 双曲空間は、木のような構造やテキストからグラフまで、任意のデータの表現学習のための多様体の一般的な選択となった。
ユークリッド空間と超球面空間のプロトタイプによる深層学習の成功に基づいて、最近のいくつかの研究で、分類のための双曲型プロトタイプが提案されている。
このようなアプローチは、低次元の出力空間における効果的な学習を可能にし、クラス間の階層的関係を利用することができるが、双曲型プロトタイプを配置するためにクラスラベルに関する特権情報を必要とする。
本研究では,双曲的ブセマン学習を提案する。
このアプローチの背後にある主要なアイデアは、事前のラベル知識を必要としないpoincareボールの理想的な境界にプロトタイプを置くことです。
理想のプロトタイプへの近さを計算するために,ペナルテッド・ビューゼマンの損失について紹介する。
1次元の場合のロジスティック回帰に対する同値性を証明することにより,理想プロトタイプの使用と損失提案を支持する理論を提供する。
経験的に,本手法は分類信頼度を自然に解釈すると同時に,近年の超球型および双曲型プロトタイプアプローチよりも優れていることを示す。
関連論文リスト
- HyperPg -- Prototypical Gaussians on the Hypersphere for Interpretable Deep Learning [2.0599237172837523]
ProtoPNetは、トレーニング画像から既知のプロトタイプ部品を“見た目”で学習し、予測力とケースベースの推論の固有の解釈可能性を組み合わせる。
この研究は、潜在空間の超球面上のガウス分布を利用した新しいプロトタイプ表現であるHyperPgを導入する。
CUB-200-2011とStanford Carsデータセットの実験では、HyperPgNetが他のプロトタイプ学習アーキテクチャより優れていることが示されている。
論文 参考訳(メタデータ) (2024-10-11T15:50:31Z) - A Coding-Theoretic Analysis of Hyperspherical Prototypical Learning Geometry [25.514947992281378]
HPL(Hyperspherical Prototypeal Learning)は、単位超球面上のクラスプロトタイプを設計する表現学習における教師ありアプローチである。
これまでのHPLのアプローチには、以下の欠点がある: (i) 予想外の最適化手順に従う; (ii) 理論上は健全であるが、1つの潜在次元にのみ制約される。
論文 参考訳(メタデータ) (2024-07-10T13:44:19Z) - HMSN: Hyperbolic Self-Supervised Learning by Clustering with Ideal
Prototypes [7.665392786787577]
プロトタイプに基づくクラスタリング手法の自己教師付き表現学習には,双曲表現空間を用いる。
我々はMasked Siamese Networksを拡張し、双曲空間のPoincar'eボールモデルで操作する。
従来の手法とは異なり、エンコーダネットワークの出力における双曲空間に投影し、双曲投影ヘッドを利用して、下流タスクに使用される表現が双曲的であることを保証する。
論文 参考訳(メタデータ) (2023-05-18T12:38:40Z) - Automatically Discovering Novel Visual Categories with Self-supervised
Prototype Learning [68.63910949916209]
本稿では,大規模な画像収集において未知のカテゴリを識別することを目的とした,新しいカテゴリ発見(NCD)の課題に取り組む。
本稿では,プロトタイプ表現学習とプロトタイプ自己学習という,2つの主要な段階からなる適応型プロトタイプ学習手法を提案する。
本研究では,4つのベンチマークデータセットについて広範な実験を行い,提案手法の有効性とロバスト性を示す。
論文 参考訳(メタデータ) (2022-08-01T16:34:33Z) - HRCF: Enhancing Collaborative Filtering via Hyperbolic Geometric
Regularization [52.369435664689995]
HRCF (textitHyperbolic Regularization powered Collaborative Filtering) を導入し,幾何認識型双曲正規化器を設計する。
具体的には、ルートアライメントとオリジン認識ペナルティによる最適化手順を強化する。
提案手法は,双曲的凝集による過度な平滑化問題に対処でき,モデルの識別能力も向上する。
論文 参考訳(メタデータ) (2022-04-18T06:11:44Z) - BMD: A General Class-balanced Multicentric Dynamic Prototype Strategy
for Source-free Domain Adaptation [74.93176783541332]
Source-free Domain Adaptation (SFDA)は、トレーニング済みのソースモデルを、十分にラベル付けされたソースデータにアクセスすることなく、未ラベルのターゲットドメインに適応することを目的としている。
ソースデータの欠如を補うため、既存のほとんどのメソッドは、機能プロトタイプベースの擬似ラベル戦略を導入した。
SFDAタスクのための汎用クラスベース多中心動的プロトタイプ戦略を提案する。
論文 参考訳(メタデータ) (2022-04-06T13:23:02Z) - Rethinking Semantic Segmentation: A Prototype View [126.59244185849838]
学習不可能なプロトタイプをベースとした非パラメトリックセマンティックセマンティックセマンティクスモデルを提案する。
我々のフレームワークは、いくつかのデータセットに対して魅力的な結果をもたらす。
この作業が、現在のデファクトセマンティックセグメンテーションモデル設計を再考することを期待しています。
論文 参考訳(メタデータ) (2022-03-28T21:15:32Z) - Dual Prototypical Contrastive Learning for Few-shot Semantic
Segmentation [55.339405417090084]
本稿では,FSSタスクに適合する2つの特徴的コントラスト学習手法を提案する。
第一の考え方は、プロトタイプの特徴空間におけるクラス内距離を減少させながら、クラス間距離を増やすことで、プロトタイプをより差別的にすることである。
提案手法は,PASCAL-5iおよびCOCO-20iデータセット上で,最先端のFSS手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-11-09T08:14:50Z) - A Theory of Hyperbolic Prototype Learning [0.0]
本稿では,双曲型学習(Hyperbolic Prototype Learning)を紹介し,双曲型空間において,クラスラベルを理想点(無限点点)で表現する。
学習は、双曲幾何学のブセマン関数に基づく新しい損失関数である「ペナル化ブセマン損失」を最小化することで達成される。
論文 参考訳(メタデータ) (2020-10-15T13:45:02Z) - A Fully Hyperbolic Neural Model for Hierarchical Multi-Class
Classification [7.8176853587105075]
双曲空間は、記号データの階層的表現を学ぶために数学的に魅力的なアプローチを提供する。
本研究は,双曲空間におけるすべての操作を実行する多クラス多ラベル分類のための完全双曲モデルを提案する。
徹底的な分析では、最終予測における各コンポーネントの影響に光を当て、ユークリッド層との統合の容易さを示している。
論文 参考訳(メタデータ) (2020-10-05T14:42:56Z) - Robust Large-Margin Learning in Hyperbolic Space [64.42251583239347]
ユークリッド空間ではなく双曲型で分類器を学ぶための最初の理論的保証を示す。
本研究では, 対向例の慎重な注入に頼って, 大面積超平面を効率よく学習するアルゴリズムを提案する。
双曲空間によく埋め込まれる階層的データに対して、低埋め込み次元は優れた保証を保証することを証明している。
論文 参考訳(メタデータ) (2020-04-11T19:11:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。