論文の概要: Fewer is More: A Deep Graph Metric Learning Perspective Using Fewer Proxies

• arxiv url: http://arxiv.org/abs/2010.13636v1
• Date: Mon, 26 Oct 2020 14:52:42 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-02 18:21:21.147704
• Title: Fewer is More: A Deep Graph Metric Learning Perspective Using Fewer Proxies
• Title（参考訳）: Fewer is More: 少ないプロキシを用いた深層グラフメトリック学習の視点
• Authors: Yuehua Zhu, Muli Yang, Cheng Deng, and Wei Liu
• Abstract要約: 本稿では,グラフ分類の観点から,プロキシベースのディープグラフメトリックラーニング手法を提案する。 複数のグローバルプロキシを利用して、各クラスの元のデータポイントを総括的に近似する。 本研究では, 近接関係を接地トラス・ラベルに従って調整する, 新たな逆ラベル伝搬アルゴリズムを設計する。
• 参考スコア（独自算出の注目度）: 65.92826041406802
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep metric learning plays a key role in various machine learning tasks. Most of the previous works have been confined to sampling from a mini-batch, which cannot precisely characterize the global geometry of the embedding space. Although researchers have developed proxy- and classification-based methods to tackle the sampling issue, those methods inevitably incur a redundant computational cost. In this paper, we propose a novel Proxy-based deep Graph Metric Learning (ProxyGML) approach from the perspective of graph classification, which uses fewer proxies yet achieves better comprehensive performance. Specifically, multiple global proxies are leveraged to collectively approximate the original data points for each class. To efficiently capture local neighbor relationships, a small number of such proxies are adaptively selected to construct similarity subgraphs between these proxies and each data point. Further, we design a novel reverse label propagation algorithm, by which the neighbor relationships are adjusted according to ground-truth labels, so that a discriminative metric space can be learned during the process of subgraph classification. Extensive experiments carried out on widely-used CUB-200-2011, Cars196, and Stanford Online Products datasets demonstrate the superiority of the proposed ProxyGML over the state-of-the-art methods in terms of both effectiveness and efficiency. The source code is publicly available at https://github.com/YuehuaZhu/ProxyGML.
• Abstract（参考訳）: ディープラーニングは、さまざまな機械学習タスクにおいて重要な役割を果たす。 以前の作品のほとんどは、埋め込み空間のグローバルな幾何学を正確に特徴づけることができないミニバッチからのサンプリングに限られている。 研究者はサンプリング問題に対処するためにプロキシと分類に基づく手法を開発したが、これらの手法は必然的に冗長な計算コストを発生させる。 本稿では,グラフ分類の観点から,プロキシベースの深層グラフメトリック学習(proxygml)手法を提案する。 具体的には、複数のグローバルプロキシを利用して、各クラスの元のデータポイントを集合的に近似する。 局所隣接関係を効率的に捉えるために、これらのプロキシと各データポイントとの類似性部分グラフを構築するために、少数のプロキシを適応的に選択する。 さらに,隣接関係を接地ラベルに応じて調整し,サブグラフ分類の過程で識別距離空間を学習できるように,新しい逆ラベル伝播アルゴリズムを設計した。 広く使われているCUB-200-2011、Cars196、Stanford Online Productsのデータセットで実施された大規模な実験は、有効性と効率の両面で最先端の手法よりも提案されたProxyGMLの方が優れていることを示した。 ソースコードはhttps://github.com/YuehuaZhu/ProxyGMLで公開されている。

関連論文リスト

• Federated Graph Learning with Structure Proxy Alignment [43.13100155569234]
  Federated Graph Learning (FGL)は、複数のデータ所有者に分散されたグラフデータよりもグラフ学習モデルを学習することを目的としている。 我々はFedSprayを提案する。FedSprayは、潜伏空間における局所的なクラスワイド構造プロキシを学習する新しいFGLフレームワークである。 我々のゴールは、ノード分類のための信頼性が高く、偏りのない隣り合う情報として機能する、整列構造プロキシを得ることです。
  論文  参考訳（メタデータ） (2024-08-18T07:32:54Z)
• FastGAS: Fast Graph-based Annotation Selection for In-Context Learning [53.17606395275021]
  インコンテキスト学習(ICL)は、大規模言語モデル(LLM)に対して、一連のトレーニングインスタンスをプロンプトとして使用することにより、新しいタスクに対処する権限を与える。 既存の手法では、アノテーションのラベルなし例のサブセットを選択する方法が提案されている。 本稿では,高品質なインスタンスを効率的に識別するグラフベースの選択手法であるFastGASを提案する。
  論文  参考訳（メタデータ） (2024-06-06T04:05:54Z)
• $\mathcal{G}^2Pxy$: Generative Open-Set Node Classification on Graphs with Proxy Unknowns [35.976426549671075]
  本稿では,新しい生成的オープンセットノード分類法,すなわち $mathcalG2Pxy$ を提案する。 トレーニングや検証中に未知のクラスに関する情報が得られない、より厳密な帰納的学習環境に従う。 $mathcalG2Pxy$は未知のクラス検出と既知のクラス分類において優れた効果を達成する。
  論文  参考訳（メタデータ） (2023-08-10T09:42:20Z)
• Robust Calibrate Proxy Loss for Deep Metric Learning [6.784952050036532]
  本稿では、実際のサンプル情報を用いて、プロキシベースの損失の類似性計算を改善するCalibrate Proxy構造を提案する。 提案手法は,正規データセットと雑音データセットの両方において,一般的に使用されるプロキシベース損失の性能を効果的に向上できることを示す。
  論文  参考訳（メタデータ） (2023-04-06T02:43:10Z)
• Global Proxy-based Hard Mining for Visual Place Recognition [3.6739949215165164]
  本稿では, プロキシをベースとした世界規模のミニバッチサンプリングを行う手法を提案する。 そのため、ネットワークに新しいエンドツーエンドのトレーニング可能なブランチを追加し、効率的な場所記述子を生成する。 提案手法は,既存の2値損失関数と3値損失関数を組み合わせて,メモリと計算コストの最小化を図り得る。
  論文  参考訳（メタデータ） (2023-02-28T00:43:13Z)
• ProxyMix: Proxy-based Mixup Training with Label Refinery for Source-Free Domain Adaptation [73.14508297140652]
  Unsupervised domain adapt (UDA) は、ラベル付きソースドメインからラベル付きターゲットドメインに知識を転送することを目的としている。 Proxy-based Mixup training with label refinery (ProxyMix)を提案する。 3つの2D画像と1つの3Dポイントクラウドオブジェクト認識ベンチマークの実験は、ProxyMixがソースフリーなUDAタスクに最先端のパフォーマンスをもたらすことを示した。
  論文  参考訳（メタデータ） (2022-05-29T03:45:00Z)
• Non-isotropy Regularization for Proxy-based Deep Metric Learning [78.18860829585182]
  本稿では,プロキシに基づくDeep Metric Learningのための非等方正則化(mathbbNIR$)を提案する。 これにより、プロキシの周囲のサンプルの非等方分布を明示的に誘導して最適化することが可能になる。 実験では、競争力と最先端のパフォーマンスを達成しながら、$mathbbNIR$の一貫性のある一般化の利点を強調している。
  論文  参考訳（メタデータ） (2022-03-16T11:13:20Z)
• Self-supervised Graph-level Representation Learning with Local and Global Structure [71.45196938842608]
  自己教師付き全グラフ表現学習のためのローカル・インスタンスとグローバル・セマンティック・ラーニング(GraphLoG)という統合フレームワークを提案する。 GraphLoGは、局所的な類似点の保存に加えて、グローバルなセマンティッククラスタをキャプチャする階層的なプロトタイプも導入している。 モデル学習のための効率的なオンライン予測最大化(EM)アルゴリズムがさらに開発された。
  論文  参考訳（メタデータ） (2021-06-08T05:25:38Z)
• How Fine-Tuning Allows for Effective Meta-Learning [50.17896588738377]
  MAMLライクなアルゴリズムから派生した表現を解析するための理論的フレームワークを提案する。 我々は,勾配降下による微調整により得られる最良予測器のリスク境界を提示し,アルゴリズムが共有構造を有効活用できることを実証する。 この分離の結果、マイニングベースのメソッド、例えばmamlは、少数ショット学習における"frozen representation"目標を持つメソッドよりも優れている。
  論文  参考訳（メタデータ） (2021-05-05T17:56:00Z)
• Proxy Network for Few Shot Learning [9.529264466445236]
  本稿では,メタラーニングのアーキテクチャの下で,プロキシネットワークと呼ばれる数ショットの学習アルゴリズムを提案する。 CUB と mini-ImageNet のデータセットを 1-shot-5-way と 5-shot-5-way のシナリオで実験する。
  論文  参考訳（メタデータ） (2020-09-09T13:28:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。