論文の概要: Incremental Semi-Supervised Learning Through Optimal Transport
- arxiv url: http://arxiv.org/abs/2103.11937v1
- Date: Mon, 22 Mar 2021 15:31:53 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-23 20:30:47.609697
- Title: Incremental Semi-Supervised Learning Through Optimal Transport
- Title(参考訳): 最適輸送によるインクリメンタル半教師付き学習
- Authors: Mourad El Hamri, Youn\`es Bennani
- Abstract要約: 本研究では, 半指導的学習のための2成分エッジ重み付きグラフを用いた新しいアプローチを提案する。
提案手法は,ラベル付きデータポイントと非ラベル付きデータポイントで定義された経験的測度間の規則化された最適輸送を用いて,最適輸送計画から親和性行列を得る。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Semi-supervised learning provides an effective paradigm for leveraging
unlabeled data to improve a model\s performance. Among the many strategies
proposed, graph-based methods have shown excellent properties, in particular
since they allow to solve directly the transductive tasks according to Vapnik\s
principle and they can be extended efficiently for inductive tasks. In this
paper, we propose a novel approach for the transductive semi-supervised
learning, using a complete bipartite edge-weighted graph. The proposed approach
uses the regularized optimal transport between empirical measures defined on
labelled and unlabelled data points in order to obtain an affinity matrix from
the optimal transport plan. This matrix is further used to propagate labels
through the vertices of the graph in an incremental process ensuring the
certainty of the predictions by incorporating a certainty score based on
Shannon\s entropy. We also analyze the convergence of our approach and we
derive an efficient way to extend it for out-of-sample data. Experimental
analysis was used to compare the proposed approach with other label propagation
algorithms on 12 benchmark datasets, for which we surpass state-of-the-art
results. We release our code.
- Abstract(参考訳): 半教師付き学習は、ラベルのないデータを利用してモデルの性能を改善する効果的なパラダイムを提供する。
提案された多くの戦略の中で、グラフベースの手法は優れた性質を示しており、特にVapnikの原理に従って直接帰納的タスクを解くことができ、帰納的タスクに対して効率的に拡張することができる。
本稿では,完全二部エッジ重み付きグラフを用いた半教師付き学習のための新しい手法を提案する。
提案手法は,ラベル付きデータポイントと非ラベル付きデータポイントで定義された経験的測度間の規則化された最適輸送を用いて,最適輸送計画から親和性行列を得る。
この行列はさらに、シャノンのエントロピーに基づく確実性スコアを組み込むことで予測の確実性を保証するインクリメンタルなプロセスにおいて、グラフの頂点を通じてラベルを伝搬するために用いられる。
また、我々のアプローチの収束を分析し、サンプル外データのために効率的に拡張する方法を導き出す。
12のベンチマークデータセットにおいて,提案手法を他のラベル伝搬アルゴリズムと比較するために実験解析を行った。
コードをリリースします。
関連論文リスト
- Graph-Based Semi-Supervised Segregated Lipschitz Learning [0.21847754147782888]
本稿では,グラフ上のリプシッツ学習を用いたデータ分類のための半教師付き学習手法を提案する。
グラフに基づく半教師付き学習フレームワークを開発し、無限ラプラシアンの性質を利用して、少数のサンプルしかラベル付けされていないデータセットにラベルを伝播する。
論文 参考訳(メタデータ) (2024-11-05T17:16:56Z) - Dual-Decoupling Learning and Metric-Adaptive Thresholding for Semi-Supervised Multi-Label Learning [81.83013974171364]
半教師付きマルチラベル学習(SSMLL)は、正確なマルチラベルアノテーションを収集するコストを削減するために、ラベルのないデータを活用する強力なフレームワークである。
半教師付き学習とは異なり、インスタンスに含まれる複数のセマンティクスのため、SSMLLの擬似ラベルとして最も確率の高いラベルを選択することはできない。
本稿では,高品質な擬似ラベルを生成するための二重パースペクティブ手法を提案する。
論文 参考訳(メタデータ) (2024-07-26T09:33:53Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - PG-LBO: Enhancing High-Dimensional Bayesian Optimization with
Pseudo-Label and Gaussian Process Guidance [31.585328335396607]
現在の主流の手法は、ラベルのないデータのプールを利用して潜在空間を構築する可能性を見落としている。
ラベル付きデータのガイダンスを用いてラベル付きデータを効果的に活用するための新しい手法を提案する。
提案手法は,様々な最適化シナリオにおいて,既存のVAE-BOアルゴリズムよりも優れている。
論文 参考訳(メタデータ) (2023-12-28T11:57:58Z) - Optimal Propagation for Graph Neural Networks [51.08426265813481]
最適グラフ構造を学習するための二段階最適化手法を提案する。
また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
論文 参考訳(メタデータ) (2022-05-06T03:37:00Z) - Data-heterogeneity-aware Mixing for Decentralized Learning [63.83913592085953]
グラフの混合重みとノード間のデータ不均一性の関係に収束の依存性を特徴付ける。
グラフが現在の勾配を混合する能力を定量化する計量法を提案する。
そこで本研究では,パラメータを周期的かつ効率的に最適化する手法を提案する。
論文 参考訳(メタデータ) (2022-04-13T15:54:35Z) - Bayesian Graph Contrastive Learning [55.36652660268726]
本稿では,ランダムな拡張がエンコーダにつながることを示すグラフコントラスト学習手法の新たな視点を提案する。
提案手法は,各ノードを決定論的ベクトルに埋め込む既存の手法とは対照的に,各ノードを潜在空間の分布で表現する。
いくつかのベンチマークデータセットにおける既存の最先端手法と比較して,性能が大幅に向上したことを示す。
論文 参考訳(メタデータ) (2021-12-15T01:45:32Z) - Inductive Semi-supervised Learning Through Optimal Transport [0.0]
提案手法は最適輸送誘導 (OTI) と呼ばれ, 最適輸送に基づく帰納的アルゴリズム (OTP) を効率よく帰納的タスクに拡張する。
提案手法と最先端手法を比較するために,いくつかのデータセットを用いて実験を行った。
論文 参考訳(メタデータ) (2021-12-14T09:52:01Z) - Label Propagation Through Optimal Transport [0.0]
本研究では,ラベル付きデータポイントのラベル予測を目的とした半教師付き半教師付き学習問題に取り組む。
提案手法は,様々な機械学習問題に対処するための数学的理論である最適輸送に基づく。
論文 参考訳(メタデータ) (2021-10-01T11:25:55Z) - Semi-Supervised Learning with Meta-Gradient [123.26748223837802]
半教師付き学習における簡単なメタ学習アルゴリズムを提案する。
その結果,提案アルゴリズムは最先端の手法に対して良好に動作することがわかった。
論文 参考訳(メタデータ) (2020-07-08T08:48:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。