論文の概要: Low-Budget Active Learning through Entropic Optimal Transport
- arxiv url: http://arxiv.org/abs/2610.01199v1
- Date: Thu, 01 Oct 2026 07:11:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.958876
- Title: Low-Budget Active Learning through Entropic Optimal Transport
- Title(参考訳): エントロピー最適輸送による低予算能動学習
- Abstract要約: 本稿では,限られた点数,コアセットを選択することで構成される低予算能動学習について考察する。
我々は、事前訓練された自己教師付きモデルから抽出した特徴を利用して、データを表現し、この特徴空間で直接コアセット選択を行う。
本稿では、コアセット選択基準としてエントロピー最適輸送、特にシンクホーン発散を用いる。
- 参考スコア(独自算出の注目度): 5.741407725419446
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider low-budget active learning, which consists of selecting a limited number of points, the coreset, such that a model can be trained to high accuracy on the selection only. This problem is particularly relevant in contexts where labeling requires costly expert intervention, as in medical applications. We leverage features extracted from a pretrained self-supervised model to represent the data, and perform coreset selection directly in this feature space. In this paper, we use entropic optimal transport, specifically the Sinkhorn divergence, as the coreset selection criterion, which first allows us to get dimension-free sample complexity results, and second admits computationally efficient gradient evaluations. This opens the way to using gradient-based algorithms to rapidly compute solution candidates, further improved by a swap-based local search, with guarantees on the solution quality. Experiments on image benchmarks and medical datasets show that our method outperforms state-of-the-art heuristics in low-budget settings.
- Abstract(参考訳): 本稿では,限られた点数,コアセットを選択することで構成される低予算能動学習について考察する。
この問題は、医学的応用のように、ラベル付けが高価な専門家の介入を必要とする状況において特に関係している。
我々は、事前訓練された自己教師付きモデルから抽出した特徴を利用して、データを表現し、この特徴空間で直接コアセット選択を行う。
本稿では,エントロピックな最適輸送,特にシンクホーンの発散をコアセット選択基準として使用し,まず,次元を含まないサンプルの複雑性結果が得られるようにし,第2に計算効率のよい勾配評価を許容する。
これにより、勾配ベースのアルゴリズムを使用してソリューション候補を高速に計算し、スワップベースのローカルサーチによってさらに改善され、ソリューションの品質が保証される。
画像ベンチマークと医療データセットを用いた実験により,低予算環境での最先端のヒューリスティックスよりも優れた結果が得られた。
関連論文リスト
- Nearly Optimal Active Preference Learning and Its Application to LLM Alignment [68.56793807995417]
大規模言語モデルの調整は、人間の好みラベルの高品質なデータセットに依存する。
既存の多くのアプローチでは、G-やD-最適化のような古典的な実験的な設計基準が採用されている。
本研究では,これら設計目標の適合性に疑問を呈する,選好学習に特有な単純な直観を同定する。
論文 参考訳(メタデータ) (2026-02-02T03:21:29Z) - Refined Coreset Selection: Towards Minimal Coreset Size under Model
Performance Constraints [69.27190330994635]
コアセットの選択は、計算コストの削減とディープラーニングアルゴリズムのデータ処理の高速化に強力である。
本稿では,モデル性能とコアセットサイズに対する最適化優先順序を維持する革新的な手法を提案する。
実験的に、広範な実験によりその優位性が確認され、しばしばより小さなコアセットサイズでモデル性能が向上する。
論文 参考訳(メタデータ) (2023-11-15T03:43:04Z) - Optimal Sample Selection Through Uncertainty Estimation and Its
Application in Deep Learning [22.410220040736235]
コアセット選択とアクティブラーニングの両方に対処するための理論的に最適な解を提案する。
提案手法であるCOPSは,サブサンプルデータに基づいてトレーニングされたモデルの損失を最小限に抑えるために設計されている。
論文 参考訳(メタデータ) (2023-09-05T14:06:33Z) - Probabilistic Bilevel Coreset Selection [24.874967723659022]
本稿では,各トレーニングサンプルの確率的重みを学習することにより,コアセット選択の連続確率的2レベル定式化を提案する。
暗黙的な微分の問題を伴わずに、偏りのない政策勾配を経由し、二段階最適化問題に対する効率的な解法を開発する。
論文 参考訳(メタデータ) (2023-01-24T09:37:00Z) - Bilevel Optimization for Feature Selection in the Data-Driven Newsvendor
Problem [8.281391209717105]
本稿では、意思決定者が過去のデータにアクセス可能な機能ベースのニュースベンダー問題について検討する。
そこで本研究では,スパースモデル,説明可能なモデル,およびアウト・オブ・サンプル性能の改善を目的とした特徴選択について検討する。
本稿では,2レベルプログラムに対する混合整数線形プログラムの修正について述べる。
論文 参考訳(メタデータ) (2022-09-12T08:52:26Z) - Compactness Score: A Fast Filter Method for Unsupervised Feature
Selection [66.84571085643928]
本稿では,CSUFS (Compactness Score) と呼ばれる高速な教師なし特徴選択手法を提案する。
提案アルゴリズムは既存のアルゴリズムよりも正確で効率的である。
論文 参考訳(メタデータ) (2022-01-31T13:01:37Z) - Low Budget Active Learning via Wasserstein Distance: An Integer
Programming Approach [81.19737119343438]
アクティブラーニング(Active Learning)とは、ラベル付きデータプールのコアサブセットをラベルに選択することで、ラベル付きデータでモデルをトレーニングするプロセスである。
本稿では,未ラベルプールからワッサーシュタイン距離を最小化するコアセットを選択するための新しい整数最適化問題を提案する。
我々の戦略は、ラベルのないプールで教師なし学習によって得られる高品質な潜伏的特徴を必要とする。
論文 参考訳(メタデータ) (2021-06-05T21:25:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。