論文の概要: Doing well with less! On Sampling Techniques for Empirical Pairwise Loss Estimation/Minimization
- arxiv url: http://arxiv.org/abs/2606.02345v1
- Date: Mon, 01 Jun 2026 14:54:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:32.302155
- Title: Doing well with less! On Sampling Techniques for Empirical Pairwise Loss Estimation/Minimization
- Title(参考訳): あまりうまくいかない! 経験的損失推定/最小化のためのサンプリング技術について
- Authors: Louise Davy, Stephan Clémençon, Charlotte Laclau,
- Abstract要約: そこで本研究では,全対を用いて得られた手法に匹敵する推定・最適化性能を,対で利用可能な情報のごく一部しか保持しないフラジカルな手法で実現できることを,調査サンプリング手法を用いて示す。
特に、視覚やグラフ学習における埋め込みのような高次元ベクトル間のペアワイズ損失に対して、適切な補助情報を用いて情報的ペアに高い包摂確率を割り当てると、完全なペアワイズ評価に近い性能が得られる。
- 参考スコア(独自算出の注目度): 1.9233913116824528
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Many machine learning problems, including similarity learning, ranking, and clustering, rely on empirical pairwise loss functions whose quadratic computational cost quickly becomes prohibitive at scale. We demonstrate how a frugal approach that retains only a fraction of the available information on pairs can achieve estimation or optimization performance comparable to that obtained by using all pairs, by leveraging survey sampling techniques. A central finding, supported by both theory and experiments, is that such sampling plans must target pairs directly rather than individual observations. In particular, for pairwise losses between high-dimensional vectors such as embeddings in vision or graph learning, assigning higher inclusion probabilities to informative pairs using suitable auxiliary information yields performance close to full pairwise evaluation, providing a principled and theoretically grounded trade-off between accuracy and computational cost.
- Abstract(参考訳): 類似性学習、ランキング、クラスタリングを含む多くの機械学習問題は、2次計算コストがすぐに大規模で禁じられる経験的なペアワイズ損失関数に依存している。
本研究では,全対を用いて得られた手法に匹敵する推定や最適化性能を,ペア上で利用可能な情報のごく一部しか保持しないフラジカルアプローチで実現できることを,調査サンプリング手法を用いて実証した。
理論と実験の両方が支持する中心的な発見は、このようなサンプリング計画は個々の観測ではなく、ペアを直接標的にする必要があることである。
特に、視覚やグラフ学習における埋め込みなどの高次元ベクトル間のペアワイズ損失に対して、適切な補助情報を用いて情報的ペアにより高い包摂確率を割り当てると、完全なペアワイズ評価に近い性能が得られる。
関連論文リスト
- Recommendations with Sparse Comparison Data: Provably Fast Convergence for Nonconvex Matrix Factorization [12.006706388840934]
本稿では,個別に評価するのではなく,各項目のペアを比較してフィードバックを提供するリコメンデータシステムにおいて,新たな学習問題を理論的に分析する。
論文 参考訳(メタデータ) (2025-02-27T12:17:34Z) - Efficient Fairness-Performance Pareto Front Computation [45.088727439928704]
最適公正表現はいくつかの有用な構造特性を持つことを示す。
そこで,これらの近似問題は,凹凸プログラミング法により効率的に解けることを示す。
論文 参考訳(メタデータ) (2024-09-26T08:46:48Z) - Probabilistic Contrastive Learning for Long-Tailed Visual Recognition [78.70453964041718]
細長い分布は、少数の少数派が限られた数のサンプルを含む実世界のデータにしばしば現れる。
近年の研究では、教師付きコントラスト学習がデータ不均衡を緩和する有望な可能性を示していることが明らかになっている。
本稿では,特徴空間の各クラスからのサンプルデータ分布を推定する確率論的コントラスト学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-03-11T13:44:49Z) - Collaborative Learning with Different Labeling Functions [7.228285747845779]
我々は、$n$のデータ分布ごとに正確な分類器を学習することを目的とした、協調型PAC学習の亜種について研究する。
データ分布がより弱い実現可能性の仮定を満たす場合、サンプル効率の学習は依然として可能であることを示す。
論文 参考訳(メタデータ) (2024-02-16T04:32:22Z) - Simple Stochastic and Online Gradient DescentAlgorithms for Pairwise
Learning [65.54757265434465]
ペアワイズ学習(Pairwise learning)とは、損失関数がペアインスタンスに依存するタスクをいう。
オンライン降下(OGD)は、ペアワイズ学習でストリーミングデータを処理する一般的なアプローチである。
本稿では,ペアワイズ学習のための手法について,シンプルでオンラインな下降を提案する。
論文 参考訳(メタデータ) (2021-11-23T18:10:48Z) - Provable Guarantees for Self-Supervised Deep Learning with Spectral
Contrastive Loss [72.62029620566925]
自己教師型学習の最近の研究は、対照的な学習パラダイムを頼りに、最先端の技術の進歩を遂げている。
我々の研究は、正の対の条件的独立性を仮定することなく、対照的な学習を分析する。
本稿では,人口増分グラフ上でスペクトル分解を行う損失を提案し,コントラスト学習目的として簡潔に記述することができる。
論文 参考訳(メタデータ) (2021-06-08T07:41:02Z) - Scalable Personalised Item Ranking through Parametric Density Estimation [53.44830012414444]
暗黙のフィードバックから学ぶことは、一流問題の難しい性質のために困難です。
ほとんどの従来の方法は、一級問題に対処するためにペアワイズランキングアプローチとネガティブサンプラーを使用します。
本論文では,ポイントワイズと同等の収束速度を実現する学習対ランクアプローチを提案する。
論文 参考訳(メタデータ) (2021-05-11T03:38:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。