論文の概要: k-NN as a Simple and Effective Estimator of Transferability

• arxiv url: http://arxiv.org/abs/2503.18528v1
• Date: Mon, 24 Mar 2025 10:35:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-25 14:37:48.946860
• Title: k-NN as a Simple and Effective Estimator of Transferability
• Title（参考訳）: 転送可能性の簡易かつ効果的な推定方法としてのk-NN
• Authors: Moein Sorkhei, Christos Matsoukas, Johan Fredin Haslum, Kevin Smith,
• Abstract要約: ドメインがシフトし、タスクが異なる、そしてアーキテクチャが変わるような新しい環境で、トランスファーラーニングがうまくいくと期待できるだろうか? 16のデータセットから23の転送可能性指標を比較して42,000以上の実験を行い,転送性能の予測能力について検討した。
• 参考スコア（独自算出の注目度）: 4.016696492529457
• License:
• Abstract: How well can one expect transfer learning to work in a new setting where the domain is shifted, the task is different, and the architecture changes? Many transfer learning metrics have been proposed to answer this question. But how accurate are their predictions in a realistic new setting? We conducted an extensive evaluation involving over 42,000 experiments comparing 23 transferability metrics across 16 different datasets to assess their ability to predict transfer performance. Our findings reveal that none of the existing metrics perform well across the board. However, we find that a simple k-nearest neighbor evaluation -- as is commonly used to evaluate feature quality for self-supervision -- not only surpasses existing metrics, but also offers better computational efficiency and ease of implementation.
• Abstract（参考訳）: ドメインがシフトし、タスクが異なる、そしてアーキテクチャが変わるような新しい環境で、トランスファーラーニングがうまくいくと期待できるだろうか? この質問に答えるために、多くの移動学習指標が提案されている。 しかし、現実的な新しい環境での予測はどの程度正確か? 16のデータセットから23の転送可能性指標を比較して42,000以上の実験を行い,転送性能の予測能力について検討した。 この結果から,既存の指標のいずれも,ボード全体では良好に動作しないことが明らかとなった。 しかし、従来の指標を超えるだけでなく、計算効率や実装の容易性も向上する。

関連論文リスト

• Fast and Accurate Transferability Measurement by Evaluating Intra-class Feature Variance [20.732095457775138]
  転送可能性の測定は、ソースタスクからターゲットタスクに学習したトレーニング済みモデルがどのように転送可能かを定量化する。 本稿では,トランスファビリティを計測する高速かつ正確なアルゴリズムであるTMI(TRANSFERABILITY Measurement with Intra-CLASS FEATURE VARIANCE)を提案する。
  論文  参考訳（メタデータ） (2023-08-11T07:50:40Z)
• Transferability Metrics for Object Detection [0.0]
  Transfer Learningは、既存のトレーニング済みモデルを最大限に活用して、限られたデータシナリオで新しいタスクのパフォーマンスを向上させることを目的としている。 我々は、ROI-Align と TLogME を用いて、転送可能性のメトリクスをオブジェクト検出に拡張する。 我々は,TLogMEが転送性能とロバストな相関を示し,局所的およびグローバルなレベルの特性で他の転送可能性指標より優れていることを示す。
  論文  参考訳（メタデータ） (2023-06-27T08:49:31Z)
• Transferability Estimation Based On Principal Gradient Expectation [68.97403769157117]
  クロスタスク転送性は、自己整合性を維持しながら転送結果と互換性がある。 既存の転送可能性メトリクスは、ソースとターゲットタスクを会話することで、特定のモデルに基づいて推定される。 本稿では,タスク間の転送可能性を評価するための簡易かつ効果的な手法であるPGEを提案する。
  論文  参考訳（メタデータ） (2022-11-29T15:33:02Z)
• How stable are Transferability Metrics evaluations? [32.24673254834567]
  本研究では, 広範囲な715k実験装置を体系的に構築し, 大規模研究を行う。 実験装置の小さなバリエーションでさえ、移動可能性計量が他よりも優れているという結論を導き出す。
  論文  参考訳（メタデータ） (2022-04-04T11:38:40Z)
• Quantifying and Improving Transferability in Domain Generalization [53.16289325326505]
  アウト・オブ・ディストリビューションの一般化は、実験室から現実世界にモデルを移す際の重要な課題の1つである。 我々は、領域一般化において量子化と計算が可能な転送可能性を正式に定義する。 転送可能な特徴を学習し、様々なベンチマークデータセット上でテストするための新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-06-07T14:04:32Z)
• ReMP: Rectified Metric Propagation for Few-Shot Learning [67.96021109377809]
  修正されたメートル法空間は、トレーニングからテストまでのメートル法一貫性を維持するために学習される。 多くの分析結果から、目的の単純な修正がかなりの性能向上をもたらすことが示唆された。 提案したReMPは効率的で効率的であり、様々な標準的な数発の学習データセットで芸術の状態を上回ります。
  論文  参考訳（メタデータ） (2020-12-02T00:07:53Z)
• Uniform Priors for Data-Efficient Transfer [65.086680950871]
  もっとも移動可能な特徴は埋め込み空間において高い均一性を有することを示す。 我々は、未確認のタスクやデータへの適応を容易にする能力の正規化を評価する。
  論文  参考訳（メタデータ） (2020-06-30T04:39:36Z)
• Counterfactual Detection meets Transfer Learning [48.82717416666232]
  既存のモデルアーキテクチャに最小限の適応で実装可能な,単純なバイナリ分類タスクであることを示す。 本稿では,先行者や後続者をエンティティ認識タスクとして処理するエンド・ツー・エンドパイプラインを導入し,それらをトークン分類に適用する。
  論文  参考訳（メタデータ） (2020-05-27T02:02:57Z)
• Meta-Learned Confidence for Few-shot Learning [60.6086305523402]
  数ショットのメトリックベースのアプローチのための一般的なトランスダクティブ推論手法は、最も確実なクエリ例の平均で、各クラスのプロトタイプを更新することである。 本稿では,各クエリの信頼度をメタラーニングして,ラベルのないクエリに最適な重みを割り当てる手法を提案する。 4つのベンチマークデータセットに対してメタ学習の信頼度で、少数ショットの学習モデルを検証した。
  論文  参考訳（メタデータ） (2020-02-27T10:22:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。