論文の概要: EGiME: Entropy-Guided Model Evaluation in Few-Shot Learning
- arxiv url: http://arxiv.org/abs/2610.27029v1
- Date: Mon, 19 Oct 2026 15:35:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.435002
- Title: EGiME: Entropy-Guided Model Evaluation in Few-Shot Learning
- Title(参考訳): EGiME:Few-Shot Learningにおけるエントロピー誘導モデル評価
- Abstract要約: エントロピー誘導モデル評価(Entropy-Guided Model Evaluation、EGiME)は、分類器の訓練なしに特徴空間のクラスタリング構造からモデルを評価する半教師付き基準である。
EGiMEは,K-means,KNN,SVMの精度を平均化して得られる全プール接地精度と0.966の相関スコアを得る。
クロスバリデーションされた教師付きベースラインよりも、はるかに安定したモデルランキングを生成する。
- 参考スコア(独自算出の注目度): 20.787683169478147
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: The feature-extraction quality of pre-trained models sets the ceiling of downstream transfer learning, yet few-shot model selection remains difficult: supervised evaluation on scarce labels is unstable and yields fluctuating rankings. We propose Entropy-Guided Model Evaluation (EGiME), a semi-supervised criterion that assesses a candidate model from the clustering structure of its feature space without any classifier training. EGiME performs $K$-means clustering over all labeled and unlabeled samples, then combines two entropy terms: an inter-cluster entropy measuring global separability, and an intra-cluster entropy measuring the compactness of labeled anchors, fused through an inverse-frequency weight that emphasizes small clusters. On five few-shot benchmarks and nine pre-trained models, EGiME achieves a correlation score of 0.966 with the full-pool ground-truth accuracy obtained by averaging the accuracies of K-means, KNN, and SVM. At labeling ratios of 4\%--20\%, it produces markedly more stable model rankings than cross-validated supervised baselines, establishing it as a practical alternative to conventional supervised evaluation for pre-trained model selection under data scarcity.
- Abstract(参考訳): 事前学習したモデルの特徴抽出品質は、下流転送学習の天井となるが、少数ショットモデル選択は依然として困難であり、希少ラベルに対する教師付き評価は不安定であり、変動するランキングが得られる。
本稿では,その特徴空間のクラスタリング構造から候補モデルを評価するための半教師付き基準であるEntropy-Guided Model Evaluation (EGiME)を提案する。
EGiMEは、ラベル付きおよびラベル付けされていない全てのサンプルに対して$K$-meansクラスタリングを行い、次に、大域的な分離性を測定するクラスタ間エントロピーと、小さなクラスタを強調する逆周波数重みによって融合されたラベル付きアンカーのコンパクト性を測定するクラスタ内エントロピーという2つのエントロピー用語を組み合わせる。
5つのプレトレーニングされたベンチマークと9つのモデルにおいて、EGiMEはK-means、KNN、SVMのアキュラシを平均化して得られるフルプールグラウンドトルース精度と0.966の相関スコアを達成した。
4\%--20\%のラベル付け比では、クロスバリデーションされた教師付きベースラインよりもはるかに安定したモデルランキングを生成し、データ不足下での事前訓練モデル選択に対する従来の教師付きモデル選択に対する実用的な代替品として確立した。
関連論文リスト
- Quantum-Inspired Geometric Classification with Correlation Group Structures and VQC Decision Modeling [0.5039813366558307]
本稿では、相関群構造(CGR)、コンパクトなSWAPテストに基づく重複推定、選択的変分量子決定モデリングを統合した幾何駆動型量子インスピレーション型分類フレームワークを提案する。
CGRは特徴をアンカー中心の相関近傍に整理し、非線形で相関重み付き表現を生成する。
Credit Card Fraudデータセット(0.17%)では、Delta + VQCパイプラインが約0.85マイノリティリコールを約1.31%の警告レートで達成し、ROC-AUC 0.9249とPR-AUC 0.3251をフルデータセットで評価している。
論文 参考訳(メタデータ) (2026-04-02T11:50:29Z) - Interaction-Aware Gaussian Weighting for Clustered Federated Learning [58.92159838586751]
フェデレートラーニング(FL)は、プライバシを維持しながらモデルをトレーニングするための分散パラダイムとして登場した。
本稿では,新たなクラスタリングFL法であるFedGWC(Federated Gaussian Weighting Clustering)を提案する。
ベンチマークデータセットを用いた実験により,FedGWCはクラスタの品質と分類精度において,既存のFLアルゴリズムよりも優れていることがわかった。
論文 参考訳(メタデータ) (2025-02-05T16:33:36Z) - Self-Supervised Graph Embedding Clustering [70.36328717683297]
K-means 1-step dimensionality reduction clustering method は,クラスタリングタスクにおける次元性の呪いに対処する上で,いくつかの進歩をもたらした。
本稿では,K-meansに多様体学習を統合する統一フレームワークを提案する。
論文 参考訳(メタデータ) (2024-09-24T08:59:51Z) - GREAT Score: Global Robustness Evaluation of Adversarial Perturbation using Generative Models [60.48306899271866]
GREATスコア(GREAT Score)と呼ばれる新しいフレームワークを提案する。
我々は,ロバストベンチにおける攻撃ベースモデルと比較し,高い相関性を示し,GREATスコアのコストを大幅に削減した。
GREAT Scoreは、プライバシーに敏感なブラックボックスモデルのリモート監査に使用することができる。
論文 参考訳(メタデータ) (2023-04-19T14:58:27Z) - K-means Clustering Based Feature Consistency Alignment for Label-free
Model Evaluation [12.295565506212844]
本稿では,CVPR 2023における第1回DataCV Challenge of the Visual Understandingデータセットワークショップのソリューションについて述べる。
まず,K-means Clustering Based Feature Consistency Alignment (KCFCA) という手法を提案する。
第2に,分布の変化とモデル精度の関係を捉える動的回帰モデルを開発する。
第三に、外乱モデル因子を発見し、外乱モデルを排除するアルゴリズムを設計し、複数のオートエスバルモデルの強みを組み合わせる。
論文 参考訳(メタデータ) (2023-04-17T06:33:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。