論文の概要: From internal representations to model improvement through prediction errors
- arxiv url: http://arxiv.org/abs/2609.35449v1
- Date: Mon, 28 Sep 2026 15:43:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-02 05:17:42.611721
- Title: From internal representations to model improvement through prediction errors
- Title(参考訳): 内部表現から予測誤差によるモデル改善へ
- Abstract要約: 内部機能と予測エラーとパフォーマンスへの影響をリンクします。
本手法は2つのデータセットと2組のランダムシードに対してオブジェクト検出器を用いて評価する。
これらの結果は、モデルの内部特徴とエラーと、その性能への影響をリンクさせることで、パフォーマンスを向上させるトレーニングイメージを選択するのに役立つことを示唆している。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With limited annotation budgets, choosing which images to label determines how much a model improves. Data-selection methods that use features from a separately trained model, or scene descriptions written by vision-language models, have been successful, but those signals do not directly capture changes in the model being improved. The target model's own internal features reflect what it has learned so far and change with retraining, making them a natural cue for choosing the next training data. However, feature rarity alone does not reveal the errors that matter for performance. Here we link internal features to prediction errors and their expected impact on performance and select images for labeling and retraining without using labels for candidate images. We evaluated the method with an object detector on two datasets and two pairs of random seeds. Adding internal features improved the identification of prediction errors in 15 of 16 conditions. When performance was averaged over successive labeling rounds, the method outperformed selection based only on feature rarity in all four evaluation settings and ranked among the top two of six methods. With other conditions held fixed, performance after retraining was again higher than with rarity-based selection, even though the latter collected more errors. With longer retraining, the proposed method ranked first among six methods. These results suggest that linking a model's internal features to its errors and their effects on performance may help select training images that improve performance, thereby allowing the model's current state to guide which images are labeled next.
- Abstract(参考訳): アノテーションの予算が限られているため、ラベル付けするイメージを選択することで、モデルがどれだけ改善するかが決定される。
個別に訓練されたモデルの特徴や視覚言語モデルによって記述されたシーン記述を用いたデータ選択手法は成功しているが、これらの信号は改善中のモデルの変化を直接捉えていない。
ターゲットモデルの内部機能は、これまで学んだことを反映し、再トレーニングによって変化し、次のトレーニングデータを選択するための自然なキューとなります。
しかし、特徴の希薄さだけでは、パフォーマンスにとって重要なエラーを明らかにしない。
ここでは、内部特徴と予測誤差と、それらの期待されるパフォーマンスへの影響をリンクし、候補画像のラベルを使わずにラベル付けと再トレーニングのための画像を選択する。
本手法を2つのデータセットと2組のランダムシードに対して対象検出器を用いて評価した。
内部機能の追加により、16条件中15条件での予測エラーの識別が改善された。
連続ラベリングラウンドの平均評価では, 4つの評価条件のすべてにおいて特徴量のみに基づいて選択し, 6つの手法の上位2つにランク付けした。
他の条件が固定された場合、再訓練後の性能は、後者がより多くのエラーを収集したにもかかわらず、希少な選択よりも再び高かった。
再訓練期間が長いため,提案手法は6つの手法の1つにランクインした。
これらの結果は、モデルの内部特徴とエラーとパフォーマンスへの影響をリンクさせることで、パフォーマンスを向上させるトレーニングイメージの選択に役立ち、それによってモデルの現在の状態が次にラベル付けされたイメージをガイドできるようになることを示唆している。
関連論文リスト
- Learning an Image Editing Model without Image Editing Pairs [83.03646586929638]
最近の画像編集モデルは、自然言語編集の指示に従いながら印象的な成果を上げている。
それらは、インプットとターゲットのペアの大きなデータセットによる教師付き微調整に依存している。
現在の回避策は、既存のモデルのゼロショット機能を利用する合成トレーニングペアを使用する。
ペア化されたデータを完全に不要にする新たなトレーニングパラダイムを提案する。
論文 参考訳(メタデータ) (2025-10-16T17:59:57Z) - Uncertainty-aware Sampling for Long-tailed Semi-supervised Learning [89.98353600316285]
擬似ラベルサンプリングのモデル化プロセスに不確実性を導入し、各クラスにおけるモデル性能が異なる訓練段階によって異なることを考慮した。
このアプローチにより、モデルは異なる訓練段階における擬似ラベルの不確かさを認識でき、それによって異なるクラスの選択閾値を適応的に調整できる。
FixMatchのような他の手法と比較して、UDTSは自然シーン画像データセットの精度を少なくとも5.26%、1.75%、9.96%、1.28%向上させる。
論文 参考訳(メタデータ) (2024-01-09T08:59:39Z) - Entailment as Robust Self-Learner [14.86757876218415]
我々は、複数の異なるNLUタスクを文脈的エンターテイメントとして定式化するプロンプト戦略を設計する。
自己学習における擬似ラベル品質向上のための簡易擬似ラベル編集(SimPLE)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-05-26T18:41:23Z) - Effective Robustness against Natural Distribution Shifts for Models with
Different Training Data [113.21868839569]
効果的ロバスト性」は、分配内(ID)性能から予測できる以上の余分な分配外ロバスト性を測定する。
異なるデータに基づいてトレーニングされたモデルの有効ロバスト性を評価・比較するための新しい評価指標を提案する。
論文 参考訳(メタデータ) (2023-02-02T19:28:41Z) - Spuriosity Rankings: Sorting Data to Measure and Mitigate Biases [62.54519787811138]
本稿では,突発的手がかりに依存したモデルバイアスを簡易かつ効果的に測定・緩和する手法を提案する。
我々は,解釈可能なネットワークの深部神経的特徴をベースとして,それらのクラス内の画像のランク付けを行う。
以上の結果から,素早い特徴依存によるモデルバイアスは,モデルがどのようにトレーニングされたかよりも,モデルがトレーニングされていることの影響がはるかに大きいことが示唆された。
論文 参考訳(メタデータ) (2022-12-05T23:15:43Z) - Domain Adaptive Hand Keypoint and Pixel Localization in the Wild [40.71379707068579]
我々は,新しい撮像条件下でのキーポイントの後退とピクセルレベルのハンドマスクのセグメンテーションの性能向上を目指す。
本手法は,最新の逆適応法と比較して,HO3Dのマルチタスクスコアを4%改善する。
論文 参考訳(メタデータ) (2022-03-16T01:32:21Z) - On-the-Fly Test-time Adaptation for Medical Image Segmentation [63.476899335138164]
ソースモデルをテスト時にターゲットデータに適応させることは、データシフト問題に対する効率的な解決策である。
本稿では、各畳み込みブロックに適応バッチ正規化層を設けるAdaptive UNetという新しいフレームワークを提案する。
テスト期間中、モデルは新しいテストイメージのみを取り込み、ドメインコードを生成して、テストデータに従ってソースモデルの特徴を適応させる。
論文 参考訳(メタデータ) (2022-03-10T18:51:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。