論文の概要: OT-CAL: Optimal-Transport-Guided Adaptive Sample Selection for Efficient Visual Learning

• arxiv url: http://arxiv.org/abs/2610.41677v1
• Date: Fri, 30 Oct 2026 12:45:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.708646
• Title: OT-CAL: Optimal-Transport-Guided Adaptive Sample Selection for Efficient Visual Learning
• Title（参考訳）: OT-CAL:効率的な視覚学習のための最適トランスポート誘導適応サンプル選択
• Abstract要約: OT-CALは、トレーニング中のサンプリング嗜好を自動的に調整する適応データ選択方法である。 OT-CALは、難易度、学習性、不確実性を含む5つの情報的特徴を用いて、各サンプルを表現している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks for image recognition are typically trained using mini-batches, with a forward pass to compute predictions and losses followed by a more computationally expensive backward pass to update model parameters. However, not all training samples contribute equally to learning, suggesting that computation can be reduced by performing backward passes only on informative samples. The challenge is that sample informativeness changes throughout training: difficult samples may be valuable early on, improving samples become important later, and class diversity becomes increasingly relevant toward the end. Existing methods often rely on fixed selection rules or computationally expensive per-sample gradient calculations. We propose OT-CAL, an adaptive data selection method that automatically adjusts its sampling preferences during training. OT-CAL represents each sample using five informativeness features, including difficulty, learnability, and uncertainty. A curriculum vector describes the currently preferred sample characteristics, and optimal-transport-based matching assigns selection weights according to how closely samples match this target. The curriculum vector is then updated using the selected samples, forming a feedback loop that adapts without a manually defined schedule. Experiments on three standard visual learning benchmarks show that, when selecting 50% of each mini-batch, OT-CAL improves performance by 1.3--2.1 points over AdaSelection while achieving 1.18--1.24 times faster training than full-data training.
• Abstract（参考訳）: 画像認識のためのディープニューラルネットワークは、通常ミニバッチを使用してトレーニングされ、予測と損失を計算するための前方パスと、モデルパラメータを更新するための計算的に高価な後方パスが続く。 しかし、すべてのトレーニングサンプルが学習に等しく寄与するわけではないので、情報的サンプルのみを後方通過させることで計算を減らせることが示唆されている。 難しいサンプルは早期に価値があり、サンプルの改善は後で重要になり、クラスの多様性は最終的にますます重要になる。 既存の手法は、固定選択規則や計算コストのかかるサンプルごとの勾配計算に頼っていることが多い。 トレーニング中のサンプリング嗜好を自動的に調整する適応データ選択法OT-CALを提案する。 OT-CALは、難易度、学習性、不確実性を含む5つの情報的特徴を用いて、各サンプルを表現している。 カリキュラムベクトルは、現在好まれているサンプル特性を記述し、最適なトランスポートベースのマッチングは、このターゲットにどれだけ近いかに応じて、選択重量を割り当てる。 カリキュラムベクトルは選択したサンプルを使用して更新され、手動で定義されたスケジュールなしで適応するフィードバックループを形成する。 3つの標準的なビジュアルラーニングベンチマークの実験では、各ミニバッチの50%を選択すると、OT-CALはAdaSelectionよりも1.3--2.1ポイント向上し、フルデータトレーニングの1.18--1.24倍高速トレーニングを達成した。

関連論文リスト

• OASIS: Online Sample Selection for Continual Visual Instruction Tuning [55.92362550389058]
  連続的インストラクションチューニング(CIT)のシナリオでは、新しいインストラクションチューニングデータがオンラインストリーミング形式で連続的に到着する。 データの選択はこのオーバーヘッドを軽減することができるが、既存の戦略はしばしば事前訓練された参照モデルに依存している。 最近の参照モデルなしオンラインサンプル選択手法はこれに対処するが、典型的にはバッチ毎に一定の数のサンプルを選択する。
  論文  参考訳（メタデータ） (2025-05-27T20:32:43Z)
• SwiftLearn: A Data-Efficient Training Method of Deep Learning Models using Importance Sampling [3.8330834108666667]
  ディープラーニングモデルのトレーニングを高速化するデータ効率のよいアプローチとして,SwiftLearnを提案する。 このサブセットは、ウォームアップ段階でデータセット全体にわたって測定された重要基準に基づいて選択される。 我々は、平均精度を0.92%以下に抑えながら、エンドツーエンドの平均スピードアップを3.36倍にすることで、データの90%近くを落とせることを示した。
  論文  参考訳（メタデータ） (2023-11-25T22:51:01Z)
• Towards Free Data Selection with General-Purpose Models [71.92151210413374]
  望ましいデータ選択アルゴリズムは、限られたアノテーション予算の有用性を最大化するために、最も情報性の高いサンプルを効率的に選択することができる。 アクティブな学習手法で表現された現在のアプローチは、通常、時間を要するモデルのトレーニングとバッチデータ選択を繰り返し繰り返す、面倒なパイプラインに従う。 FreeSelは重いバッチ選択プロセスをバイパスし、効率を大幅に改善し、既存のアクティブラーニングメソッドよりも530倍高速である。
  論文  参考訳（メタデータ） (2023-09-29T15:50:14Z)
• AdaSelection: Accelerating Deep Learning Training through Data Subsampling [27.46630703428186]
  適応型サブサンプリング手法であるAdaSelectionを導入し,各ミニバッチ内の最も情報性の高いサブサンプルを同定する。 業界標準のベースラインと比較すると、AdaSelectionは一貫して優れたパフォーマンスを示している。
  論文  参考訳（メタデータ） (2023-06-19T07:01:28Z)
• Neural Priming for Sample-Efficient Adaptation [92.14357804106787]
  ニューラルプライミング(Neural Priming)は、大規模な事前学習されたモデルを分散シフトや下流タスクに適応させる手法である。 ニューラルプライミングは、LAION-2Bほどの大きさの事前訓練であっても、テスト時に行うことができる。
  論文  参考訳（メタデータ） (2023-06-16T21:53:16Z)
• Test-Time Prompt Tuning for Zero-Shot Generalization in Vision-Language Models [107.05966685291067]
  テスト時間プロンプトチューニング (TPT) を提案し, 適応的なプロンプトを1つのテストサンプルで学習する。 TPTはCLIPのゼロショットトップ1の精度を平均3.6%改善する。 クロスデータセットの一般化を目に見えないカテゴリで評価する際、PTは追加のトレーニングデータを使用する最先端のアプローチと同等に機能する。
  論文  参考訳（メタデータ） (2022-09-15T17:55:11Z)
• Active Learning for Deep Visual Tracking [51.5063680734122]
  畳み込みニューラルネットワーク(CNN)は近年,単一目標追跡タスクに成功している。 本稿では,ディープ・ビジュアル・トラッキングのためのアクティブ・ラーニング手法を提案する。 アクティブラーニングの指導のもと、トレーニングされた深層CNNモデルに基づくトラッカーは、ラベリングコストを低減しつつ、競合的なトラッキング性能を達成することができる。
  論文  参考訳（メタデータ） (2021-10-17T11:47:56Z)
• Efficient Deep Representation Learning by Adaptive Latent Space Sampling [16.320898678521843]
  監視されたディープラーニングには、アノテーションを備えた大量のトレーニングサンプルが必要です。 本稿では,学習プロセスに供給される情報サンプルを適応的に選択する新しいトレーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-19T22:17:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。