論文の概要: Evolution-Inspired Sample Competition for Deep Neural Network Optimization

• arxiv url: http://arxiv.org/abs/2604.12568v1
• Date: Tue, 14 Apr 2026 10:48:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-15 19:11:32.399116
• Title: Evolution-Inspired Sample Competition for Deep Neural Network Optimization
• Title（参考訳）: 深部ニューラルネットワーク最適化のための進化型サンプルコンペティション
• Authors: Ying Zheng, Yiyi Zhang, Yi Wang, Lap-Pui Chau,
• Abstract要約: textitNatural Selection (NS) は、ネットワークの深層学習に競合する相互作用を明示的に組み込む、進化にインスパイアされた新しい最適化手法である。 NSは、各サンプルの競争状態をグループワイドな文脈で推定し、そのトレーニングコントリビューションを適応的に規制するために使用する。 NSは多様なネットワークアーキテクチャと互換性があり、タスク固有の仮定に依存しない。
• 参考スコア（独自算出の注目度）: 19.75458355825581
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Conventional deep network training generally optimizes all samples under a largely uniform learning paradigm, without explicitly modeling the heterogeneous competition among them. Such an oversimplified treatment can lead to several well-known issues, including bias under class imbalance, insufficient learning of hard samples, and the erroneous reinforcement of noisy samples. In this work, we present \textit{Natural Selection} (NS), a novel evolution-inspired optimization method that explicitly incorporates competitive interactions into deep network training. Unlike conventional sample reweighting strategies that rely mainly on predefined heuristics or static criteria, NS estimates the competitive status of each sample in a group-wise context and uses it to adaptively regulate its training contribution. Specifically, NS first assembles multiple samples into a composite image and rescales it to the original input size for model inference. Based on the resulting predictions, a natural selection score is computed for each sample to characterize its relative competitive variation within the constructed group. These scores are then used to dynamically reweight the sample-wise loss, thereby introducing an explicit competition-driven mechanism into the optimization process. In this way, NS provides a simple yet effective means of moving beyond uniform sample treatment and enables more adaptive and balanced model optimization. Extensive experiments on 12 public datasets across four image classification tasks demonstrate the effectiveness of the proposed method. Moreover, NS is compatible with diverse network architectures and does not depend on task-specific assumptions, indicating its strong generality and practical potential. The code will be made publicly available.
• Abstract（参考訳）: 従来のディープ・ネットワーク・トレーニングは、一般的に、不均一な競合を明示的にモデル化することなく、ほとんど均一な学習パラダイムの下で全てのサンプルを最適化する。 このような過度に単純化された治療は、クラス不均衡下でのバイアス、ハードサンプルの学習不足、ノイズのあるサンプルの誤った強化など、よく知られた問題に繋がる。 本稿では,ネットワークの深層学習に競争的相互作用を明示的に組み込んだ,進化に触発された新しい最適化手法である「textit{Natural Selection} (NS)」を提案する。 主に定義済みのヒューリスティックや静的な基準に依存する従来のサンプル再重み付け戦略とは異なり、NSはグループ的な文脈で各サンプルの競合状態を推定し、そのトレーニングコントリビューションを適応的に規制する。 具体的には、NSはまず複数のサンプルを合成画像に組み立て、モデル推論のために元の入力サイズに再スケールする。 得られた予測に基づいて、各サンプルに対して自然選択スコアを算出し、構成群内の相対的競争変動を特徴付ける。 これらのスコアは、サンプル単位の損失を動的に加重し、最適化プロセスに明示的な競合駆動機構を導入するために使用される。 このように、NSは、均一なサンプル処理を超えて、より適応的でバランスの取れたモデル最適化を可能にする、単純で効果的な手段を提供する。 4つの画像分類タスクにまたがる12の公開データセットに対する大規模な実験により,提案手法の有効性が示された。 さらに、NSは多様なネットワークアーキテクチャと互換性があり、タスク固有の仮定に依存しない。 コードは公開されます。

関連論文リスト

• Scaling Adversarial Training via Data Selection [0.0]
  本稿では,各ミニバッチにおける臨界サンプルのサブセットのみを摂動するemphSelective Adversa Trainingを提案する。 MNIST と CIFAR-10 の実験により,提案手法は PGD の完全対向訓練に匹敵する,あるいはそれ以上の堅牢性を達成できることが示された。
  論文  参考訳（メタデータ） (2025-12-26T15:50:33Z)
• Test-Time Alignment via Hypothesis Reweighting [56.71167047381817]
  大規模な事前訓練されたモデルは、しばしば未指定のタスクで苦労する。 テストタイムのユーザ意図にモデルを整合させるという課題に対処する新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-12-11T23:02:26Z)
• Regularized Neural Ensemblers [55.15643209328513]
  本研究では,正規化ニューラルネットワークをアンサンブル手法として活用することを検討する。 低多様性のアンサンブルを学習するリスクを動機として,ランダムにベースモデル予測をドロップすることで,アンサンブルモデルの正規化を提案する。 このアプローチはアンサンブル内の多様性の低い境界を提供し、過度な適合を減らし、一般化能力を向上させる。
  論文  参考訳（メタデータ） (2024-10-06T15:25:39Z)
• Understanding and Mitigating the Bias in Sample Selection for Learning with Noisy Labels [22.24077757409148]
  サンプル選択におけるバイアス学習のためのnoIse-Tolerant Expert Model (ITEM)を提案する。 具体的には、トレーニングバイアスを軽減するために、複数の専門家と統合した堅牢なネットワークアーキテクチャを設計します。 2つのクラス識別型ミニバッチの混合によるトレーニングにより、モデルが不均衡なトレーニングセットの効果を緩和する。
  論文  参考訳（メタデータ） (2024-01-24T10:37:28Z)
• Semantic Self-adaptation: Enhancing Generalization with a Single Sample [45.111358665370524]
  セマンティックセグメンテーションのための自己適応型アプローチを提案する。 整合正則化を用いて畳み込み層のパラメータを入力画像に微調整する。 実験により, 自己適応は訓練時のモデル正規化の確立した実践を補完する可能性が示唆された。
  論文  参考訳（メタデータ） (2022-08-10T12:29:01Z)
• Jo-SRC: A Contrastive Approach for Combating Noisy Labels [58.867237220886885]
  Jo-SRC (Joint Sample Selection and Model Regularization based on Consistency) というノイズロバスト手法を提案する。 具体的には、対照的な学習方法でネットワークをトレーニングする。 各サンプルの2つの異なるビューからの予測は、クリーンまたは分布不足の「可能性」を推定するために使用されます。
  論文  参考訳（メタデータ） (2021-03-24T07:26:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。