論文の概要: GeNeX: Genetic Network eXperts framework for addressing Validation Overfitting

• arxiv url: http://arxiv.org/abs/2603.11056v1
• Date: Sat, 28 Feb 2026 06:26:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-15 16:38:22.602318
• Title: GeNeX: Genetic Network eXperts framework for addressing Validation Overfitting
• Title（参考訳）: GeNeX: バリデーションオーバーフィッティングに対処する遺伝的ネットワークeXpertsフレームワーク
• Abstract要約: モデル選択時の検証パフォーマンスへの過度な依存は、検証の過度な適合につながる可能性がある。 本稿では,モデル生成とアンサンブル構築の段階において,検証過適合を緩和するフレームワークであるGeNeXを提案する。
• 参考スコア（独自算出の注目度）: 3.687667417237206
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Excessive reliance on validation performance during model selection can lead to validation overfitting (VO), where models appear effective during development but fail at test time. This issue is further amplified in low-data regimes and under distribution shifts, where validation signals become unreliable. Although ensemble learning is widely used to improve robustness and generalization, most ensemble construction pipelines depend heavily on validation scores, leaving them vulnerable to VO and limiting their reliability in real-world deployment scenarios. To address this, we propose GeNeX (Genetic Network eXperts), a framework that mitigates validation overfitting at both model generation and ensemble construction stages. In the generation phase, GeNeX employs a dual-path strategy: gradient-based training is coupled with genetic model evolution. Offspring networks are created via crossover of trained parents, promoting structural diversity and weight-level regeneration without relying on validation feedback. This results in a candidate pool of robust, non-overfitted models. During ensemble construction, the candidate networks are clustered by prediction behavior to identify complementary model spaces. Within each cluster, multiple diverse experts are selected using criteria such as robustness and representativeness, and fused at the weight level to form compact prototype networks. The final ensemble aggregates these prototypes, with predictions optimized via Sequential Quadratic Programming for output-level synergy. To rigorously evaluate VO resilience, we introduce a VO-aware evaluation protocol that simulates realistic deployment scenarios by enforcing distributional divergence between training and test subsets.
• Abstract（参考訳）: モデル選択時の検証パフォーマンスへの過剰な依存は、モデルの開発時に有効に見えるが、テスト時に失敗するバリデーションオーバーフィッティング(VO)につながる可能性がある。 この問題は、検証信号の信頼性が低下する低データのレシエーションや分散シフトにおいてさらに増幅される。 アンサンブル学習は堅牢性と一般化を改善するために広く使用されているが、ほとんどのアンサンブル構築パイプラインは検証スコアに大きく依存しており、VOに脆弱であり、実際のデプロイメントシナリオにおける信頼性を制限している。 そこで我々は,モデル生成とアンサンブル構築の段階において,検証過適合を緩和するフレームワークGeNeX(Genetic Network eXperts)を提案する。 生成段階では、GeNeXはデュアルパス戦略を採用しており、勾配に基づくトレーニングは遺伝的モデル進化と結合している。 子孫ネットワークは、訓練された両親の交叉を通じて作成され、検証フィードバックに頼ることなく、構造的多様性と体重レベルの再生を促進する。 この結果、頑丈で不適合なモデルの候補プールが生まれる。 アンサンブル構築中、候補ネットワークは予測行動によってクラスタ化され、相補的なモデル空間を識別する。 各クラスタ内では、ロバスト性や代表性といった基準を用いて複数の多様な専門家が選ばれ、重量レベルで融合してコンパクトなプロトタイプネットワークを形成する。 最終的なアンサンブルはこれらのプロトタイプを集約し、逐次準計画法によって出力レベルのシナジーに最適化される。 VOレジリエンスを厳格に評価するために,トレーニングとテストサブセット間の分散分散を強制することにより,現実的なデプロイメントシナリオをシミュレートするVO対応評価プロトコルを導入する。

関連論文リスト

• Reliability of Probabilistic Emulation of Physical Systems [2.388494426638727]
  生成モデルとCRPS学習アンサンブルを多種多様な2次元物理システムで評価するためのフレームワークを開発した。 生成モデルとCRPS訓練アンサンブルは、良好な予測精度を示す。 将来の研究と応用を容易にするために,生成モデルとCRPS学習アンサンブルの両方を実装したモジュール型フレームワークであるAutoCastをリリースする。
  論文  参考訳（メタデータ） (2026-06-11T07:34:41Z)
• Diff2SP: Diffusion Models for Correlated Scenario Generation in Stochastic Programming [4.788907888889963]
  Diff2SPは拡散に基づく生成フレームワークで、下流最適化の目的を直接シナリオ生成に組み込む。 シナリオ生成と意思決定を別々のステップとして扱う従来の方法とは異なり、Diff2SPはトレーニングプロセスに最適化を組み込む。 Diff2SPは、統計的忠実度と下流最適化結果の両方を一貫して改善することを示す。
  論文  参考訳（メタデータ） (2026-06-04T03:27:51Z)
• On Predicting the Post-training Potential of Pre-trained LLMs [60.07459271263409]
  本稿では,ポストトレーニング前のベースモデルの性能予測という,ポストトレーニング後の潜在能力を予測するための新しいタスクを紹介する。 本稿では,応答判別を活用することで,ベースモデルの生成ギャップを回避できる統一フレームワークであるRuDEを提案する。 実験では、トレーニング後のパフォーマンスと90%以上の相関を示す。
  論文  参考訳（メタデータ） (2026-05-12T11:33:49Z)
• Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
  マルチモーダル学習は、しばしば低品質データの課題に悩まされる。 コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。 私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
  論文  参考訳（メタデータ） (2026-05-05T14:48:52Z)
• Benchmarking Few-shot Transferability of Pre-trained Models with Improved Evaluation Protocols [123.73663884421272]
  より強力な事前訓練モデルと改良された適応アルゴリズムによって、わずかなショット転送が革新されている。 FEWTRANSは10種類のデータセットを含む総合的なベンチマークである。 FEWTRANS をリリースすることにより,数発の転写学習研究において再現性の向上を合理化するための厳密な "ルーラー" の提供を目指す。
  論文  参考訳（メタデータ） (2026-02-28T05:41:57Z)
• Did Models Sufficient Learn? Attribution-Guided Training via Subset-Selected Counterfactual Augmentation [61.248535801314375]
  Subset-Selected Counterfactual Augmentation (SS-CA) 我々は,モデル予測を選択的に変更可能な最小空間領域集合を識別するために,対実的LIMAを開発した。 実験により,SS-CAは分布内テストデータ(ID)の一般化を改善し,分布外ベンチマーク(OOD)において優れた性能を発揮することが示された。
  論文  参考訳（メタデータ） (2025-11-15T08:39:22Z)
• Learning Robust Diffusion Models from Imprecise Supervision [75.53546939251146]
  DMISは、Imrecise Supervisionから堅牢な条件拡散モデルをトレーニングするための統一されたフレームワークである。 我々のフレームワークは、可能性から派生し、その目的を生成的および分類的構成要素に分解する。 画像生成、弱教師付き学習、データセットの凝縮をカバーし、様々な形の不正確な監視実験を行い、DMISが常に高品質でクラス差別的なサンプルを生成することを示した。
  論文  参考訳（メタデータ） (2025-10-03T14:00:32Z)
• Score-based Generative Modeling for Conditional Independence Testing [35.0533359302886]
  本稿では,精度の高いタイプIエラー制御と強力なテスト能力を実現するための,スコアベース生成モデルによる新しいCIテスト手法を提案する。 スコアベース生成モデルによりモデル化された条件分布の誤差境界を理論的に確立し,CIテストの有効性を検証した。
  論文  参考訳（メタデータ） (2025-05-29T10:10:46Z)
• Discrete Diffusion Modeling by Estimating the Ratios of the Data Distribution [67.9215891673174]
  離散空間に対するスコアマッチングを自然に拡張する新たな損失として,スコアエントロピーを提案する。 標準言語モデリングタスク上で,Score Entropy Discrete Diffusionモデルをテストする。
  論文  参考訳（メタデータ） (2023-10-25T17:59:12Z)
• Enhancing Text Generation with Cooperative Training [23.971227375706327]
  ほとんどの一般的な方法は、別々に生成的および差別的なモデルを訓練し、互いに変化に適応できなかった。 本稿では,識別器とジェネレータをクローズドループで協調的に学習するテキスト分野におけるテキスト自己一貫性学習フレームワークを提案する。 我々のフレームワークは、モード崩壊や非収束といったトレーニングの不安定さを軽減することができる。
  論文  参考訳（メタデータ） (2023-03-16T04:21:19Z)
• Semantic Self-adaptation: Enhancing Generalization with a Single Sample [45.111358665370524]
  セマンティックセグメンテーションのための自己適応型アプローチを提案する。 整合正則化を用いて畳み込み層のパラメータを入力画像に微調整する。 実験により, 自己適応は訓練時のモデル正規化の確立した実践を補完する可能性が示唆された。
  論文  参考訳（メタデータ） (2022-08-10T12:29:01Z)
• Model Rectification via Unknown Unknowns Extraction from Deployment Samples [8.0497115494227]
  本稿では, 訓練後のモデル修正を, 教師付き方式で実施することを目的とした, 汎用的なアルゴリズムフレームワークを提案する。 RTSCVは未知の未知(u.u.s)を抽出する RTSCVは最先端のアプローチよりも一貫して優れていることを示す。
  論文  参考訳（メタデータ） (2021-02-08T11:46:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。