論文の概要: REMEDI: Relative Feature Enhanced Meta-Learning with Distillation for Imbalanced Prediction

• arxiv url: http://arxiv.org/abs/2505.07245v1
• Date: Mon, 12 May 2025 05:40:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-13 20:21:49.266906
• Title: REMEDI: Relative Feature Enhanced Meta-Learning with Distillation for Imbalanced Prediction
• Title（参考訳）: REMEDI:不均衡予測のための蒸留によるメタラーニングの相対的特徴強化
• Authors: Fei Liu, Huanhuan Ren, Yu Guan, Xiuxu Wang, Wang Lv, Zhiqiang Hu, Yaxi Chen,
• Abstract要約: 既存所有者の将来の自動車購入予測は、過度の階級不均衡のために重大な課題となっている。 本稿では,これらの課題に対処する新しい多段階フレームワークREMEDIを提案する。 我々は,MSE損失を考慮した教師付き微調整により,アンサンブルの知識を単一の効率的なモデルに抽出し,実用的な展開を可能にする。
• 参考スコア（独自算出の注目度）: 12.014366042762358
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Predicting future vehicle purchases among existing owners presents a critical challenge due to extreme class imbalance (<0.5% positive rate) and complex behavioral patterns. We propose REMEDI (Relative feature Enhanced Meta-learning with Distillation for Imbalanced prediction), a novel multi-stage framework addressing these challenges. REMEDI first trains diverse base models to capture complementary aspects of user behavior. Second, inspired by comparative op-timization techniques, we introduce relative performance meta-features (deviation from ensemble mean, rank among peers) for effective model fusion through a hybrid-expert architecture. Third, we distill the ensemble's knowledge into a single efficient model via supervised fine-tuning with MSE loss, enabling practical deployment. Evaluated on approximately 800,000 vehicle owners, REMEDI significantly outperforms baseline approaches, achieving the business target of identifying ~50% of actual buyers within the top 60,000 recommendations at ~10% precision. The distilled model preserves the ensemble's predictive power while maintaining deployment efficiency, demonstrating REMEDI's effectiveness for imbalanced prediction in industry settings.
• Abstract（参考訳）: 既存所有者の将来の自動車購入予測は, 過度のクラス不均衡(0.5%)と複雑な行動パターンが原因で, 重大な課題となっている。 本稿では,これらの課題に対処する新しい多段階フレームワークであるREMEDI(Reelative feature Enhanced Meta-learning with Distillation for Im Balanced Prediction)を提案する。 REMEDIはまず、多様なベースモデルを訓練して、ユーザの振る舞いの相補的な側面を捉えます。 第二に、比較オプティマイゼーション技術に触発されて、ハイブリッド・エキスパートアーキテクチャによる効果的なモデル融合のための相対的なパフォーマンスメタ機能(アンサンブル平均、ピア間のランクの決定)を導入する。 第3に,MSE損失を考慮した教師付き微調整により,アンサンブルの知識を単一の効率的なモデルに抽出し,実用的展開を可能にする。 約80,000台の車両所有者で評価され、REMEDIはベースラインのアプローチを著しく上回り、上位6万件の推奨品のうち実際の購入品の50%を10%の精度で識別するビジネス目標を達成した。 蒸留モデルでは,生産効率を維持しながらアンサンブルの予測力を保ち,産業環境における不均衡予測に対するREMEDIの有効性を示す。

関連論文リスト

• VAPO: Efficient and Reliable Reinforcement Learning for Advanced Reasoning Tasks [49.0793012627959]
  本稿では,価値に基づくパラダイム内での推論モデルに適した新しいフレームワークVAPOを提案する。 VAPOは最先端のスコアが$mathbf60.4$に達する。 同じ実験条件下で直接比較すると、VAPOはDeepSeek-R1-Zero-Qwen-32BとDAPOの結果を10点以上上回っている。
  論文  参考訳（メタデータ） (2025-04-07T14:21:11Z)
• DynMoLE: Boosting Mixture of LoRA Experts Fine-Tuning with a Hybrid Routing Mechanism [5.988126768890861]
  DynMoLEは、ルータの確率分布のTsallisエントロピーに基づいて、専門家の選択を動的に調整するハイブリッドルーティング戦略である。 我々はDynMoLEが大幅な性能向上を実現していることを示す。
  論文  参考訳（メタデータ） (2025-04-01T11:14:19Z)
• Joint Explainability-Performance Optimization With Surrogate Models for AI-Driven Edge Services [3.8688731303365533]
  本稿では,複雑なAIモデルの予測精度と代理モデルによる近似とのバランスについて検討する。 我々は,多目的最適化(MOO)に基づく新しいアルゴリズムを導入し,複雑なモデルの予測誤差と,その出力とサロゲートの誤差を同時に最小化する。
  論文  参考訳（メタデータ） (2025-03-10T19:04:09Z)
• A Hybrid Meta-Learning and Multi-Armed Bandit Approach for Context-Specific Multi-Objective Recommendation Optimization [0.09208007322096533]
  本稿では, メタラーニングとマルチアーマッド・バンディット(MAB)を組み合わせるハイブリッドアプローチであるJuggler-MABを紹介し, 既存のマルチステークホルダ・リコメンデーションシステムの限界に対処する。 本稿では,Jugglerが初期重み予測を行うための2段階のアプローチを提案する。 結果は、Juggler-MABが元のJugglerモデルよりも優れており、NDCGの改善は2.9%、後悔の13.7%、最高の腕選択率の9.8%が向上していることを示している。
  論文  参考訳（メタデータ） (2024-09-13T12:03:23Z)
• Zero-Shot Embeddings Inform Learning and Forgetting with Vision-Language Encoders [6.7181844004432385]
  IMM(Inter-Intra Modal Measure)は、微調整によるパフォーマンス変化の強力な予測器として機能する。 IIMMスコアの高いタスクの微調整はドメイン内のパフォーマンス向上をもたらすが、ドメイン外のパフォーマンス低下も引き起こす。 ターゲットデータの1つのフォワードパスだけで、実践者は、この重要な洞察を利用して、モデルが微調整後の改善を期待できる程度を評価することができる。
  論文  参考訳（メタデータ） (2024-07-22T15:35:09Z)
• Model Inversion Attacks Through Target-Specific Conditional Diffusion Models [54.69008212790426]
  モデル反転攻撃(MIA)は、ターゲット分類器のトレーニングセットからプライベートイメージを再構築することを目的としており、それによってAIアプリケーションにおけるプライバシー上の懸念が高まる。 従来のGANベースのMIAは、GANの固有の欠陥と潜伏空間における最適化の偏りにより、劣った遺伝子的忠実度に悩まされる傾向にある。 これらの問題を緩和するために拡散モデル反転(Diff-MI)攻撃を提案する。
  論文  参考訳（メタデータ） (2024-07-16T06:38:49Z)
• Unleashing the Power of Meta-tuning for Few-shot Generalization Through Sparse Interpolated Experts [33.58165081033569]
  Sparse MetA-Tuning (SMAT) はスパース・ミックス・オブ・エキスパート・アプローチにインスパイアされた手法である。 SMATはOOD感度を克服し、ビジョンファウンデーションモデルの転送能力を高めることを約束する。
  論文  参考訳（メタデータ） (2024-03-13T12:46:03Z)
• Perturbation-Invariant Adversarial Training for Neural Ranking Models: Improving the Effectiveness-Robustness Trade-Off [107.35833747750446]
  正統な文書に不可避な摂動を加えることで 敵の例を作れます この脆弱性は信頼性に関する重大な懸念を生じさせ、NRMの展開を妨げている。 本研究では,NRMにおける有効・損耗トレードオフに関する理論的保証を確立する。
  論文  参考訳（メタデータ） (2023-12-16T05:38:39Z)
• QualEval: Qualitative Evaluation for Model Improvement [82.73561470966658]
  モデル改善のための手段として,自動定性評価による定量的スカラー指標を付加するQualEvalを提案する。 QualEvalは強力なLCM推論器と新しいフレキシブルリニアプログラミングソルバを使用して、人間の読みやすい洞察を生成する。 例えば、その洞察を活用することで、Llama 2モデルの絶対性能が最大15%向上することを示す。
  論文  参考訳（メタデータ） (2023-11-06T00:21:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。