論文の概要: Promoting Ensemble Diversity with Interactive Bayesian Distributional Robustness for Fine-tuning Foundation Models

• arxiv url: http://arxiv.org/abs/2506.07247v1
• Date: Sun, 08 Jun 2025 18:05:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-10 16:33:10.730921
• Title: Promoting Ensemble Diversity with Interactive Bayesian Distributional Robustness for Fine-tuning Foundation Models
• Title（参考訳）: ファインチューニング基礎モデルのための対話型ベイズ分布ロバスト性を用いたアンサンブル多様性の促進
• Authors: Ngoc-Quan Pham, Tuan Truong, Quyen Tran, Tan Nguyen, Dinh Phung, Trung Le,
• Abstract要約: 対話型ベイズ分布ロバストネス(IBDR)は、粒子間の相互作用をモデル化できる新しいベイズ推論フレームワークである。 VTAB-1Kベンチマークと共通推論言語タスクを用いて,様々なベースライン手法に対してIBDRの性能を評価する。
• 参考スコア（独自算出の注目度）: 24.411836907813374
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: We introduce Interactive Bayesian Distributional Robustness (IBDR), a novel Bayesian inference framework that allows modeling the interactions between particles, thereby enhancing ensemble quality through increased particle diversity. IBDR is grounded in a generalized theoretical framework that connects the distributional population loss with the approximate posterior, motivating a practical dual optimization procedure that enforces distributional robustness while fostering particle diversity. We evaluate IBDR's performance against various baseline methods using the VTAB-1K benchmark and the common reasoning language task. The results consistently show that IBDR outperforms these baselines, underscoring its effectiveness in real-world applications.
• Abstract（参考訳）: 本稿では,粒子間の相互作用をモデル化し,粒子の多様性を増大させることにより,アンサンブル品質を向上させる新しいベイズ分布ロバストネス(IBDR)について紹介する。 IBDRは、分布的人口減少と近似的な後続部分とを結びつける一般化された理論的枠組みに基づいており、粒子の多様性を育みながら分布的ロバスト性を強制する実用的な双対最適化手順を動機付けている。 VTAB-1Kベンチマークと共通推論言語タスクを用いて,様々なベースライン手法に対してIBDRの性能を評価する。 結果は、IBDRがこれらのベースラインより優れており、実世界のアプリケーションにおいてその効果が評価されていることを一貫して示している。

関連論文リスト

• Forests for Differences: Robust Causal Inference Beyond Parametric DiD [0.0]
  DiD-BCF(Didi-in-Differences Bayesian Causal Forest)は、DD推定における重要な課題に対処する新しい非パラメトリックモデルである。 DiD-BCFは、平均(ATE)、グループ平均(GATE)、条件平均処理効果(CATE)を推定するための統一的なフレームワークを提供する。 大規模なシミュレーションでは、DD-BCFは確立されたベンチマークよりも優れた性能を示している。
  論文  参考訳（メタデータ） (2025-05-14T18:06:51Z)
• MITA: Bridging the Gap between Model and Data for Test-time Adaptation [68.62509948690698]
  テスト時間適応(TTA)は、モデルの一般化性を高めるための有望なパラダイムとして登場した。 本稿では,Met-In-The-MiddleをベースとしたMITAを提案する。
  論文  参考訳（メタデータ） (2024-10-12T07:02:33Z)
• Revisiting BPR: A Replicability Study of a Common Recommender System Baseline [78.00363373925758]
  我々は,BPRモデルの特徴を考察し,その性能への影響を示し,オープンソースのBPR実装について検討する。 分析の結果,これらの実装とオリジナルのBPR論文の矛盾が明らかとなり,特定の実装に対して最大50%の性能低下がみられた。 BPRモデルは、トップnのレコメンデーションタスクにおける最先端メソッドに近いパフォーマンスレベルを達成でき、特定のデータセット上でもパフォーマンスが向上することを示す。
  論文  参考訳（メタデータ） (2024-09-21T18:39:53Z)
• Distribution-Dependent Rates for Multi-Distribution Learning [26.38831409926518]
  最近のマルチディストリビューション学習フレームワークは、環境との動的相互作用において、この目的に対処する。 我々は, MDL体制における分布依存性の保証を行い, 最適値以下の差でスケールし, その結果, 試料サイズへの依存度が向上することを示した。 適応型楽観的アルゴリズム LCB-DR を考案し,マルチアームバンディット文学における均一性と楽観的アロケーションのコントラストを反映した。
  論文  参考訳（メタデータ） (2023-12-20T15:50:16Z)
• Improving Transferability of Adversarial Examples via Bayesian Attacks [84.90830931076901]
  モデル入力にベイズ定式化を組み込むことにより,モデル入力とモデルパラメータの共分散を可能にする新しい拡張を導入する。 提案手法は,トランスファーベース攻撃に対する新たな最先端技術を実現し,ImageNetとCIFAR-10の平均成功率をそれぞれ19.14%,2.08%向上させる。
  論文  参考訳（メタデータ） (2023-07-21T03:43:07Z)
• Variance-Preserving-Based Interpolation Diffusion Models for Speech Enhancement [53.2171981279647]
  本稿では,VP-および分散拡散(VE)に基づく拡散法の両方をカプセル化するフレームワークを提案する。 本研究では,拡散モデルで発生する一般的な困難を解析し,性能の向上とモデルトレーニングの容易化を図る。 我々は,提案手法の有効性を示すために,公開ベンチマークを用いたいくつかの手法によるモデルの評価を行った。
  論文  参考訳（メタデータ） (2023-06-14T14:22:22Z)
• A Unified Framework for Multi-distribution Density Ratio Estimation [101.67420298343512]
  バイナリ密度比推定(DRE)は多くの最先端の機械学習アルゴリズムの基礎を提供する。 ブレグマン最小化の発散の観点から一般的な枠組みを開発する。 我々のフレームワークはバイナリDREでそれらのフレームワークを厳格に一般化する手法に導かれることを示す。
  論文  参考訳（メタデータ） (2021-12-07T01:23:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。