論文の概要: A Consistency-Centric Approach to Set-Based Optimization with Multiple Models of Unranked Fidelity
- arxiv url: http://arxiv.org/abs/2605.04051v1
- Date: Sat, 28 Feb 2026 20:30:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-11 06:56:26.534546
- Title: A Consistency-Centric Approach to Set-Based Optimization with Multiple Models of Unranked Fidelity
- Title(参考訳): 連立不整合モデルを用いた集合ベース最適化の一貫性中心的アプローチ
- Authors: Danielle F. Morey, Giulia Pedrielli, Cherry Y. Wakayama, Zelda B. Zabinsky,
- Abstract要約: 現実世界のアプリケーションでは、モデル精度は先入観としてほとんど知られておらず、単一の最も正確なモデルが誤解を招く可能性があると仮定する。
本稿では,S-BOMM(Set-Based Optimization with Multiple Models)と呼ばれる,フレキシブルなセットベース最適化手法を提案する。
単一のベストソリューションに頼るのではなく、モデル間の一貫性を重視することで、このセットベースのアプローチは最適化問題に対する実用的な代替手段を提供する。
- 参考スコア(独自算出の注目度): 0.3447372337541619
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In complex real-world settings, optimization is challenged by the presence of diverse models of differing fidelity. In many optimization problems, a single model is treated as the most accurate representation of the underlying system, while other models are evaluated primarily by their agreement with this presumed most accurate model. Yet in real-world applications, model accuracy is rarely known a priori and assuming a single most accurate model can be misleading. This paper addresses this gap by proposing a flexible set-based optimization methodology called Set-Based Optimization with Multiple Models (S-BOMM) that works with multiple models without the assumption of a most accurate high-fidelity model. Unlike traditional optimization approaches that focus on finding an optimal solution according to the high-fidelity model, our methodology utilizes consistency between models to identify good solutions across multiple models. A probabilistic analysis of the consistency method is provided that bounds the likelihood of the methodology producing correct or incorrect results. Empirical results demonstrate the effectiveness of S-BOMM on test problems. By focusing on the consistency across models rather than relying on a single best solution, this set-based approach offers a practical alternative to optimization problems where multiple models must be considered without assuming a single most accurate high-fidelity model.
- Abstract(参考訳): 複雑な実世界の環境では、異なる忠実性の多様なモデルが存在するため、最適化は困難である。
多くの最適化問題において、1つのモデルが基礎となるシステムの最も正確な表現として扱われる一方、他のモデルは主にこの推定された最も正確なモデルとの一致によって評価される。
しかし、現実世界のアプリケーションでは、モデル精度が最優先事項であることは滅多になく、単一の最も正確なモデルが誤解を招く可能性がある。
本稿では,多元モデルを用いた集合ベース最適化(S-BOMM)と呼ばれるフレキシブルな集合ベース最適化手法を提案することにより,このギャップに対処する。
高忠実度モデルに基づく最適解を求める従来の最適化手法とは異なり、本手法はモデル間の整合性を利用して複数のモデルにまたがる優れた解を同定する。
整合性手法の確率論的解析は、正しい結果や誤った結果を生み出す手法の可能性を限定するものである。
実験結果から,S-BOMMの有効性が示された。
一つの最良の解に頼るのではなく、モデル間の一貫性に焦点を当てることによって、このセットベースのアプローチは、単一の最も正確な高忠実度モデルを仮定することなく、複数のモデルを考慮しなければならない最適化問題に対する実用的な代替手段を提供する。
関連論文リスト
- Composition and Alignment of Diffusion Models using Constrained Learning [79.36736636241564]
拡散モデルは、複雑な分布からサンプルを採取する能力により、生成的モデリングにおいて普及している。
i) 拡散モデルを微調整して報酬と整合させるアライメントと、(ii) 予め訓練された拡散モデルを組み合わせて、それぞれが生成した出力に望ましい属性を強調する合成である。
本稿では,共役モデルが報酬制約を満たすこと,あるいは(潜在的に複数の)事前学習モデルに近づき続けることを強制することによって,拡散モデルのアライメントと構成を統一する制約付き最適化フレームワークを提案する。
論文 参考訳(メタデータ) (2025-08-26T15:06:30Z) - Divergence Minimization Preference Optimization for Diffusion Model Alignment [66.31417479052774]
Divergence Minimization Preference Optimization (DMPO) は、逆KL分散を最小化して拡散モデルを整列する原理的手法である。
DMPOは、異なるベースモデルとテストセットで既存のテクニックを一貫して上回り、適合させることができる。
論文 参考訳(メタデータ) (2025-07-10T07:57:30Z) - Model Fusion through Bayesian Optimization in Language Model Fine-Tuning [16.86812534268461]
下流タスクのための微調整された事前学習モデルは、様々な領域にまたがる適応性と信頼性で広く採用されているテクニックである。
本稿では,多目的ベイズ最適化により,所望の計量と損失の両方を最適化する新しいモデル融合手法を提案する。
各種下流タスクを対象とした実験では,ベイズ最適化誘導方式による大幅な性能向上が見られた。
論文 参考訳(メタデータ) (2024-11-11T04:36:58Z) - Pareto Merging: Multi-Objective Optimization for Preference-Aware Model Merging [11.186194228460273]
本稿では,各ベースモデルのタスク上でのマージモデルの性能を目的として扱う,嗜好意識のモデルマージ問題を提案する。
提案したモデルマージにより,多様なトレードオフモデルが生成され,最先端のマージベースラインと比較して高いテスト精度が得られることを示す。
論文 参考訳(メタデータ) (2024-08-22T03:41:14Z) - It's Morphing Time: Unleashing the Potential of Multiple LLMs via Multi-objective Optimization [16.54335356612006]
モデルマージの目標は、複数のモデルを組み合わせることであり、それぞれが異なるタスクで優れており、個々のソースモデルよりも優れた1つのモデルにまとめることである。
既存の方法は人間の知識や直観に大きく依存している。
限られた評価において、優れたモデルマージ構成を得るのは難しいです。
論文 参考訳(メタデータ) (2024-06-29T16:34:23Z) - Dataless Knowledge Fusion by Merging Weights of Language Models [47.432215933099016]
微調整された事前学習言語モデルは、下流のNLPモデルを構築するための主要なパラダイムとなっている。
これは、より優れた単一モデルを生み出すために、個々のモデル間で知識を融合させる障壁を生み出します。
パラメータ空間のモデルをマージするデータレス知識融合法を提案する。
論文 参考訳(メタデータ) (2022-12-19T20:46:43Z) - Investigating Ensemble Methods for Model Robustness Improvement of Text
Classifiers [66.36045164286854]
既存のバイアス機能を分析し、すべてのケースに最適なモデルが存在しないことを実証します。
適切なバイアスモデルを選択することで、より洗練されたモデル設計でベースラインよりもロバスト性が得られる。
論文 参考訳(メタデータ) (2022-10-28T17:52:10Z) - A Nested Weighted Tchebycheff Multi-Objective Bayesian Optimization
Approach for Flexibility of Unknown Utopia Estimation in Expensive Black-box
Design Problems [0.0]
既存の研究では、未知のユートピアを定式化するための重み付きTchebycheff MOBOアプローチが実証されている。
モデルアンサンブルから回帰モデル選択手順を構築する,ネスト重み付きTchebycheff MOBOフレームワークを提案する。
論文 参考訳(メタデータ) (2021-10-16T00:44:06Z) - Modeling the Second Player in Distributionally Robust Optimization [90.25995710696425]
我々は、最悪のケース分布を特徴付けるために神経生成モデルを使うことを議論する。
このアプローチは多くの実装と最適化の課題をもたらします。
提案されたアプローチは、同等のベースラインよりも堅牢なモデルを生み出す。
論文 参考訳(メタデータ) (2021-03-18T14:26:26Z) - Control as Hybrid Inference [62.997667081978825]
本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。
連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
論文 参考訳(メタデータ) (2020-07-11T19:44:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。