論文の概要: Mo' Models, Mo' Problems: How to best select model pools when designing Multi-Agent Systems
- arxiv url: http://arxiv.org/abs/2609.17306v1
- Date: Tue, 15 Sep 2026 15:17:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 14:56:08.593957
- Title: Mo' Models, Mo' Problems: How to best select model pools when designing Multi-Agent Systems
- Title(参考訳): Mo' Models, Mo' Problems:マルチエージェントシステムの設計におけるモデルプールの最適選択方法
- Abstract要約: マルチエージェントシステム(MAS)は、複雑な推論タスクを解決するために複数のモデル出力を組み合わせる。
我々は,前世代のMASアーキテクチャと後世代のMASアーキテクチャの8つのモデル選択戦略を評価する。
一つのモデルファミリ内の候補選択が、スタンドアロンモデルよりも最高の相対的パフォーマンスをもたらす戦略であることに気付きました。
- 参考スコア(独自算出の注目度): 41.52026746283098
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-agent Systems (MAS) combine multiple model outputs to solve complex reasoning tasks. However, despite rapid growth of available open-source models, there is limited research on how to select optimal model candidates out of this massive pool. We systematically evaluate 8 model selection strategies (including model size, accuracy and answer diversity) across before-generation (routing) and after-generation (majority-voting, LLM-as-a-judge) MAS architectures on challenging scientific benchmarks. Our findings show a significant gap between theoretical oracle potential and actual performance: Expanding candidate pool sizes often degrades performance below that of the top performing base-model. We find that candidate selection within a single model family is the strategy that yields the best relative performance over a standalone model. These results demonstrate that adding arbitrary models to a heterogeneous MAS can introduce system instability, highlighting model selection as a critical design choice for multi-agent systems.
- Abstract(参考訳): マルチエージェントシステム(MAS)は、複雑な推論タスクを解決するために複数のモデル出力を組み合わせる。
しかし、利用可能なオープンソースモデルが急速に成長しているにもかかわらず、この巨大なプールから最適なモデル候補を選択する方法については限定的な研究がなされている。
我々は, モデルサイズ, 精度, 回答の多様性を含む8つのモデル選択戦略を, 試行錯誤, LLM-as-a-judge) MASアーキテクチャを用いて, 挑戦的な科学的ベンチマークに基づいて体系的に評価した。
提案手法は,理論的なオラクルポテンシャルと実際の性能との間に有意な差があることを示唆する。
一つのモデルファミリ内の候補選択が、スタンドアロンモデルよりも最高の相対的パフォーマンスをもたらす戦略であることに気付きました。
これらの結果から、異種MASに任意のモデルを追加することで、システムの不安定性を導入し、モデル選択がマルチエージェントシステムにとって重要な設計選択であることを示した。
関連論文リスト
- Enhancing Multilingual Reasoning via Steerable Model Merging [53.27036725623993]
本稿では,各ソースモデルのコントリビューションを変調するSteerable Model Merging (ST-Merge) フレームワークを提案する。
我々は,ST-Mergeが21言語にまたがる4つの多言語推論ベンチマークにおいて,強いベースラインを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-06-17T12:28:47Z) - Learning Generative Selection for Best-of-N [52.88943295436412]
目的の強化学習によって、小さな推論モデルによって強力なGenSelect能力が得られることを示す。
この結果は,小規模モデルにおける強力な生成的選択を解放するスケーラブルな手法として強化学習を確立した。
論文 参考訳(メタデータ) (2026-02-02T14:21:15Z) - Multivariate Time-series Anomaly Detection via Dynamic Model Pool & Ensembling [10.831568759799657]
MTS異常検出のための動的モデルプールおよび組立フレームワークDMPEADを提案する。
我々のモデルはすべてのベースラインを上回り、優れた適応性とスケーラビリティを示します。
論文 参考訳(メタデータ) (2026-01-05T11:48:21Z) - The Law of Multi-Model Collaboration: Scaling Limits of Model Ensembling for Large Language Models [54.51795784459866]
マルチモデル協調のための性能スケーリングの理論的枠組みを提案する。
本稿では,マルチモデルシステムにおいて,パラメータの総数に関して,パワー則のスケーリングが従うことを示す。
不均一なモデルファミリのアンサンブルは、単一のモデルファミリ内で形成されたものよりも優れたパフォーマンスのスケーリングを実現する。
論文 参考訳(メタデータ) (2025-12-29T09:55:12Z) - Model Class Selection [2.377712112950261]
モデルクラス選択(MCS)の考え方を紹介する。
MCSでは、複数のモデルコレクションが評価され、少なくとも1つの最適なモデルを含む全てのコレクションが識別のために検索される。
直接的な結果として、特定のデータセットに対して、より単純で解釈可能な統計モデルのクラスが、より複雑なブラックボックス機械学習モデルと同等に実行できるかどうかを調査することができる。
論文 参考訳(メタデータ) (2025-11-14T14:43:26Z) - Black-box Model Merging for Language-Model-as-a-Service with Massive Model Repositories [21.899117703417517]
進化的アルゴリズム(Evo-Merging)に基づく微分自由最適化フレームワークを提案する。
提案手法は,(1) モデル間の不適切な情報や冗長な情報を識別・フィルタリングする疎結合型デノベーション,(2) 関連モデルに対する最適な組合せ重み付けを動的に計算するシグナック・アウェア・スケーリングの2つの重要な要素から構成される。
提案手法は,様々なタスクにおける最先端の成果を達成し,既存の強靭なベースラインを著しく上回っている。
論文 参考訳(メタデータ) (2025-09-16T10:55:50Z) - Exploring Model Kinship for Merging Large Language Models [73.98345036483299]
我々は, モデル進化を反復的融合を通じて研究し, 生物進化の類似性について考察した。
モデル親和性はマージによって達成された性能改善と密接に関連していることを示す。
本稿では,新しいモデル統合戦略を提案する。
論文 参考訳(メタデータ) (2024-10-16T14:29:29Z) - Model-GLUE: Democratized LLM Scaling for A Large Model Zoo in the Wild [84.57103623507082]
本稿では,全体論的な大規模言語モデルスケーリングガイドラインであるModel-GLUEを紹介する。
既存のスケーリングテクニック,特に選択的マージ,および混合の変種をベンチマークする。
次に、異種モデル動物園の選択と集約のための最適な戦略を定式化する。
我々の手法は、マージ可能なモデルのクラスタリング、最適なマージ戦略選択、クラスタの統合を含む。
論文 参考訳(メタデータ) (2024-10-07T15:55:55Z) - Pareto Merging: Multi-Objective Optimization for Preference-Aware Model Merging [11.186194228460273]
本稿では,各ベースモデルのタスク上でのマージモデルの性能を目的として扱う,嗜好意識のモデルマージ問題を提案する。
提案したモデルマージにより,多様なトレードオフモデルが生成され,最先端のマージベースラインと比較して高いテスト精度が得られることを示す。
論文 参考訳(メタデータ) (2024-08-22T03:41:14Z) - Towards Fundamentally Scalable Model Selection: Asymptotically Fast Update and Selection [40.85209520973634]
理想的なモデル選択スキームは、候補モデルの大きなプール上で2つの操作を効率的にサポートすべきである。
モデル選択に対する従来の解決策は、これらの2つの操作のうちの少なくとも1つに対して高い計算複雑性を必要とする。
モデル埋め込みを実証的に実現したStandardized Embedderを提案する。
論文 参考訳(メタデータ) (2024-06-11T17:57:49Z) - EMR-Merging: Tuning-Free High-Performance Model Merging [55.03509900949149]
Elect, Mask & Rescale-Merging (EMR-Merging) は既存のマージ手法と比較して優れた性能を示した。
EMR-Mergingはチューニング不要なので、データアベイラビリティや追加のトレーニングは必要ありません。
論文 参考訳(メタデータ) (2024-05-23T05:25:45Z) - Towards Robust Multi-Modal Reasoning via Model Selection [7.6621866737827045]
LLMはエージェントの"脳"として機能し、協調的な多段階タスク解決のための複数のツールを編成する。
我々はテスト時に無視できるランタイムオーバーヘッドを持つプラグインとして、$textitM3$フレームワークを提案する。
実験の結果,我々のフレームワークは,ユーザ入力とサブタスク依存の両方を考慮した動的モデル選択を可能にすることがわかった。
論文 参考訳(メタデータ) (2023-10-12T16:06:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。