論文の概要: You're Hired: Strategic Model Selection for LLM Collaboration

• arxiv url: http://arxiv.org/abs/2609.38816v1
• Date: Wed, 30 Sep 2026 02:44:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.051871
• Title: You're Hired: Strategic Model Selection for LLM Collaboration
• Title（参考訳）: LLMコラボレーションのための戦略的モデル選択
• Abstract要約: 本稿では,モデル記述の多様性,能力を考慮した行動多様性,LLMに基づく採用者など,9つの選抜アルゴリズムの分類法を提案する。 10モデルと32モデルの2つの候補プールにまたがって実験を行い、4つのモデルコラボレーションアルゴリズムで展開し、数学、コーディング、QA、推論にまたがるタスクで評価する。
• 参考スコア（独自算出の注目度）: 50.666814272202224
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While multi-agent and model collaboration algorithms gain traction to combine the strengths of diverse Large Language Models (LLMs), existing systems remain bottlenecked on pre-defined and hand-crafted model pools. In this work, we investigate the problem of model selection in multi-LLM systems. We propose and systematically evaluate a taxonomy of 9 selection algorithms ranging from diversity of model descriptions, capability-aware behavioral diversity, and LLM-based recruiters. We conduct extensive experiments across two candidate pools of 10 and 32 models, deployed in four model collaboration algorithms, and evaluated across tasks spanning math, coding, QA, and reasoning. Results demonstrate that successful selection algorithms greatly outperform random or heuristics-based teams such as merely selecting the models with top individual performance, by up to 36.1% across settings. Specifically, capability- and training-based selection strategies alleviate selection variance and achieve the best performance, which we recommend to employ before deploying real-world multi-LLM systems. Further analysis reveals that larger candidate pools pose greater challenges to shallow selection heuristics, while algorithms grounded in interacting with candidate models and understanding model capability robustly filter out misaligned, unsafe models, as well as generalizing to novel, out-of-distribution tasks. Together, we establish that principled and informed team selection is critical and present strong model selection algorithms for assembling effective multi-LLM systems.
• Abstract（参考訳）: マルチエージェントとモデル協調アルゴリズムは多種多様なLarge Language Models(LLM)の強みを組み合わせるために勢いを増す一方、既存のシステムは事前に定義された手作りのモデルプールでボトルネックを被っている。 本研究では,マルチLLMシステムにおけるモデル選択の問題について検討する。 本研究では,モデル記述の多様性,能力を考慮した行動多様性,LLMに基づく採用者など,9つの選抜アルゴリズムの分類法を提案し,体系的に評価する。 10モデルと32モデルの2つの候補プールにまたがって広範な実験を行い、4つのモデルコラボレーションアルゴリズムに展開し、数学、コーディング、QA、推論にまたがるタスクにまたがって評価を行った。 結果は、選択アルゴリズムの成功がランダムまたはヒューリスティックスベースのチームを大幅に上回ることを示した。 具体的には、実世界のマルチLLMシステムを展開する前に採用することを推奨する、能力とトレーニングに基づく選択戦略により、選択のばらつきを緩和し、最高のパフォーマンスを達成する。 さらなる分析により、より大きな候補プールは浅い選択ヒューリスティックスにより大きな課題をもたらし、一方、候補モデルと相互作用し、モデル能力を理解するアルゴリズムは、不整合で安全でないモデルから堅牢にフィルタリングし、新しい非分配タスクに一般化する。 そこで本研究では,チーム選択の原理と情報化が重要であり,効率的なマルチLLMシステムを構築するための強力なモデル選択アルゴリズムを提案する。

関連論文リスト

• Mo' Models, Mo' Problems: How to best select model pools when designing Multi-Agent Systems [41.52026746283098]
  マルチエージェントシステム(MAS)は、複雑な推論タスクを解決するために複数のモデル出力を組み合わせる。 我々は,前世代のMASアーキテクチャと後世代のMASアーキテクチャの8つのモデル選択戦略を評価する。 一つのモデルファミリ内の候補選択が、スタンドアロンモデルよりも最高の相対的パフォーマンスをもたらす戦略であることに気付きました。
  論文  参考訳（メタデータ） (2026-09-15T15:17:29Z)
• Learning Multi-Indicator Weights for Data Selection: A Joint Task-Model Adaptation Framework with Efficient Proxies [50.39041754816285]
  本稿では、下流タスクと特定のモデルの両方にデータ選択を併用する多変数重み学習フレームワークを提案する。 提案手法は,GSM8Kのトレーニングサンプルの30%しか使用せず,フルデータセットチューニングに匹敵する性能を実現する。
  論文  参考訳（メタデータ） (2026-05-10T17:30:16Z)
• OptMerge: Unifying Multimodal LLM Capabilities and Modalities via Model Merging [124.91183814854126]
  モデルマージは、複数のエキスパートモデルをひとつのモデルに組み合わせようとしている。 本稿ではMLLMのトレーニングと評価のタスクを明確に分割したモデルマージ研究のベンチマークを紹介する。 モデルマージは、トレーニングデータを必要とせずに改善されたMLLMを構築するための有望な方法であることがわかった。
  論文  参考訳（メタデータ） (2025-05-26T12:23:14Z)
• MOSLIM:Align with diverse preferences in prompts through reward classification [6.6431471703308915]
  そこで本研究では,単一報酬モデルとポリシーモデルを用いて多目的アライメント手法MOSLIMを提案する。 MOSLIMは、これらの目的をプロンプトすることで柔軟に制御し、SFTフェーズ中に好みのトレーニングを必要としない。 提案手法の有効性を複数の多目的ベンチマークで実証し,様々な報酬モデルサイズと政策最適化手法に関するアブレーション研究を行う。
  論文  参考訳（メタデータ） (2025-05-24T12:22:21Z)
• Collab: Controlled Decoding using Mixture of Agents for LLM Alignment [90.6117569025754]
  人間のフィードバックからの強化学習は、大規模言語モデルを整合させる効果的な手法として現れてきた。 制御された復号化は、再訓練せずに推論時にモデルを整列するメカニズムを提供する。 本稿では,既存の既成のLCMポリシを活用するエージェントベースのデコーディング戦略の混合を提案する。
  論文  参考訳（メタデータ） (2025-03-27T17:34:25Z)
• MALT: Improving Reasoning with Multi-Agent LLM Training [67.76186488361685]
  MALT(Multi-Agent LLM Training)は、推論プロセスを生成、検証、改善ステップに分割する、新しいポストトレーニング戦略である。 MATH、GSM8K、CSQAでは、MALTは、それぞれ15.66%、7.42%、9.40%の相対的な改善で同じベースラインLLMを上回っている。
  論文  参考訳（メタデータ） (2024-12-02T19:30:36Z)
• It's Morphing Time: Unleashing the Potential of Multiple LLMs via Multi-objective Optimization [16.54335356612006]
  モデルマージの目標は、複数のモデルを組み合わせることであり、それぞれが異なるタスクで優れており、個々のソースモデルよりも優れた1つのモデルにまとめることである。 既存の方法は人間の知識や直観に大きく依存している。 限られた評価において、優れたモデルマージ構成を得るのは難しいです。
  論文  参考訳（メタデータ） (2024-06-29T16:34:23Z)
• Towards Robust Multi-Modal Reasoning via Model Selection [7.6621866737827045]
  LLMはエージェントの"脳"として機能し、協調的な多段階タスク解決のための複数のツールを編成する。 我々はテスト時に無視できるランタイムオーバーヘッドを持つプラグインとして、$textitM3$フレームワークを提案する。 実験の結果,我々のフレームワークは,ユーザ入力とサブタスク依存の両方を考慮した動的モデル選択を可能にすることがわかった。
  論文  参考訳（メタデータ） (2023-10-12T16:06:18Z)
• Efficient Model-Based Multi-Agent Mean-Field Reinforcement Learning [89.31889875864599]
  マルチエージェントシステムにおける学習に有効なモデルベース強化学習アルゴリズムを提案する。 我々の理論的な貢献は、MFCのモデルベース強化学習における最初の一般的な後悔の限界である。 コア最適化問題の実用的なパラメトリゼーションを提供する。
  論文  参考訳（メタデータ） (2021-07-08T18:01:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。