論文の概要: Toward Collective Model Intelligence: Characterizing and Coordinating Models

• arxiv url: http://arxiv.org/abs/2610.24739v1
• Date: Sat, 17 Oct 2026 15:10:55 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 11:58:01.314238
• Title: Toward Collective Model Intelligence: Characterizing and Coordinating Models
• Title（参考訳）: 集団モデルインテリジェンスに向けて:モデルの特徴付けとコーディネート
• Abstract要約: 独立して開発されたAIモデルは多様かつ相補的な能力を蓄積するが、増大するコレクションは自動的に集合型AIを実現するわけではない。 本稿では,3つの接続されたコンポーネントを通して集合モデルインテリジェンスを追求する体系的アプローチを提案する。 Mio 1.0 Liteは、比較した手法の中で平均点数と平均点数の平均点数が最も高く、リクエスト毎のコストは、ベストスコアの代替品よりも73.7-97.5%低い。
• 参考スコア（独自算出の注目度）: 77.86801416999481
• License:
• Abstract: Independently developed AI models accumulate diverse and complementary capabilities, but a growing model collection does not automatically realize Collective AI. Addressing this gap requires understanding model capabilities with limited evaluation, organizing complementary models to collaborate on diverse tasks, and executing model calls efficiently under resource constraints. We present a systematic approach to pursuing Collective Model Intelligence through three connected components. First, Model Eval constructs evidence-based capability profiles by combining query-level performance estimation with cross-domain prediction, reducing the need for exhaustive evaluation. Second, Mio (Models in One) organizes complementary model candidates and supports task-conditioned, cost-aware selection and collaboration as task requirements evolve. Third, Mos (Model Serving OS) separates model selection from execution and provides endpoint scheduling and shared model deployment and distribution. Experiments show lower capability-estimation errors under limited evaluation. Across nine public benchmarks, Mio 1.0 Lite achieves the highest average score and lowest average cost among compared methods, with per-request costs 73.7-97.5% lower than those of the best-scoring alternatives. A prewarmed shared cache accelerates model-file retrieval by up to 23.3 times. This work lays a foundation for Collective Model Intelligence by characterizing and coordinating the diverse capabilities of an expanding model universe.
• Abstract（参考訳）: 独立して開発されたAIモデルは多様かつ相補的な能力を蓄積するが、成長するモデル収集は、自動的に集団AIを実現するわけではない。 このギャップに対処するには、限られた評価でモデル機能を理解し、様々なタスクで協調するために補完的なモデルを編成し、リソース制約の下で効率的にモデル呼び出しを実行する必要がある。 本稿では,3つの接続されたコンポーネントを通して集合モデルインテリジェンスを追求する体系的アプローチを提案する。 まず、モデルEvalは、クエリレベルのパフォーマンス推定とクロスドメイン予測を組み合わせたエビデンスベースの機能プロファイルを構築し、徹底的な評価の必要性を減らす。 第二に、Mio(Models in One)は、補完モデル候補を編成し、タスク要求が進化するにつれて、タスク条件付きでコストを意識した選択とコラボレーションをサポートする。 第三に、Mos(Model Serving OS)はモデル選択と実行を分離し、エンドポイントのスケジューリングと共有モデルのデプロイと配布を提供する。 実験では,限られた評価条件下での能力推定誤差が低かった。 9つの公開ベンチマークで、Mio 1.0 Liteは比較した手法の中で最高平均スコアと最低平均コストを達成し、リクエスト毎のコストは最も高い代替手段よりも73.7-97.5%低い。 プリワームされた共有キャッシュは、モデルファイルの検索を最大23.3倍高速化する。 この研究は、拡大するモデル宇宙の多様な能力を特徴づけ、調整することで、集合モデルインテリジェンスの基礎を築いた。

関連論文リスト

• Black-box Model Merging for Language-Model-as-a-Service with Massive Model Repositories [21.899117703417517]
  進化的アルゴリズム(Evo-Merging)に基づく微分自由最適化フレームワークを提案する。 提案手法は,(1) モデル間の不適切な情報や冗長な情報を識別・フィルタリングする疎結合型デノベーション,(2) 関連モデルに対する最適な組合せ重み付けを動的に計算するシグナック・アウェア・スケーリングの2つの重要な要素から構成される。 提案手法は,様々なタスクにおける最先端の成果を達成し,既存の強靭なベースラインを著しく上回っている。
  論文  参考訳（メタデータ） (2025-09-16T10:55:50Z)
• OptMerge: Unifying Multimodal LLM Capabilities and Modalities via Model Merging [124.91183814854126]
  モデルマージは、複数のエキスパートモデルをひとつのモデルに組み合わせようとしている。 本稿ではMLLMのトレーニングと評価のタスクを明確に分割したモデルマージ研究のベンチマークを紹介する。 モデルマージは、トレーニングデータを必要とせずに改善されたMLLMを構築するための有望な方法であることがわかった。
  論文  参考訳（メタデータ） (2025-05-26T12:23:14Z)
• Towards Fundamentally Scalable Model Selection: Asymptotically Fast Update and Selection [40.85209520973634]
  理想的なモデル選択スキームは、候補モデルの大きなプール上で2つの操作を効率的にサポートすべきである。 モデル選択に対する従来の解決策は、これらの2つの操作のうちの少なくとも1つに対して高い計算複雑性を必要とする。 モデル埋め込みを実証的に実現したStandardized Embedderを提案する。
  論文  参考訳（メタデータ） (2024-06-11T17:57:49Z)
• MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
  Amortized Pareto Front (MAP) を用いた新しい低演算アルゴリズム Model Merging を導入する。 MAPは、複数のモデルをマージするためのスケーリング係数のセットを効率的に識別し、関連するトレードオフを反映する。 また,タスク数が比較的少ないシナリオではベイジアンMAP,タスク数の多い状況ではNested MAPを導入し,計算コストを削減した。
  論文  参考訳（メタデータ） (2024-06-11T17:55:25Z)
• A Two-Phase Recall-and-Select Framework for Fast Model Selection [13.385915962994806]
  本稿では,2相モデル選択フレームワークを提案する。 これは、ベンチマークデータセット上でモデルのトレーニングパフォーマンスを活用することにより、堅牢なモデルを選択する効率を高めることを目的としている。 提案手法は,従来のベースライン法に比べて約3倍の速度でハイパフォーマンスモデルの選択を容易にすることが実証された。
  論文  参考訳（メタデータ） (2024-03-28T14:44:44Z)
• Building a Winning Team: Selecting Source Model Ensembles using a Submodular Transferability Estimation Approach [20.86345962679122]
  公開されている事前訓練されたモデルの目標タスクへの転送可能性の推定は、伝達学習タスクにとって重要な場所となっている。 本稿では, モデルアンサンブルの下流タスクへの転送可能性を評価するために, 最適なtranSportベースのsuBmOdular tRaNsferability Metrics(OSBORN)を提案する。
  論文  参考訳（メタデータ） (2023-09-05T17:57:31Z)
• Dataless Knowledge Fusion by Merging Weights of Language Models [47.432215933099016]
  微調整された事前学習言語モデルは、下流のNLPモデルを構築するための主要なパラダイムとなっている。 これは、より優れた単一モデルを生み出すために、個々のモデル間で知識を融合させる障壁を生み出します。 パラメータ空間のモデルをマージするデータレス知識融合法を提案する。
  論文  参考訳（メタデータ） (2022-12-19T20:46:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。