論文の概要: Harnessing the Wisdom of LLM Crowds through Complementarity-Driven Iterative Collaboration
- arxiv url: http://arxiv.org/abs/2607.29087v1
- Date: Fri, 31 Jul 2026 07:13:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-03 16:35:22.221383
- Title: Harnessing the Wisdom of LLM Crowds through Complementarity-Driven Iterative Collaboration
- Title(参考訳): 相補性駆動的反復的コラボレーションによるLLM集団の知恵の調和
- Abstract要約: 大規模言語モデル(LLM)はますますエンタープライズ環境にデプロイされているが、個々のモデルはモデル固有の機能制限によって制限される。
2つの設計原理に基づくフレームワークWILC (Wisdom Integration of LLM Crowds)を提案する。
WilCは、GPT-5.2の平均ベンチマーク性能を、クエリ毎の約7倍のコストで比較している。
- 参考スコア(独自算出の注目度): 7.252833168419753
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) are increasingly deployed in enterprise settings, yet individual models remain bounded by model-specific capability limitations. These heterogeneous boundaries pose a deployment challenge, but also create an opportunity: strategically coordinating multiple LLMs may unlock collective intelligence exceeding any single model. Existing approaches fix how models are combined in advance, overlooking the dynamic, state-dependent role of complementarity in complex problem solving. Drawing on the wisdom-of-crowds paradigm, we reconceptualize collective LLM intelligence as relay-style complementarity: a sequential process in which each successor model is selected to address the specific bottleneck identified in its predecessor's output. To operationalize this, we propose WILC (Wisdom Integration of LLM Crowds), a framework grounded in two design principles. First, iterative reflection-and-refinement establishes a state-preserving workflow through which models diagnose and refine prior outputs. Second, complementarity-driven model selection governs transitions via a dual-gate mechanism: prospective complementarity fit (PCF) identifies the worker most suited to the current bottleneck, while posterior complementarity gain (PCG) evaluates whether the selected transition improves the evolving solution. Experiments across four diverse benchmarks show that WILC outperforms existing approaches, including single-model self-refinement, ensemble methods, and query-routing methods. Under standardized pricing assumptions, WILC matches the average benchmark performance of GPT-5.2 at roughly 7 times lower estimated per-query cost, while facilitating data sovereignty through self-hosted deployment. This study extends wisdom-of-crowds theory from static aggregation to sequential AI complementarity and provides transferable design principles for multi-AI coordination.
- Abstract(参考訳): 大規模言語モデル(LLM)はますますエンタープライズ環境にデプロイされているが、個々のモデルはモデル固有の機能制限によって制限される。
戦略的に複数のLSMをコーディネートすることで、単一のモデルを超える集合的インテリジェンスをアンロックすることができる。
既存のアプローチは、複雑な問題解決における相補性の動的かつ状態依存的な役割を見越して、モデルを事前に組み合わせる方法を修正します。
そこで我々は,LLMインテリジェンスをリレー形式の相補性として再認識し,各後継モデルが選択され,前者の出力で特定されるボトルネックに対処するシーケンシャルなプロセスを提案する。
これを運用するために,2つの設計原理に基づくフレームワークWILC(Wisdom Integration of LLM Crowds)を提案する。
まず、反復的リフレクション・アンド・リファインメントは、モデルが事前出力を診断し、洗練する状態保存ワークフローを確立する。
第2に、相補性駆動モデル選択は二重ゲート機構を介して遷移を制御し、前向き相補性適合(PCF)は現在のボトルネックに最も適した労働者を特定し、後続相補性ゲイン(PCG)は、選択された遷移が進化するソリューションを改善するかどうかを評価する。
4つの異なるベンチマーク実験により、WILCはシングルモデル自己精製、アンサンブルメソッド、クエリルーティングメソッドなど、既存のアプローチよりも優れていることが示された。
標準化された価格設定の下では、WILC は GPT-5.2 の平均ベンチマーク性能を、自己ホスト型デプロイメントによるデータの主権を促進しつつ、推定クエリ当たりの約7倍のコストで一致させる。
本研究では,静的アグリゲーションからシーケンシャルなAI相補性への知恵論を拡張し,マルチAI協調のための伝達可能な設計原理を提供する。
関連論文リスト
- Revitalizing the Beginning: Avoiding Storage Dependency for Model Merging in Continual Learning [57.10440766103372]
Trajectory Regularized Merging (TRM) は、拡張されたトラジェクトリ部分空間内の最適化プロセスとしてマージフェーズを再構成するフレームワークである。
本フレームワークは,タスクアライメント,予測整合性,勾配応答性といった3つの相乗的目標を統合し,統合モデルの履歴安定性と再活性化最適化のダイナミクスを同時に保存する。
論文 参考訳(メタデータ) (2026-05-08T14:07:32Z) - Fine-Grained Model Merging via Modular Expert Recombination [33.253051407398836]
本稿では,MERGEを提案する。MERGEはコンポーネントワイドなモデルマージと,インプットアウェアでオンデマンドなモジュール再結合を推論時に実現する手法である。
MERGEは、クロスタスク性能とストレージ効率のバランスをとる双方向最適化問題として、コンポーネントワイズマージを定式化している。
MERGEは、強いベースラインを一貫して上回り、効果的に一般化することを示す。
論文 参考訳(メタデータ) (2026-02-06T09:55:56Z) - PathWise: Planning through World Model for Automated Heuristic Design via Self-Evolving LLMs [16.59846708454225]
自己進化型LCM(PathWise)による世界自動ヒューリスティックデザインのための計画的計画」と呼ばれる新しいマルチエージェント推論フレームワークを提案する。
PathWiseは、検索軌跡のコンパクトでステートフルなメモリとして機能するエンテーメントグラフ上のシーケンシャルな決定過程を定式化する。
様々なCOP実験により、PathWiseはより高速に収束し、より一般化し、異なるLCMバックボーンをまたいで一般化し、より大きな問題サイズにスケールすることが示された。
論文 参考訳(メタデータ) (2026-01-28T12:34:50Z) - Offline Multi-Task Multi-Objective Data-Driven Evolutionary Algorithm with Language Surrogate Model and Implicit Q-Learning [16.52427396199173]
プラグ・アンド・プレイ・サロゲート・モデリング手法としてQ-MetaSurを提案する。
マルチタスク・マルチオブジェクト最適化(MTMOO)をオフライン環境で検討する。
また,Q-MetaSurは,主観的近似精度において,主観的サロゲートベースラインよりも優れていることを示す。
論文 参考訳(メタデータ) (2025-12-17T07:30:11Z) - UME-R1: Exploring Reasoning-Driven Generative Multimodal Embeddings [70.60608084375691]
我々は、生成的埋め込みの探索の先駆者であり、生成的パラダイム内の埋め込みタスクを統合する。
UME-R1は,2段階のトレーニング戦略からなる汎用なマルチモーダル埋め込みフレームワークである。
ビデオ、画像、ビジュアルドキュメントにまたがる78タスクにわたるMMEB-V2ベンチマークで評価した。
論文 参考訳(メタデータ) (2025-11-01T05:04:23Z) - Merge and Guide: Unifying Model Merging and Guided Decoding for Controllable Multi-Objective Generation [49.98025799046136]
Merge-And-GuidEは、ガイド付きデコーディングにモデルマージを利用する2段階のフレームワークである。
ステージ1では、MAGEはガイダンスとベースモデルの互換性の問題を解決する。
ステージ2では、明示的で暗黙的な値モデルを統一的なガイダンスプロキシにマージします。
論文 参考訳(メタデータ) (2025-10-04T11:10:07Z) - StepORLM: A Self-Evolving Framework With Generative Process Supervision For Operations Research Language Models [18.500046072165254]
我々は、生成過程を監督する新しい自己進化フレームワークであるStepORLMを紹介する。
StepORLMの中核となるのは、ポリシーモデルと生成プロセス報酬モデル(GenPRM)が相互に反復的に改善される、共進化ループである。
論文 参考訳(メタデータ) (2025-09-26T16:39:10Z) - The Landscape of Agentic Reinforcement Learning for LLMs: A Survey [103.32591749156416]
エージェント強化学習(Agentic RL)の出現は、大規模言語モデル(LLM RL)に適用された従来の強化学習からパラダイムシフトを示している。
本研究では, LLM-RLの縮退した単段階マルコフ決定過程(MDPs)と, エージェントRLを定義する部分可観測マルコフ決定過程(POMDPs)とを対比することにより, この概念シフトを定式化する。
論文 参考訳(メタデータ) (2025-09-02T17:46:26Z) - LLM4CMO: Large Language Model-aided Algorithm Design for Constrained Multiobjective Optimization [54.35609820607923]
大規模言語モデル(LLM)は、アルゴリズム設計を支援する新しい機会を提供する。
LLM4CMOは,2つの人口構成をもつ2段階のフレームワークをベースとした新しいCMOEAである。
LLMは複雑な進化最適化アルゴリズムの開発において効率的な共同設計者として機能する。
論文 参考訳(メタデータ) (2025-08-16T02:00:57Z) - Leveraging Importance Sampling to Detach Alignment Modules from Large Language Models [48.15777554876988]
伝統的なアライメント手法では、しばしば大きな事前訓練されたモデルを再訓練する必要がある。
本稿では,アライメント処理を重要サンプリングの一種として形式化する新しいtextitResidual Alignment Model (textitRAM) を提案する。
本稿では,トークンレベルの復号化を反復的に行う再サンプリングアルゴリズムを開発した。
論文 参考訳(メタデータ) (2025-05-26T08:53:02Z) - Collab: Controlled Decoding using Mixture of Agents for LLM Alignment [90.6117569025754]
人間のフィードバックからの強化学習は、大規模言語モデルを整合させる効果的な手法として現れてきた。
制御された復号化は、再訓練せずに推論時にモデルを整列するメカニズムを提供する。
本稿では,既存の既成のLCMポリシを活用するエージェントベースのデコーディング戦略の混合を提案する。
論文 参考訳(メタデータ) (2025-03-27T17:34:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。