論文の概要: Learning to Seek Help: Dynamic Collaboration Between Small and Large Language Models

• arxiv url: http://arxiv.org/abs/2604.17827v1
• Date: Mon, 20 Apr 2026 05:28:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-21 21:52:52.710674
• Title: Learning to Seek Help: Dynamic Collaboration Between Small and Large Language Models
• Title（参考訳）: 助けを求めるための学習: 小規模と大規模の言語モデル間の動的コラボレーション
• Abstract要約: 大きな言語モデル(LLM)は強力な機能を提供するが、コストとプライバシの懸念が高まる。 小型言語モデル(SLM)は効率的でプライベートなローカル推論を促進するが、限られた能力に悩まされる。
• 参考スコア（独自算出の注目度）: 46.226951683577916
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Large language models (LLMs) offer strong capabilities but raise cost and privacy concerns, whereas small language models (SLMs) facilitate efficient and private local inference yet suffer from limited capacity. To synergize the complementary strengths, we introduce a dynamic collaboration framework, where an SLM learns to proactively decide how to request an LLM during multi-step reasoning, while the LLM provides adaptive feedback instead of acting as a passive tool. We further systematically investigate how collaboration strategies are shaped by SLM and LLM capabilities as well as efficiency and privacy constraints. Evaluation results reveal a distinct scaling effect: stronger SLMs become more self-reliant, while stronger LLMs enable fewer and more informative interactions. In addition, the learned dynamic collaboration strategies significantly outperform static pipelines and standalone inference, and transfer robustly to unseen LLMs.
• Abstract（参考訳）: 大きな言語モデル(LLM)は強力な能力を提供するが、コストとプライバシの懸念が高まる一方、小さな言語モデル(SLM)は効率的でプライベートなローカル推論を促進するが、限られた能力に悩まされる。 相補的強みを相乗化するために,SLMは多段階推論においてLLMを積極的に要求する方法を学習し,LLMは受動的ツールではなく適応フィードバックを提供する動的協調フレームワークを導入する。 さらに, SLM と LLM の機能, 効率性, プライバシーの制約によって, コラボレーション戦略がどう形成されるかについて, 体系的に検討する。 より強いLSMはより自立的になり、強いLSMはより少ない情報的相互作用を可能にする。 さらに、学習された動的なコラボレーション戦略は、静的パイプラインとスタンドアロンの推論を著しく上回り、目に見えないLLMに堅牢に転送する。

関連論文リスト

• Be My Eyes: Extending Large Language Models to New Modalities Through Multi-Agent Collaboration [35.429026246760635]
  BeMyEyesは、LLM(Large Language Models)をマルチモーダル推論に拡張するためのモジュラーフレームワークである。 知覚と推論エージェントの相補的な強みを組み合わせることで、BeMyEyesは大規模なマルチモーダルモデルをトレーニングする必要がなくなる。 実験により,LLMのマルチモーダル推論能力の開放が確認できた。
  論文  参考訳（メタデータ） (2025-11-24T18:55:16Z)
• SLMQuant:Benchmarking Small Language Model Quantization for Practical Deployment [45.23402877397396]
  SLMQuantは,Small Language Models (SLM) に適用した場合に圧縮技術を評価するための最初の体系的ベンチマークである。 我々は,SLM上での最先端量子化手法の動作を解析する。 有効なSLM量子化を規定する重要な要因を特定し,SLM調整圧縮のための実用的な設計原理を提案する。
  論文  参考訳（メタデータ） (2025-11-17T06:20:33Z)
• Corrupted by Reasoning: Reasoning Language Models Become Free-Riders in Public Goods Games [87.5673042805229]
  大規模言語モデルは、アライメント、堅牢性、安全なデプロイメントを保証する上で、いかに自己関心と集合的幸福のバランスをとるかが重要な課題である。 我々は、行動経済学から制度的に選択した公共財ゲームに適応し、異なるLLMがいかに社会的ジレンマをナビゲートするかを観察することができる。 意外なことに、o1シリーズのようなLCMの推論は、協調にかなり苦労している。
  論文  参考訳（メタデータ） (2025-06-29T15:02:47Z)
• Dense Communication between Language Models [41.631010796783706]
  本稿では,Large Language Models (LLM) 間の直接密度ベクトル通信のパラダイムを提案する。 提案手法は,LSMが他と相互作用する際の不要な埋め込みや非埋め込みのステップを排除し,より効率的な情報伝達を可能にする。 トレーニングコストが0.1%未満で、同様のサイズでLLMに匹敵するパフォーマンスを実現するLMNetをトレーニングする。
  論文  参考訳（メタデータ） (2025-05-19T05:56:06Z)
• CoMMIT: Coordinated Multimodal Instruction Tuning [90.1532838391285]
  マルチモーダル大言語モデル(MLLM)は一般に、バックボーンLLMと非テキスト入力モードの特徴エンコーダ間の協調学習を含む。 本稿では,MLLM命令のチューニングを理論的・経験的両面から解析する。 本稿では,学習のバランスを定量的に測定できるマルチモーダルバランス係数を提案する。
  論文  参考訳（メタデータ） (2024-07-29T23:18:55Z)
• Towards Efficient LLM Grounding for Embodied Multi-Agent Collaboration [68.29746557968107]
  本稿では,多エージェント協調のための新しいフレームワークを提案する。これは,効率的な自己調整のための強化アドバンテージフィードバック(Reinforced Advantage feedback, ReAd)を導入する。 Over-AIと難解なRoCoBenchの実験は、ReAdが成功率のベースラインを超え、エージェントの相互作用ステップを著しく減少させることを示している。
  論文  参考訳（メタデータ） (2024-05-23T08:33:19Z)
• Toward Self-Improvement of LLMs via Imagination, Searching, and Criticizing [56.75702900542643]
  大規模言語モデルの自己改善のためのAlphaLLMを紹介する。 モンテカルロ木探索(MCTS)とLLMを統合し、自己改善ループを確立する。 実験の結果,AlphaLLM は付加アノテーションを使わずに LLM の性能を大幅に向上することがわかった。
  論文  参考訳（メタデータ） (2024-04-18T15:21:34Z)
• Corex: Pushing the Boundaries of Complex Reasoning through Multi-Model Collaboration [83.4031923134958]
  Corexは,大規模言語モデルを自律エージェントに変換する,新たな汎用戦略スイートだ。 人間の振る舞いにインスパイアされたCorexは、Debate、Review、Retrieveモードといった多様なコラボレーションパラダイムによって構成されている。 我々は,複数のLDMを協調的に演奏することで,既存の手法に比べて性能が著しく向上することが実証された。
  論文  参考訳（メタデータ） (2023-09-30T07:11:39Z)
• Enabling Intelligent Interactions between an Agent and an LLM: A Reinforcement Learning Approach [31.6589518077397]
  大規模言語モデル(LLM)は、大量のテキストデータセットから得られた膨大な量の世界の知識を符号化する。 LLMは、高レベルな命令を提供することで、複雑なシーケンシャルな意思決定タスクを解決するための実施エージェントを支援することができる。 本研究では,高レベルの命令に対してLLMを問合せする必要がある場合に学習する強化学習ベースのアプローチである When2Ask を提案する。
  論文  参考訳（メタデータ） (2023-06-06T11:49:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。