論文の概要: An Exact Generate - Transform Decomposition of Small-LLM Team Scaling Across Orchestration Architectures

• arxiv url: http://arxiv.org/abs/2609.36104v1
• Date: Mon, 28 Sep 2026 18:40:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 04:28:51.320319
• Title: An Exact Generate - Transform Decomposition of Small-LLM Team Scaling Across Orchestration Architectures
• Title（参考訳）: オーケストレーションアーキテクチャ全体にわたる小規模LLMチームスケーリングの厳密な生成 - 変換分解
• Abstract要約: 1つのLLMエージェントをコラボレーションチームに置き換えることは、正確さを高めることができるが、チームのスケーリングが有効で、どのアーキテクチャをスケールするかは不明だ。 5つの命令チューニングされた7-9Bモデルと5つのショートアンサーベンチマーク、最大30コールまでの実行可能コードベンチマークの8つのエージェントオーケストレーションアーキテクチャから、チームのスケーリングに対するリターンは、タスク依存であることが分かりました。
• 参考スコア（独自算出の注目度）: 10.138220684013218
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Replacing one LLM agent with a collaborating team can raise accuracy, but whether scaling the team helps, and which architecture to scale, is unclear. Sweeping eight agent orchestration architectures across five instruction-tuned 7-9B models, five short-answer benchmarks, and an executable-code benchmark up to 30 calls, we find that the returns to team scaling are sharply task-dependent: from three to thirty calls accuracy rises by up to 17 points on the two arithmetic word-problem benchmarks (GSM8K, GSMHard) but by at most four on ARC, GPQA, and MMLU, for every architecture, a split the usual task-averaged number conceals. Proposer-Critic captures the arithmetic gains, scaling steepest and, in aggregate, surpassing every other architecture at the largest budget (item-clustered intervals exclude zero), though it ranks among the weakest elsewhere, and no architecture wins across tasks. We explain these trajectories with an exact generate-transform decomposition. Partitioning any workflow into proposal coverage and a downstream transform, any accuracy change splits exactly into an extensive coverage dividend and an intensive transformation change. The decomposition diagnoses each task: arithmetic offers coverage headroom that a critic-guided transform converts, whereas the multiple-choice benchmarks either saturate in coverage or fail to convert it, and on open-ended code generative recovery nearly vanishes so accuracy tracks coverage. At equal call budgets token cost still varies 2.1x. Extra calls therefore create candidate opportunity that only some architectures, on some tasks, convert. Team scaling is a task- and architecture-specific bet, not a uniform lever.
• Abstract（参考訳）: 1つのLLMエージェントをコラボレーションチームに置き換えることは、正確さを高めることができるが、チームのスケーリングが有効で、どのアーキテクチャをスケールするかは不明だ。 命令チューニングされた5つの7-9Bモデル,5つのショートアンサーベンチマーク,最大30コールまでの実行可能コードベンチマークの8つのエージェントオーケストレーションアーキテクチャから,チームのスケーリングに対するリターンが大幅にタスク依存であることが判明した。2つの演算ワードプロブレムベンチマーク(GSM8K, GSMHard)では,3から30回のコール精度が17ポイント上昇するが,ARC,GPQA,MMLUでは,すべてのアーキテクチャにおいて,通常のタスク平均数隠蔽を分割する。 Proposer-Critic は算術的なゲインを捉え、最も急上昇し、総じて最大の予算で他のすべてのアーキテクチャを上回っているが、他の分野では最も弱いものの一つであり、タスク間でアーキテクチャが勝利することはない。 本稿では、これらの軌道を正確な生成変換分解で説明する。 ワークフローをプロポーザルのカバレッジとダウンストリームの変換に分割すると、精度の変化は、正確には広範なカバレッジの分割と集中的な変換に分割される。 算術は、批評家が指導する変換が変換するカバレッジのヘッドルームを提供するが、複数選択のベンチマークは、カバレッジが飽和するか、変換に失敗し、オープンなコード生成リカバリでは、カバーの精度がほぼ失われる。 同一の呼び出し予算ではトークンのコストは2.1倍である。 そのため、余分な呼び出しは、一部のアーキテクチャ、一部のタスクでのみ変換される候補の機会を生み出す。 チームのスケーリングはタスクとアーキテクチャ特有の賭けであり、統一的なレバーではありません。

関連論文リスト

• How Generation Architecture Shapes Code Complexity in Multi-Agent LLM Systems: A Paired Study on HumanEval [0.0]
  我々は、HumanEvalタスクで広く使われている6つのマルチエージェント構成を比較した。 私たちは、最もリーンなアーキテクチャが、正確さで最も重いアーキテクチャと一致しているか、または打ち負かしていることに気付きました。
  論文  参考訳（メタデータ） (2026-05-29T19:34:15Z)
• optimize_anything: A Universal API for Optimizing any Text Parameter [98.42497715725356]
  単一タスク検索をサポートする1つのAIベースの最適化システム、クロスプロブレム転送によるマルチタスク検索、および目に見えない入力への一般化を示す。 LLMに基づく検索によるテキストの最適化は汎用的な問題解決パラダイムであることを示す。
  論文  参考訳（メタデータ） (2026-05-19T10:18:12Z)
• Resonant Sparse Geometry Networks [0.0]
  共振器スパース幾何ネットワーク(Resonant Sparse Geometry Networks, RSGN)は, 自己組織型スパーススパース入力依存接続を持つ脳にインスパイアされたアーキテクチャである。 RSGNは、接続強度が測地距離で減衰する学習された双曲空間に計算ノードを埋め込む。
  論文  参考訳（メタデータ） (2026-01-26T01:45:51Z)
• Eigen-1: Adaptive Multi-Agent Refinement with Monitor-Based RAG for Scientific Reasoning [53.45095336430027]
  暗黙的な検索と構造化された協調を組み合わせた統合フレームワークを開発する。 Humanity's Last Exam (HLE) Bio/Chem Goldでは,48.3%の精度を実現している。 SuperGPQAとTRQAの結果はドメイン間の堅牢性を確認した。
  論文  参考訳（メタデータ） (2025-09-25T14:05:55Z)
• Hierarchical Resolution Transformers: A Wavelet-Inspired Architecture for Multi-Scale Language Understanding [1.0518862318418605]
  Hierarchical Resolution Transformer (HRT)は、複数の解像度で言語を同時に処理する、ウェーブレットにインスパイアされた新しいニューラルアーキテクチャである。 スケールをまたいだ指数列の削減により、HRTはO(nlogn)複雑性を達成し、標準変圧器よりも大幅に効率が向上する。
  論文  参考訳（メタデータ） (2025-09-24T21:46:18Z)
• AgentGroupChat-V2: Divide-and-Conquer Is What LLM-Based Multi-Agent System Need [35.88121318813734]
  大規模言語モデルに基づくマルチエージェントシステムは、社会シミュレーションや複雑なタスク解決領域において大きな可能性を示している。 AgentGroupChat-V2は、3つのコアイノベーションを通じてこれらの課題に対処する新しいフレームワークです。 AgentGroupChat-V2のさまざまなドメインでの優れたパフォーマンスを示す実験。
  論文  参考訳（メタデータ） (2025-06-18T13:24:04Z)
• Efficient Controllable Multi-Task Architectures [85.76598445904374]
  本稿では,共有エンコーダとタスク固有デコーダからなるマルチタスクモデルを提案する。 我々のキーとなる考え方は、タスク固有のデコーダの容量を変化させ、計算コストの総和を制御し、タスクの重要度を制御することである。 これにより、与えられた予算に対してより強力なエンコーダを許可し、計算コストの制御を高め、高品質のスリム化サブアーキテクチャを提供することにより、全体的な精度を向上させる。
  論文  参考訳（メタデータ） (2023-08-22T19:09:56Z)
• DepGraph: Towards Any Structural Pruning [68.40343338847664]
  我々は、CNN、RNN、GNN、Transformersのような任意のアーキテクチャの一般的な構造解析について研究する。 本稿では,階層間の依存関係を明示的にモデル化し,包括的にグループ化してプルーニングを行う汎用かつ完全自動な手法であるemphDependency Graph(DepGraph)を提案する。 本研究では,画像用ResNe(X)t,DenseNet,MobileNet,Vision Transformer,グラフ用GAT,3Dポイントクラウド用DGCNN,言語用LSTMなど,さまざまなアーキテクチャやタスクに関する手法を広範囲に評価し,言語用LSTMと並行して示す。
  論文  参考訳（メタデータ） (2023-01-30T14:02:33Z)
• Towards Accurate and Compact Architectures via Neural Architecture Transformer [95.4514639013144]
  計算コストを増すことなくパフォーマンスを向上させるために、アーキテクチャ内の操作を最適化する必要がある。 我々は最適化問題をマルコフ決定プロセス(MDP)にキャストするニューラルアーキテクチャ変換器(NAT)法を提案している。 NAT++(Neural Architecture Transformer++)メソッドを提案し、アーキテクチャ最適化のパフォーマンスを改善するために、候補遷移のセットをさらに拡大する。
  論文  参考訳（メタデータ） (2021-02-20T09:38:10Z)
• MetaPerturb: Transferable Regularizer for Heterogeneous Tasks and Architectures [61.73533544385352]
  本稿ではメタパーターブ(MetaPerturb)というトランスファー可能な摂動モデルを提案する。 MetaPerturbは、レイヤやタスクにまたがる多様な分散を訓練したセット関数であるため、異種タスクやアーキテクチャを一般化することができる。
  論文  参考訳（メタデータ） (2020-06-13T02:54:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。