論文の概要: Where Do LLM Ensemble Gains Come From? Decomposing Candidate Value, Diversity, and Aggregation

• arxiv url: http://arxiv.org/abs/2610.18786v2
• Date: Wed, 14 Oct 2026 20:52:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:15.955031
• Title: Where Do LLM Ensemble Gains Come From? Decomposing Candidate Value, Diversity, and Aggregation
• Title（参考訳）: LLMアンサンブルはどこから来るのか? 候補値、多様性、集約を分解する
• Abstract要約: LLMアンサンブルゲインは、しばしば単一のベースラインに対して測定されるが、追加候補に起因する値は、使用した比較によって変化する。 直接(候補なし)、単スロット(マルチスロットインタフェースの1候補)、重複(繰り返し1候補)、多重候補(複数候補)の4つの整合条件下でLLMアグリゲータについて検討した。 以上の結果から,アンサンブル評価が追加候補に利得を与える前に基準制御を記述すべき理由が示唆された。
• 参考スコア（独自算出の注目度）: 19.651323641444726
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM ensemble gains are often measured against a single baseline, but the value attributed to additional candidates can change with the comparison used. We study an LLM aggregator under four matched conditions: Direct (no candidates), Single-slot (one candidate in a multi-slot interface), Duplicate (one candidate repeated), and Multi-candidate (separately generated candidates). Under either non-diverse control, overall candidate gain (CIV) splits algebraically into an additional-candidate contrast (DSV) and a candidate-context contrast (CCV); the split, but not CIV, depends on the chosen control. On MultiHopRAG model diversity (k=2), the repetition gap Rep=-8.33 pp [-13.25, -3.75] quantifies the difference between gains measured against Duplicate and Single-slot. On a matched FRAMES stronger-panel extension (n=200, k=3, aggregator output limit 4096), paired Delta Rep=+9.67 pp [+6.00, +13.50]; within panels, Rep changes sign (original -6.33; stronger +3.33). In FRAMES evidence aggregation, candidate-context contrasts remain strongly negative under both non-diverse controls. Our results show why ensemble evaluations should state the reference control before attributing gains to additional candidates.
• Abstract（参考訳）: LLMアンサンブルゲインは、しばしば単一のベースラインに対して測定されるが、追加候補に起因する値は、使用した比較によって変化する。 直接(非候補)、単スロット(マルチスロットインタフェースにおける1つの候補)、重複(繰り返し1つの候補)、多候補(個別に生成された候補)の4つの条件下でLLMアグリゲータについて検討した。 いずれの逆制御の下では、全体的な候補ゲイン(CIV)は代数的に追加候補コントラスト(DSV)と候補コンテキストコントラスト(CCV)に分解される。 マルチホップラグモデルの多様性(k=2)では、繰り返しギャップ Rep=-8.33 pp[-13.25, -3.75] はDuplicate と Single-Slot に対して測定された利得の差を定量化する。 マッチングされたFRAMES強化パネル拡張(n=200, k=3, アグリゲータ出力限界4096)では、対のDelta Rep=+9.67 pp[+6.00, +13.50]、パネル内ではRep変更符号(元々は-6.33, strong +3.33)が現れる。 FRAMESのエビデンスアグリゲーションでは、候補-コンテキストのコントラストは、両非多変数制御の下では強く否定的である。 以上の結果から,アンサンブル評価が追加候補に利得を与える前に基準制御を記述すべき理由が示唆された。

関連論文リスト

• Better Retrieval, Limited Clustering Gains: A Controlled Study of Multilingual Company Entity Resolution [8.148058967953437]
  固定された候補予算と下流決定ルールに基づいて多言語E5エンコーダを適応する。 72,660の候補エッジでは、マルチビューセレクタによる適応により、直接ペアリコールが53.74%から76.98%に増加した。 新たに回収された銀陽性ペア208のうち、202は決定しきい値を下回る。
  論文  参考訳（メタデータ） (2026-10-04T22:19:14Z)
• Overwhelmed by Choice: Studying LLM Decision Making at Scale [70.45144023754595]
  候補数の増加に伴い,複数選択および候補選択の評価を体系的に評価した。 タスク間での相当な精度劣化、戦略の推進、モデルスケールが見られます。 階層分割と置換に基づく推論は、HotpotQAとMIMICで約20パーセントの精度をN=160$で向上する。
  論文  参考訳（メタデータ） (2026-09-26T17:33:04Z)
• How Many Humans Are 32 LLM Judges Worth? [3.842523259301338]
  我々は,3つのChaosNLIタスクにおいて,固定された32judgeパネルと実験的な人間のラベル分布とをマッチングする。 バイナリエラー診断は1.971$-2.227$の有効票しか持たない。 例えば、$kin5,7$での徹底的な列挙は、正確さと$_H$の両方の基準線を上回り、パネルは常に存在することを示す。
  論文  参考訳（メタデータ） (2026-09-18T03:43:45Z)
• Are Diversity Metrics Measuring Diversity? A Capability-Controlled Audit of Majority-Vote Gain in LLM Ensembles [19.651323641444726]
  5つの多様性対策が、最良メンバーに対する多数票獲得の予測因子として、追跡しているか、あるいは主に再表現能力を示すのかを問う。 オラクルゲインはサブセットの100%で陽性であるが、単純な投票では全標準サイズ3サブセットの9.98%で最強の会員に勝っている。 独立した予測器としての厳密な多様性、不一致、ダブルフォールトは、建設によってランク不足する。
  論文  参考訳（メタデータ） (2026-07-22T22:34:57Z)
• OpenDeepThink: Parallel Reasoning via Bradley-Terry Aggregation [53.88666485159289]
  OpenDeepThinkは、集団ベースのテスト時間計算フレームワークで、ペアワイズBradley-Terryの比較によって選択する。 OpenDeepThinkはGemini 3.1 ProのCodeforces Eloを8回のLCMコールラウンドで+405ポイント引き上げる。 CF-73は、国際グランドマスターアノテーションによる73の専門家評価コードフォース問題と、公式判決に対する99%の地域評価合意のキュレートされたセットである。
  論文  参考訳（メタデータ） (2026-05-14T17:57:40Z)
• Semantic Voting: Execution-Grounded Consensus for LLM Code Generation [11.731523303184472]
  最高の実行ベースのセレクタは、出力パターンの多数決を各構成で19-52ポイント上回る。 より深い思考は、多数決を12ppで改善するが、実行ベースのメソッドは、候補の多様性が低下するにつれて、フラットまたは低下し続ける。 これらの結果から,アグリゲーションルール問題ではなく,信号品質問題としてのフレーム推論時符号選択が可能となった。
  論文  参考訳（メタデータ） (2026-05-09T04:33:39Z)
• Diagnosing LLM Reranker Behavior Under Fixed Evidence Pools [0.17188280334580197]
  ランク付け評価は、上流レトリバーが返却した候補者をリランカがどのように注文するかを調査する。 この設定は、ランキングの動作と検索品質を結合するので、出力の差はランキングのポリシーだけでは対応できない。 複数Newsクラスタを固定エビデンスプールとして使用することで再ランク付けを分離する制御診断手法を提案する。
  論文  参考訳（メタデータ） (2026-02-20T21:07:32Z)
• SPARTA ALIGNMENT: Collectively Aligning Multiple Language Models through Combat [76.48873047003943]
  SPARTA ALIGNMENT(SPARTA ALIGNMENT)を提案する。 各イテレーションにおいて、1つの命令と2つのモデルがデュエルのために選択され、他のモデルが2つのレスポンスを評価し、それらの評価スコアは、適応されたエロランクベースの評価システムを介して集約される。 ピア評価された戦闘結果は、敗戦よりも勝利の反応が優先される選好ペアとなり、各イテレーションの最後にこれらの選好からすべてのモデルが学習される。
  論文  参考訳（メタデータ） (2025-06-05T07:51:23Z)
• Scaling Data Diversity for Fine-Tuning Language Models in Human Alignment [84.32768080422349]
  人間の好みの調整は、大きな言語モデルが誤解を招くか有害なコンテンツを生成するのを防ぐ。 本研究では, 微調整後のLLMの最終性能と線形相関を示唆し, 即時多様性の新たな定式化を提案する。
  論文  参考訳（メタデータ） (2024-03-17T07:08:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。