論文の概要: Frustratingly Easy Majority Voting Using Length Conditioning

• arxiv url: http://arxiv.org/abs/2610.19890v1
• Date: Wed, 14 Oct 2026 09:48:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:16.075387
• Title: Frustratingly Easy Majority Voting Using Length Conditioning
• Title（参考訳）: 長さコンディショニングを用いたフラストレーションに易しい多数投票
• Abstract要約: Majority Voting (MV) は、Large Language Models (LLM) の推論精度を向上させる戦略である。 本研究では,テスト時間トレーニング手法であるLCMV(Longth-Conditioned Majority Voting)を提案する。
• 参考スコア（独自算出の注目度）: 44.986831533298876
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Majority Voting (MV) is a simple and widely used strategy which improves the reasoning accuracy of Large Language Models (LLMs) by allocating additional inference-time computation. Specifically, in MV multiple Chain-of-Thoughts (CoTs) are independently sampled and the most frequent final answer is selected. In this work, we propose Length-Conditioned Majority Voting (LCMV), a Test-Time Training approach which improves MV leveraging an empirical observation that has recently been established in several studies: longer CoTs tend to be associated with a lower probability of correctness. We formulate this inductive bias as a length-conditioned prior probability, which is modeled by a simple logistic function. Moreover, we adapt this prior at test time using only unlabeled testing data and without fine-tuning the LLM. Finally, the adapted prior is used to weight the vote of each sampled answer. Extensive experiments across multiple LLMs and reasoning benchmarks show that LCMV consistently improves over both standard MV and existing length-based and confidence-based aggregation strategies, while retaining the simplicity and model-agnostic nature of MV. Our code is available at: https://github.com/aimagelab/LCMV.
• Abstract（参考訳）: Majority Voting (MV) は、大規模言語モデル (LLM) の推論精度を、追加の推論時間計算によって向上させる、シンプルで広く使われている戦略である。 具体的には、MV多重整合(CoT)を独立にサンプリングし、最も頻繁な最終回答を選択する。 本研究では,最近いくつかの研究で確立された経験的観察を活用してMVを改善するテストタイムトレーニング手法であるLCMVを提案する。 この帰納バイアスを、単純なロジスティック関数によってモデル化された長さ条件付き事前確率として定式化する。 さらに、ラベル付けされていないテストデータのみを使用して、かつ、LLMを微調整することなく、テスト時にこれを適用する。 最後に、適応された事前は、各サンプリングされた回答の投票を重み付けするために使用される。 LCMVは標準MVと既存の長さベースおよび信頼性ベースのアグリゲーション戦略の両方よりも一貫して改善され、MVの単純さとモデルに依存しない性質を維持している。 私たちのコードは、https://github.com/aimagelab/LCMV.comで利用可能です。

関連論文リスト

• Beyond Majority Voting: LLM Aggregation by Leveraging Higher-Order Information [57.397381631496906]
  最適重み(OW)と逆サプライシング人気度(ISP)という2つの新しいアグリゲーションアルゴリズムを開発した。 我々の理論的分析は、これらの手法が軽微な仮定の下での多数決の本質的な制限を確実に緩和することを示している。 我々は,我々のアルゴリズムを人工データセット,UltraFeedbackやMMLUなどのLLMファインチューニングベンチマーク,実世界の医療環境ARMMAN上で実証的に検証した。
  論文  参考訳（メタデータ） (2025-10-01T22:21:50Z)
• Benchmarking and Mitigating MCQA Selection Bias of Large Vision-Language Models [2.393011821499345]
  大規模視覚言語モデル(LVLM)における選択バイアスの存在と性質について検討する。 一般および文脈的プロンプトからアンサンブルバイアスベクトルを推定する推論時間ロジットレベルのデバイアス法を提案する。 本手法はリトレーニングなしでバイアスを軽減し,冷凍LVLMと互換性がある。
  論文  参考訳（メタデータ） (2025-09-20T20:45:47Z)
• Latent Self-Consistency for Reliable Majority-Set Selection in Short- and Long-Answer Reasoning [17.045726739741813]
  本稿では,学習可能なトークン埋め込みを用いて,最も意味的に一貫性のある応答を選択する潜在自己整合性を提案する。 軽量な要約トークンのフォワード生成は、推論時間を1%以下にし、モデルアーキテクチャの変更を必要としない。
  論文  参考訳（メタデータ） (2025-08-25T18:36:28Z)
• Learning to Reason Across Parallel Samples for LLM Reasoning [48.41933431325965]
  大規模言語モデル(LLM)において、テスト時間計算のスケーリングは大幅なパフォーマンス向上をもたらす 本稿では,このような複数のサンプル集合を利用する新しい手法を提案する。 5つの推論データセットの実験は、SSAの有効性と効率を実証している。
  論文  参考訳（メタデータ） (2025-06-10T17:42:35Z)
• Sample, Don't Search: Rethinking Test-Time Alignment for Language Models [55.2480439325792]
  新しいテストタイムアライメントアプローチであるQAlignを紹介します。 テスト時間計算をスケールする際、QAlignは各プロンプトの最適配向分布からのサンプリングに収束する。 マルコフ連鎖モンテカルロのテキスト生成における最近の進歩を取り入れることで、基礎となるモデルを変更したり、ロジットアクセスを必要とせずに、より良い整合出力を可能にする。
  論文  参考訳（メタデータ） (2025-04-04T00:41:40Z)
• Reasoning Aware Self-Consistency: Leveraging Reasoning Paths for Efficient LLM Sampling [9.44858963874474]
  自己整合性は、複数の推論経路をサンプリングすることによって、大規模言語モデル(LLM)における幻覚を緩和する。 本稿では、サンプリング効率を高め、忠実性を推論する新しいフレームワークであるReasoning-Aware Self-Consistency (RASC)を紹介する。
  論文  参考訳（メタデータ） (2024-08-30T05:14:59Z)
• Large Language Models Are Not Robust Multiple Choice Selectors [117.72712117510953]
  複数選択質問(MCQ)は、大規模言語モデル(LLM)の評価において、一般的なが重要なタスク形式として機能する。 この研究は、現代のLLMが、その固有の「選択バイアス」によるオプション位置変化に対して脆弱であることを示している。 そこで本研究では,オプションIDに対する事前バイアスを全体予測分布から分離するPriDeという,ラベルのない推論時間脱バイアス手法を提案する。
  論文  参考訳（メタデータ） (2023-09-07T17:44:56Z)
• Let's Sample Step by Step: Adaptive-Consistency for Efficient Reasoning and Coding with LLMs [60.58434523646137]
  大規模言語モデル(LLM)からの出力の正確性を改善するための一般的なアプローチは、自己整合性である。 コスト効率のよいモデルに依存しない手法であるAdaptive-Consistencyを導入し,各質問のサンプル数を動的に調整する。 実験の結果,Adaptive-Consistencyはサンプル予算を最大7.9倍に削減し,平均精度は0.1%以下であった。
  論文  参考訳（メタデータ） (2023-05-19T17:49:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。