論文の概要: BLADE: Boundary-Expanded and Layer-Adaptive Dynamic Exit for Efficient LLM Reasoning
- arxiv url: http://arxiv.org/abs/2607.28966v1
- Date: Fri, 31 Jul 2026 02:36:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-03 14:29:40.573951
- Title: BLADE: Boundary-Expanded and Layer-Adaptive Dynamic Exit for Efficient LLM Reasoning
- Title（参考訳）: BLADE: 効率的なLDM推論のための境界拡張および層適応動的出力
- Abstract要約: BLADEは、生成したプレフィックスが正しい答えに十分かどうかを推定することで推論を終了する。
BLADEは文、自己疑念、段落の境界から多粒性のチェックポイントを構築する。
BLADEは、Qwen3-8Bでは24.8%、Qwen3-4Bでは15.8%の精度で、ほぼベースラインの精度を保っている。
- 参考スコア（独自算出の注目度）: 12.482949673236563
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models often improve task performance by generating long reasoning traces, but the resulting computation is frequently wasted on redundant verification and revision. Existing probe-based early-exit approaches mainly inspect explicit self-doubt expressions, leaving many earlier termination opportunities undetected. Expanding inspection to ordinary reasoning boundaries improves coverage, but also exposes highly diverse intermediate states whose predictive information may reside in different hidden layers. We present Boundary-Expanded and Layer-Adaptive Dynamic Exit for Efficient LLM Reasoning (BLADE), a lightweight framework that dynamically terminates reasoning by estimating whether the generated prefix is sufficient for correct answering. BLADE constructs multi-granular checkpoints from sentence, self-doubt, and paragraph boundaries, and derives robust training labels through repeated answer completions. It further learns a compact subset of informative probe layers instead of relying on fixed choices or expensive representations from all layers. At inference time, calibrated predictions are combined with checkpoint-specific confirmation rules to balance responsiveness and premature-exit risk. Experiments on five benchmarks and two Qwen3 reasoning models show that BLADE preserves near-baseline accuracy while reducing generated tokens by 24.8% on Qwen3-8B and 15.8% on Qwen3-4B. Ablation studies further confirm the benefits of diverse checkpoints and automatic layer selection, demonstrating an effective approach to more efficient LLM reasoning.
- Abstract（参考訳）: 大規模言語モデルは、長い推論トレースを生成することでタスクパフォーマンスを改善することが多いが、結果として得られる計算は、冗長な検証と修正で頻繁に無駄にされる。
既存のプローブベースの早期退避アプローチは、主に明示的な自己疑似表現を検査し、多くの早期終了の機会を未発見のまま残している。
通常の推論境界への検査の拡張はカバレッジを向上させるが、予測情報が異なる隠された層に存在する可能性のある非常に多様な中間状態を公開する。
本稿では,LLM推論を動的に終了する軽量フレームワークBLADE(Bundary-Expanded and Layer-Adaptive Dynamic Exit for Efficient LLM Reasoning)を提案する。
BLADEは文、自己疑念、段落の境界から複数の粒状チェックポイントを構築し、繰り返し答えの完了によって堅牢なトレーニングラベルを導出する。
さらに、固定された選択やすべてのレイヤからの高価な表現に頼るのではなく、情報的なプローブ層のコンパクトなサブセットを学ぶ。
推測時には、調整された予測とチェックポイント固有の確認ルールが組み合わされ、応答性と早期退避リスクのバランスをとる。
5つのベンチマークと2つのQwen3推論モデルによる実験では、BLADEはQwen3-8Bで24.8%、Qwen3-4Bで15.8%の精度で、ほぼベースラインの精度を保っている。
アブレーション研究は、様々なチェックポイントと自動層選択の利点をさらに確認し、より効率的なLCM推論への効果的なアプローチを示す。
関連論文リスト
- GradCuit: Credit-Assigned Gradient Flow Enables Robust and Interpretable Test-Time Latent Reasoning [61.67411833252235]
本稿では,プロンプトの隠蔽表現と生成された継続の間に,選択したTransformer層に最適化可能な潜在状態を挿入するGradCuitを紹介する。
5つの命令調整されたバックボーン、3つの推論ベンチマーク、2つの回答フォーマットで、GradCuitの平均精度は64.5%である。
解釈可能性について、トークンレベルの勾配属性は、遅延の影響が推論・接続子トークンに集中していることを明らかにする一方、層解析は、初期から中間のトランスフォーマー層を最も効果的な最適化空間として認識する。
論文 参考訳（メタデータ） (2026-08-03T17:55:24Z) - Deeper is Not Always Better: Mitigating the Alignment Tax via Confident Layer Decoding [92.1521161575198]
我々は、最も信頼性の高いニアファイナル層を動的に選択する、トレーニング不要なデコーディング戦略であるConfident Decodingを紹介する。
密集型および混合型LLMの実験は、挑戦的推論ベンチマークにおいて一貫した利得を示す。
論文 参考訳（メタデータ） (2026-06-20T07:03:26Z) - What to Test Next: Interpretable Coverage Gap Discovery in Driving VLMs [52.50210189669399]
視覚言語モデル(VLM)を駆動するには,操作設計領域(ODD)が定義する様々な条件のシーンを正確に理解する必要がある
SliceScorerは、欠落したスライス推薦のための決定論的スコアリングルールである。
SliceNavは, 従来のスライス発見法よりも, 高リスクカバレッジギャップを効果的に表面化することを示す。
論文 参考訳（メタデータ） (2026-06-01T03:18:01Z) - Latent Abstraction for Retrieval-Augmented Generation [4.6096940605642915]
既存のシステムは各ホップで自然言語クエリを生成することに依存している。
我々は,単一のLLMが符号化,検索,生成を同時に行う統一的なフレームワークである textbfLAnR (Latent Abstraction for RAG) を提案する。
論文 参考訳（メタデータ） (2026-04-20T06:26:13Z) - Adaptive Conformal Prediction for Improving Factuality of Generations by Large Language Models [86.8650252164764]
大規模言語モデル(LLM)は、事実的に誤った出力を生成する傾向にある。
本研究では,LLMへのコンフォメーションスコア変換法を拡張する適応型コンフォメーション予測手法を提案する。
これにより、アクシデントに依存したキャリブレーションが可能となり、条件付きカバレッジを改善しながら、限界範囲のカバレッジ保証が維持される。
論文 参考訳（メタデータ） (2026-04-15T15:35:42Z) - Fine-Grained Uncertainty Quantification for Long-Form Language Model Outputs: A Comparative Study [0.0]
長周期LLM出力におけるきめ細かい不確実性定量化のための分類法を提案する。
一貫性に基づくブラックボックススコアラーのいくつかのファミリを形式化し、既存のメソッドの一般化と拡張を提供する。
2)クレームレベルのスコアリングは一般的に文レベルのスコアリングよりも優れた結果が得られ,3)不確実性を考慮したデコーディングは,長文形式のアウトプットの事実性向上に極めて有効である。
論文 参考訳（メタデータ） (2026-02-19T15:02:29Z) - Do LLMs Know They Are Being Tested? Evaluation Awareness and Incentive-Sensitive Failures in GPT-OSS-20B [1.948261185683419]
本研究では,「評価香り」がコンメンシュレート能力を得ることなく測定性能を膨らませるかどうかを考察する。
6つのペアのA/Bシナリオを実行し、タスク内容を保持し、フレーミングの異なる状態でデコードします。
再現可能なA/Bフレームワーク(バンキング、バリデータ、ラン毎のスコア、スクリプト)と実践的なガイダンスを提供する。
論文 参考訳（メタデータ） (2025-10-08T09:49:05Z) - Eigen-1: Adaptive Multi-Agent Refinement with Monitor-Based RAG for Scientific Reasoning [53.45095336430027]
暗黙的な検索と構造化された協調を組み合わせた統合フレームワークを開発する。
Humanity's Last Exam (HLE) Bio/Chem Goldでは,48.3%の精度を実現している。
SuperGPQAとTRQAの結果はドメイン間の堅牢性を確認した。
論文 参考訳（メタデータ） (2025-09-25T14:05:55Z) - Beyond Prompting: An Efficient Embedding Framework for Open-Domain Question Answering [22.121850498642008]
大規模言語モデルは、最近、新しいフロンティアにオープンドメインの質問に答えた。
一般的なレトリバーリーダーパイプラインは、しばしば複数のプロンプトレベル命令に依存する。
EmbQAは,レシーバとリーダの両方を強化した埋め込みレベルのフレームワークである。
論文 参考訳（メタデータ） (2025-03-03T14:41:35Z) - Self-Evaluation Improves Selective Generation in Large Language Models [54.003992911447696]
オープンエンド生成タスクをトークンレベルの予測タスクに再構成する。
我々はLSMに答えを自己評価するように指示する。
自己評価に基づくスコアリング手法をベンチマークする。
論文 参考訳（メタデータ） (2023-12-14T19:09:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。