論文の概要: RATIO: Reasoning Analysis and Token-level Inference Optimization for Quantized Reasoning Models

• arxiv url: http://arxiv.org/abs/2609.39801v1
• Date: Wed, 30 Sep 2026 14:14:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.879382
• Title: RATIO: Reasoning Analysis and Token-level Inference Optimization for Quantized Reasoning Models
• Title（参考訳）: RATIO:量子化推論モデルのための推論分析とトークンレベルの推論最適化
• Abstract要約: 学習後量子化(PTQ)は,大規模言語モデル(LLM)のメモリフットプリントと推論コストを削減する手法として広く採用されている。 本稿では,モデル固有の過剰なトークンを識別し,それぞれに適切なペナルティを割り当てるフレームワークである推論分析とトークンレベルの推論最適化(RATIO)を提案する。 RATIOは最大9.8ポイントの精度向上を実現し、量子化されたベースラインと比較して最大51.3%のチェーン・オブ・シント(CoT)長を減少させる。
• 参考スコア（独自算出の注目度）: 32.127211498426824
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Post-training quantization (PTQ) has become a widely adopted technique for reducing the memory footprint and inference cost of large language models (LLMs). However, recent studies reveal that when applied to reasoning models, PTQ not only degrades reasoning performance but also exacerbates overthinking, leading to longer reasoning trajectories. These issues may offset the efficiency gains expected from lower-precision inference. Existing approaches mainly rely on complex optimization procedures. More recent lightweight inference strategies instead use predefined overthinking markers, limiting their adaptability across quantized models. To address these issues, we propose Reasoning Analysis and Token-level Inference Optimization (RATIO), a framework that identifies model-specific overthinking tokens and assigns each a tailored penalty. RATIO first introduces Quantization-aware Reasoning Behavior Analysis (QRBA) to identify overthinking tokens by analyzing discrepancies between full-precision and quantized models. It then adopts Token-Specific Penalty Determination (TSPD), which leverages full-precision guidance to derive token-specific penalties without additional training. Extensive experiments show that RATIO achieves a better accuracy-efficiency trade-off than existing token-level interventions. Specifically, RATIO achieves up to 9.8 points accuracy improvement and reduces chain-of-thought (CoT) length by up to 51.3% compared with quantized baselines. The code will be available at https://github.com/steven-bao1/RATIO.
• Abstract（参考訳）: 後学習量子化(PTQ)は、大規模言語モデル(LLM)のメモリフットプリントと推論コストを低減させる技術として広く採用されている。 しかし、最近の研究では、PTQが推論モデルに適用されると、推論性能が低下するだけでなく、過剰な思考が悪化し、推論軌道が長くなることが示されている。 これらの問題は、低い精度の推論から期待される効率向上を相殺する可能性がある。 既存のアプローチは主に複雑な最適化手順に依存している。 より最近の軽量な推論戦略では、事前に定義された過剰なマーカーを使い、量子化されたモデル間の適応性を制限している。 これらの問題に対処するために、モデル固有の過剰なトークンを識別し、それぞれに適切なペナルティを割り当てるフレームワークであるReasoning Analysis and Token-level Inference Optimization (RATIO)を提案する。 RATIOはまずQRBA(Quantization-aware Reasoning Behavior Analysis)を導入し、完全精度と量子化モデルの相違を分析することによって、過大なトークンを識別する。 その後、Token-Specific Penalty determined (TSPD)を採用し、トークン固有の罰則を追加トレーニングなしで導き出す。 大規模な実験では、RATIOは既存のトークンレベルの介入よりも精度と効率のトレードオフを達成している。 具体的には、RATIOは最大9.8ポイントの精度向上を実現し、量子化されたベースラインと比較して最大51.3%のチェーン・オブ・シント(CoT)の長さ削減を実現している。 コードはhttps://github.com/steven-bao1/RATIOで入手できる。

関連論文リスト

• Quantized Reasoning Models Think They Need to Think Longer, but They Do Not [20.88617888340002]
  学習後量子化(PTQ)は大規模言語モデルを効率的に展開するために広く用いられているが、推論モデルへの影響はよく理解されていない。 数学、コーディング、科学のQAを通じて、攻撃的なPTQは、チェーン・オブ・ソート(CoT)の長さを増大させながら精度を低下させる。 量子化モデルの失敗の最大52%において、モデルは中間的推論ステップで正しい答えに達するが、最終的な答えとして出力しない。
  論文  参考訳（メタデータ） (2026-05-29T18:00:00Z)
• Stepwise Penalization for Length-Efficient Chain-of-Thought Reasoning [66.22060690012512]
  大規模な推論モデルは、より多くのテストタイム計算で改善されるが、しばしば過大評価され、正確さを向上することなくコストを上昇させる必要のない長い連鎖を生み出す。 本研究は,本質的な貢献に基づいて,ステップ間の長さ短縮を割り当てる,きめ細かいフレームワークであるSWAPを提案する。
  論文  参考訳（メタデータ） (2026-02-27T20:23:59Z)
• Arbitrage: Efficient Reasoning via Advantage-Aware Speculation [71.45710345765528]
  投機的復号化は、高速だが不正確なドラフトモデルを用いて推論を加速し、自動回帰的にトークンを提案する。 しかし、意味論的に等価なステップにおけるトークンミスマッチによる不要な拒絶のため、従来のトークンレベルの投機的デコーディングは、タスクの推論に苦労する。 提案するArbitrageは,ドラフトモデルとターゲットモデルとの相対的優位性に基づいて動的に生成をルーティングする,新しいステップレベルの投機生成フレームワークである。
  論文  参考訳（メタデータ） (2025-12-04T17:50:53Z)
• Efficient Thought Space Exploration through Strategic Intervention [54.35208611253168]
  本稿では,この知見を2つの相乗的コンポーネントを通して操作するHint-Practice Reasoning(HPR)フレームワークを提案する。 フレームワークの中核となる革新は、動的に介入点を識別する分散不整合低減(DIR)である。 算術的および常識的推論ベンチマークによる実験は、HPRの最先端の効率-精度トレードオフを実証している。
  論文  参考訳（メタデータ） (2025-11-13T07:26:01Z)
• A Convergence Analysis of Adaptive Optimizers under Floating-point Quantization [32.97211471008323]
  我々は、勾配、重み、状態の浮動小数点量子化の下で、アダムやムオンを含む適応収束の最初の理論的枠組みを導入する。 両アルゴリズムが完全精度のアルゴリズムに近い収束率を維持していることを示す。 我々はさらに、Adamが$beta から 1$ への依存のため、高い感度と第二モーメントの量子化重みに敏感であることを明らかにし、Muon はより弱いエラー制御を必要とするため、より堅牢である可能性がある。
  論文  参考訳（メタデータ） (2025-10-24T10:16:23Z)
• Don't Think Longer, Think Wisely: Optimizing Thinking Dynamics for Large Reasoning Models [68.96619605651155]
  大規模推論モデル(LRM)は、過度に考えることによって出力長を大幅に増加させる可能性がある。 モデル生成推論経路を異なる思考パターンに分割する動的最適化フレームワークを提案する。 提案手法は, 最大12%の精度向上を実現し, トークン使用量を約5,000から3,000に削減する。
  論文  参考訳（メタデータ） (2025-05-27T20:59:29Z)
• KTAE: A Model-Free Algorithm to Key-Tokens Advantage Estimation in Mathematical Reasoning [19.25257653416883]
  Key-token Advantage Estimation (KTAE)は、新たなモデルを導入することなく、きめ細かいトークンレベルの利点を推定する新しいアルゴリズムである。 GRPO+KTAEとDAPO+KTAEで訓練されたモデルは、5つの数学的推論ベンチマークにおいてベースライン法より優れていることを示す。
  論文  参考訳（メタデータ） (2025-05-22T16:00:33Z)
• The First Few Tokens Are All You Need: An Efficient and Effective Unsupervised Prefix Fine-Tuning Method for Reasoning Models [69.798277882245]
  大規模言語モデルの推論効率を向上させるために,Unsupervised Prefix Fine-Tuning (UPFT)を導入した。 UPFTはラベル付きデータや徹底的なサンプリングの必要性を取り除く。 実験の結果,UPFTは教師付き手法の性能と一致していることがわかった。
  論文  参考訳（メタデータ） (2025-03-04T18:56:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。