論文の概要: Accordion: Elastic-Depth Inference via Fixed-Prefix Layer Looping

• arxiv url: http://arxiv.org/abs/2610.32492v1
• Date: Fri, 23 Oct 2026 11:07:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 01:38:06.503823
• Title: Accordion: Elastic-Depth Inference via Fixed-Prefix Layer Looping
• Title（参考訳）: アコーディオン:固定固定層ループによる弾性深度推論
• Abstract要約: 大規模言語モデルは様々な推論予算を持つアプリケーションを提供する。 最近のLooped Transformerはパラメータ再利用によるフレキシブルな推論を可能にするが、異なる推論予算間で強力なパフォーマンスを維持することはオープンな課題である。 アコーディオン(Accordion)は、固定層ループによる5つの推論予算をサポートする、エキスパートの混合モデルである。
• 参考スコア（独自算出の注目度）: 15.171032676654072
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models serve applications with diverse inference budgets, but training and maintaining separate models for each budget incurs substantial costs. Recent Looped Transformers enable flexible inference computation through parameter reuse, but maintaining strong performance across different inference budgets remains an open challenge. We introduce Accordion, a mixture-of-experts-based model that supports five inference budgets through fixed-prefix layer looping. Each budget follows a pre-defined execution path, while the minimum budget retains the unlooped model. Joint pretraining samples one budget per micro-batch and optimizes its next-token prediction loss without additional cross-budget consistency objectives. We further preserve these inference budgets through supervised fine-tuning and reinforcement learning, where parameter-group merging and budget-matched multi-teacher on-policy distillation integrate three domain experts into one model. After 3.6T tokens of pretraining, increasing inference depth improves Accordion-6B-A0.5B's five-category macro-average across 37 tasks by 3.01 percentage points, with the middle budget capturing 89% of this gain using half as many additional layer executions. The final model surpasses each domain expert on its corresponding task-and-budget average, while achieving strong instruction-following performance across all budgets and retaining depth-dependent gains in mathematical reasoning and code generation.
• Abstract（参考訳）: 大規模言語モデルは様々な推論予算を持つアプリケーションを提供するが、各予算に対する個別のモデルの訓練と維持にはかなりのコストがかかる。 最近のLooped Transformerはパラメータ再利用によるフレキシブルな推論計算を可能にするが、異なる推論予算間で強力なパフォーマンスを維持することは、依然としてオープンな課題である。 アコーディオン(Accordion)は、固定前固定層ループによる5つの推論予算をサポートする、エキスパートの混合モデルである。 各予算は事前に定義された実行パスに従い、最小予算はループされていないモデルを保持する。 共同事前トレーニングは、マイクロバッチ毎に1つの予算をサンプリングし、予算間の整合性を付加することなく、次のトーケン予測損失を最適化する。 そこでは,3つのドメインエキスパートを1つのモデルに統合し,パラメータグループ統合とマルチテナント・マルチテナント・オン・ポリス蒸留を行った。 3.6Tの事前トレーニングの後、推論深度が増加し、37タスクの平均5カテゴリのマクロ平均値が3.01ポイント向上し、中間予算は半分の追加層の実行で89%を獲得した。 最終モデルは、各ドメインの専門家をその対応するタスク・アンド・予算平均で上回り、全ての予算にわたって強力な命令追従性能を達成し、数学的推論やコード生成において深さ依存的な利得を維持する。

関連論文リスト

• Train Where the Quantized Model Goes: On-Policy Distillation for Low-Bit Reasoning [33.38995980047863]
  量子化対応蒸留(QAD)は、サブ-3ビットの量子化で失われる短時間の質問応答性能の多くを復元する。 本研究は,教師が量子化モデルが実際に進行する場所を監督する,オンライン蒸留の段階を導入する。 OPDは、平均的なBF16パフォーマンスの保持率を、MATH-500では35%から70%に、HumanEvalでは66%から91%に引き上げ、ショートフォームのパフォーマンスを維持している。
  論文  参考訳（メタデータ） (2026-09-22T17:01:09Z)
• D$^3$-MOPD: Adaptive Dynamic Domain ScheDuling for Efficient Multi-Teacher Distillation [50.89072318748398]
  マルチテラー・オン・ポリシー蒸留は、いくつかのドメイン専門家の教師を1人の学生に蒸留する。 既存のアプローチでは、トレーニング前にドメイン毎のデータ混在を修正するのが一般的である。 固定混合は、高速収束ドメイン上の計算を無駄にし、遅い収束ドメインをアンダートレインする。 D$3$-MOPDはドメイン単位の逆KL信号をオンラインに適応させるゼロオーバーヘッドスケジューラである。
  論文  参考訳（メタデータ） (2026-08-25T17:57:11Z)
• Can a Lightweight Multimodal Model Estimate LLM Reasoning Performance? A Study for Compute-Optimal Document Inference [1.7194419006128259]
  BudgetDocは、モデル予算パフォーマンストレードオフの明確な監視を提供する最初のマルチモーダルベンチマークである。 DRB(Document-Reasoning Balancer)は、予算レベルでの順序モデルのパフォーマンスを予測し、0.753重み付きF1を達成する。 予備評価は、DRBがクロスモデル選択に一般化する可能性を示している。
  論文  参考訳（メタデータ） (2026-08-19T06:33:33Z)
• Who Thinks Best Depends on How Long You Let Them: Budget-Dependent Rankings in LLM Evaluation [0.0]
  Oracleの分析によると、モデルの相補性は最大$+27.8$ppで、最も顕著なのは制約付き予算である。 予算対応ルータは、オラクルギャップの14.1%のクロスドメインをキャプチャする。
  論文  参考訳（メタデータ） (2026-08-12T15:11:35Z)
• DUET: Optimize Token-Budget Allocation for Reinforcement Learning with Verifiable Rewards [37.28110997883518]
  検証可能な報酬による強化学習は、トレーニングステップ毎に数十万のトークンを生成します。 共有計算予算下での両決定を共同で調整することで,推論品質とウォールクロックトレーニング時間の両方が向上することを示す。
  論文  参考訳（メタデータ） (2026-05-08T20:03:19Z)
• Multi-Agent Reasoning Improves Compute Efficiency: Pareto-Optimal Test-Time Scaling [11.219930588268433]
  資源制約のある実世界のアプリケーションにとって、計算効率は鍵となる。 我々は,自己整合性,自己縮小性,マルチエージェント論争,混合エージェントの推論スケーリング戦略を体系的に分析する。 並列世代数がシーケンシャルアグリゲーションの数を超える場合、混合エージェントが最も効率的である。
  論文  参考訳（メタデータ） (2026-05-02T18:31:02Z)
• General learned delegation by clones [55.144380092379976]
  シリアル推論や非協調並列サンプリングは、固定された推論予算の下では計算非効率である。 本研究では,SELFCESTを提案する。SELFCESTは,同じクローンを異なる並列コンテキストで生成する機能を備えたベースモデルである。
  論文  参考訳（メタデータ） (2026-02-03T15:53:35Z)
• Hierarchical Budget Policy Optimization for Adaptive Reasoning [49.621779447691665]
  階層的予算政策最適化(Hierarchical Budget Policy Optimization, HBPO)は、モデルが問題固有の推論深度を犠牲にすることなく学習できる強化学習フレームワークである。 HBPOは、探索空間を予算制約付き階層(512-2560トークン)に分割する。 大規模な実験により、HBPOは平均トークン使用量を最大60.6%削減し、4つの推論ベンチマークで精度を3.14%改善した。
  論文  参考訳（メタデータ） (2025-07-21T17:52:34Z)
• Steering LLM Thinking with Budget Guidance [48.65894557568655]
  予算指導は、微調整を必要とせず、目標予算に向けてLSMの推論プロセスを操る方法である。 提案手法では,ガンマ分布を残りの思考長にわたってモデル化する軽量な予測器を提案する。 この信号は、生成をソフトでトークンレベルの方法でガイドするために使用され、全体の推論トレースが指定された思考予算に従うことを保証する。
  論文  参考訳（メタデータ） (2025-06-16T17:57:05Z)
• Think Smarter not Harder: Adaptive Reasoning with Inference Aware Optimization [48.5702580429946]
  本研究では,モデルが推論予算の制約に対して実用性として定式化することで,推論予算を認識できるようにする手法を提案する。 簡単に言えば、IBPOを通じて微調整されたモデルは、クエリの難しさを理解し、より難しいものに推論予算を割り当てる。 これらの改善は、同じ予算の下での自己整合性(self-consistency)の約2ドルである。
  論文  参考訳（メタデータ） (2025-01-29T20:20:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。