論文の概要: Inference Scaling vs Reasoning: An Empirical Analysis of Compute-Optimal LLM Problem-Solving

• arxiv url: http://arxiv.org/abs/2412.16260v1
• Date: Fri, 20 Dec 2024 08:42:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-24 19:42:47.834358
• Title: Inference Scaling vs Reasoning: An Empirical Analysis of Compute-Optimal LLM Problem-Solving
• Title（参考訳）: 推論スケーリングと推論:Compute-Optimal LLM Problem-Solvingの実証分析
• Authors: Marwan AbdElhameed, Pavly Halim,
• Abstract要約: 大規模言語モデル(LLM)の最近の進歩は、精度と推論能力の最大化に重点を置いている。 本稿では,2つの対照的なアプローチの統合を解析することにより,推論の強化と計算効率の相乗効果について検討する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent advances in large language models (LLMs) have predominantly focused on maximizing accuracy and reasoning capabilities, often overlooking crucial computational efficiency considerations. While this approach has yielded impressive accuracy improvements, it has led to methods that may be impractical for real-world deployment due to computational overhead and latency constraints. This paper investigates the potential synergy between reasoning enhancement and computational efficiency by analyzing the integration of two contrasting approaches: Quiet-STaR (Self-Taught Reasoner) and REBASE (REward BAlanced SEarch). Through comprehensive empirical analysis using the Mistral-7B model on the GSM8K dataset, we demonstrate that while each method excels in its primary objective-Quiet-STaR achieving superior accuracy (32.03%) despite high computational cost (554.66s runtime, 12.73T FLOPs), and REBASE providing exceptional efficiency (8.47s runtime, 2.35T FLOPs) while maintaining baseline-comparable accuracy (10.94%)-their integration reveals fundamental challenges in reconciling reasoning depth with computational efficiency. The combined approach unexpectedly results in degraded performance (9.38% accuracy, 143.66s runtime), highlighting critical insights about the complex interplay between reasoning enhancement and efficiency optimization in LLMs. Our findings illuminate the need for novel architectures and algorithms specifically designed to bridge the gap between these competing objectives, while providing concrete directions for future research in compute-efficient reasoning methods.
• Abstract（参考訳）: 大規模言語モデル(LLM)の最近の進歩は、精度と推論能力の最大化に重点を置いている。 このアプローチは驚くほどの精度向上をもたらしたが、計算オーバーヘッドとレイテンシの制約のため、現実のデプロイメントでは実用的でないメソッドが導かれた。 本稿では,Quiet-STaR (Self-Taught Reasoner) とREBASE (Reward BAlanced Search) の2つのコントラストアプローチを統合することにより,推論の強化と計算効率の相乗効果について検討する。 GSM8Kデータセット上のMistral-7Bモデルを用いた総合的な実験分析により、計算コストが高い(554.66sランタイム、12.73T FLOPs)にもかかわらず、それぞれの手法が主目的であるQuiet-STaRにおいて優れた精度(32.03%)を保ちながら、例外的な効率(8.47sランタイム、2.35T FLOPs)を提供するREBASEをベースラインコンパタブルな精度(10.94%)を維持しながら、その統合が計算効率で推論の深さを再現する根本的な課題を明らかにした。 組み合わせたアプローチは予想外の性能低下(9.38%の精度、143.66sランタイム)を招き、LLMにおける推論の強化と効率の最適化の間の複雑な相互作用に関する重要な洞察を浮き彫りにした。 本研究は,これらの競合する目的のギャップを埋めるために設計された新しいアーキテクチャやアルゴリズムの必要性を浮き彫りにし,計算効率の高い推論手法の具体的な研究の方向性を示した。

関連論文リスト

• Stochastic Subspace Descent Accelerated via Bi-fidelity Line Search [2.2940141855172036]
  本研究では,新しいゼロ階最適化法であるBF-SSDアルゴリズムを導入する。 BF-SSDは、高忠実度評価を著しく少なくしながら、優れた最適化性能を継続的に達成する。 本研究は,BF-SSDを有望かつ計算効率のよいアプローチとして位置づけ,ゼロ階最適化における両忠実性の統合の有効性を強調した。
  論文  参考訳（メタデータ） (2025-04-30T20:17:35Z)
• Learning Adaptive Parallel Reasoning with Language Models [70.1745752819628]
  本稿では,適応並列推論(Adaptive Parallel Reasoning, APR)を提案する。 APRは、spawn()とjoin()操作を使用して適応的なマルチスレッド推論を可能にすることで、既存の推論メソッドを一般化する。 鍵となる革新は、親と子の両方の推論スレッドを最適化して、事前に定義された推論構造を必要とせずにタスクの成功率を高める、エンドツーエンドの強化学習戦略である。
  論文  参考訳（メタデータ） (2025-04-21T22:29:02Z)
• R-PRM: Reasoning-Driven Process Reward Modeling [53.06844294668382]
  プロセス・リワード・モデル(Process Reward Models, PRM)は、各推論ステップを評価することによって、有望なソリューションとして登場した。 既存のPRMは評価スコアを直接出力し、学習効率と評価精度の両方を制限する。 推論駆動プロセスリワードモデリング(R-PRM)を提案する。 R-PRMは限られたアノテーションからシードデータを生成し、効果的にモデルの推論能力をブートストラップします。
  論文  参考訳（メタデータ） (2025-03-27T09:23:08Z)
• Reward-Guided Speculative Decoding for Efficient LLM Reasoning [80.55186052123196]
  Reward-Guided Speculative Decoding (RSD)は,大規模言語モデル(LLM)における推論の効率向上を目的とした新しいフレームワークである。 RSDは、厳密な偏りを強制する既存の投機的復号法とは対照的に、制御されたバイアスをハイリワード出力の優先順位付けに取り入れている。 RSDは,対象モデルのみでの復号化に対して,高い効率向上を実現し,並列復号法よりも高い精度を実現している。
  論文  参考訳（メタデータ） (2025-01-31T17:19:57Z)
• Evaluating the effectiveness, reliability and efficiency of a multi-objective sequential optimization approach for building performance design [0.8168080812068832]
  本稿では,建築形状,ファブリック,HVACシステム,建築性能制御の多目的設計最適化のための逐次的アプローチを提案し,評価する。 シーケンシャルアプローチの性能は、NSGA-IIアルゴリズムと比較して、完全な因子探索と比較される。 本研究は、シーケンシャル最適化アプローチが、標準NSGA-IIアルゴリズムの高効率かつ堅牢な代替手段であることを示唆している。
  論文  参考訳（メタデータ） (2024-12-13T08:00:00Z)
• Dspy-based Neural-Symbolic Pipeline to Enhance Spatial Reasoning in LLMs [29.735465300269993]
  大規模言語モデル(LLM)は、様々なタスクにまたがる顕著な能力を示してきたが、しばしば空間的推論に苦しむ。 本稿では LLM と Answer Set Programming (ASP) の反復的フィードバックにより LLM の空間推論能力を高める新しいニューラルシンボリックフレームワークを提案する。 我々は、StepGameとSparQAという2つのベンチマークデータセットに対するアプローチを評価した。
  論文  参考訳（メタデータ） (2024-11-27T18:04:05Z)
• Software Fault Localization Based on Multi-objective Feature Fusion and Deep Learning [1.6724380665811045]
  ソフトウェアのフォールトローカライゼーションは、機能の多様性が制限され、従来の手法の精度が低いため、依然として困難である。 本稿では,多目的最適化を深層学習モデルに統合し,フォールトローカライゼーション(FL)の精度と効率を両立させる手法を提案する。
  論文  参考訳（メタデータ） (2024-11-26T04:37:32Z)
• The Role of Deductive and Inductive Reasoning in Large Language Models [37.430396755248104]
  本稿では,大規模言語モデル(LLM)推論を強化するために,DID法を提案する。 DIDはリトルストーン次元と情報エントロピーを組み合わせた2次元複雑度評価システムを実装している。 その結果,推理精度と解の精度は有意に向上した。
  論文  参考訳（メタデータ） (2024-10-03T18:30:47Z)
• LLaMA-Berry: Pairwise Optimization for O1-like Olympiad-Level Mathematical Reasoning [56.273799410256075]
  このフレームワークはMonte Carlo Tree Search (MCTS)と反復的なSelf-Refineを組み合わせて推論パスを最適化する。 このフレームワークは、一般的なベンチマークと高度なベンチマークでテストされており、探索効率と問題解決能力の点で優れた性能を示している。
  論文  参考訳（メタデータ） (2024-10-03T18:12:29Z)
• Derailer-Rerailer: Adaptive Verification for Efficient and Reliable Language Model Reasoning [11.765298236504155]
  Derailer-Rerailerは推論精度と計算効率のバランスをとる新しいフレームワークである。 提案手法は,従来の検証手法に比べて2～3倍の効率を維持しつつ,大幅な精度向上(8～11%)を実現している。
  論文  参考訳（メタデータ） (2024-08-25T21:20:17Z)
• Adaptive Layer Splitting for Wireless LLM Inference in Edge Computing: A Model-Based Reinforcement Learning Approach [18.153641696306707]
  本研究では、モデルベース強化学習(MBRL)からインスピレーションを得て、エッジとユーザ機器(UE)間の最適分割点を決定するフレームワークを提案する。 報酬代理モデルを導入することで、頻繁な性能評価の計算コストを大幅に削減できる。
  論文  参考訳（メタデータ） (2024-06-03T09:41:42Z)
• MindStar: Enhancing Math Reasoning in Pre-trained LLMs at Inference Time [51.5039731721706]
  MindStarは、大言語モデルの純粋に推論に基づく探索手法である。 推論タスクを探索問題として定式化し、最適な推論経路を特定するための2つの探索アイデアを提案する。 Llama-2-13BやMistral-7Bのようなオープンソースモデルの推論能力を大幅に向上させ、GPT-3.5やGrok-1に匹敵する性能を実現している。
  論文  参考訳（メタデータ） (2024-05-25T15:07:33Z)
• Attention is Naturally Sparse with Gaussian Distributed Input [8.602260591839318]
  本研究では,Large Language Models (LLMs) における注意点の空間性に関する厳密な理論的解析を行った。 我々の主な貢献は、空間が注意機構にどのように現れるかに関する詳細な理論的考察を提供することであり、計算貯蓄とモデルの有効性の間の潜在的なトレードオフに関する洞察を提供する。
  論文  参考訳（メタデータ） (2024-04-03T12:37:34Z)
• Outlier-Robust Sparse Estimation via Non-Convex Optimization [73.18654719887205]
  空間的制約が存在する場合の高次元統計量と非破壊的最適化の関連について検討する。 これらの問題に対する新規で簡単な最適化法を開発した。 結論として、効率よくステーションに収束する一階法は、これらのタスクに対して効率的なアルゴリズムを導出する。
  論文  参考訳（メタデータ） (2021-09-23T17:38:24Z)
• Combining Deep Learning and Optimization for Security-Constrained Optimal Power Flow [94.24763814458686]
  セキュリティに制約のある最適電力フロー(SCOPF)は、電力システムの基本である。 SCOPF問題におけるAPRのモデル化は、複雑な大規模混合整数プログラムをもたらす。 本稿では,ディープラーニングとロバスト最適化を組み合わせた新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-07-14T12:38:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。