論文の概要: Inference Scaling vs Reasoning: An Empirical Analysis of Compute-Optimal LLM Problem-Solving

• arxiv url: http://arxiv.org/abs/2412.16260v1
• Date: Fri, 20 Dec 2024 08:42:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-24 15:52:59.365726
• Title: Inference Scaling vs Reasoning: An Empirical Analysis of Compute-Optimal LLM Problem-Solving
• Title（参考訳）: 推論スケーリングと推論:Compute-Optimal LLM Problem-Solvingの実証分析
• Authors: Marwan AbdElhameed, Pavly Halim,
• Abstract要約: 大規模言語モデル(LLM)の最近の進歩は、精度と推論能力の最大化に重点を置いている。 本稿では,2つの対照的なアプローチの統合を解析することにより,推論の強化と計算効率の相乗効果について検討する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Recent advances in large language models (LLMs) have predominantly focused on maximizing accuracy and reasoning capabilities, often overlooking crucial computational efficiency considerations. While this approach has yielded impressive accuracy improvements, it has led to methods that may be impractical for real-world deployment due to computational overhead and latency constraints. This paper investigates the potential synergy between reasoning enhancement and computational efficiency by analyzing the integration of two contrasting approaches: Quiet-STaR (Self-Taught Reasoner) and REBASE (REward BAlanced SEarch). Through comprehensive empirical analysis using the Mistral-7B model on the GSM8K dataset, we demonstrate that while each method excels in its primary objective-Quiet-STaR achieving superior accuracy (32.03%) despite high computational cost (554.66s runtime, 12.73T FLOPs), and REBASE providing exceptional efficiency (8.47s runtime, 2.35T FLOPs) while maintaining baseline-comparable accuracy (10.94%)-their integration reveals fundamental challenges in reconciling reasoning depth with computational efficiency. The combined approach unexpectedly results in degraded performance (9.38% accuracy, 143.66s runtime), highlighting critical insights about the complex interplay between reasoning enhancement and efficiency optimization in LLMs. Our findings illuminate the need for novel architectures and algorithms specifically designed to bridge the gap between these competing objectives, while providing concrete directions for future research in compute-efficient reasoning methods.
• Abstract（参考訳）: 大規模言語モデル(LLM)の最近の進歩は、精度と推論能力の最大化に重点を置いている。 このアプローチは驚くほどの精度向上をもたらしたが、計算オーバーヘッドとレイテンシの制約のため、現実のデプロイメントでは実用的でないメソッドが導かれた。 本稿では,Quiet-STaR (Self-Taught Reasoner) とREBASE (Reward BAlanced Search) の2つのコントラストアプローチを統合することにより,推論の強化と計算効率の相乗効果について検討する。 GSM8Kデータセット上のMistral-7Bモデルを用いた総合的な実験分析により、計算コストが高い(554.66sランタイム、12.73T FLOPs)にもかかわらず、それぞれの手法が主目的であるQuiet-STaRにおいて優れた精度(32.03%)を保ちながら、例外的な効率(8.47sランタイム、2.35T FLOPs)を提供するREBASEをベースラインコンパタブルな精度(10.94%)を維持しながら、その統合が計算効率で推論の深さを再現する根本的な課題を明らかにした。 組み合わせたアプローチは予想外の性能低下(9.38%の精度、143.66sランタイム)を招き、LLMにおける推論の強化と効率の最適化の間の複雑な相互作用に関する重要な洞察を浮き彫りにした。 本研究は,これらの競合する目的のギャップを埋めるために設計された新しいアーキテクチャやアルゴリズムの必要性を浮き彫りにし,計算効率の高い推論手法の具体的な研究の方向性を示した。

関連論文リスト

• Software Fault Localization Based on Multi-objective Feature Fusion and Deep Learning [1.6724380665811045]
  ソフトウェアのフォールトローカライゼーションは、機能の多様性が制限され、従来の手法の精度が低いため、依然として困難である。 本稿では,多目的最適化を深層学習モデルに統合し,フォールトローカライゼーション(FL)の精度と効率を両立させる手法を提案する。
  論文  参考訳（メタデータ） (2024-11-26T04:37:32Z)
• LLaMA-Berry: Pairwise Optimization for O1-like Olympiad-Level Mathematical Reasoning [56.273799410256075]
  このフレームワークはMonte Carlo Tree Search (MCTS)と反復的なSelf-Refineを組み合わせて推論パスを最適化する。 このフレームワークは、一般的なベンチマークと高度なベンチマークでテストされており、探索効率と問題解決能力の点で優れた性能を示している。
  論文  参考訳（メタデータ） (2024-10-03T18:12:29Z)
• OPTDTALS: Approximate Logic Synthesis via Optimal Decision Trees Approach [9.081146426124482]
  近似論理合成(ALS)は、正確性を犠牲にして回路の複雑さを低減することを目的としている。 最適決定木を経験的精度で学習することで近似を実現する新しいALS手法を提案する。
  論文  参考訳（メタデータ） (2024-08-22T11:23:58Z)
• Adaptive Layer Splitting for Wireless LLM Inference in Edge Computing: A Model-Based Reinforcement Learning Approach [18.153641696306707]
  本研究では、モデルベース強化学習(MBRL)からインスピレーションを得て、エッジとユーザ機器(UE)間の最適分割点を決定するフレームワークを提案する。 報酬代理モデルを導入することで、頻繁な性能評価の計算コストを大幅に削減できる。
  論文  参考訳（メタデータ） (2024-06-03T09:41:42Z)
• MindStar: Enhancing Math Reasoning in Pre-trained LLMs at Inference Time [51.5039731721706]
  MindStarは、大言語モデルの純粋に推論に基づく探索手法である。 推論タスクを探索問題として定式化し、最適な推論経路を特定するための2つの探索アイデアを提案する。 Llama-2-13BやMistral-7Bのようなオープンソースモデルの推論能力を大幅に向上させ、GPT-3.5やGrok-1に匹敵する性能を実現している。
  論文  参考訳（メタデータ） (2024-05-25T15:07:33Z)
• Attention is Naturally Sparse with Gaussian Distributed Input [8.602260591839318]
  本研究では,Large Language Models (LLMs) における注意点の空間性に関する厳密な理論的解析を行った。 我々の主な貢献は、空間が注意機構にどのように現れるかに関する詳細な理論的考察を提供することであり、計算貯蓄とモデルの有効性の間の潜在的なトレードオフに関する洞察を提供する。
  論文  参考訳（メタデータ） (2024-04-03T12:37:34Z)
• Advancing LLM Reasoning Generalists with Preference Trees [119.57169648859707]
  推論に最適化された大規模言語モデル(LLM)のスイートであるEulusを紹介する。 Eurusモデルは、様々なベンチマークでオープンソースのモデルの間で最先端の結果を得る。
  論文  参考訳（メタデータ） (2024-04-02T16:25:30Z)
• Representation Learning with Multi-Step Inverse Kinematics: An Efficient and Optimal Approach to Rich-Observation RL [106.82295532402335]
  既存の強化学習アルゴリズムは、計算的難易度、強い統計的仮定、最適なサンプルの複雑さに悩まされている。 所望の精度レベルに対して、レート最適サンプル複雑性を実現するための、最初の計算効率の良いアルゴリズムを提供する。 我々のアルゴリズムMusIKは、多段階の逆運動学に基づく表現学習と体系的な探索を組み合わせる。
  論文  参考訳（メタデータ） (2023-04-12T14:51:47Z)
• Outlier-Robust Sparse Estimation via Non-Convex Optimization [73.18654719887205]
  空間的制約が存在する場合の高次元統計量と非破壊的最適化の関連について検討する。 これらの問題に対する新規で簡単な最適化法を開発した。 結論として、効率よくステーションに収束する一階法は、これらのタスクに対して効率的なアルゴリズムを導出する。
  論文  参考訳（メタデータ） (2021-09-23T17:38:24Z)
• EQ-Net: A Unified Deep Learning Framework for Log-Likelihood Ratio Estimation and Quantization [25.484585922608193]
  EQ-Netは,データ駆動手法を用いてログ類似度(LLR)推定と量子化の両課題を解決する,最初の包括的フレームワークである。 広範な実験評価を行い,両タスクにおいて単一アーキテクチャが最先端の成果を達成できることを実証する。
  論文  参考訳（メタデータ） (2020-12-23T18:11:30Z)
• Combining Deep Learning and Optimization for Security-Constrained Optimal Power Flow [94.24763814458686]
  セキュリティに制約のある最適電力フロー(SCOPF)は、電力システムの基本である。 SCOPF問題におけるAPRのモデル化は、複雑な大規模混合整数プログラムをもたらす。 本稿では,ディープラーニングとロバスト最適化を組み合わせた新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-07-14T12:38:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。