Fugu-MT 論文翻訳(概要): SOLAR: Scalable Optimization of Large-scale Architecture for Reasoning

論文の概要: SOLAR: Scalable Optimization of Large-scale Architecture for Reasoning

arxiv url: http://arxiv.org/abs/2503.04530v1
Date: Thu, 06 Mar 2025 15:19:17 GMT
ステータス: 翻訳完了
システム内更新日: 2025-03-07 15:59:54.193052
Title: SOLAR: Scalable Optimization of Large-scale Architecture for Reasoning
Title（参考訳）: SOLAR: 推論のための大規模アーキテクチャのスケーラブルな最適化
Authors: Chen Li, Yinyi Luo, Anudeep Bolimera, Marios Savvides,
Abstract要約: SOLARは様々な推論トポロジを動的に最適化して精度と効率を向上させるフレームワークである。 Topological-Scalingは、トレーニングと推論のスケーリングを調整する報奨駆動のフレームワークである。報奨制度を育成するため,マルチタスク・トポロジカル・リワード・モデル (M-TRM) を訓練し,一つのパスで最適な推論トポロジと解答を自律的に選択する。
参考スコア（独自算出の注目度）: 16.236137837508096
License:
Abstract: Large Language Models (LLMs) excel in reasoning but remain constrained by their Chain-of-Thought (CoT) approach, which struggles with complex tasks requiring more nuanced topological reasoning. We introduce SOLAR, Scalable Optimization of Large-scale Architecture for Reasoning, a framework that dynamically optimizes various reasoning topologies to enhance accuracy and efficiency. Our Topological Annotation Generation (TAG) system automates topological dataset creation and segmentation, improving post-training and evaluation. Additionally, we propose Topological-Scaling, a reward-driven framework that aligns training and inference scaling, equipping LLMs with adaptive, task-aware reasoning. SOLAR achieves substantial gains on MATH and GSM8K: +5% accuracy with Topological Tuning, +9% with Topological Reward, and +10.02% with Hybrid Scaling. It also reduces response length by over 5% for complex problems, lowering inference latency. To foster the reward system, we train a multi-task Topological Reward Model (M-TRM), which autonomously selects the best reasoning topology and answer in a single pass, eliminating the need for training and inference on multiple single-task TRMs (S-TRMs), thus reducing both training cost and inference latency. In addition, in terms of performance, M-TRM surpasses all S-TRMs, improving accuracy by +10% and rank correlation by +9%. To the best of our knowledge, SOLAR sets a new benchmark for scalable, high-precision LLM reasoning while introducing an automated annotation process and a dynamic reasoning topology competition mechanism.
Abstract（参考訳）: 大きな言語モデル(LLM)は推論において優れているが、より微妙なトポロジ的推論を必要とする複雑なタスクに苦しむCoT(Chain-of-Thought)アプローチに制約される。 SOLAR, Scalable Optimization of Large-scale Architecture for Reasoningは,様々な推論トポロジを動的に最適化して精度と効率を向上させるフレームワークである。我々のトポロジカルアノテーション生成システム(TAG)は、トポロジカルデータセットの作成とセグメンテーションを自動化し、ポストトレーニングと評価を改善する。さらに,学習と推論のスケーリングを調整した報酬駆動型フレームワークであるTopological-Scalingを提案する。 SOLAR は MATH と GSM8K に対して,+5% がトポロジカルチューニング,+9% がトポロジカルリワード,+10.02% がハイブリッドスケーリングである。また、複雑な問題に対してレスポンス長を5%以上削減し、推論遅延を低減します。報奨システムを促進するため,マルチタスクトポロジ・リワード・モデル(M-TRM)を訓練し,最適な推論トポロジと解答を単一パスで自律的に選択し,複数のシングルタスクTRM(S-TRM)でのトレーニングや推論の必要性を排除し,トレーニングコストと推論遅延を低減した。さらに、性能の面では、M-TRMは全S-TRMを超え、精度を+10%、ランク相関を+9%向上する。我々の知る限り、SOLARは、自動アノテーションプロセスと動的推論トポロジ競合機構を導入しながら、スケーラブルで高精度なLCM推論のための新しいベンチマークを設定している。

関連論文リスト

LESA: Learnable LLM Layer Scaling-Up [57.0510934286449]
LLM(Large Language Models)をスクラッチからトレーニングするには膨大な計算資源が必要であるため、非常に高価である。モデルスケーリングアップは、より小さなモデルのパラメータを活用してより大きなモデルを作成することで、有望なソリューションを提供する。深度スケールアップのための新しい学習方法である textbfLESA を提案する。
論文参考訳（メタデータ） (2025-02-19T14:58:48Z)
When More is Less: Understanding Chain-of-Thought Length in LLMs [53.77747102201451]
CoT推論は大規模言語モデル(LLM)の多段階推論能力を高めるしかし、ほとんどのモデルやタスクでは、CoT長の増加は一貫して推論精度の向上につながりますか? 本稿では, 推論ステップの数が増加するにつれて, 性能は向上するが, 最終的には低下する,というニュアンスな関係を観察する。
論文参考訳（メタデータ） (2025-02-11T05:28:59Z)
AirRAG: Activating Intrinsic Reasoning for Retrieval Augmented Generation using Tree-based Search [4.4907551923591695]
本稿では,システム解析と効率的な推論行動を統合したRAGにおける新しい思考パターンを提案する。具体的には,本手法は5つの基本的な推論動作を設計し,より広い木に基づく推論空間に拡張する。実験により,複雑な質問応答データセットに対して,AirRAGの有効性を示す。
論文参考訳（メタデータ） (2025-01-17T09:16:13Z)
The Efficiency vs. Accuracy Trade-off: Optimizing RAG-Enhanced LLM Recommender Systems Using Multi-Head Early Exit [46.37267466656765]
本稿では,Retrieval-Augmented Generation(RAG)と革新的なマルチヘッドアーリーエグジットアーキテクチャを組み合わせた最適化フレームワークを提案する。我々の実験は、信頼性の高いレコメンデーション配信に必要な精度を犠牲にすることなく、このアーキテクチャがいかに効果的に時間を削減するかを実証している。
論文参考訳（メタデータ） (2025-01-04T03:26:46Z)
Compressing Large Language Models with Automated Sub-Network Search [41.452512557226335]
我々は、下流タスク性能を改善しつつ、モデルサイズの削減を図るため、大規模言語モデルに対するモデル圧縮を検討する。我々はこれを、構造的コンポーネントを自動生成するニューラルネットワーク探索問題と表現する。本手法は,11種類のダウンストリームタスクに対して平均9.85%の改善を実現し,デバイス上でのレイテンシを最大22%改善する。
論文参考訳（メタデータ） (2024-10-09T02:14:39Z)
LLaMA-Berry: Pairwise Optimization for O1-like Olympiad-Level Mathematical Reasoning [56.273799410256075]
このフレームワークはMonte Carlo Tree Search (MCTS)と反復的なSelf-Refineを組み合わせて推論パスを最適化する。このフレームワークは、一般的なベンチマークと高度なベンチマークでテストされており、探索効率と問題解決能力の点で優れた性能を示している。
論文参考訳（メタデータ） (2024-10-03T18:12:29Z)
MR-Ben: A Meta-Reasoning Benchmark for Evaluating System-2 Thinking in LLMs [55.20845457594977]
大規模言語モデル(LLM)は、問題解決と意思決定の能力の向上を示している。本稿ではメタ推論技術を必要とするプロセスベースのベンチマークMR-Benを提案する。メタ推論のパラダイムは,システム2のスロー思考に特に適しています。
論文参考訳（メタデータ） (2024-06-20T03:50:23Z)
Self-Exploring Language Models: Active Preference Elicitation for Online Alignment [88.56809269990625]
本研究では, 分布域外領域を積極的に探索するために, 潜在的に高次応答に対して楽観的に偏りを呈する2段階的客観性を提案する。実験の結果,Zephyr-7B-SFTとLlama-3-8B-Instructモデルで微調整した場合,SELM(Self-Exploring Language Models)は命令追従ベンチマークの性能を大幅に向上させることがわかった。
論文参考訳（メタデータ） (2024-05-29T17:59:07Z)
MindStar: Enhancing Math Reasoning in Pre-trained LLMs at Inference Time [51.5039731721706]
MindStarは、大言語モデルの純粋に推論に基づく探索手法である。推論タスクを探索問題として定式化し、最適な推論経路を特定するための2つの探索アイデアを提案する。 Llama-2-13BやMistral-7Bのようなオープンソースモデルの推論能力を大幅に向上させ、GPT-3.5やGrok-1に匹敵する性能を実現している。
論文参考訳（メタデータ） (2024-05-25T15:07:33Z)
Sci-CoT: Leveraging Large Language Models for Enhanced Knowledge Distillation in Small Models for Scientific QA [5.117094291273979]
大規模言語モデル(LLM)は、幅広い下流タスクで優れたパフォーマンスを示している。本稿では2段階のフレームワークであるSci-CoTを提案する。我々の8000万のパラメータモデルは、いくつかのショット設定の下でARC-EasyデータセットにおけるBLOOM-176Bの性能を上回ることができる。
論文参考訳（メタデータ） (2023-08-09T03:18:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。