論文の概要: Rethinking External Slow-Thinking: From Snowball Errors to Probability of Correct Reasoning

• arxiv url: http://arxiv.org/abs/2501.15602v1
• Date: Sun, 26 Jan 2025 17:05:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-28 13:59:38.609805
• Title: Rethinking External Slow-Thinking: From Snowball Errors to Probability of Correct Reasoning
• Title（参考訳）: 外側のスローシンキングを再考する: 雪玉誤差から正しい推論の確率へ
• Authors: Zeyu Gan, Yun Liao, Yong Liu,
• Abstract要約: テストタイムスケーリングは、大規模言語モデルにおける多段階推論を強化することが実証されている。 本稿では,外的スロー思考手法を誤り確率を緩和するための戦略として解釈できることを示す。
• 参考スコア（独自算出の注目度）: 10.040765460408233
• License:
• Abstract: Test-time scaling, which is also often referred to as \textit{slow-thinking}, has been demonstrated to enhance multi-step reasoning in large language models (LLMs). However, despite its widespread utilization, the mechanisms underlying slow-thinking methods remain poorly understood. This paper explores the mechanisms of external slow-thinking from a theoretical standpoint. We begin by examining the snowball error effect within the LLM reasoning process and connect it to the likelihood of correct reasoning using information theory. Building on this, we show that external slow-thinking methods can be interpreted as strategies to mitigate the error probability. We further provide a comparative analysis of popular external slow-thinking approaches, ranging from simple to complex, highlighting their differences and interrelationships. Our findings suggest that the efficacy of these methods is not primarily determined by the specific framework employed, and that expanding the search scope or the model's internal reasoning capacity may yield more sustained improvements in the long term. We open-source our code at \url{https://github.com/ZyGan1999/Snowball-Errors-and-Probability}.
• Abstract（参考訳）: テストタイムスケーリングは、しばしば「textit{slow-thinking}」とも呼ばれるが、大規模言語モデル(LLM)における多段階推論を強化することが実証されている。 しかし、その普及にもかかわらず、緩やかな思考法の基礎となるメカニズムはいまだに理解されていない。 本稿では,理論的観点から外的緩やかな思考のメカニズムを考察する。 まず,LLM推論プロセス内の雪玉誤差効果を調べ,情報理論を用いた正しい推論の可能性に接続する。 これに基づいて、外的スロー思考手法は、エラー確率を緩和する戦略として解釈できることを示す。 さらに、簡単なものから複雑なものまで、その相違点と相互関係を明らかにするような、一般的な外的緩やかなアプローチの比較分析も行います。 提案手法の有効性は, 特定の枠組みによって決定されるものではなく, 探索範囲の拡大やモデルの内部推論能力の向上により, 長期にわたってより持続的な改善が期待できる可能性が示唆された。 当社のコードは、 \url{https://github.com/ZyGan 1999/Snowball-Errors-and-Probability} でオープンソース化しています。

関連論文リスト

• Hypothesis-Driven Theory-of-Mind Reasoning for Large Language Models [76.6028674686018]
  エージェントの精神状態を追跡するための推論時間推論アルゴリズムである思考トレースを導入する。 提案アルゴリズムは,ベイズ理論をモデルとした。 本研究は,様々なベンチマークにおける思考トレーシングを評価し,大幅な性能向上を実証した。
  論文  参考訳（メタデータ） (2025-02-17T15:08:50Z)
• Bridging Internal Probability and Self-Consistency for Effective and Efficient LLM Reasoning [53.25336975467293]
  パープレキシティや自己整合性などの手法の第一理論誤差分解解析について述べる。 パープレキシティ法は、適切な整合関数が存在しないため、かなりのモデル誤差に悩まされる。 本稿では、自己整合性とパープレキシティを統合したReasoning-Pruning Perplexity Consistency(RPC)と、低確率推論経路を排除したReasoning Pruningを提案する。
  論文  参考訳（メタデータ） (2025-02-01T18:09:49Z)
• Thoughts Are All Over the Place: On the Underthinking of o1-Like LLMs [86.79757571440082]
  OpenAIのo1のような大規模言語モデル(LLM)は複雑な推論タスクにおいて顕著な能力を示している。 我々は、o1-like LLMがしばしば異なる理性的思考を切り替える、という現象を特定する。 本稿では,思考間の早期移行を回避できる思考切替ペナルティTIPを用いた復号戦略を提案する。
  論文  参考訳（メタデータ） (2025-01-30T18:58:18Z)
• Think More, Hallucinate Less: Mitigating Hallucinations via Dual Process of Fast and Slow Thinking [124.69672273754144]
  HaluSearchは、ツリー検索ベースのアルゴリズムを組み込んだ新しいフレームワークである。 テキスト生成をステップバイステップの推論プロセスとしてフレーム化する。 認知科学における二重プロセス理論に着想を得た階層的思考システムスイッチ機構を導入する。
  論文  参考訳（メタデータ） (2025-01-02T15:36:50Z)
• Make LLMs better zero-shot reasoners: Structure-orientated autonomous reasoning [52.83539473110143]
  本稿では,Large Language Models (LLM) の質問をよりよく理解するための構造指向分析手法を提案する。 複雑な質問応答タスクの信頼性をさらに向上するために,多エージェント推論システム,構造指向自律推論エージェント(SARA)を提案する。 大規模な実験により,提案システムの有効性が検証された。
  論文  参考訳（メタデータ） (2024-10-18T05:30:33Z)
• Does Reasoning Emerge? Examining the Probabilities of Causation in Large Language Models [6.922021128239465]
  AIの最近の進歩は、大規模言語モデル(LLM)の能力によって推進されている。 本稿では,LLMが実世界の推論機構をいかに効果的に再現できるかを評価することを目的とした,理論的かつ実用的なフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-08-15T15:19:11Z)
• MR-Ben: A Meta-Reasoning Benchmark for Evaluating System-2 Thinking in LLMs [55.20845457594977]
  大規模言語モデル(LLM)は、問題解決と意思決定の能力の向上を示している。 本稿ではメタ推論技術を必要とするプロセスベースのベンチマークMR-Benを提案する。 メタ推論のパラダイムは,システム2のスロー思考に特に適しています。
  論文  参考訳（メタデータ） (2024-06-20T03:50:23Z)
• Feedback in Imitation Learning: Confusion on Causality and Covariate Shift [12.93527098342393]
  我々は,過去の行動に対する条件付けが,学習者の「実行」エラーと性能の劇的な相違につながることを論じる。 我々は、模倣学習アプローチをテストするために使用される既存のベンチマークを分析する。 従来の文献とは驚くほど対照的に,行動的クローン化は優れた結果をもたらすことが判明した。
  論文  参考訳（メタデータ） (2021-02-04T20:18:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。