論文の概要: Counting on Thinking: Tracing Evidence Integration in Language Models

• arxiv url: http://arxiv.org/abs/2609.32932v1
• Date: Sat, 26 Sep 2026 20:44:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 11:52:39.862619
• Title: Counting on Thinking: Tracing Evidence Integration in Language Models
• Title（参考訳）: 思考のカウント:言語モデルにおけるエビデンス統合の追跡
• Abstract要約: 大規模言語モデル(LLM)は、難しい問題に余分な計算を費やすことができるが、直接答えは数えるのに苦労する。 我々は, 直接応答に欠ける累積数の思考構造が, 既に形成されている思考の読み出しよりも優れていることを示す。
• 参考スコア（独自算出の注目度）: 0.19116784879310025
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Finite computational resources force a tradeoff between automatic System 1 processes and costly System 2 thinking. Large language models (LLMs) can spend extra computation on hard problems, yet direct answers struggle even with counting, an elementary operation humans and animals perform automatically. We ask why this requires thinking in LLMs. Evidence integration has long been used in psychology and neuroscience to probe decision-making. Our evidence-integration task presents one letter per conversational turn and asks which of two target letters appeared more often. A running count difference solves the task optimally by weighting every letter equally; tokens at each turn could represent and update this difference. Direct responses instead weighted evidence unevenly, with strong recency effects, and assigned less probability to the correct answer as difficulty increased. Thinking improved performance and made integration weights nearly uniform, yet final-query attention remained concentrated on the sequence ends in both modes. Reasoning trajectories showed models revisiting input, recounting letters, and checking intermediate counts that informed the answer, suggesting that thinking constructs the accumulated count that direct responses lack rather than reading out one already formed. Reasoning-token costs grew with the number of letters far more than with coherence. Outcome feedback did not bring this computation into direct responses: under in-context reinforcement learning (ICRL), performance deteriorated over repeated games and recency effects strengthened, yet models grew more confident. Humans and animals amortize such computations into automatic processes, whereas current LLMs still pay for them with thinking on every trial. Which operations learning can make directly available remains central to how future models allocate computation.
• Abstract（参考訳）: 有限計算資源は、システム1プロセスとコストのかかるシステム2思考のトレードオフを強制する。 大規模言語モデル(LLM)は、難しい問題に余分な計算を費やすことができるが、人間と動物が自動的に実行する基本的な操作である数え上げに苦戦している。 LLMで考える必要がある理由を問う。 エビデンス統合は、意思決定を調査するために心理学と神経科学で長い間使われてきた。 我々のエビデンス統合タスクは会話毎の1文字を提示し、2文字のうちどれがより頻繁に現れるかを尋ねる。 ランニングカウント差分は各文字を等しく重み付けすることでタスクを最適に解決する。 直接反応は不均一に証拠を重み付け、強い相対性効果を持ち、困難が増すにつれて正解の確率が低下した。 性能を改善し、統合重量をほぼ均一にしたが、最終クエリの注意は両方のモードでシーケンスの端に集中したままであった。 Reasoning trajectories showed models revisiting input, recounting letters, and check intermediate counts that told the answer。 推論のコストは、一貫性よりもはるかに多い文字数で増大した。 インコンテキスト強化学習(ICRL)の下では、繰り返しゲームによって性能が低下し、遅延効果が強くなったが、モデルはより自信を増した。 人間や動物はそのような計算を自動的なプロセスに保存するが、現在のLSMはあらゆる試行について考えることで代償を支払う。 どの操作学習が直接利用できるかは、将来のモデルが計算を割り当てる方法の中心のままである。

関連論文リスト

• More Yap Less Meaning: Uncovering Self-Improvement Behavior in SLMs [3.373200015661364]
  本研究では,小言語モデル(SLM)の自己補正能力について検討する。 本稿では,SLMの初期回答を収集する最小3ステップの自己補正パイプラインを提案する。 本研究では,算術的および論理的推論ベンチマークを用いた実験装置において,様々な命令調整および推論SLMを評価した。
  論文  参考訳（メタデータ） (2026-06-07T06:27:37Z)
• VideoAuto-R1: Video Auto Reasoning via Thinking Once, Answering Twice [88.93674345138054]
  CoT推論(Chain-of-thinkt)は、ビデオ理解タスクにおけるマルチモーダルな大規模言語モデルのための強力なツールとして登場した。 本稿では,ビデオ理解フレームワークであるVideoAuto-R1を提案する。
  論文  参考訳（メタデータ） (2026-01-08T18:00:59Z)
• The Price of a Second Thought: On the Evaluation of Reasoning Efficiency in Large Language Models [54.88805865447848]
  モデルが全体の効率を向上し,問題の難しさが効率に影響を及ぼすことを示す。 インストラクションモデルが簡単なアウトラインをドラフトし,思考モデルがそれを拡張する,シンプルな2段階パイプラインであるCOTHINKを提案する。 GSM8K、MATH500、AIME24では、COTHINKはトークンの使用量を21.1%削減し、4つの思考モデルの精度を維持し、強力な効率のベースラインと競争し続ける。
  論文  参考訳（メタデータ） (2025-05-28T06:24:45Z)
• Thinkless: LLM Learns When to Think [57.857534644932194]
  推論モデル(Reasoning Language Models)は、複雑な論理的推論を必要とするタスクにおいて顕著な性能を示す。 我々は,LLMが短文推論と長文推論を適応的に選択できる学習可能なフレームワークであるThinklessを提案する。 Minerva Algebra、MATH-500、GSM8Kなどのベンチマークでは、Thinklessはロングチェーン思考の使用を50%から90%削減することができる。
  論文  参考訳（メタデータ） (2025-05-19T17:24:16Z)
• Read Before You Think: Mitigating LLM Comprehension Failures with Step-by-Step Reading [2.073147245888634]
  大きな言語モデル(LLM)は、問題理解の欠陥によって複雑な推論タスクで失敗することが多い。 本稿では,これらの理解障害について,系統的研究を行う。 本稿では,ステップ・バイ・ステップ・レディング(SSR)ファミリについて紹介する。
  論文  参考訳（メタデータ） (2025-04-13T02:10:18Z)
• FINEREASON: Evaluating and Improving LLMs' Deliberate Reasoning through Reflective Puzzle Solving [90.88021670297664]
  FINEREASONは、大規模言語モデルの推論能力を評価するための論理パズルベンチマークである。 状態チェックと状態遷移という2つのタスクを導入し、モデルが現在の状況をどのように評価するかを総合的に評価し、次の動きを計画する。 状態チェックと遷移データに基づいてトレーニングされたモデルでは、GSM8Kで最大5.1%の精度で数学推論が向上することを示す。
  論文  参考訳（メタデータ） (2025-02-27T16:23:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。