論文の概要: Are More Tokens Rational? Inference-Time Scaling in Language Models as Adaptive Resource Rationality

• arxiv url: http://arxiv.org/abs/2602.10329v1
• Date: Tue, 10 Feb 2026 22:07:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-12 21:44:01.308561
• Title: Are More Tokens Rational? Inference-Time Scaling in Language Models as Adaptive Resource Rationality
• Title（参考訳）: より多くのトークンは合理的か? 適応的資源関係性としての言語モデルにおける推論時間スケーリング
• Authors: Zhimin Hu, Riya Roshan, Sashank Varma,
• Abstract要約: 本稿では,変数が与えられた候補変数,入出力試行,事前定義された論理関数をどの変数が決定するかを推定する可変属性タスクを提案する。 どちらのモデルも、複雑さが増加するにつれて、ブルートフォースから分析戦略への移行を示す。 これらの結果から,コストベースの報酬を伴わないモデルでも,タスクの複雑さに応じて推論動作を調整できることが示唆された。
• 参考スコア（独自算出の注目度）: 1.5994376682356057
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Human reasoning is shaped by resource rationality -- optimizing performance under constraints. Recently, inference-time scaling has emerged as a powerful paradigm to improve the reasoning performance of Large Language Models by expanding test-time computation. Specifically, instruction-tuned (IT) models explicitly generate long reasoning steps during inference, whereas Large Reasoning Models (LRMs) are trained by reinforcement learning to discover reasoning paths that maximize accuracy. However, it remains unclear whether resource-rationality can emerge from such scaling without explicit reward related to computational costs. We introduce a Variable Attribution Task in which models infer which variables determine outcomes given candidate variables, input-output trials, and predefined logical functions. By varying the number of candidate variables and trials, we systematically manipulate task complexity. Both models exhibit a transition from brute-force to analytic strategies as complexity increases. IT models degrade on XOR and XNOR functions, whereas LRMs remain robust. These findings suggest that models can adjust their reasoning behavior in response to task complexity, even without explicit cost-based reward. It provides compelling evidence that resource rationality is an emergent property of inference-time scaling itself.
• Abstract（参考訳）: 人間の推論はリソースの合理性によって形成されます。 近年,大規模言語モデルの推論性能を向上させるために,テスト時間計算の拡張による推論時間スケーリングが強力なパラダイムとして出現している。 具体的には、命令調整(IT)モデルが推論中に長い推論ステップを明示的に生成するのに対し、Large Reasoning Models(LRM)は強化学習によって学習し、精度を最大化する推論パスを発見する。 しかし、そのようなスケーリングから資源の合理性が、計算コストに関する明確な報酬なしに生まれるかどうかは不明だ。 本稿では,変数が与えられた候補変数,入出力試行,事前定義された論理関数をどの変数が決定するかを推定する可変属性タスクを提案する。 候補変数の数や試行数を変えることで,タスクの複雑性を体系的に操作する。 どちらのモデルも、複雑さが増加するにつれて、ブルートフォースから分析戦略への移行を示す。 ITモデルはXORとXNOR関数で分解されるが、LRMは堅牢である。 これらの結果から,コストベースの報酬を伴わないモデルでも,タスクの複雑さに応じて推論動作を調整できることが示唆された。 これは、リソース合理性が推論時間スケーリング自体の創発的な性質であることを示す説得力のある証拠を提供する。

関連論文リスト

• Reasoning Pattern Matters: Learning to Reason without Human Rationales [27.684703630371043]
  大規模言語モデル(LLM)は、広く採用されているSFT+RLVRパラダイムの下で顕著な推論能力を示している。 本稿では,推論性能を損なうことなく,合理的アノテーションのコストを大幅に削減する方法について検討する。
  論文  参考訳（メタデータ） (2025-10-14T15:34:38Z)
• Making Mathematical Reasoning Adaptive [61.45161826629692]
  大規模言語モデル(LLM)における適応推論を実現するためのAdaRフレームワークを提案する。 AdaRは可変値によって論理的に等価なクエリを合成し、これらのデータに基づいてRLVRでモデルを訓練し、スプリアス論理をペナルライズする。 実験により, AdaRはロバスト性や一般化を向上し, 数学的推論の大幅な改善を実現していることが示された。
  論文  参考訳（メタデータ） (2025-10-06T09:30:05Z)
• Beyond Memorization: Extending Reasoning Depth with Recurrence, Memory and Test-Time Compute Scaling [60.63703438729223]
  異なるアーキテクチャとトレーニング手法がモデル多段階推論能力にどのように影響するかを示す。 我々は,逐次計算においてモデル深度の増加が重要な役割を担っていることを確認した。
  論文  参考訳（メタデータ） (2025-08-22T18:57:08Z)
• Fractional Reasoning via Latent Steering Vectors Improves Inference Time Compute [60.151643048803145]
  本稿では,推論時の推論強度を連続的に制御するフレームワークであるフラクショナル推論を提案する。 提案手法は, より深い推論を伴う潜在ステアリングベクトルを抽出し, 調整可能なスケーリング係数で再適用することによって機能する。 GSM8K、MATH500、GPQAの実験により、フラクショナル推論は様々な推論タスクやモデルのパフォーマンスを一貫して改善することを示した。
  論文  参考訳（メタデータ） (2025-06-18T21:15:59Z)
• A Theory of Inference Compute Scaling: Reasoning through Directed Stochastic Skill Search [15.387256204743407]
  大規模言語モデル(LLM)は、訓練と配備の間にかなりの計算量、エネルギー、財務資源を必要とする。 推論コストは、今やリソース全体の負担の重要かつ増大する要素である。 本稿では,学習したスキルグラフ上での推論を表現力として表現する一般的なフレームワークである有向スキルサーチ(DS3)を紹介する。
  論文  参考訳（メタデータ） (2025-06-10T14:47:48Z)
• LIMOPro: Reasoning Refinement for Efficient and Effective Test-time Scaling [39.61818305829112]
  PIR(Perplexity-based Importance Refinement)は,各推論ステップの重要性を定量的に評価するフレームワークである。 PIRは、プログレッシブ推論コンポーネントを保持しながら、低重要機能ステップのみを特定し、選択的にプーンする。 我々のアプローチは、異なるモデルサイズ、データソース、トークン予算にまたがる強力な一般化可能性を示す。
  論文  参考訳（メタデータ） (2025-05-25T15:17:57Z)
• Stop Overthinking: A Survey on Efficient Reasoning for Large Language Models [49.61246073215651]
  大規模言語モデル(LLM)は複雑なタスクにおいて顕著な機能を示した。 OpenAI o1とDeepSeek-R1の最近の進歩は、System-2推論ドメインのパフォーマンスをさらに改善した。 しかし、冗長な出力と冗長な出力による計算オーバーヘッドも大幅に発生する。
  論文  参考訳（メタデータ） (2025-03-20T17:59:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。