論文の概要: Reasoning over mathematical objects: on-policy reward modeling and test time aggregation
- arxiv url: http://arxiv.org/abs/2603.18886v1
- Date: Thu, 19 Mar 2026 13:27:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-20 17:19:06.164571
- Title: Reasoning over mathematical objects: on-policy reward modeling and test time aggregation
- Title(参考訳): 数学的対象に対する推論--オンライン報酬モデリングとテスト時間アグリゲーション
- Authors: Pranjal Aggarwal, Marjan Ghazvininejad, Seungone Kim, Ilia Kulikov, Jack Lanchantin, Xian Li, Tianjian Li, Bo Liu, Graham Neubig, Anaelia Ovalle, Swarnadeep Saha, Sainbayar Sukhbaatar, Sean Welleck, Jason Weston, Chenxi Whitehouse, Adina Williams, Jing Xu, Ping Yu, Weizhe Yuan, Jingyu Zhang, Wenting Zhao,
- Abstract要約: 数学的オブジェクト、Principiaスイートを導出するためのトレーニングデータとベンチマークを構築し、リリースする。
オンライントレーニングは,アグリゲーションによるテスト時間計算のスケールアップにも有効であることを示す。
Qwen3-235Bやo3のような強力なLMがプリンキピアで苦戦しているのに対して、トレーニングレシピは大幅に改善されている。
- 参考スコア(独自算出の注目度): 120.92237765735813
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The ability to precisely derive mathematical objects is a core requirement for downstream STEM applications, including mathematics, physics, and chemistry, where reasoning must culminate in formally structured expressions. Yet, current LM evaluations of mathematical and scientific reasoning rely heavily on simplified answer formats such as numerical values or multiple choice options due to the convenience of automated assessment. In this paper we provide three contributions for improving reasoning over mathematical objects: (i) we build and release training data and benchmarks for deriving mathematical objects, the Principia suite; (ii) we provide training recipes with strong LLM-judges and verifiers, where we show that on-policy judge training boosts performance; (iii) we show how on-policy training can also be used to scale test-time compute via aggregation. We find that strong LMs such as Qwen3-235B and o3 struggle on Principia, while our training recipes can bring significant improvements over different LLM backbones, while simultaneously improving results on existing numerical and MCQA tasks, demonstrating cross-format generalization of reasoning abilities.
- Abstract(参考訳): 数学的対象を正確に導き出す能力は、数学、物理学、化学を含む下流STEM応用のコア要件である。
しかし, 数学的および科学的推論の最近のLM評価は, 自動評価の利便性のため, 数値値や複数選択オプションなどの簡易解形式に大きく依存している。
本稿では,数学的対象に対する推論を改善するための3つの貢献について述べる。
(i)Principiaスイートの数学的対象を導出するためのトレーニングデータとベンチマークを構築し,リリースする。
2) LLM-judges と Veridifiers を用いた研修レシピを提供し、そこでは、オンラインの裁判官訓練がパフォーマンスを向上させることを示す。
(iii)アグリゲーションを介してテスト時間計算をスケールするために、オン・ポリシー・トレーニングをどのように使用できるかを示す。
Qwen3-235Bやo3などの強力なLMがプリンキピアで苦戦しているのに対し、我々のトレーニングレシピは異なるLSMバックボーンに対して大きな改善をもたらし、同時に既存の数値およびMCQAタスクの結果を改善し、推論能力のクロスフォームな一般化を示す。
関連論文リスト
- AgentMath: Empowering Mathematical Reasoning for Large Language Models via Tool-Augmented Agent [80.83250816918861]
o3やDeepSeek-R1のようなLarge Reasoning Models (LRM)は、長いチェーン・オブ・シークレットを持つ自然言語推論において顕著な進歩を遂げている。
しかし、計算的に非効率であり、複雑な数学的操作を必要とする問題を解く際には精度に苦しむ。
本稿では,言語モデルの推論能力とコードインタプリタの計算精度をシームレスに統合するエージェントフレームワークであるAgentMathを紹介する。
論文 参考訳(メタデータ) (2025-12-23T19:57:49Z) - FEM-Bench: A Structured Scientific Reasoning Benchmark for Evaluating Code-Generating LLMs [2.3052479658146323]
有限要素法(FEM)および関連コードを生成するためのLCMの能力を評価するためのベンチマークであるFEM-Benchを紹介する。
これらのタスクは、その分野に存在する複雑さのごく一部を表現しながら、不可欠な数値および物理モデリングの課題を捉えている。
関数記述における最高のパフォーマンスモデルであるGemini 3 Proは、少なくとも1回は30/33タスクを、5回ごとに26/33タスクを完了した。
論文 参考訳(メタデータ) (2025-12-23T19:40:51Z) - Teaching LLMs to Think Mathematically: A Critical Study of Decision-Making via Optimization [1.246870021158888]
本稿では,大規模言語モデル(LLM)の数学的プログラミングによる意思決定問題の定式化と解決能力について検討する。
まず、LLMがドメイン間の最適化問題をいかに理解し、構造化し、解決するかを評価するため、最近の文献の体系的レビューとメタ分析を行う。
計算機ネットワークにおける問題に対する最適化モデルの自動生成において、最先端のLLMの性能を評価するために設計されたターゲット実験により、系統的エビデンスを補完する。
論文 参考訳(メタデータ) (2025-08-25T14:52:56Z) - Computational Reasoning of Large Language Models [51.629694188014064]
textbfTuring Machine Benchは,Large Language Models(LLM)による推論プロセスの実行能力を評価するベンチマークである。
TMBenchには、自己完結型および知識に依存しない推論、最小主義的な多段階構造、制御可能な難易度、チューリングマシンに基づく理論的基礎の4つの重要な特徴が組み込まれている。
論文 参考訳(メタデータ) (2025-04-29T13:52:47Z) - ML4PhySim : Machine Learning for Physical Simulations Challenge (The
airfoil design) [16.140736542578562]
この競争の目的は、物理的な問題を解決するための新しいML技術の開発を促進することである。
本研究では,AirfRANSというデータセットを用いて,翼設計シミュレーションを表現するタスクの学習を提案する。
我々の知る限りでは、これはMLベースのサロゲートアプローチを使用して物理シミュレーションのトレードオフ計算コスト/精度を改善するための最初の競争である。
論文 参考訳(メタデータ) (2024-03-03T22:10:21Z) - JiuZhang: A Chinese Pre-trained Language Model for Mathematical Problem
Understanding [74.12405417718054]
本稿では,中国初の数学的事前学習言語モデル(PLM)を提示することにより,機械の数学的知性向上を目指す。
他の標準のNLPタスクとは異なり、数学的テキストは問題文に数学的用語、記号、公式を含むため理解が難しい。
基礎課程と上級課程の両方からなる数学PLMの学習を改善するための新しいカリキュラム事前学習手法を設計する。
論文 参考訳(メタデータ) (2022-06-13T17:03:52Z) - BenchML: an extensible pipelining framework for benchmarking
representations of materials and molecules at scale [0.0]
物質や分子のデータセットに対して化学系の表現をベンチマークする機械学習フレームワークを提案する。
モデル複雑性を単純な回帰スキームに制限することで、生の記述子の性能を評価するのが原則である。
結果として得られるモデルは、将来のメソッド開発を知らせるベースラインとして意図されている。
論文 参考訳(メタデータ) (2021-12-04T09:07:16Z) - An Extensible Benchmark Suite for Learning to Simulate Physical Systems [60.249111272844374]
我々は、統一されたベンチマークと評価プロトコルへの一歩を踏み出すために、一連のベンチマーク問題を導入する。
本稿では,4つの物理系と,広く使用されている古典的時間ベースおよび代表的なデータ駆動手法のコレクションを提案する。
論文 参考訳(メタデータ) (2021-08-09T17:39:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。