論文の概要: Data-Centric Post-Training for Financial Reasoning: Mining, Distillation, and Verifiable Learning

• arxiv url: http://arxiv.org/abs/2609.10113v1
• Date: Wed, 09 Sep 2026 12:46:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:09.029427
• Title: Data-Centric Post-Training for Financial Reasoning: Mining, Distillation, and Verifiable Learning
• Title（参考訳）: ファイナンシャル推論のためのデータ中心のポストトレーニング:マイニング、蒸留、検証可能な学習
• Abstract要約: 既存のQAペアには、明確な推論、十分なコンテキスト、あるいは確実に検証可能な回答が欠けていることが多い。 オープンソース推論トレースをマイニングすることで補完的なコーパスを構成するデータ中心パイプラインを提案する。 FINESSE-Benchを用いて適応言語モデルの評価を行い,その開始チェックポイントに対する集計性能と変化を報告する。
• 参考スコア（独自算出の注目度）: 0.3728263002609659
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Financial text, textbooks, and question-answer pairs are abundant, but only a small fraction is directly usable for reasoning-focused post-training. Existing QA pairs often lack explicit reasoning, sufficient context, or reliably verifiable answers, while textbooks must first be transformed into synthetic training examples. We present a data-centric pipeline that constructs complementary corpora by mining open-source reasoning traces, distilling financial instruction data, and generating knowledge-graph-guided question-answer pairs from financial educational material. After semantic deduplication, three lightweight sequence classifiers select finance-relevant examples, reject under-specified questions, and identify tasks suitable for reinforcement learning with compact rule-based verifiers. For model adaptation, we study supervised fine-tuning and reinforcement learning, while self-distilled fine-tuning and post-training model merging are used to prevent the loss of financial capabilities already present in the starting model. We evaluate the adapted language models using FINESSE-Bench, reporting aggregate performance and changes relative to their starting checkpoints. Across the selected comparisons, ordinary SFT reduces FINESSE-Bench accuracy by 3.2-4.0 percentage points, whereas self-distilled SFT improves over the corresponding starting models by 1.0-2.8 points. Equal-weight merging recovers 3.0 points over its SFT parent and finishes 0.9 points above the original model; GRPO on hard tasks adds 0.4 points after self-distilled SFT or 3.0 points when applied directly to verifiable tasks. These results show that retention-aware adaptation can improve financial reasoning without the regressions observed after ordinary SFT.
• Abstract（参考訳）: ファイナンシャルテキスト、教科書、質問応答ペアは豊富だが、推論に焦点を絞ったポストトレーニングでは、わずかにしか利用できない。 既存のQAペアには明確な推論、十分なコンテキスト、あるいは確実に検証可能な答えが欠けている場合が多いが、教科書はまず、合成トレーニングの例に変換する必要がある。 本稿では、オープンソースの推論トレースをマイニングし、財務指導データを蒸留し、財務教育資料から知識グラフと質問応答ペアを生成することで、補完的なコーパスを構築するデータ中心パイプラインを提案する。 セマンティックデデューズの後、3つの軽量シーケンス分類器は、財務関連事例を選択し、未特定質問を拒否し、コンパクトなルールベースの検証器で強化学習に適したタスクを特定する。 モデル適応のために, 教師付き微調整・強化学習について検討し, 自己蒸留細調整・後訓練モデルマージを用いて, 開始モデルにすでに存在する財務能力の喪失を防止する。 FINESSE-Benchを用いて適応言語モデルの評価を行い,その開始チェックポイントに対する集計性能と変化を報告する。 選択された比較で、通常のSFTはFINESSE-Benchの精度を3.2-4.0ポイント、自己蒸留SFTは1.0-2.8ポイントで改善する。 同一重量のマージは、SFT親の3.0点を回復し、元のモデルより0.9点高く、ハードタスクのGRPOは、検証可能なタスクに直接適用した場合、自己蒸留されたSFTまたは3.0点の後に0.4点を加算する。 これらの結果から, 維持意識適応は, 通常のSFT後の回帰を伴わずに, 金銭的推論を改善することが示唆された。

関連論文リスト

• FADE: From Passive Verification to Active Discovery in Counterfactual Video Understanding [19.559643217912114]
  既存のMultiple-choice question (MCQ)ベンチマークは、質問や候補オプションを通じて、意図的にターゲットイベントをリークする。 本稿では, 対実的発見と説明のための効果的なトレーニングフレームワークであるFADEを紹介する。 FADEは、DualityVidQA-test と IPV-Bench の3つのタスクにまたがる、最先端の厳密なペアスコアを達成し、GPT-5.6を上回った。
  論文  参考訳（メタデータ） (2026-08-11T10:22:08Z)
• ASDA: Automated Skill Distillation and Adaptation for Financial Reasoning [12.07645818151562]
  構造化されたスキルアーティファクトを自動的に生成するフレームワークであるASDA(Automated Skill Distillation and Adaptation)を紹介する。 教師モデルは、財務的推論タスクにおいて、学生モデルの失敗を分析する。 ASDAは算術的推論では+17.33%、非算術的推論では+5.95%の改善を達成している。
  論文  参考訳（メタデータ） (2026-03-17T04:25:54Z)
• When Actions Teach You to Think: Reasoning-Action Synergy via Reinforcement Learning in Conversational Agents [2.689316553293938]
  Supervised Fine-tuning (SFT) は、下流タスクにおける大規模言語モデル(LLM)の性能を改善する最も効果的な方法の1つである。 本稿では,LLMがツールの呼び出しと対話エージェントの応答生成の両方を導く推論ステップを生成するパイプラインを提案する。
  論文  参考訳（メタデータ） (2025-12-12T04:44:40Z)
• Continual Action Quality Assessment via Adaptive Manifold-Aligned Graph Regularization [53.82400605816587]
  アクション品質アセスメント(AQA)は、ビデオにおける人間の行動を定量化し、スポーツスコアリング、リハビリテーション、スキル評価の応用を支援する。 大きな課題は、現実世界のシナリオにおける品質分布の非定常的な性質にある。 本稿では,進化する分布を扱うための連続学習機能を備えた連続AQA(Continuous AQA)を紹介する。
  論文  参考訳（メタデータ） (2025-10-08T10:09:47Z)
• Why Reinforcement Fine-Tuning Enables MLLMs Preserve Prior Knowledge Better: A Data Perspective [98.45690529036848]
  Supervised Fine-Tuning (SFT) や Reinforcement Fine-Tuning (RFT) といったポストトレーニングアルゴリズムは、マルチモーダルな大規模言語モデルを下流タスクに適応するために広く使われている。 タスク適応には有効であるが、以前の知識に対する影響はいまだ不明である。
  論文  参考訳（メタデータ） (2025-06-30T04:15:01Z)
• Adaptive Guidance Accelerates Reinforcement Learning of Reasoning Models [3.207886496235499]
  検証可能な報酬(RLVR)に基づく強化学習で学習した推論モデルを用いて,新たな問題を解決する方法について検討する。 RLVRは、(1)pass@$k$をpass@1に圧縮し、(2)"capability gain"を介して、モデルが以前、$k$で解決できなかった新しい問題を解決することを学習する、という2つの主な方法でパフォーマンスを駆動する。
  論文  参考訳（メタデータ） (2025-06-16T19:03:06Z)
• The First Few Tokens Are All You Need: An Efficient and Effective Unsupervised Prefix Fine-Tuning Method for Reasoning Models [69.798277882245]
  大規模言語モデルの推論効率を向上させるために,Unsupervised Prefix Fine-Tuning (UPFT)を導入した。 UPFTはラベル付きデータや徹底的なサンプリングの必要性を取り除く。 実験の結果,UPFTは教師付き手法の性能と一致していることがわかった。
  論文  参考訳（メタデータ） (2025-03-04T18:56:03Z)
• S$^2$R: Teaching LLMs to Self-verify and Self-correct via Reinforcement Learning [51.84977135926156]
  S$2$Rはモデルに推論時の自己検証と自己正当性を教えることによってLLM推論を強化する効率的なフレームワークである。 以上の結果から,Qwen2.5-math-7Bの精度は51.0%から81.6%に向上した。
  論文  参考訳（メタデータ） (2025-02-18T13:40:22Z)
• Improving Representational Continuity via Continued Pretraining [76.29171039601948]
  トランスファーラーニングコミュニティ(LP-FT)は、ナイーブトレーニングやその他の継続的な学習方法よりも優れている。 LP-FTは、リアルタイム衛星リモートセンシングデータセット(FMoW)における忘れを減らす。 LP-FTの変種は、NLP連続学習ベンチマークで最先端の精度を得る。
  論文  参考訳（メタデータ） (2023-02-26T10:39:38Z)
• Discover, Explanation, Improvement: An Automatic Slice Detection Framework for Natural Language Processing [72.14557106085284]
  スライス検出モデル(SDM)は、データポイントの低パフォーマンスなグループを自動的に識別する。 本稿では,NLPタスクの分類のための "Discover, Explain, improve (DEIM)" というベンチマークを提案する。 評価の結果,Edisaは情報的セマンティックな特徴を持つ誤り発生データポイントを正確に選択できることがわかった。
  論文  参考訳（メタデータ） (2022-11-08T19:00:00Z)
• Confident Adaptive Language Modeling [95.45272377648773]
  CALMは、入力と生成時間ごとに異なる量の計算を動的に割り当てるフレームワークである。 ハイパフォーマンスを確実に維持しつつ、計算能力、潜在的スピードアップを最大3ドルまで削減する上で、我々のフレームワークの有効性を実証する。
  論文  参考訳（メタデータ） (2022-07-14T17:00:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。