論文の概要: How Much Does the Hint Matter? Scope Conditions for Hindsight Self-Distillation in Financial Reasoning

• arxiv url: http://arxiv.org/abs/2610.36082v1
• Date: Mon, 26 Oct 2026 18:07:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.397306
• Title: How Much Does the Hint Matter? Scope Conditions for Hindsight Self-Distillation in Financial Reasoning
• Title（参考訳）: ヒントはどこまで重要か? : 金融レアソンにおける自己蒸留の実施条件
• Abstract要約: Fin-SDは多段階推論のための自己蒸留法である。 我々は、GPT-OSS-20BにFin-SDをカスタム多段階財務推論ベンチマークに適用する。
• 参考スコア（独自算出の注目度）: 3.437656066916039
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Financial institutions operating under data-residency constraints are restricted to open-weight models small enough to locally host, which trail frontier systems on multi-step quantitative reasoning. On-policy distillation narrows such gaps by supervising a student on its own rollouts, but traditional OPD requires a strong external teacher, and on-policy self-distillation (OPSD) conditions on a full reference solution. We ask how much of that signal is necessary. We present Fin-SD, a localized hindsight self-distillation recipe for multi-step reasoning. Given a problem the student fails, the student itself identifies the first incorrect reasoning step and writes a short critique of that step. We truncate the student's trajectory immediately before the error (aiming to obtain a correct prefix), condition a frozen copy of the student on the same prefix plus the hint, and distill that hint-conditioned teacher into the student over a short rollout under reverse KL. No external model contributes a gradient. We apply Fin-SD to GPT-OSS-20B on a custom multi-step financial reasoning benchmark that requires deriving formula inputs from realistic scenarios via accounting conventions. We find: (i) replacing the critique with a generic-feedback control matches Fin-SD's entire 3.03 pp accuracy gain over the base model on the FinanceReasoning Hard subset, suggesting the gain comes from where supervision is applied, not hint content; (ii) the model writing the hint does not need to be stronger than the model receiving it: hints from same-family GPT-OSS-120B, at roughly 6x the parameters, yield no materially greater benefits than self-written hints; and (iii) Fin-SD matches on-policy self-distillation from full reference solutions on accuracy while generating 9.5% fewer tokens. With Fin-SD, general reasoning on MMLU-Pro and a fourteen-metric compliance audit on FinTrust show no material regression.
• Abstract（参考訳）: データレジデンシの制約の下で運営される金融機関は、局所的にホストできる小規模のオープンウェイトモデルに制限されている。 オンライン蒸留は、学生を自身のロールアウトで監督することで、そのようなギャップを狭めるが、従来のOPDは強力な外部教師を必要とし、完全な参照ソリューション上では、オンライン自己蒸留(OPSD)条件を必要とする。 私たちはその信号のどれ程が必要か尋ねる。 マルチステップ推論のための自己蒸留法であるFin-SDを提案する。 学生が失敗する問題を考えると、学生自身は最初の誤った推論ステップを特定し、そのステップの短い批判を書く。 誤りの直前(正しい接頭辞を得るために)に生徒の軌跡を切断し、同じ接頭辞にヒントを添えて学生の凍結したコピーを条件とし、そのヒント条件の教師を逆KLの短いロールアウトで生徒に蒸留する。 外的モデルは勾配に寄与しない。 我々はGPT-OSS-20BにFin-SDを適用し、会計規則を通した現実的なシナリオから公式入力を導出する必要があるカスタムマルチステップの財務推論ベンチマークを行う。 以下に示す。 i) 批判をジェネリックフィードバック制御に置き換えることは、ファイナンス推論ハードサブセットのベースモデルよりもFin-SDの全3.03ppの精度向上と一致する。 二 ヒントを書くモデルは、それを受け取るモデルより強固である必要はない。同族 GPT-OSS-120B のヒントは、パラメータの約六倍であり、自己記述のヒントよりも実質上大きな利益をもたらすものではない。 3 フィンSDは、正確な基準解から、9.5%少ないトークンを生成しながら、政治上の自己蒸留と一致させる。 Fin-SDでは、MMLU-Proの一般的な推論とFinTrustの14メトリックコンプライアンス監査は、物質的回帰を示さない。

関連論文リスト

• E$^2$-OPSD: Taming Entropy Overshoot in On-Policy Self-Distillation [31.08813672185829]
  模範指導は、現在の答えを解決された隣り合う問題に置き換える。 E$2$-OPSDは、OPSDよりも平均4.3ポイントの数学推論を改善する。
  論文  参考訳（メタデータ） (2026-10-04T08:32:33Z)
• Unbiased Top-$k$ Estimation for On-Policy Distillation [7.963184907894143]
  オンライン蒸留(OPD)は、大規模言語モデル(LLM)の訓練後の重要な構成要素である。 OPDにおける逆KL分岐の勾配を推定することは依然として困難である。 学生が作成したロールアウトからのサンプルトークンのみを使用することは、計算コストが安いが、限定的な分散監視を提供する。 我々はTK-OPDのバイアスに対処するため,Tail-Corrected Top-k$ On-Policy Distillation (TT-OPD)を提案する。
  論文  参考訳（メタデータ） (2026-09-28T07:03:32Z)
• H$^2$SD: Hybrid Hindsight Self-Distillation [61.71131241473028]
  検証可能な報酬付き強化学習(RLVR)は、言語モデル推論のための信頼性の高い結果監視を提供する。 既存の自己蒸留法は特権教師を追加するが、通常は一定の役割を割り当てる。 本稿では,教師のコンテキストに適応し,トラジェクタの正当性を更新するHybrid Hindsight Self-Distillation(MathrmH2mathrmSD$)を紹介する。
  論文  参考訳（メタデータ） (2026-07-21T10:47:27Z)
• Rethinking Reward Supervision: Rubric-Conditioned Self-Distillation [60.55792673956761]
  我々は, ルブリックを構造化, きめ細かいフィードバックとして組み込んだフレームワークであるtextbfRubric-Conditioned Self-Distillationを提案する。 その結果, ルーリック条件の自己蒸留は, ルーリックレベルの基準をトークンレベルのガイダンスに効果的に変換することを示した。
  論文  参考訳（メタデータ） (2026-06-17T17:54:04Z)
• DeltaPrompts: Escaping the Zero-Delta Trap in Multimodal Distillation [49.98710755440242]
  蒸留により、コンパクトなビジョンランゲージモデル(VLM)が強力な推論能力を得ることができる。 標準チャート/文書推論データセットにおけるプロンプトの最大69%は、事実上ゼロデルタである。 既存のデータセットをシードとして再利用し、学生の障害モードを積極的にターゲットとして、より良いプロンプトを生成するためのステージド合成パイプラインを提案する。
  論文  参考訳（メタデータ） (2026-05-15T02:04:12Z)
• Distilling Object Detectors with Task Adaptive Regularization [97.52935611385179]
  現在の最先端のオブジェクト検出器は高い計算コストを犠牲にしており、ローエンドデバイスへのデプロイが困難である。 より大規模な教師モデルから知識を伝達することで、より小さな学生ネットワークを訓練することを目的とした知識蒸留は、モデル小型化のための有望な解決策の1つである。
  論文  参考訳（メタデータ） (2020-06-23T15:58:22Z)
• Upper Confidence Primal-Dual Reinforcement Learning for CMDP with Adversarial Loss [145.54544979467872]
  マルコフ決定過程(CMDP)に対するオンライン学習の検討 本稿では,遷移モデルから標本化した軌跡のみを必要とする,新しいEmphupper confidence primal-dualアルゴリズムを提案する。 我々の分析では、ラグランジュ乗算過程の新たな高確率ドリフト解析を、高信頼強化学習の記念後悔解析に組み入れている。
  論文  参考訳（メタデータ） (2020-03-02T05:02:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。