論文の概要: Supervised Fine-tuning with Synthetic Rationale Data Hurts Real-World Disease Prediction

• arxiv url: http://arxiv.org/abs/2606.10279v1
• Date: Tue, 09 Jun 2026 01:00:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-10 15:40:58.238354
• Title: Supervised Fine-tuning with Synthetic Rationale Data Hurts Real-World Disease Prediction
• Title（参考訳）: リアルワールドの病気予測のための合成Rationaleデータによる微調整の監督
• Authors: Buxin Su, Bingxuan Li, Cheng Qian, Yiwei Wang, Jin Jin, Bingxin Zhao,
• Abstract要約: 臨床予測タスクにおける言語モデルの性能向上のために, 合成合理化データを用いた微調整が重要であると広く推察されている。 この仮定は,5年間のアルツハイマー病と,縦断的健康史からの認知症関連予測に当てはまる。 その結果,有理数に基づくSFTはラベルのみの微調整と比較して,予測性能を著しく損なうことがわかった。
• 参考スコア（独自算出の注目度）: 16.660497009356412
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Supervised fine-tuning with synthetic rationale data is widely assumed to improve language model performance on clinical prediction tasks by teaching models not just what to predict but why. We test this assumption on five-year Alzheimer's disease and related dementias (ADRD) prediction from longitudinal health histories. Across a large-scale controlled experiment of 504 configurations, we find that rationale-based SFT consistently and substantially hurts prediction performance relative to label-only fine-tuning. The degradation persists across model families and data scales, and is not resolved by using a reasoning-oriented base model. Crucially, the failure is not explained by poor rationale quality: human expert annotation confirms that the generated rationales are medically accurate and faithfully grounded in patient-specific evidence, and few-shot experiments show that the same rationales improve performance when used as inference-time demonstrations rather than training targets. We identify the root cause as a structural conflict between narrative plausibility and discriminative optimization. We hope our work paves the path toward a more precise understanding of when and how rationale-based supervision helps and when it does not, guiding the responsible development of language models for high-stakes clinical prediction.
• Abstract（参考訳）: 合成合理化データによる教師付き微調整は、予測するだけでなく、理由をモデルに教えることで、臨床予測タスクにおける言語モデルの性能を向上させることが広く想定されている。 本仮定は,5年間のアルツハイマー病および関連する認知症(ADRD)の長期健康史からの検討である。 大規模に制御された504構成実験において,有理数に基づくSFTはラベルのみの微調整と比較した場合の予測性能を著しく損なうことがわかった。 分解はモデルファミリとデータスケールにまたがって継続し、推論指向のベースモデルを使用することで解決されない。 人間の専門家の注釈は、生成された合理性は医療的に正確であり、患者固有の証拠に忠実に根ざしていることを確認し、少数の実験では、同じ合理性は、訓練対象ではなく推論時のデモとして使用する場合、パフォーマンスを改善することが示されている。 我々は,根本原因を,物語的妥当性と差別的最適化の間の構造的衝突とみなす。 我々の研究は、いつ、どのように合理的な監督が役に立つか、そしてそれができないかをより正確に理解し、ハイテイクな臨床予測のための言語モデルの責任ある開発を導いてくれることを願っている。

関連論文リスト

• DeepImagine: Learning Biomedical Reasoning via Successive Counterfactual Imagining [6.221068729338845]
  本稿では,LLMの生物医学的推論を連続的対実的想像を通して教える枠組みを提案する。 実際の臨床試験から自然対と近似対を構築し,その結果を報告する。 DeepImagineは、未修正言語モデルと従来の相関ベースラインよりも一貫して改善されていることを示す。
  論文  参考訳（メタデータ） (2026-04-24T22:48:10Z)
• Human Supervision as an Information Bottleneck: A Unified Theory of Error Floors in Human-Guided Learning [51.56484100374058]
  制約は、モデルスケールや最適化よりも、監督チャネルの構造的特性を反映している、と我々は主張する。 我々は、人間の監督チャネルが潜在評価対象に十分でない場合、情報伝達チャネルとして機能することを示す統一理論を開発する。
  論文  参考訳（メタデータ） (2026-02-26T19:11:32Z)
• Adaptive-CaRe: Adaptive Causal Regularization for Robust Outcome Prediction [16.391352325575763]
  監視された機械学習アルゴリズムは、医療領域における結果予測に一般的に使用される。 本稿では,医療領域における一般結果予測のためのモデル非依存型正規化戦略であるAdaptive-CaReを提案する。
  論文  参考訳（メタデータ） (2026-02-06T11:14:03Z)
• Catch Me If You Can: How Smaller Reasoning Models Pretend to Reason with Mathematical Fidelity [15.774418410083515]
  表面パターンマッチングと実際の数学的推論を区別する診断フレームワークを提案する。 我々は表面性能と推論忠実度の間に顕著な不一致を明らかにした。 私たちの診断では、従来の精度メトリクスには見えない推論の失敗を明らかにします。
  論文  参考訳（メタデータ） (2025-11-29T16:47:01Z)
• CogDPM: Diffusion Probabilistic Models via Cognitive Predictive Coding [62.075029712357]
  本研究は認知拡散確率モデル(CogDPM)を紹介する。 CogDPMは拡散モデルの階層的サンプリング能力に基づく精度推定法と拡散モデル固有の性質から推定される精度重み付きガイダンスを備える。 我々は,Universal Kindomの降水量と表面風速データセットを用いた実世界の予測タスクにCogDPMを適用した。
  論文  参考訳（メタデータ） (2024-05-03T15:54:50Z)
• Conditional Score-Based Diffusion Model for Cortical Thickness Trajectory Prediction [29.415616701032604]
  アルツハイマー病(英: Alzheimer's Disease、AD)は、個人間での進行率の多様性を特徴とする神経変性疾患である。 与えられたベースライン情報を用いてCThトラジェクトリを生成する条件付きスコアベース拡散モデルを提案する。 本モデルでは6～36ヶ月のCThに比べて95%間隔が狭いほぼゼロバイアスを有する。
  論文  参考訳（メタデータ） (2024-03-11T17:26:18Z)
• Advancing Counterfactual Inference through Nonlinear Quantile Regression [77.28323341329461]
  ニューラルネットワークで実装された効率的かつ効果的な対実的推論のためのフレームワークを提案する。 提案手法は、推定された反事実結果から見つからないデータまでを一般化する能力を高める。 複数のデータセットで実施した実証実験の結果は、我々の理論的な主張に対する説得力のある支持を提供する。
  論文  参考訳（メタデータ） (2023-06-09T08:30:51Z)
• Measuring Causal Effects of Data Statistics on Language Model's `Factual' Predictions [59.284907093349425]
  大量のトレーニングデータが、最先端のNLPモデルの高性能化の大きな理由の1つである。 トレーニングデータがどのように予測に影響を及ぼすかを記述するための言語を,因果的フレームワークを通じて提供する。 我々のフレームワークは、高価なモデルの再訓練の必要性を回避し、観測データのみに基づいて因果効果を推定することができる。
  論文  参考訳（メタデータ） (2022-07-28T17:36:24Z)
• Improvement of a Prediction Model for Heart Failure Survival through Explainable Artificial Intelligence [0.0]
  本研究は、心不全生存予測モデルの説明可能性分析と評価について述べる。 このモデルでは、最高のアンサンブルツリーアルゴリズムを選択できるデータワークフローパイプラインと、最高の機能選択テクニックが採用されている。 本論文の主な貢献は、精度-説明可能性バランスに基づいて、HF生存率の最良の予測モデルを選択するための説明可能性駆動型アプローチである。
  論文  参考訳（メタデータ） (2021-08-20T09:03:26Z)
• Double Robust Representation Learning for Counterfactual Prediction [68.78210173955001]
  そこで本稿では, 対実予測のための2次ロバスト表現を学習するための, スケーラブルな新しい手法を提案する。 我々は、個々の治療効果と平均的な治療効果の両方に対して、堅牢で効率的な対実的予測を行う。 このアルゴリズムは,実世界の最先端技術と合成データとの競合性能を示す。
  論文  参考訳（メタデータ） (2020-10-15T16:39:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。