論文の概要: On Semantic Loss Fine-Tuning Approach for Preventing Model Collapse in Causal Reasoning

• arxiv url: http://arxiv.org/abs/2605.05438v1
• Date: Wed, 06 May 2026 20:54:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-08 22:27:11.414923
• Title: On Semantic Loss Fine-Tuning Approach for Preventing Model Collapse in Causal Reasoning
• Title（参考訳）: 因果推論におけるモデル崩壊防止のためのセマンティックロス微調整手法について
• Abstract要約: 本研究は, 意味的損失を伴わない移動性およびd-セパレーションタスクを微調整したGemma 270Mが, 100%の崩壊率をもたらすことを示す。 本稿では,グラフに基づく論理的制約と動的スケジューリングを用いた意味損失関数を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Standard fine-tuning of transformer models on causal reasoning tasks leads to catastrophic model collapse, where models learn trivial solutions such as always predicting "Yes" or "No" regardless of input structure. We demonstrate that fine-tuning Gemma 270M on transitivity and d-separation tasks without semantic loss results in 100% collapse rate, with models achieving misleadingly high accuracy (73.9%) while learning no causal reasoning. We propose a semantic loss function with graph-based logical constraints and dynamic lambda scheduling that prevents this collapse. Our approach achieves 70.4% accuracy on transitivity tasks and 68.6% on d-separation tasks with stable, context-dependent predictions, representing a 42.7% improvement over collapsed baselines. Adversarial evaluation on 1,000 structural reasoning samples shows semantic models achieve 67-70% accuracy while collapsed models fail catastrophically at 43-71%. We validate our findings through comprehensive benchmarking on 200,000+ evaluation samples across five model variants, demonstrating that semantic loss is essential and not optional, for stable causal reasoning in transformers.
• Abstract（参考訳）: 因果推論タスクにおける変圧器モデルの標準的な微調整は破滅的なモデル崩壊を招き、モデルは常に入力構造に関係なく「Yes」や「No」を予測するような自明な解を学ぶ。 意味的損失のない推移性およびd-セパレーションタスクを微調整したGemma 270Mが100%の崩壊率を達成し,因果推論を学習しながら,誤解を招くほど高い精度(73.9%)を達成した。 本稿では,グラフに基づく論理的制約と動的ラムダスケジューリングを用いた意味損失関数を提案する。 本手法は, 破壊ベースラインよりも42.7%向上し, 安定かつ状況に依存したD分離タスクの70.4%の精度, 68.6%の精度を実現している。 1000個の構造的推論サンプルの対立評価では、セマンティックモデルが67～70%の精度で達成され、崩壊モデルは43～71%で破滅的に失敗する。 本研究は,5つのモデル変種を対象に,20,000以上の評価サンプルを総合的にベンチマークし,セマンティックな損失が必須であり,オプションではないことを示す。

関連論文リスト

• State of Thought Enables Endogenous Reasoning [48.902117018115256]
  大規模言語モデル(LLM)の能力向上のための主要なアプローチとして、テスト時推論が登場した。 LLMにおける内在的推論を可能にする新しい推論パラダイムであるState of Thoughtを提案する。 SoTは平均ベースライン精度を一貫して改善し,生成トークンを62.6%,エンドツーエンドのレイテンシを44.6%削減した。
  論文  参考訳（メタデータ） (2026-09-13T05:55:03Z)
• Reason, Reward, Refine: Step-Level Errors Corrections with Structured Feedback for Physics Reasoning in Small Language Models [32.7643564019866]
  我々は,最初の推論誤差を特定し,対象とする構造化されたフィードバックを生成し,KL正則化によるポリシー勾配による解の修正を行うステップレベルの報酬フレームワークを提案する。 5つの物理ベンチマークで、我々のフレームワークはCoTのプロンプトよりも17-20%、最強のベースラインより10-16%の精度向上を実現し、計算誤差を56.9%から23.5%に削減し、最良のケースでは22.3%から12.0%に低減した。
  論文  参考訳（メタデータ） (2026-07-06T15:16:10Z)
• Automated Proving of Shannon-Type Entropy Inequalities via Fine-Tuned Language Models and Guided Tree Search [50.16356451328644]
  シャノン型エントロピーの不等式を証明することは情報理論の基本的な課題である。 我々は,原子実証のステップを微調整した小規模大規模言語モデルがこのプロセスを自動化することができるか検討する。 GPT-5.5は0ショットプロンプトで1.7%のサンプルを解き、Psitipは33.3%のサンプルを解いた。
  論文  参考訳（メタデータ） (2026-06-04T05:43:12Z)
• Correct Answers from Sound Reasoning: Verifiable Process Supervision for Language Models [94.68358825189738]
  本稿では,予測精度と推論品質を協調的に最適化する検証済み領域の学習後フレームワークを提案する。 我々は,エンジン信号に対して推論ステップを確定的に検証できる制御テストベッドであるチェスのVPSを評価する。 VPSは、推論品質を著しく向上させながら精度を保ち、勝利率エラーを最大30%削減し、一貫性をほぼ飽和状態に回復する。
  論文  参考訳（メタデータ） (2026-04-03T15:19:46Z)
• The Model Says Walk: How Surface Heuristics Override Implicit Constraints in LLM Reasoning [9.898274894485107]
  大きな言語モデルは、サージェントサーフェスキューが計算不可能な実行可能性制約と競合する場合に、体系的に失敗する。 診断・診断・ブリッジ・トリート・フレームワークを用いてこれを研究する。
  論文  参考訳（メタデータ） (2026-03-30T21:36:09Z)
• Robust Reasoning Benchmark [2.622879924644665]
  LLM推論の堅牢性を評価するため,14の手法からなる摂動パイプラインを提案する。 このパイプラインをAIME 2024データセットに適用し、その結果のベンチマークで8つの最先端モデルを評価します。 その結果, 7B から 120B までの開度モデルと Claude Opus 4.6 がその後の問題に対して精度劣化を示した。
  論文  参考訳（メタデータ） (2026-03-26T22:19:33Z)
• Dropout Robustness and Cognitive Profiling of Transformer Models via Stochastic Inference [0.0]
  トランスフォーマーベースの言語モデルは推論のために広くデプロイされているが、推論時間の下でのそれらの振る舞いは未探索のままである。 本研究は,サンプルあたり100フォワードパスのMC Dropoutを用いて,19の変圧器モデル間でのドロップアウト誘起変動を解析する。
  論文  参考訳（メタデータ） (2026-03-18T15:04:26Z)
• When Shallow Wins: Silent Failures and the Depth-Accuracy Paradox in Latent Reasoning [16.505918019260964]
  信頼性と信頼性の低い予測を混合することにより,最先端モデル(Qwen2.5-Math-7B)の精度が61%向上することが実証された。 正しい予測の18.4%は安定で忠実な推論を採用しており、81.6%は計算的に一貫性のない経路を通して現れる。
  論文  参考訳（メタデータ） (2026-03-03T19:43:36Z)
• Brittlebench: Quantifying LLM robustness via prompt sensitivity [44.950999933205985]
  モデル感度を定量化する理論的枠組みを導入する。 我々は、フロンティアモデルの感度を均等に評価するために、新しい評価パイプラインであるBrttlebenchを設計する。 セマンティクスを保存する入力摂動は、与えられたモデルの性能変動の最大半分を占めることができる。
  論文  参考訳（メタデータ） (2026-02-27T21:12:13Z)
• Km-scale dynamical downscaling through conformalized latent diffusion models [45.94979929172337]
  高分解能気象場を粗大なシミュレーションから導き出すためには, 動的ダウンスケーリングが不可欠である。 Generative Diffusion Model(DM)は、最近、このタスクのための強力なデータ駆動ツールとして登場した。 しかし、DMは過信予測に対する有限サンプル保証を欠いているため、グリッドポイントレベルの不確実性推定が誤って行われる。 我々は、コンフォーマルな予測フレームワークでダウンスケーリングパイプラインを拡張することで、この問題に対処する。
  論文  参考訳（メタデータ） (2025-10-15T08:41:36Z)
• OmniEAR: Benchmarking Agent Reasoning in Embodied Tasks [52.87238755666243]
  OmniEARは,言語モデルが身体的相互作用やツールの使用,マルチエージェントの協調にどう影響するかを評価するためのフレームワークである。 我々は、家庭と工業領域にまたがる1500のシナリオにおける連続的な物理的特性と複雑な空間的関係をモデル化する。 我々の体系的な評価は、モデルが制約から推論しなければならない場合、厳しい性能劣化を示す。
  論文  参考訳（メタデータ） (2025-08-07T17:54:15Z)
• Benchmarking Reasoning Robustness in Large Language Models [76.79744000300363]
  新規データや不完全データでは,性能が著しく低下することがわかった。 これらの結果は、厳密な論理的推論に対するリコールへの依存を浮き彫りにした。 本稿では,情報不足によって引き起こされる幻覚を利用して推論ギャップを明らかにする,Math-RoBと呼ばれる新しいベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-03-06T15:36:06Z)
• Conservative Prediction via Data-Driven Confidence Minimization [70.93946578046003]
  機械学習の安全性クリティカルな応用においては、モデルが保守的であることが望ましいことが多い。 本研究では,不確実性データセットに対する信頼性を最小化するデータ駆動信頼性最小化フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-06-08T07:05:36Z)
• Robustness and Accuracy Could Be Reconcilable by (Proper) Definition [109.62614226793833]
  強靭性と精度のトレードオフは、敵文学において広く研究されている。 局所的不変性の帰納的バイアスを課す不適切に定義された頑健な誤差に由来する可能性がある。 定義上、SCOREは、最悪のケースの不確実性に対処しながら、堅牢性と正確性の間の和解を促進する。
  論文  参考訳（メタデータ） (2022-02-21T10:36:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。