論文の概要: Enhancing Small Language Models for Power Outage Report Generation via Minimum Risk Training
- arxiv url: http://arxiv.org/abs/2609.27197v1
- Date: Wed, 23 Sep 2026 01:03:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 00:05:17.813594
- Title: Enhancing Small Language Models for Power Outage Report Generation via Minimum Risk Training
- Title（参考訳）: 最小リスクトレーニングによる停電レポート生成のための小言語モデルの強化
- Abstract要約: MRTは、ニューラルネットワーク翻訳モデルにより、シーケンスレベルの評価メトリクスを直接最適化することができる。
我々は、障害データイニシアティブ全国(ODIN)の停電報告生成にMRTを適用した。
提案手法はQwen2.5-7Bの総合的精度を16.20%から68.95%に改善する。
- 参考スコア（独自算出の注目度）: 8.136602280351646
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Minimum Risk Training (MRT) enables neural machine translation models to directly optimize sequence-level evaluation metrics instead of relying only on token- level maximum-likelihood objectives Shen et al. [2016]. Although introduced a decade ago, recent work shows renewed potential for risk-based optimization in modern language models Yang et al. [2024], Jinnai et al. [2025]. We apply MRT to power outage report generation for the Outage Data Initiative Nationwide (ODIN), transforming heterogeneous reports into standardized XML compliant with CIM IEC 61968-3. Our MRT approach improves Qwen2.5-7B-Instruct overall accuracy from 16.20% to 68.95%, demonstrating the effectiveness of sequence- level optimization for domain-specific structured generation
- Abstract（参考訳）: 最小リスクトレーニング(MRT)は、トークンレベルの最大的目的のみに依存するのではなく、シーケンスレベルの評価メトリクスを直接最適化するニューラルネットワーク翻訳モデルを可能にする。
10年前に導入されたが、最近の研究は、現代の言語モデルであるYang et al [2024]、Jinnai et al [2025]において、リスクベースの最適化の新たな可能性を示している。
我々は、不均一なレポートをCIM IEC 61968-3に準拠した標準化XMLに変換する、OFFIN(Outage Data Initiative Nationwide)の停電レポート生成にMRTを適用した。
我々の MRT アプローチは Qwen2.5-7B-Instruct overall accuracy を 16.20% から 68.95% に改善し、ドメイン固有構造生成に対するシーケンスレベルの最適化の有効性を示す。
関連論文リスト
- dTRPO: Trajectory Reduction in Policy Optimization of Diffusion Large Language Models [71.26391195427878]
拡散大言語モデル(dLLM)は、言語生成の新しいパラダイムを導入する。
本研究は,軌道確率計算のコストを削減し,dLLMのポリシー最適化を改善することを目的とする。
我々は、7B dLLMのdTRPOを命令追従と推論のベンチマークで評価した。
論文 参考訳（メタデータ） (2026-03-19T11:55:52Z) - Domain Generalization for Time Series: Enhancing Drilling Regression Models for Stick-Slip Index Prediction [0.5277024349608834]
この研究は、1Hz表面ドリルデータ60秒のラベル付きシーケンスをトレーニングし、SSI(スティック・スリップ指数)の予測によりドメイン間を一般化できるロバスト回帰モデルを開発することを目的としている。
適応領域一般化(ADG)、不変リスク最小化(IRM)、ベースラインモデルの比較分析を行い、モデル性能改善における転写学習(TL)の有効性の評価を行った。
論文 参考訳（メタデータ） (2026-01-06T10:09:42Z) - CALM Before the STORM: Unlocking Native Reasoning for Optimization Modeling [60.55856973678002]
大規模推論モデル (LRM) は、複雑な多段階推論において強力な機能を示した。
既存のドメイン適応手法は、元々は命令調整モデル用に設計されていたが、現代のLEMの高度な推論パターンをうまく利用できなかった。
我々は、最適化モデリングタスクのためのネイティブ推論モード内でのLEMを段階的に洗練するフレームワークである textbfCALM を提案する。
論文 参考訳（メタデータ） (2025-10-05T13:38:31Z) - Minifinetuning: Low-Data Generation Domain Adaptation through Corrective Self-Distillation [48.52666201053625]
Minifinetuningは、低データ設定におけるオーバーフィッティングによるデジェネレーションの効果を低減する。
MFTは標準的な微調整よりも2～10倍の専門化・一般化比を示す。
論文 参考訳（メタデータ） (2025-05-30T01:54:12Z) - Direct Discriminative Optimization: Your Likelihood-Based Visual Generative Model is Secretly a GAN Discriminator [38.883123034958935]
我々は,確率に基づく生成学習とGAN型識別を統合した統合フレームワークとして,直接識別最適化(DDO)を提案する。
我々の重要な洞察は、学習可能な対象モデルと固定参照モデルとの確率比を用いて、識別器を暗黙的にパラメータ化することである。
GANとは異なり、このパラメータ化はジェネレータと識別器ネットワークの共同トレーニングの必要性を排除し、十分に訓練されたモデルの完全なポテンシャルへの直接的、効率的、効果的な微調整を可能にする。
論文 参考訳（メタデータ） (2025-03-03T02:06:22Z) - FlexiGPT: Pruning and Extending Large Language Models with Low-Rank Weight Sharing [59.12511498024836]
本稿では,重み付けスコアに基づいてモデルブロックを選択的にプルーする大規模言語モデル(LLM)をプルーする手法を提案する。
重み共有機構を用いて各刈り込みブロックを置換する原理的計量を提案する。
経験的評価は、既存の方法よりも大幅にパフォーマンスが向上したことを示している。
論文 参考訳（メタデータ） (2025-01-24T18:46:37Z) - Tailoring Language Generation Models under Total Variation Distance [55.89964205594829]
ニューラルネットワーク生成の標準パラダイムは、最適化方法として最大推定(MLE)を採用する。
言語生成に適用するための実践的境界を開発する。
本稿では,TVD推定のトレードオフのバランスをとるためのTaiLr の目標について紹介する。
論文 参考訳（メタデータ） (2023-02-26T16:32:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。