論文の概要: PVminerLLM2: Improving Structured Extraction of Patient Voice via Preference Optimization

• arxiv url: http://arxiv.org/abs/2606.16074v1
• Date: Mon, 15 Jun 2026 00:18:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 16:21:34.019652
• Title: PVminerLLM2: Improving Structured Extraction of Patient Voice via Preference Optimization
• Title（参考訳）: PVminerLLM2: 優先度最適化による患者音声の構造化抽出の改善
• Authors: Samah Fodeh, Linhai Ma, Ganesh Puthiaraju, Srivani Talakokkul, Afshan Khan, Elyas Irankhah, Sreeraj Ramachandran, Ashley Hagaman, Sarah Lowe, Aimee Roundtree,
• Abstract要約: 患者生成テキストには、患者の生きた経験、社会的文脈、ケアエンゲージメントに関する重要な情報が含まれている。 以前の作業では、構造抽出のためのPV-MinerベンチマークとPVMinerLLMモデルが導入されていた。 また, PVminerLLM2は, 患者音声抽出のためのLLMの改良版である。
• 参考スコア（独自算出の注目度）: 0.19582799051022884
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Motivation: Patient-generated text contains critical information on patients' lived experiences, social context, and care engagement, but remains largely unstructured, limiting its use in patient-centered outcomes research. Prior work introduced the PV-Miner benchmark and PVMinerLLM models for structured extraction. However, supervised fine-tuning (SFT) alone struggles with rare, fine-grained, and unevenly distributed errors, particularly in token-critical structured outputs. Results: We present PVminerLLM2, an improved set of LLMs for structured patient voice extraction that applies preference optimization to address token-critical errors beyond the reach of supervised fine-tuning. Our method introduces (i) a preference objective with token-level gated stabilization term that prevents degradation of absolute token likelihood under preference optimization, and (ii) confusion-aware preference pair construction to better capture low-separation distinctions. We further incorporate token-importance weighting and inverse-frequency reweighing to address token imbalance and class skew. Across multiple model sizes, PVMinerLLM2 consistently outperforms strong baselines, achieving gains of up to 4.43% (Code), 3.50% (Sub-code), and 1.55% (Span), and outperforms baseline LLM trained with existing preference optimization methods. Availability and Implementation: The supplementary material, code, evaluation scripts, and trained models for PVminerLLM2 are publicly available at: https://github.com/Data-Mining-Lab-Yale/PVminerLLM2
• Abstract（参考訳）: 動機づけ(Motivation): 患者生成テキストは、患者の生きた経験、社会的文脈、ケアのエンゲージメントに関する重要な情報を含んでいるが、ほとんど構造化されていないままであり、患者中心の成果研究での使用を制限する。 以前の作業では、構造抽出のためのPV-MinerベンチマークとPVMinerLLMモデルが導入されていた。 しかし、教師付き微調整(SFT)だけでは、特にトークンクリティカルな構造化出力において、まれできめ細かな、不均一な分散エラーに悩まされる。 結果: PVminerLLM2は, 教師付き微調整の範囲を超えて, トークンクリティカルなエラーに対処するために, 優先最適化を適用した構造化音声抽出用LLMの改良版である。 我々の方法が紹介する 一 選好最適化による絶対的トークン可能性の低下を防止するトークン単位のゲート安定化項による選好目標 (二)低セパレーションの区別をよりよく捉えるため、混乱を意識した選好ペアの構築。 さらに,トークン不均衡とクラススキューに対処するために,トークン重要重み付けと逆周波数リウィーリングを取り入れた。 複数のモデルサイズにまたがって、PVMinerLLM2は強いベースラインを一貫して上回り、最大4.43%(コード)、3.50%(サブコード)、1.55%(スパン)のゲインを獲得し、既存の優先最適化手法で訓練されたベースラインLLMを上回っている。 可用性と実装:PVminerLLM2の補助材料、コード、評価スクリプト、およびトレーニングされたモデルは、https://github.com/Data-Mining-Lab-Yale/PVminerLLM2で公開されている。

関連論文リスト

• Scaffold-Conditioned Preference Triplets for Controllable Molecular Optimization with Large Language Models [32.68069719676566]
  textbfScaffold-Conditioned Preference Triplets (SCPT)は、類似性に制約のある三重項を$langletextscaffold, textbetter, textworserangle$で構築するパイプラインで、足場アライメントと、妥当性、合成性、有意義なプロパティゲインのための化学駆動フィルタである。 一般の非LLM分子最適化法と比較して,SCPT学習LLMは足場制約や多目的最適化に適している。
  論文  参考訳（メタデータ） (2026-04-14T06:38:07Z)
• Margin Adaptive DPO: Leveraging Reward Model for Granular Control in Preference Optimization [0.0]
  Margin-Adaptive Direct Preference Optimizationは、安定的で、データ保存、インスタンスレベルのソリューションを提供する。 我々は、MADPOが優れた最適化環境を持っていることを証明し、包括的な理論的解析を行う。 ハイクオリティデータでは+33.3%、低クオリティデータでは+10.5%というパフォーマンス向上を実現している。
  論文  参考訳（メタデータ） (2025-10-06T20:09:37Z)
• Dynamic Noise Preference Optimization for LLM Self-Improvement via Synthetic Data [51.62162460809116]
  我々は、イテレーション間で一貫した改善を保証するために、動的ノイズ優先最適化(DNPO)を導入します。 Zephyr-7Bでの実験では、DNPOは既存の手法を一貫して上回り、平均性能は2.6%向上した。 DNPOは、GPT-4評価のベースラインに比べて29.4%のウィンロス率差で、モデル生成データの品質が大幅に向上したことを示している。
  論文  参考訳（メタデータ） (2025-02-08T01:20:09Z)
• EACO: Enhancing Alignment in Multimodal LLMs via Critical Observation [58.546205554954454]
  臨界観測(EACO)によるMLLMのアライメント向上を提案する。 EACOは、経済的に5k画像のみを使用して、MLLMを自己生成の選好データで整列する。 EACOは幻覚全体の65.6%をHalusionBenchで減らし、MME-Cognitionで21.8%改善する。
  論文  参考訳（メタデータ） (2024-12-06T09:59:47Z)
• Self-supervised Preference Optimization: Enhance Your Language Model with Preference Degree Awareness [27.43137305486112]
  本稿では,自己監督的選好度損失とアライメント損失を組み合わせた自己監督的選好度損失を構成する,新しい自己監督的選好最適化(SPO)フレームワークを提案する。 その結果,SPOを既存の好み最適化手法とシームレスに統合し,最先端性能を実現することができた。
  論文  参考訳（メタデータ） (2024-09-26T12:37:26Z)
• Self-Evolutionary Large Language Models through Uncertainty-Enhanced Preference Optimization [9.618391485742968]
  反復的選好最適化は、最近、大規模言語モデル(LLM)のデファクトトレーニングパラダイムの1つになっている。 我々は、信頼性の高いフィードバックでLLMを自己進化させる不確実性のあるtextbfPreference textbfOptimizationフレームワークを提案する。 筆者らのフレームワークは,ノイズ問題を大幅に軽減し,反復的選好最適化の性能を向上させる。
  論文  参考訳（メタデータ） (2024-09-17T14:05:58Z)
• Aligning Large Language Models via Fine-grained Supervision [20.35000061196631]
  事前訓練された大規模言語モデル(LLM)は、一貫性のある記事を生成するのに優れていますが、そのアウトプットは非現実的、有毒、あるいはユーザの期待に沿わないかもしれません。 現在のアプローチは、モデルアライメントを改善するために、人間のフィードバックによる強化学習を使うことに重点を置いている。 トークンレベルの微粒化によるLCMアライメント向上手法を提案する。
  論文  参考訳（メタデータ） (2024-06-04T20:21:45Z)
• Self-Augmented Preference Optimization: Off-Policy Paradigms for Language Model Alignment [104.18002641195442]
  既存のペアデータを必要としない、効果的でスケーラブルなトレーニングパラダイムである自己拡張型優先度最適化(SAPO)を導入する。 負の反応を自律的に生成するセルフプレイの概念に基づいて、我々はさらに、データ探索とエクスプロイトを強化するために、非政治的な学習パイプラインを組み込む。
  論文  参考訳（メタデータ） (2024-05-31T14:21:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。