論文の概要: DTO: a Differentiable Training Objective for Effective Counterfactual Story Rewriting

• arxiv url: http://arxiv.org/abs/2605.24885v1
• Date: Sun, 24 May 2026 05:58:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-26 19:50:18.493386
• Title: DTO: a Differentiable Training Objective for Effective Counterfactual Story Rewriting
• Title（参考訳）: DTO:効果的な対実的ストーリー書き換えのための微分可能なトレーニング対象
• Authors: Amelia Girard, Massimo Piccardi,
• Abstract要約: そこで本研究では,必要な対実的改善を直接最適化する,微分可能学習目標(DTO)を提案する。 トランスモデルは、完全に微分可能な損失関数に対して、エンドツーエンドのバックプロパゲーションを介して微調整される。 提案したDTOアプローチは、最大様相のベースラインと嗜好に基づくアプローチを超えることができた。
• 参考スコア（独自算出の注目度）: 3.151184728006369
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Counterfactual story rewriting is a natural language processing task that requires updating an existing story to reflect a chosen alternative event, yet preserving all the unaffected storyline elements and overall coherence. While large language models have recently made remarkable progress on this task, it still remains challenging since the required modifications are typically very small in size and highly localized. As a consequence, models trained in a conventional manner with the maximum-likelihood training objective tend to overlook these nuances. At the same time, more sophisticated training approaches based on reinforcement learning are notoriously slow and difficult to set up. For these reasons, our paper proposes a novel, differentiable training objective (DTO) that directly optimizes for the requisite counterfactual improvements. In our approach, a transformer model is fine-tuned via end-to-end backpropagation against a fully differentiable loss function that jointly rewards (i) fidelity to the reference rewrite and (ii) semantic consistency with the source narrative. The empirical evaluation on the TimeTravel and ART datasets shows that the proposed DTO approach has been able to surpass a maximum-likelihood baseline and a preference-based approach, and perform competitively against two contemporary large language models in all evaluation metrics. These findings substantiate the effectiveness of task-specific differentiable objectives for nuanced, controlled text-generation tasks.
• Abstract（参考訳）: 反現実的なストーリー書き換えは、選択された代替イベントを反映するために既存のストーリーを更新する必要があるが、影響のないストーリーライン要素と全体的な一貫性をすべて保存する自然言語処理タスクである。 大規模な言語モデルは、最近このタスクで顕著な進歩を遂げているが、要求される修正は、通常、非常に小さく、高度に局所化されているため、依然として困難である。 結果として、トレーニング対象の最大化を目標とする従来の訓練モデルは、これらのニュアンスを無視する傾向にある。 同時に、強化学習に基づくより高度なトレーニングアプローチは、非常に遅く、セットアップが困難である。 これらの理由から,本論文では,必要な対実的改善のために直接最適化する,新しい,差別化可能な訓練目標(DTO)を提案する。 提案手法では,完全微分可能損失関数に対するエンド・ツー・エンドのバックプロパゲーションにより,変換器モデルを微調整する。 一 参考書き直しの忠実さ及び (二)原話とのセマンティックな整合性 TimeTravel と ART データセットの実証的評価は、提案したDTO アプローチが、最大様相のベースラインと嗜好に基づくアプローチを超越し、すべての評価指標において、現代の2つの大言語モデルに対して競合的に実行可能であることを示している。 これらの知見は, ニュアンス・コントロールされたテキスト生成タスクにおけるタスク固有の識別可能な目的の有効性を裏付けるものである。

関連論文リスト

• Consistency-Aware Editing for Entity-level Unlearning in Language Models [53.522931419965424]
  本稿では,エンティティレベルのアンラーニングのための新しい一貫性対応編集(CAE)フレームワークを提案する。 CAEは、その属性、関係、および敵のパラフレーズを含む、ターゲットエンティティに関連する多様なプロンプトの集合を集約する。 次に、一貫性レギュレータによってガイドされる低ランクの更新を共同で学習し、プロンプトをまたいだ編集方向を調整する。
  論文  参考訳（メタデータ） (2025-12-19T15:18:07Z)
• Orthogonal Projection Subspace to Aggregate Online Prior-knowledge for Continual Test-time Adaptation [67.80294336559574]
  連続テスト時間適応(CTTA)は、新しいシナリオに継続的に適応するために、ソース事前訓練されたモデルを必要とするタスクである。 我々は、OoPkと呼ばれるオンライン事前知識を集約する新しいパイプラインOrthogonal Projection Subspaceを提案する。
  論文  参考訳（メタデータ） (2025-06-23T18:17:39Z)
• UniErase: Towards Balanced and Precise Unlearning in Language Models [69.04923022755547]
  大規模言語モデル(LLM)は、古い情報問題に対処するために反復的な更新を必要とする。 UniEraseは、知識の未学習と能力保持の間の精度とバランスの取れたパフォーマンスを示す、新しいアンラーニングフレームワークである。
  論文  参考訳（メタデータ） (2025-05-21T15:53:28Z)
• SEFE: Superficial and Essential Forgetting Eliminator for Multimodal Continual Instruction Tuning [62.18315467642528]
  MCIT (Multimodal Continual Instruction Tuning) は,Multimodal Large Language Models (MLLM) が,悲惨なことを忘れずに,新たなタスクを段階的に学習できるようにすることを目的としている。 表面的な忘れは、モデルの知識が真に失われるのではなく、以前のタスクに対する応答が期待されたフォーマットから逸脱している場合を指す。 対照的に、本質的な忘れは、モデルが正しくフォーマットされているが、事実的に不正確な答えを提供し、真の知識の喪失を示す状況を指す。
  論文  参考訳（メタデータ） (2025-05-05T09:09:41Z)
• CAMeL: Cross-modality Adaptive Meta-Learning for Text-based Person Retrieval [22.01591564940522]
  モデル一般化能力を高めるために,クロスモーダル適応メタラーニング(CAMeL)に基づくドメインに依存しない事前学習フレームワークを提案する。 特に,現実シナリオの多様性と複雑さを反映した一連のタスクを開発する。 提案手法は,実世界のベンチマークにおける既存手法を超越するだけでなく,ロバスト性やスケーラビリティも示す。
  論文  参考訳（メタデータ） (2025-04-26T03:26:30Z)
• Efficient Transfer Learning for Video-language Foundation Models [13.166348605993292]
  テキスト表現と視覚表現のアライメントを高めるために,パラメータ効率のよいマルチモーダルパティッシャ・テンポラル・アダプタ (MSTA) を提案する。 我々は,ゼロショット転送,少数ショット学習,ベース・ツー・ノーベル一般化,完全テンポラル学習という4つの課題にまたがるアプローチの有効性を評価する。
  論文  参考訳（メタデータ） (2024-11-18T01:25:58Z)
• Information Guided Regularization for Fine-tuning Language Models [11.831883526217942]
  我々は、よりスムーズな転写学習のために、より外科的な正規化アプローチが存在する必要があると論じる。 モデル正規化の改善と下流一般化のための新しい手法を考案する。
  論文  参考訳（メタデータ） (2024-06-20T05:18:37Z)
• Scalable Language Model with Generalized Continual Learning [58.700439919096155]
  The Joint Adaptive Re-ization (JARe) is integrated with Dynamic Task-related Knowledge Retrieval (DTKR) to enable adapt adjust of language model based on specific downstream task。 提案手法は,様々なバックボーンやベンチマーク上での最先端性能を実証し,最小限の忘れを伴い,フルセットおよび少数ショットのシナリオにおいて効果的な連続学習を実現する。
  論文  参考訳（メタデータ） (2024-04-11T04:22:15Z)
• Enabling Language Models to Implicitly Learn Self-Improvement [49.16868302881804]
  大規模言語モデル(LLM)は、オープンエンドテキスト生成タスクにおいて顕著な機能を示した。 我々は、人間の嗜好データから改善目標を暗黙的に学習するImPlicit Self-ImprovemenT(PIT)フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-02T04:29:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。