Fugu-MT 論文翻訳(概要): TIAO: Token Importance-Aware Policy Optimization for Text Summarization

論文の概要: TIAO: Token Importance-Aware Policy Optimization for Text Summarization

arxiv url: http://arxiv.org/abs/2609.16748v1
Date: Tue, 15 Sep 2026 07:23:07 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-16 14:56:08.386524
Title: TIAO: Token Importance-Aware Policy Optimization for Text Summarization
Title（参考訳）: TIAO:テキスト要約のためのトークン重要度対応ポリシー最適化
Abstract要約: トークン重要度認識を明示的に活用する新しい強化学習戦略である,トークン重要度対応政策最適化(TIAO)を提案する。 TIAOはトークンの依存関係に基づいてコアトークンを特定し、全体的な依存関係に従ってトラジェクトリのメリットを再評価する。実世界のデータセットの実験は、我々のIAOが非常に競争力のある結果をもたらすことを示している。
参考スコア（独自算出の注目度）: 3.362110408874633
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Text summarization requires models to condense content while preserving key qualities such as consistency and coherence. Large language models (LLMs) have shown strong performance on this task and can be further improved through reinforcement learning (RL). However, most existing methods apply reward signals directly to undifferentiated token sequences, overlooking the varying importance of individual tokens to word and sentence level quality in summarization. In this paper, we propose Token Importance-Aware Policy Optimization (TIAO), a novel reinforcement learning strategy that explicitly leverages token-importance awareness. Specifically, TIAO identifies core tokens based on token dependency and reweights a trajectory's advantage according to its overall dependencies. Experiments on the real world dataset show that our TIAO achieves highly competitive results, and that a 7B foundation model enhanced by TIAO performs comparably to GPT-4 and GPT-5-nano. Code is available at https://github.com/TechCloud-x/TIAO
Abstract（参考訳）: テキスト要約は、一貫性やコヒーレンスといった重要な品質を維持しながら、コンテンツを凝縮させるモデルを必要とする。大規模言語モデル(LLM)は、このタスクにおいて強力な性能を示し、強化学習(RL)によってさらに改善することができる。しかし、既存のほとんどの手法では、要約において個々のトークンが単語や文レベルの品質に異なる重要性を見越して、未分化のトークンシーケンスに報酬信号を直接適用している。本稿では,トークン重要度認識を明示的に活用する新しい強化学習戦略である,トークン重要度対応政策最適化(TIAO)を提案する。具体的には、TIAOはトークンの依存関係に基づいてコアトークンを特定し、全体的な依存関係に従ってトラジェクトリのメリットを再重み付けする。実世界のデータセットを用いた実験により,我々のTAAOは高い競争力を示し,TAAOにより強化された7B基盤モデルはGPT-4とGPT-5-nanoと相容れない性能を示した。コードはhttps://github.com/TechCloud-x/TIAOで入手できる。

関連論文リスト

PRPO: Perception-Reinforced Policy Optimization via Token-Level Dynamic Advantage Reshaping [5.89473045822308]
RLVR(Reinforcement Learning with Verifiable Rewards)は、LVLM(Large Vision-Language Models)の推論能力向上に有効なパラダイムとなっている。既存のRLVR法は、全ての生成されたトークンに対して同一の学習信号を割り当てる軌道レベルの結果報酬に依存している。本稿では,重要な知覚トークンを明確に識別し,強化するトークンレベルの強化学習フレームワークである知覚強化政策最適化(PRPO)を提案する。
論文参考訳（メタデータ） (2026-06-07T16:06:29Z)
Unlearning What Matters: Token-Level Attribution for Precise Language Model Unlearning [5.454773103061359]
TokenUnlearnはトークンレベルの属性フレームワークで、クリティカルトークンを特定し、選択的にターゲットする。提案手法は,マスキングによる知識認識信号とエントロピー認識信号を組み合わせて,正確なトークン選択のための重要スコアを得る。
論文参考訳（メタデータ） (2026-05-01T02:59:03Z)
Beyond Attention Magnitude: Leveraging Inter-layer Rank Consistency for Efficient Vision-Language-Action Models [75.27089289058613]
textbfTIES(textbfTau-guided textbfInter-layer textbfEfficient textbfSelection)は、層間トークンランキングの整合性によって導かれる動的フレームワークである。 CogACT + SIMPLERベンチマークでは、TIESは平均成功率を6%改善し、トークン使用率を78%削減した。
論文参考訳（メタデータ） (2026-03-26T02:13:03Z)
Forgetting: A New Mechanism Towards Better Large Language Model Fine-tuning [51.92313556418432]
Supervised Fine-tuning (SFT) は、事前訓練された大規模言語モデル (LLM) において重要な役割を果たす。各コーパス内のトークンを、モデルパフォーマンスを改善するのに有用かどうかに基づいて、正と負の2つの部分に分類することを提案する。我々は、よく確立されたベンチマークで実験を行い、この忘れるメカニズムが全体のモデル性能を向上するだけでなく、より多様なモデル応答を促進することを発見した。
論文参考訳（メタデータ） (2025-08-06T11:22:23Z)
Resource-Efficient Adaptation of Large Language Models for Text Embeddings via Prompt Engineering and Contrastive Fine-tuning [3.9914181590063884]
大規模言語モデル(LLM)は自然言語処理(NLP)の基盤となっている。プリトレーニングされたデコーダのみのLLMの適応戦略について検討する。
論文参考訳（メタデータ） (2025-07-30T14:49:30Z)
Not All Preferences are What You Need for Post-Training: Selective Alignment Strategy for Preference Optimization [0.0]
大規模言語モデル(LLM)のトレーニング後のアライメントは、すべてのトークンがモデルのパフォーマンスに等しく寄与するわけではないため、重要な課題である。本稿では,プライオリティペア内の高インパクトトークンを優先するアライメント戦略を提案する。これらの情報的トークンに焦点をあてることで,計算オーバーヘッドを低減し,アライメントの忠実度を高める。
論文参考訳（メタデータ） (2025-07-10T12:58:45Z)
IGD: Token Decisiveness Modeling via Information Gain in LLMs for Personalized Recommendation [79.22388408461458]
我々は,トークン決定性をチューニングと復号の両方に統合する情報ゲインに基づく決定性対応トークンハンドリング(IGD)戦略を導入する。 IGDはリコメンデーションの精度を一貫して改善し、強力なベースラインに比べて広く使われているランキングの指標で顕著に向上した。
論文参考訳（メタデータ） (2025-06-16T08:28:19Z)
Token Assorted: Mixing Latent and Text Tokens for Improved Language Model Reasoning [53.57895922042783]
大規模言語モデル(LLM)は、チェーン・オブ・シークレット(CoT)データに基づいて訓練された場合、推論と計画が優れている。そこで我々は,遅延離散トークンを用いて推論過程を部分的に抽象化するハイブリッド表現を提案する。
論文参考訳（メタデータ） (2025-02-05T15:33:00Z)
KNN Transformer with Pyramid Prompts for Few-Shot Learning [52.735070934075736]
Few-Shot Learningはラベル付きデータで新しいクラスを認識することを目的としている。近年の研究では、視覚的特徴を調節するためのテキストプロンプトを用いたまれなサンプルの課題に対処しようと試みている。
論文参考訳（メタデータ） (2024-10-14T07:39:30Z)
SEP: Self-Enhanced Prompt Tuning for Visual-Language Model [93.94454894142413]
SEP(Self-Enhanced Prompt Tuning)という新しいアプローチを導入する。 SEPは、テキストレベルの埋め込みと視覚レベルの埋め込みの両方を強化するために、差別的な事前知識を明示的に取り入れている。様々なベンチマークやタスクの総合的な評価は、プロンプトチューニングにおけるSEPの有効性を確認している。
論文参考訳（メタデータ） (2024-05-24T13:35:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。