論文の概要: C$^3$TG: Conflict-aware, Composite, and Collaborative Controlled Text Generation
- arxiv url: http://arxiv.org/abs/2511.09292v1
- Date: Thu, 13 Nov 2025 01:44:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-13 22:34:54.504335
- Title: C$^3$TG: Conflict-aware, Composite, and Collaborative Controlled Text Generation
- Title(参考訳): C$3$TG: 衝突認識, 複合, 協調制御によるテキスト生成
- Authors: Yu Li, Zhe Yang, Yi Huang, Xin Liu, Guilin Qi,
- Abstract要約: 細粒度多次元テキスト属性制御のための衝突認識・合成・協調制御テキスト生成(C$3$TG)を提案する。
C$3$TGは細粒度多次元テキスト属性制御のための2段階フレームワークである。
属性の正確性、言語流用性、出力の多様性など、複数の指標において、ベースラインを著しく上回る。
- 参考スコア(独自算出の注目度): 26.907578584876095
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent advancements in large language models (LLMs) have demonstrated remarkable text generation capabilities. However, controlling specific attributes of generated text remains challenging without architectural modifications or extensive fine-tuning. Current methods typically toggle a single, basic attribute but struggle with precise multi-attribute control. In scenarios where attribute requirements conflict, existing methods lack coordination mechanisms, causing interference between desired attributes. Furthermore, these methods fail to incorporate iterative optimization processes in the controlled generation pipeline. To address these limitations, we propose Conflict-aware, Composite, and Collaborative Controlled Text Generation (C$^3$TG), a two-phase framework for fine-grained, multi-dimensional text attribute control. During generation, C$^3$TG selectively pairs the LLM with the required attribute classifiers from the 17 available dimensions and employs weighted KL-divergence to adjust token probabilities. The optimization phase then leverages an energy function combining classifier scores and penalty terms to resolve attribute conflicts through iterative feedback, enabling precise control over multiple dimensions simultaneously while preserving natural text flow. Experiments show that C$^3$TG significantly outperforms baselines across multiple metrics including attribute accuracy, linguistic fluency, and output diversity, while simultaneously reducing toxicity. These results establish C$^3$TG as an effective and flexible solution for multi-dimensional text attribute control that requires no costly model modifications.
- Abstract(参考訳): 大規模言語モデル(LLM)の最近の進歩は、顕著なテキスト生成能力を示している。
しかし、生成したテキストの特定の属性を制御することは、アーキテクチャの変更や広範囲な微調整なしには難しいままである。
現在のメソッドは通常、単一の基本的な属性を切り替えるが、正確なマルチ属性制御に苦労する。
属性要求が矛盾するシナリオでは、既存のメソッドには調整機構がなく、望ましい属性間の干渉を引き起こす。
さらに、これらの手法は、制御された生成パイプラインに反復最適化プロセスを組み込むことができない。
これらの制約に対処するため、我々は細粒度多次元テキスト属性制御のための2段階フレームワークであるConflict-aware, Composite, and Collaborative Controlled Text Generation (C$^3$TG)を提案する。
生成中、C$^3$TG は LLM を 17 個の利用可能な次元から必要な属性分類器と選択的にペアリングし、トークン確率を調整するために重み付き KL 分割を用いる。
最適化フェーズは、分類器のスコアとペナルティ項を組み合わせたエネルギー関数を利用して、反復的なフィードバックを通じて属性の競合を解消し、自然なテキストフローを保存しながら複数の次元を正確に制御できる。
実験によると、C$3$TGは属性の正確性、言語流布度、出力の多様性など、複数の指標においてベースラインを著しく上回り、同時に毒性を低下させる。
これらの結果は、コストのかかるモデル修正を必要としない多次元テキスト属性制御の有効かつ柔軟な解として、C$^3$TGを確立する。
関連論文リスト
- Towards Lightweight, Adaptive and Attribute-Aware Multi-Aspect Controllable Text Generation with Large Language Models [40.54453001537357]
マルチアスペクト制御可能なテキスト生成は、属性のテキスト生成を複数の側面から制御することを目的としている。
改良された微調整手法は、単純さと有効性のためにしばしばこの課題に使用される。
マルチアスペクト制御可能なテキスト生成のための軽量で適応的で属性対応のフレームワークを提案する。
論文 参考訳(メタデータ) (2025-02-19T06:56:02Z) - Multi-Attribute Constraint Satisfaction via Language Model Rewriting [67.5778646504987]
マルチ属性制約満足度(英: Multi-Attribute Constraint Satisfaction, MACS)は、言語モデルを微調整して、複数の外部実値属性に対するユーザ指定制約を満たす手法である。
我々の研究は、NLPやバイオインフォマティクスにまたがる多様な応用に影響を及ぼす、一般化および実値多属性制御のための新しい道を開く。
論文 参考訳(メタデータ) (2024-12-26T12:36:39Z) - Air-Decoding: Attribute Distribution Reconstruction for Decoding-Time
Controllable Text Generation [58.911255139171075]
制御可能なテキスト生成(CTG)は、望ましい属性を持つテキストを生成することを目的としている。
本研究では,Air-Decoding という新しい軽量デコーディングフレームワークを提案する。
提案手法は,新しい最先端制御性能を実現する。
論文 参考訳(メタデータ) (2023-10-23T12:59:11Z) - MacLaSa: Multi-Aspect Controllable Text Generation via Efficient
Sampling from Compact Latent Space [110.85888003111653]
マルチアスペクト制御可能なテキスト生成は、複数の望ましい属性を同時に持つ流動文を生成することを目的としている。
マルチアスペクト制御のための新しいアプローチ、すなわちMacLaSaを導入し、複数の側面に対してコンパクトな潜在空間を推定する。
また,MacLaSaは,高い推論速度を維持しつつ,属性関連性やテキスト品質を高いベースラインで向上させることを示す。
論文 参考訳(メタデータ) (2023-05-22T07:30:35Z) - Semantic Space Grounded Weighted Decoding for Multi-Attribute
Controllable Dialogue Generation [41.23970507903113]
本稿では,重み付き復号法で強い制御性を持つDASCという新しいフレームワークを提案する。
複数属性の生成は、複数の属性の埋め込みの発話で直感的に実装される。
実験の結果,DASCは3つの側面を同時に制御することで,生成タスクにおいて高い制御精度を達成できることがわかった。
論文 参考訳(メタデータ) (2023-05-04T13:35:27Z) - DisCup: Discriminator Cooperative Unlikelihood Prompt-tuning for
Controllable Text Generation [6.844825905212349]
本稿では,識別器の属性知識を取り入れた新しいCTG手法であるDisCupを提案する。
DisCupは、約10の仮想トークンに頼るだけで、効率的で高品質なテキスト生成を維持しながら、新しい最先端の制御性能を実現することができる。
論文 参考訳(メタデータ) (2022-10-18T02:59:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。