論文の概要: TimpaTeks: Automatic In-place Text Sequence Modification via Diffusion Language Model Steering

• arxiv url: http://arxiv.org/abs/2606.08408v1
• Date: Sun, 07 Jun 2026 02:13:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:06.090292
• Title: TimpaTeks: Automatic In-place Text Sequence Modification via Diffusion Language Model Steering
• Title（参考訳）: TimpaTeks: 拡散言語モデルステアリングによるテキストシーケンスの自動修正
• Authors: Ryandito Diandaru, Ikhlasul Akmal Hanif, Fadli Aulawi Al Ghiffari, Ahmed Elshabrawy, Alham Fikri Aji,
• Abstract要約: 拡散言語モデルを用いたテキスト自動修正機構であるTimpaTeksを提案する。 TimpaTeksは、文章の難易度を同時に低くし、元の文の構造を保ちながら、その場での修正を可能にする。 また、TimpaTeksはプロンプトベースのDLMステアリングよりも計算コストが安い。
• 参考スコア（独自算出の注目度）: 13.149537587671254
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: We extend activation steering to diffusion language models (DLMs) and study a novel problem that arose due to the inference mechanism of DLMs: Modifying a text in-place to manifest a different concept. We propose TimpaTeks, an automatic in-place text modification mechanism using DLMs. Experiments on IMDB movie reviews (sentiment) and a synthetic Cats and Dogs Dataset (arbitrary, more unconventional concept steering) show that TimpaTeks provides a feasible novel mechanism to steer diffusion language model outputs in-place. TimpaTeks enables in-place modification while simultaneously lowers sentence perplexity and retaining the original sentence structre without the need of instruction tuned models. TimpaTeks is also computationally cheaper than prompt-based DLM steering, as it performs denoising in-place rather than constructing an additional prompt-conditioned output sequence.
• Abstract（参考訳）: 本研究では,拡散言語モデル(DLM)にアクティベーションステアリングを拡張し,DLMの推論機構によって生じる新たな問題について考察する。 DLMを用いたテキスト自動修正機構であるTimpaTeksを提案する。 IMDBの映画レビュー(センチメント)と合成キャッツ・アンド・ドッグス・データセット(任意で、より伝統的なコンセプトステアリング)の実験は、TimpaTeksが拡散言語モデルの出力をその場で制御するための実現可能な新しいメカニズムを提供していることを示している。 TimpaTeksは、インプレース修正を可能にし、同時に文の難易度を低くし、チューニングされたモデルを必要とせずに元の文構造を維持できる。 また、TimpaTeksはプロンプトベースのDLMステアリングよりも計算コストが安い。

関連論文リスト

• DLM-SWAI: Steering Diffusion Language Models Before They Unmask [5.276802062716119]
  DLM-SWAIは、事前計算されたトークンレベルのスコアを使用して、各denoisingステップのトークン分布をバイアスする、トレーニング不要のステアリング手法である。 DLM-SWAIは、生成品質を保ち、計算オーバーヘッドを最小限に抑えつつ、拡散言語モデルを効果的に操ることを示す。
  論文  参考訳（メタデータ） (2026-05-28T09:00:14Z)
• Machine Unlearning for Masked Diffusion Language Models [14.122398562530032]
  仮面拡散言語モデル(MDLM)は、マスキングされた位置を平行に反復的にデノイングすることでテキストを生成する。 MDLMのための最初の非学習フレームワークであるMasked Diffusion Unlearning (MDU)を提案する。 MDUは、プロンプト条件予測からプロンプト条件付き無条件アンカーへの前方KL分岐をマスクされた応答位置毎に最小化する。
  論文  参考訳（メタデータ） (2026-05-18T11:54:11Z)
• How to Train Your Latent Diffusion Language Model Jointly With the Latent Space [76.9057986588963]
  遅延拡散モデルは、非自己回帰テキスト生成のための離散拡散の魅力的な代替手段を提供する。 本稿では、潜在エンコーダ、拡散モデル、デコーダを共同で訓練する潜在拡散言語モデル(LDLM)を提案する。 OpenWebTextとLM1Bでは、LDLMは既存の離散および連続拡散言語モデルよりも優れた生成性能を達成する。
  論文  参考訳（メタデータ） (2026-05-08T16:05:19Z)
• Activation Steering for Masked Diffusion Language Models [1.0980666029958932]
  マスケ拡散言語モデルは反復的復調過程を通じてテキストを生成する。 本稿では,MDLMのためのアクティベーションステアリングフレームワークを提案する。 LLaDA-8B-Instructの実験では、高レベル属性の信頼性変調が示されている。
  論文  参考訳（メタデータ） (2025-12-30T11:10:52Z)
• SUTA-LM: Bridging Test-Time Adaptation and Language Model Rescoring for Robust ASR [58.31068047426522]
  テスト時間適応(TTA)は、推論中にモデルを調整することで緩和することを目的としている。 最近の研究は、ビーム探索再構成や生成誤り訂正といった手法を用いて、TTAと外部言語モデルの組み合わせについて検討している。 本稿では,SUTAの簡易かつ効果的な拡張であるSUTA-LMを提案する。 18種類のASRデータセットの実験により、SUTA-LMは幅広い領域で堅牢な結果が得られることが示された。
  論文  参考訳（メタデータ） (2025-06-10T02:50:20Z)
• Zero-Shot Streaming Text to Speech Synthesis with Transducer and Auto-Regressive Modeling [76.23539797803681]
  既存の手法は主に、自然なストリーミング音声合成を実現するために、将来のテキストに依存するルックメカニズムを使用している。 本稿では,高品質な音声フレームをフレーム単位で生成するためのストリーミングフレームワークLEを提案する。 実験結果から,LEは現行のストリーミングTTS法より優れ,文レベルのTSシステムよりも高い性能を実現していることがわかった。
  論文  参考訳（メタデータ） (2025-05-26T08:25:01Z)
• SeqDiffuSeq: Text Diffusion with Encoder-Decoder Transformers [50.90457644954857]
  本研究では,拡散モデルを用いてシーケンス・ツー・シーケンスのテキスト生成を行う。 シーケンス・ツー・シーケンス生成のためのテキスト拡散モデルであるSeqDiffuSeqを提案する。 実験結果は、テキストの品質と推論時間の観点から、シーケンス・ツー・シーケンス生成の優れた性能を示す。
  論文  参考訳（メタデータ） (2022-12-20T15:16:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。