論文の概要: Noise Steering for Controlled Text Generation: Improving Diversity and Reading-Level Fidelity in Arabic Educational Story Generation

• arxiv url: http://arxiv.org/abs/2604.03380v1
• Date: Fri, 03 Apr 2026 18:19:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:18.545778
• Title: Noise Steering for Controlled Text Generation: Improving Diversity and Reading-Level Fidelity in Arabic Educational Story Generation
• Title（参考訳）: 制御されたテキスト生成のためのノイズステアリング:アラビア語教育物語生成における多様性と読みやすさの改善
• Authors: Haziq Mohammad Khalid, Salsabeel Shapsough, Imran Zualkernan,
• Abstract要約: 本研究では,変圧器モデルの内部表現にキャリブレーションされたガウス摂動を注入するノイズステアリングについて検討する。 我々は,高温サンプリングベースラインに対する4つの注入戦略,多様性,品質,制約順守,読解グレードレベルを比較した。 内部表現レベルの摂動は、制約のある教育コンテンツ生成の出力レベルよりも適切な多様性戦略であると考えられる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generating diverse, pedagogically valid stories for Arabic early-grade reading assessments requires balancing tight constraints on vocabulary, reading level, and narrative structure against the need to avoid repetitive plots that undermine assessment validity. We investigate noise steering, injecting calibrated Gaussian perturbations into the internal representations of transformer models at inference time, as a training-free diversity method evaluated across five small Arabic-centric language models (7-9B parameters). We compare four injection strategies against high-temperature sampling baselines, measuring diversity, quality, constraint adherence, and reading grade level. Residual stream noise consistently improves narrative diversity with minimal quality or constraint cost and preserves early-grade reading level across all models. Attention entropy noise injection (AENI) stabilizes the otherwise unreliable attention-logit noise while recovering quality. High-temperature sampling inflates reading grade level and causes catastrophic collapse on several models. We find internal representation-level perturbation to be a more suitable diversity strategy than output-level stochasticity for constrained educational content generation.
• Abstract（参考訳）: アラビア語の初等読解評価のための多様で教育学的に有効な物語を生成するには、語彙、読解レベル、物語構造に対する厳密な制約と、評価の妥当性を損なう反復プロットを避ける必要性とのバランスが必要である。 本研究では,5つのアラビア語中心言語モデル(7-9Bパラメータ)で評価された学習自由多様性法として,変圧器モデルの内部表現にキャリブレーションされたガウス摂動を注入するノイズステアリングについて検討する。 我々は,高温サンプリングベースラインに対する4つの注入戦略,多様性,品質,制約順守,読解グレードレベルを比較した。 残留ストリームノイズは、最小品質または制約コストで物語の多様性を継続的に改善し、すべてのモデルで早期の読解レベルを維持する。 注意エントロピーノイズインジェクション (AENI) は、品質を回復しつつ、他の信頼性の低い注目-ログノイズを安定化させる。 高温サンプリングはグレードレベルを膨張させ、いくつかのモデルで破滅的な崩壊を引き起こす。 内部表現レベルの摂動は、制約のある教育コンテンツ生成における出力レベルの確率性よりも、より適切な多様性戦略であると考えられる。

関連論文リスト

• Adaptive Guidance for Retrieval-Augmented Masked Diffusion Models [60.25003813232697]
  本稿では,Masked Diffusion Models (MDMs) のトレーニング自由適応ガイダンスフレームワークとして,適応検索型Masked Diffusion (ARAM) を提案する。 ARAMは、検索した文脈によって誘導される分布シフトのSNR(Signal-to-Noise Ratio)に従って、雑音発生時の誘導スケールを校正する。 複数の知識集約型QAベンチマークの実験は、ARAMが競争力のあるRAGベースラインよりも全体的なQA性能を改善することを示している。
  論文  参考訳（メタデータ） (2026-03-18T12:54:50Z)
• Evaluating Semantic Fragility in Text-to-Audio Generation Systems Under Controlled Prompt Perturbations [2.2870073664564115]
  小さな言語的変化は、生成された音声にかなりの変化をもたらし、実用的な使用における信頼性への懸念を引き起こす可能性がある。 制御された即時摂動下でのテキスト・音声システムの意味的不安定性を評価する。
  論文  参考訳（メタデータ） (2026-03-14T08:12:40Z)
• Multi-Stage Speaker Diarization for Noisy Classrooms [1.4549461207028445]
  本研究では,NvidiaのNeMoダイアリゼーションパイプラインを用いた多段ダイアリゼーションモデルの有効性を検討した。 ダイアリゼーション精度に対する聴覚の影響を評価し,様々な音声活動検出モデルを比較した。 また、フレームレベルのVAD予測と自動音声認識(ASR)ワードレベルのタイムスタンプを統合するハイブリッドVAD手法についても検討する。
  論文  参考訳（メタデータ） (2025-05-16T05:35:06Z)
• Text Diffusion with Reinforced Conditioning [92.17397504834825]
  本稿では,テキスト拡散モデルを完全に解析し,トレーニング中の自己条件の劣化と,トレーニングとサンプリングのミスアライメントの2つの重要な限界を明らかにする。 そこで本研究では, TRECと呼ばれる新しいテキスト拡散モデルを提案する。
  論文  参考訳（メタデータ） (2024-02-19T09:24:02Z)
• Evade the Trap of Mediocrity: Promoting Diversity and Novelty in Text Generation via Concentrating Attention [85.5379146125199]
  強力なトランスフォーマーアーキテクチャは高品質な文を生成するのに優れていることが証明されている。 本研究では,Transformerにおけるスペーサーの注意値が多様性を向上させることを発見した。 注意分布のシャープさを制御するために,新しい注意正規化損失を導入する。
  論文  参考訳（メタデータ） (2022-11-14T07:53:16Z)
• Improving Imbalanced Text Classification with Dynamic Curriculum Learning [32.731900584216724]
  不均衡テキスト分類のための自己評価動的カリキュラム学習手法を提案する。 我々のSPDCLは、適応的なペースからハードペースに適応することで、トレーニングデータの再注文と再サンプル化が困難である。 いくつかの分類タスクの実験は、SPDCL戦略、特に不均衡データセットの有効性を示している。
  論文  参考訳（メタデータ） (2022-10-25T07:57:59Z)
• AES Systems Are Both Overstable And Oversensitive: Explaining Why And Proposing Defenses [66.49753193098356]
  スコアリングモデルの驚くべき逆方向の脆さの原因について検討する。 のモデルとして訓練されているにもかかわらず、単語の袋のように振る舞うことを示唆している。 高い精度で試料を発生させる過敏性と過敏性を検出できる検出ベース保護モデルを提案する。
  論文  参考訳（メタデータ） (2021-09-24T03:49:38Z)
• Bridging the Gap Between Clean Data Training and Real-World Inference for Spoken Language Understanding [76.89426311082927]
  既存のモデルはクリーンデータに基づいてトレーニングされ、クリーンデータトレーニングと現実世界の推論の間にtextitgapが発生する。 本稿では,良質なサンプルと低品質のサンプルの両方が類似ベクトル空間に埋め込まれた領域適応法を提案する。 広く使用されているデータセット、スニップス、および大規模な社内データセット(1000万のトレーニング例)に関する実験では、この方法は実世界の(騒々しい)コーパスのベースラインモデルを上回るだけでなく、堅牢性、すなわち、騒々しい環境下で高品質の結果を生み出すことを実証しています。
  論文  参考訳（メタデータ） (2021-04-13T17:54:33Z)
• Improving Translation Robustness with Visual Cues and Error Correction [58.97421756225425]
  ノイズの多いテキストに対する翻訳の堅牢性を改善するビジュアルコンテキストのアイデアを紹介します。 また,誤り訂正を補助タスクとして扱うことで,新しい誤り訂正訓練手法を提案する。
  論文  参考訳（メタデータ） (2021-03-12T15:31:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。