論文の概要: Attractive and Repulsive Pattern Control in Sequence Generation

• arxiv url: http://arxiv.org/abs/2606.24911v1
• Date: Fri, 19 Jun 2026 10:20:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-25 17:05:30.044678
• Title: Attractive and Repulsive Pattern Control in Sequence Generation
• Title（参考訳）: シーケンス生成における誘引的・反発的パターン制御
• Abstract要約: 本稿ではBP規則サンプリングを用いた可変次マルコフ生成のための符号付きパターン制御を提案する。 重み付き繰り返しオートマトンは、選択された対象パターンの族に対するアクティベーションRを算出する。 負のカップリング(負のカップリング)はサンプリング中にターゲットパターンをコストがかかり、正のカップリングは同じパターンに報酬を与え、それらを制御されたアトラクタに変える。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Variable-order Markov models preserve local symbolic syntax by adapting context length, but long continuations can enter recurring high-order "tunnels": repeated suffixes, locally periodic passages, or copied fragments longer than the formal Markov order. This paper introduces signed pattern control for variable-order Markov generation with BP-Regular sampling. A weighted recurrence automaton computes an activation R for a chosen family of target patterns, and belief propagation samples exactly from P_beta(x) proportional to P_0(x) exp(beta R(x)). Negative coupling makes the target patterns costly during sampling; positive coupling rewards the same patterns and turns them into controlled attractors. The target family may be mined online from overactive generated material, supplied by a score or style vocabulary, or designed as an experimental probe. The main experiments use the online homeostatic case, choosing patterns that become overactive in the sampling history. On six duration-bearing monophonic sources, including Bach and Telemann material, the negative branch reduces generated 8-gram self-reuse, increases the effective number of generated 8-grams, and increases coverage of training-supported 4-gram contexts while preserving substantial lower-order support. A pitch-sequence replication on five Weimar Jazz Database solos gives the same anti-reuse signature outside Baroque material. The same signed mechanism also provides a positive branch for probing attractor basins, phase transitions, and hysteresis in the underlying variable-order model.
• Abstract（参考訳）: 可変階マルコフモデルは、文脈長を適応させることで局所的な記号構文を保存するが、長い継続は、連続した接尾辞、局所的な周期的通過、または正式なマルコフ順序よりも長い断片のコピーといった、連続する高階の「トンネル」に入ることができる。 本稿ではBP規則サンプリングを用いた可変次マルコフ生成のための符号付きパターン制御を提案する。 重み付き繰り返しオートマトンは、選択された対象パターンの族に対するアクティベーションRを演算し、P_beta(x)からP_0(x)exp(betaR(x))に正に比例した信念伝播サンプルを出力する。 負のカップリング(負のカップリング)はサンプリング中にターゲットパターンをコストがかかり、正のカップリングは同じパターンに報酬を与え、それらを制御されたアトラクタに変える。 ターゲットファミリーは、過活動的な生成物質からオンラインで採掘され、スコアまたはスタイルの語彙によって供給されるか、または実験的プローブとして設計される。 主な実験ではオンラインのホメオスタティック・ケースを使用し、サンプリング履歴において過剰に作用するパターンを選択する。 BachやTelemannなどの6つの持続的モノフォニックソースでは、負の分岐は生成された8グラムの自己再利用を減らし、生成された8グラムの有効数を増やし、トレーニング支援された4グラムコンテキストのカバレッジを増大させ、相当な低次のサポートを維持している。 ヴァイマル・ジャズ・データベース(英語版)の5つのソロによるピッチ・シーケンスの複製は、バロック様式の素材の外でも同様のアンチ・リユース・シグネチャを与える。 同じ符号付き機構は、下層の変動次数モデルにおいて、アトラクタ盆地、相転移、ヒステリシスを探索するための正の分岐も提供する。

関連論文リスト

• DynImmune-BERT: Dynamic Immune Repertoire Modeling with Neural ODE Driven Continuous Transformers [20.989286585908978]
  DynImmune-BERTは、患者レベルの免疫状態予測のための連続的時間レパートリーモデルである。 低ランクのメタアダプタは、観察されたクローン数とは無関係にパラメータ数を保ちながら、クローンタイプを監督する。 その結果、時系列レパートリー構造が利用できる場合、イベント認識時空間モデリングは強い静的エンコーダを補完できることがわかった。
  論文  参考訳（メタデータ） (2026-07-19T13:25:05Z)
• Hacking Generative Perplexity: Why Unconditional Text Evaluation Needs Distributional Metrics [49.443264461057645]
  拡散および連続フローベースの言語モデルは、言語モデリングに対する非自己回帰的な主要な代替手段として現れている。 両方のパラダイムの進歩は、生成的複雑度(gen-PPL)によって圧倒的に追跡される。 我々は、この指標は正しくないと主張している。構築により、gen-PPLは、文法性やセマンティックコヒーレンスではなく、スコアARの下でのみ予測可能性を測定する。
  論文  参考訳（メタデータ） (2026-06-07T02:35:56Z)
• Margin-calibrated Classifier Guidance for Property-driven Synthesis Planning [23.782236689125995]
  比較的議論とマージンに基づく損失を利用して分類器の校正を行うSCR(Sequence Completion Ranking)を導入する。 SCRはマルチステップ解決率を16.8%ドル(無誘導発電機)から78.4%ドル(反応型誘導)、9.3%ドル(谷本誘導)に大幅に改善している。 また,テンプレートフリー手法とテンプレートベース手法の長期的多様性ギャップを効果的に解消する。
  論文  参考訳（メタデータ） (2026-05-13T07:12:53Z)
• Balanced Aggregation: Understanding and Fixing Aggregation Bias in GRPO [70.38763678943648]
  検証可能な報酬(RLVR)による強化学習は、大規模言語モデルにおける推論とコード生成を改善するための中心的なパラダイムとなっている。 標準的なGRPOはシーケンスアグリゲーションを使用し、最近の研究はトークンアグリゲーションをより良い代替手段として提唱している。 トークンアグリゲーションは符号長結合を導入し、シーケンスアグリゲーションは暗黙的にダウンウェイトを延長する。
  論文  参考訳（メタデータ） (2026-04-14T09:48:46Z)
• Conditioning Protein Generation via Hopfield Pattern Multiplicity [0.0]
  幾何学的注意によるタンパク質配列生成は、トレーニングなしで小さなアライメントから可塑性ファミリーを生産する。 サンプルの注意ログにバイアスとして付加された1つのスカラーパラメータが、フルファミリーからユーザ特定サブセットへ連続的に生成することを示す。 5種のPfam族に対する実験により,4つの領域にわたる分離とギャップのモノトニックな関係が確認された。
  論文  参考訳（メタデータ） (2026-03-20T16:38:15Z)
• Text Generation Beyond Discrete Token Sampling [74.06071135207635]
  入力の混合(Mixture of Inputs, MoI)は、自動回帰生成のためのトレーニング不要な方法である。 MoIはQwQ-32B、Nemotron-Super-49B、Gemma-3-27B、DAPO-Qwen-32Bを含む複数のモデルのパフォーマンスを継続的に改善している。
  論文  参考訳（メタデータ） (2025-05-20T18:41:46Z)
• σ-GPTs: A New Approach to Autoregressive Models [19.84252724050016]
  出力に位置エンコーディングを追加するだけで、この順序をオンザフライ・イン・サンプルで変調できることを示す。 我々は,言語モデリング,パス解決,航空機の垂直速度予測など,様々な領域にわたる手法の評価を行った。
  論文  参考訳（メタデータ） (2024-04-15T08:22:47Z)
• Masked Audio Generation using a Single Non-Autoregressive Transformer [90.11646612273965]
  MAGNeTは、複数のオーディオトークンストリーム上で直接動作するマスク付き生成シーケンスモデリング手法である。 テキスト・トゥ・ミュージック・アンド・テキスト・トゥ・オーディオ・ジェネレーションのタスクにおけるMAGNeTの有効性を実証する。 我々は、自己回帰と非自己回帰モデリングのトレードオフを指摘するとともに、MAGNeTを構成する各コンポーネントの重要性を強調した。
  論文  参考訳（メタデータ） (2024-01-09T14:29:39Z)
• Mitigating the Learning Bias towards Repetition by Self-Contrastive Training for Open-Ended Generation [92.42032403795879]
  GPT2のような事前訓練された言語モデル(LM)は、繰り返しテキストを生成する傾向にあることを示す。 トークンレベルの反復確率の過大評価は学習バイアスに起因している。 LMは文レベルの繰り返しループの原因となる非繰り返しトークンよりも長い範囲依存を用いて繰り返しトークンを予測する。
  論文  参考訳（メタデータ） (2023-07-04T07:53:55Z)
• Generating diverse and natural text-to-speech samples using a quantized fine-grained VAE and auto-regressive prosody prior [53.69310441063162]
  本稿では,より自然な音響サンプルを生成できる離散潜在空間における逐次前処理を提案する。 本研究では,聴取試験,自動音声認識(ASR)性能の客観的指標,韻律特性の測定によるアプローチの評価を行った。
  論文  参考訳（メタデータ） (2020-02-06T12:35:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。