論文の概要: Intent-Triggered Anchoring for Multi-Token Format Units in Parallel Decoding of Diffusion Language Models
- arxiv url: http://arxiv.org/abs/2610.16516v1
- Date: Mon, 12 Oct 2026 10:07:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-18 22:51:51.904939
- Title: Intent-Triggered Anchoring for Multi-Token Format Units in Parallel Decoding of Diffusion Language Models
- Title(参考訳): 拡散言語モデルの並列デコードにおけるマルチトークンフォーマットユニットのインテントトリガアンコリング
- Abstract要約: 並列デコーディングでは、拡散言語モデルはフォワードパス毎に複数のトークンをコミットするので、共コミットされたトークンはお互いを見ることができない。
モデルが最初のトークンをコミットした後にフォーマット単位を完了するトレーニング不要な復号規則であるインテントトリガー付きアンカーを提案する。
- 参考スコア(独自算出の注目度): 2.4827516038838064
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In parallel decoding, diffusion language models commit several tokens per forward pass, so co-committed tokens cannot see each other, breaking multi-token format units that parsers need. On ECHO, an open-weight one-step chest X-ray (CXR) report generator, 32.7-36.7% of evaluation reports lack a parseable Impression heading and score as empty. We propose intent-triggered anchoring, a training-free decoding rule that completes a format unit once the model commits its first token, inserting only units with a unique, content-free completion; fallbacks write the unit when the model stops or loops without starting it. On three CXR evaluation sets, the rule raises readable rates from 63.3-67.3% to 100.0% with no regressions and a 95th-percentile latency ratio of 0.68-1.28 against official decoding. Broken headings state findings absent from the reference; adding the heading at the end leaves them in 15.5-31.0% of reports, our rule in at most 0.6%. For math answer markers, the rule raises accuracy in the most parallel setting of five diffusion language models by 5.8-20.8 points on GSM8K and 5.1-17.1 on GSM-Symbolic, held out from tuning. With lenient answer extraction, gains are 3.3-12.5 and 2.7-6.3 points; the rule adds 1.4-8.6 points over a stop-only fallback for four of the five models.
- Abstract(参考訳): 並列デコーディングでは、拡散言語モデルはフォワードパス毎にいくつかのトークンをコミットするので、共コミットトークンは相互に見ることができず、パーサーが必要とするマルチトークンフォーマットユニットを破る。
ECHOでは、オープンウェイトな1段階の胸部X線(CXR)レポートジェネレータで、32.7-36.7%の評価レポートには、パース可能な印象とスコアが欠落している。
本稿では,モデルが最初のトークンをコミットした後にフォーマット単位を完了し,ユニークなコンテントフリーな完成度を持つユニットのみを挿入する,トレーニング不要な復号法であるインテントトリガー付きアンカーを提案する。
3つのCXR評価セットでは、レグレッションなしで読みやすいレートが63.3-67.3%から100.0%に上昇し、95パーセントの遅延比が0.68-1.28である。
ブロークヘッドは、基準から外れており、最後に見出しを追加すると、報告の15.5-31.0%に、我々のルールは少なくとも0.6%に留まる。
数学の解答マーカーについては、GSM8Kでは5.8-20.8、GSM-Symbolicでは5.1-17.1の5つの拡散言語モデルの最も並列な設定で精度を上げる。
利得は3.3-12.5点と2.7-6.3点であり、この規則は5つのモデルのうち4つのモデルの停止のみのフォールバックに対して1.4-8.6点を加算する。
関連論文リスト
- Self-Repulsive Sampling for Diffusion Language Models [42.61658629762382]
Self-Repulsion (SR) は、マスク付き拡散言語モデルのサンプルである。
パスはバッチ化されたフォワードパスを共有し、次に順番にコミットする。
投票の得票率は、主に正しい回答のより高いカバレッジから生じる。
論文 参考訳(メタデータ) (2026-09-30T11:58:40Z) - DreamingGoose: Staged Distillation from Autoregressive Transformers to Bidirectional Recurrent Diffusion Language Models [41.99844472131922]
我々はQwen3の教師を1.7Bと8Bで3段階に分けて、注意なし、双方向、ゲート・デルタ・ルール拡散学習者に変換する。
言語モデリングは部分的および非分配のみを転送する。
検索を学習するすべてのモデルは、検索エピソードに現れないトークンに対して0.000のスコアを獲得します。
論文 参考訳(メタデータ) (2026-09-28T03:57:11Z) - Where a Model Sends Its Own Repeated Token [0.0]
ブラックボックスモデルの識別は、自然言語のプロンプトに対するモデルの応答を評価することで機能する。
退化した入力を受け取り、モデルがそうでないときにどこに行くのかを尋ねます。
結果は語彙全体の地図であり、2つのハーフがある。
論文 参考訳(メタデータ) (2026-09-25T12:13:31Z) - Token Counts Are Not Model Lineage: A Frozen-Threshold Holdout Study of Black-Box LLM API Fingerprinting [4.093009863847175]
大規模な言語モデルがリレーとリセラーAPIを通じて提供される場合、ブラックボックスモデルの属性はますます重要になる。
テンポの低い信号は、OpenAI互換エンドポイントで返されるプロンプトトケン数である。
しかし、この信号がより広範にEmphmodel- family属性に有効であることは、直接のホールドアウト試験がほとんど行われていない。
我々は,24個のラベル付きエンドポイントペアに対して凍結保持実験を行い,開発セットと未タッチのホールドアウトセットに均等に分割した。
論文 参考訳(メタデータ) (2026-08-30T17:58:49Z) - Unadapted Multilingual ASR on a Garrusi Kurdish Evaluation Set: A Common-Reference Staged Normalization Analysis [0.0]
ラテン音場正書法で書かれたクルド方言の音声認識を評価する。
原文のアラビア文字仮説は111.70%のWERと100.92%のCERであり、正確な単語一致はゼロである。
ラテン語の文字化では102.36%のWERと57.89%のCERが与えられ、参照を縮小した正書法に折り畳むと97.85%と51.20%となる。
論文 参考訳(メタデータ) (2026-08-17T10:31:30Z) - IndicQE-APE: A Benchmark for Quality Estimation and Automatic Post-Editing for Indic Languages [77.88427845181154]
我々はWMT 2020-2024の共有タスクの系統を、英語のリソースを拡張してインディクシーに集約する:9つの方向対に対して126,754ドルのインスタンス。
セグメントレベルのQEでは,LSMが6つ,COMETが3つ,APEでは3つのシステムをベンチマークした。
論文 参考訳(メタデータ) (2026-08-17T09:50:52Z) - The Recall Trap: A Recall-Maximizing Retriever Configuration Reduces Issue Resolution in Fixed-Budget Code Context [45.88028371034407]
コード修復における制御ケーススタディを報告し,新しい現象ではない。
私たちは、同じスタック上の1つのフラグ(1チャンク毎の重複)を切り替えます。
BM25(3.2pp、重要なパラダイム間相互作用)を逆転させる。
厳格な固定予算では、ファイルごとのハードダイドプリケートや、タスクに対するA/Bパッケージングポリシは、メトリックフラグを調整しないことが示されます。
論文 参考訳(メタデータ) (2026-08-14T19:22:50Z) - QuoteBench: How Matched Scores Can Hide Command-Path Failures [30.480838412827907]
実行スコアだけでは、ジェネレーションエラーとジェネレーション後に導入された失敗を区別できない。
QuoteBenchはこの境界線を、インシデントから派生した14のファミリーから56のワンショットタスクに対して正確に最終状態の検証を行う。
コマンド発行エージェントの評価は、一致したスコアを本質的なモデル特性として扱うよりも、モデル構成、生成契約、実行経路、操作点、最終状態などを報告すべきである。
論文 参考訳(メタデータ) (2026-08-13T17:57:20Z) - Refusing Everything Looks Safe: Restoring the Benign Arm to Encoded-Prompt Evaluation [28.190540929297637]
ベンチマークでは、難解な有害なリクエストを送信し、モデルがどの程度の頻度で準拠しているかを報告します。
私たちは良性の腕を同じ変換で動かし、2つのケースは遠く離れています。
エンコーディングが破壊するものは拒絶ではなく、有害なギャップである。
論文 参考訳(メタデータ) (2026-08-12T15:45:56Z) - Overeager Coding Agents: Measuring Out-of-Scope Actions on Benign Tasks [40.270213696031625]
OverEager-Genは、良質なタスクの振る舞いをオーバーイーガーするベンチマークである。
クロード・コードでは、同意宣言を削除するだけで、オーバーイーガー率は0.0%から17.1%に上昇する。
オーバーイーガー・ジェン(OverEager-Gen)は、入場前に各シナリオの識別力を認定する。
論文 参考訳(メタデータ) (2026-05-18T16:00:41Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳(メタデータ) (2026-05-15T17:08:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。