論文の概要: Structural Automata for Neural Semantic Parsing

• arxiv url: http://arxiv.org/abs/2610.13896v1
• Date: Fri, 09 Oct 2026 17:42:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.703087
• Title: Structural Automata for Neural Semantic Parsing
• Title（参考訳）: ニューラルセマンティックパーシングのための構造オートマタ
• Abstract要約: DRS解析の3段階における構造オートマトン (復号, ポストホック処理, トレーニング) の検討 復号化には、残りの長さ制限内で検証完了を維持するアセプティングパス復号(APD)を導入する。 トレーニングでは、拒否されたトークンをペナライズすることで、トレーニングの10%後にSmatch++の開発が3.6-11.0ポイント向上する。
• 参考スコア（独自算出の注目度）: 4.479714617176091
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural semantic parsers generate meaning representations token by token, yet well-formedness depends on references, scope, and graph relations that unfold during generation. Constrained decoding prevents locally invalid tokens but does not guarantee that a valid prefix can be completed within a fixed output-length limit. We investigate structural automata at three stages of DRS parsing (decoding, post hoc processing, and training) and additionally evaluate decoding on AMR. For decoding, we introduce accepting-path decoding (APD), which maintains a verified completion within the remaining length limit and follows the model's preferred token whenever that token can also be completed. APD guarantees an accepted output without retracting tokens. Under tight length limits, it improves Smatch++ over local masking by 5.1 and 2.4 points on DRS and by 6.4 and 3.2 points on AMR, comparable to rollback under the same limit, which retracts tokens. For post hoc processing, invalid outputs concentrate on the same inputs: eight unconstrained samples yield no valid output for 10.2% of inputs with limited training data, compared with 0.4% with full data, where filtering comes within 0.2 Smatch++ points of APD. For training, penalizing automaton-rejected tokens improves development Smatch++ by 3.6-11.0 points after 10% of training, but this advantage diminishes as cross-entropy alone reduces the probability assigned to rejected tokens from 14% to below 2% within the first sixth of training with limited data.
• Abstract（参考訳）: ニューラルセマンティックパーサーはトークンごとに意味表現トークンを生成するが、十分に整形性は生成中に展開する参照、スコープ、グラフの関係に依存する。 制限された復号化は、局所的に無効なトークンを阻止するが、有効なプレフィックスが一定の出力長の制限内で完了できることを保証しない。 DRS解析(復号処理,ポストホック処理,トレーニング)の3段階における構造的オートマトンについて検討し,さらにAMR上での復号性を評価する。 復号化には、残長制限内に検証済みの完了を保ち、トークンの完了時にモデルが好むトークンを追従するアセプティングパス復号(APD)を導入する。 APDはトークンを取り除かずに承認された出力を保証する。 厳密な長さ制限の下では、ローカルマスクよりもSmatch++をDRSで5.1と2.4ポイント、AMRで6.4と3.2ポイント改善する。 8つの制約のないサンプルは10.2%の入力に対して、トレーニングデータに制限があるが、0.4%は完全なデータで、フィルタリングはAPDの0.2 Smatch++ポイント以内である。 トレーニングでは、自動化されたトークンをペナライズすることで、トレーニングの10%の後にSmatch++の開発が3.6-11.0ポイント向上するが、この利点は、クロスエントロピーだけで、制限されたデータによるトレーニングの最初の6分の1から2%未満のトークンに割り当てられる確率を減少させる。

関連論文リスト

• Rethinking Soft Tokens for Parallel Decoding in Diffusion Language Models [62.63931587313321]
  拡散言語モデル(DLMs)は、各段階で複数のトークンを予測してコミットすることで並列生成を可能にする。 最近の研究は、emphsoftトークンが不確実な位置を表すことによってこの問題を緩和できることを示している。 ソフトトークンフィードバックが並列デコードをどのように改善するかは、体系的に検討されていない。
  論文  参考訳（メタデータ） (2026-09-29T12:38:30Z)
• Token Counts Are Not Model Lineage: A Frozen-Threshold Holdout Study of Black-Box LLM API Fingerprinting [4.093009863847175]
  大規模な言語モデルがリレーとリセラーAPIを通じて提供される場合、ブラックボックスモデルの属性はますます重要になる。 テンポの低い信号は、OpenAI互換エンドポイントで返されるプロンプトトケン数である。 しかし、この信号がより広範にEmphmodel- family属性に有効であることは、直接のホールドアウト試験がほとんど行われていない。 我々は,24個のラベル付きエンドポイントペアに対して凍結保持実験を行い,開発セットと未タッチのホールドアウトセットに均等に分割した。
  論文  参考訳（メタデータ） (2026-08-30T17:58:49Z)
• Nested Byte-Level Vocabularies Are Cheap to Deploy and Expensive to Share: A Pre-Registered Negative Result [0.0]
  一つの言語モデルが複数の語彙サイズで動作可能であることを示す。 コントロールトークンはアクティブサイズを示し、その埋め込みと出力ヘッドをスライスすることで任意のトレーニングされたサイズにデプロイされる。 キャップトークンも出力制限もないコントロールも同じように堅牢であり、条件付けよりも多粒度トレーニングに寄与する。
  論文  参考訳（メタデータ） (2026-08-28T10:13:32Z)
• Constrained Decoding for Diffusion Language Models via Efficient Inference over Finite Automata [57.27430779838529]
  有限オートマトンとして表現可能な任意の制約の下で,制約付き平均場後部からサンプリングする,正確かつトラクタブルなアルゴリズムを提案する。 このアプローチは、構築による制約満足度を保証し、欲求とサンプリングベースのデコーディングの両方をサポートし、並列およびブロックワイドデコーディングと互換性がある。 Dream-7B と LLaDA-8 の実証的な評価は、様々なタスクにおいてかなりの精度の向上を示した。
  論文  参考訳（メタデータ） (2026-07-08T05:48:57Z)
• Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning [55.264863369127774]
  現在の方法では、それぞれの正しいロールアウトを単一の報酬ビットに減らし、隠れた状態間で共有される幾何学的構造を無視している。 本稿では,RLトレーニングにおけるアンカートークンにおける正ロールアウトの最終層を,トレーニングと推論の両方においてゼロオーバーヘッドで整列する補助損失関数Hidden-Alignを提案する。 8つの数学的推論ベンチマークでは、Hidden-AlignはDAPOベースラインの平均パス@1をQwen3-1.7B, 4B, 14Bで3.8, 6.2, 5.4ポイント改善し、3つのスケールで一貫したパス@kゲインを得る。
  論文  参考訳（メタデータ） (2026-06-02T06:51:15Z)
• LaTER: Efficient Test-Time Reasoning via Latent Exploration and Explicit Verification [35.08680804423239]
  CoT(Chain-of- Thought)推論は、難しいタスクにおいて大きな言語モデル(LLM)を改善するが、推論コストも高くつく。 本稿では,連続潜伏空間における有界探索を最初に行う2段階のパラダイムであるLaTERを提案する。 LaTERは入力の埋め込み空間に隠された最後の層を投影し、潜伏KVキャッシュを保持し、エントロピーとモデルネイティブのストップトーケンプローブを使用していつ切り替えるかを決定する。
  論文  参考訳（メタデータ） (2026-05-08T06:23:58Z)
• PHANTOM: Polymorphic Honeytoken Adaptation with Narrative-Tailored Organisational Mimicry [0.2538209532048867]
  ハネトケンは、不正な属性アクセスを検出するために植えられたデコイデジタル資産である。 PHANTOMは,組織固有の知識を符号化することで,文脈的に説得力のあるハネトケンを生成するフレームワークである。 結果は外部のAPIコールなしで再現されるため、パイプラインは空調された環境で完全にデプロイできる。
  論文  参考訳（メタデータ） (2026-05-04T17:14:13Z)
• Efficient Punctuation Restoration via Weighted Lookahead Scoring Method for Streaming ASR Systems [4.703098868120046]
  Punctuation restorationは、ASR(Automatic Speech Recognition)の可読性を改善する。 ASRをストリーミングするには、将来の状況に制限のあるオンライン決定が必要である。 本稿では,入力書き起こしを保存し,各単語境界で決定する非自己回帰的スコアリング手法を提案する。
  論文  参考訳（メタデータ） (2026-04-18T01:03:33Z)
• Unleashing Implicit Rewards: Prefix-Value Learning for Distribution-Level Optimization [74.91418266859297]
  インプシットプロセス報酬モデル(PRM)は、推論プロセスに沿ってきめ細かな報酬信号を提供する。 トレーニングはシーケンスレベルの集約のみを制限しますが、推論はローカルステップの品質を反映するためにトークンレベルのスコアが必要です。 本稿では,予測精度を推定するプレフィックス条件付き値関数を直接学習する新しいインプリシット・プレフィックス・バリュー・リワード・モデル(IPVRM)を提案する。 また,サンプルトークンと高確率候補トークンの両方に対してTDの利点を演算する分散レベルRL(DistRL)を提案する。
  論文  参考訳（メタデータ） (2026-04-14T18:19:54Z)
• R-Stitch: Dynamic Trajectory Stitching for Efficient Reasoning [80.104336426172]
  CoT(Chain-of- Thought)は、大規模言語モデルの問題解決能力を高める。 CoTは長い自己回帰軌道のためにかなりの推論コストを発生させる。 トレーニング不要なハイブリッドデコーディングフレームワークであるR-Stitchを紹介する。
  論文  参考訳（メタデータ） (2025-07-23T08:14:36Z)
• Prune Spatio-temporal Tokens by Semantic-aware Temporal Accumulation [89.88214896713846]
  STAスコアは、時間的冗長性と意味的重要性の2つの重要な要因を考慮に入れている。 市販のビデオトランスフォーマーとビデオウィンにSTAモジュールを適用する。 結果: Kinetics-400 と something-Something V2 は 30% のオーバーシェルフ削減を実現し,0.2% の精度低下を実現した。
  論文  参考訳（メタデータ） (2023-08-08T19:38:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。