論文の概要: Reviser: Revision-Capable Text Generation via Autoregressive Cursor Actions
- arxiv url: http://arxiv.org/abs/2609.20830v1
- Date: Thu, 23 Jul 2026 00:54:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.678865
- Title: Reviser: Revision-Capable Text Generation via Autoregressive Cursor Actions
- Title(参考訳): Reviser: 自動回帰カーソルアクションによるリビジョン対応テキスト生成
- Abstract要約: Reviserはデコーダのみのトランスフォーマーで、可変キャンバス上のカーソル相対的なアクションのシーケンスとして応答を生成する。
本アリーナ評価では, SEDD と MDLM を強く好んでいる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Revision-capable generation is appealing because it can insert or revise earlier content, but many non-autoregressive and edit-based approaches obtain this flexibility through repeated sequence-level computation. We propose Reviser, a decoder-only Transformer that generates a response as a sequence of cursor-relative actions on a mutable canvas. At each step, Reviser predicts exactly one action token: INSERT(token), MOVE($Δ$), or STOP, and is autoregressive over edit-history actions rather than final text order. This design enables genuinely non-monotonic generation while preserving a simple next-action interface. On a continuation benchmark, Reviser is strongly preferred to SEDD and MDLM in our arena evaluations, and trajectory statistics confirm that the model performs frequent backward moves and mid-canvas insertions rather than merely emulating end-append decoding. Against size-matched autoregressive baselines, Reviser is competitive at both the 100M and 300M scales. Under our shared FLOPs convention, Reviser also requires substantially less inference compute than representative multi-pass refinement and diffusion-style baselines.
- Abstract(参考訳): 修正可能な生成は、以前のコンテンツを挿入または修正できるので魅力的であるが、多くの非自己回帰的および編集ベースのアプローチは、繰り返しシーケンスレベルの計算によって、この柔軟性を得る。
可変キャンバス上でカーソル相対的な動作のシーケンスとして応答を生成するデコーダのみの変換器であるReviserを提案する。
各ステップでReviserは、INSERT(token)、MOVE($Δ$)、STOPの1つのアクショントークンを予測する。
この設計は、単純なnext-actionインターフェイスを保持しながら、真に非モノトニックな生成を可能にする。
継続ベンチマークでは,アリーナ評価においてSEDDやMDLMよりもReviserが強く好まれており,トラジェクトリ統計により,エンドアペンデコーディングをエミュレートするだけでなく,頻繁に後方移動や中キャンバス挿入を行うことを確認した。
サイズにマッチした自己回帰ベースラインに対して、Reviserは1Mスケールと3Mスケールの両方で競争力がある。
共有FLOPの規約では、Reviserは代表的マルチパスの洗練や拡散スタイルのベースラインよりも推論計算をかなり少なくする必要がある。
関連論文リスト
- Distilling Sequential Computation in Transformer Language Models [27.155933358949213]
Transformer言語モデルでは、トークン単位のシーケンスを自動回帰的に処理する。
入力トークンのスパンを崩壊表現に置き換えることで逐次計算を蒸留する手法を提案する。
論文 参考訳(メタデータ) (2026-09-23T02:02:57Z) - When Edit Flows are Edit Jumps: replicating Edit Flows and EvoFlows [1.295510990912869]
編集ベースの生成モデルは、編集位置、編集数、出力長を事前に固定することなく、そのような編集予算を割り当てる唯一のモデルである。
ここでは、両方のメソッドが、同じ基盤となるプロセスに従うことを示します。
我々は1.66Mで訓練された1つのジェネラリストエディタで、このフレームワークの最初のオープン実装を紹介する。
論文 参考訳(メタデータ) (2026-09-16T14:39:26Z) - REER-PT: Reverse-Engineered Reasoning for Perplexity-Guided Pre-training Data Augmentation [64.84437332310516]
我々は,Reverse-Engineered Reasoning (REER) を生の事前学習データに拡張するスケーラブルなフレームワークである textbfREER-PT を紹介する。
REER-PTは予測が難しいが、それ以前のコンテキストから推論できる継続を識別し、コンテキストと継続の間の欠落した接続を再構築する簡潔な推論アノテーションを挿入する。
このスパース変換は、ソーステキストを保存し、トレーニング前のオンライン推論ロールアウトを避けることで、標準的な次世代の予測と互換性を維持します。
論文 参考訳(メタデータ) (2026-08-31T11:34:19Z) - RAGR: Review-Augmented Generative Recommendation [61.29879991713178]
Review-Augmented Generative Recommendation (RAGR)は、レビューフィードバックを直接生成ユーザシーケンスに組み込む新しいGRフレームワークである。
RAGRは、すべてのメトリクスにわたる強力なGRバックボーンよりも一貫性があり、大きな利益をもたらす。
論文 参考訳(メタデータ) (2026-05-17T05:21:23Z) - HoReN: Normalized Hopfield Retrieval for Large-Scale Sequential Model Editing [12.303016850029683]
大規模言語モデルは、展開後に必然的に時代遅れになる膨大な事実知識を符号化する。
1行の作業は、ロケーション・then-edit手順を通じてベースウェイトを直接変更することで、新しい事実をインストールする。
補完ラインはベースウェイトをそのまま残し、外部メモリを通して編集をルーティングするが、ルーティングの課題に直面している。
提案するHoReNは,3つのアイデアに基づいたルーティング機能を備えたコードブックベースのエディタである。
論文 参考訳(メタデータ) (2026-05-02T15:51:31Z) - A Parametric Memory Head for Continual Generative Retrieval [52.66674234249913]
生成情報検索(GenIR)は、検索を単一のニューラルモデルに統合し、クエリから直接ドキュメント識別子(ドシデント)をデコードする。
逐次適応は、新たに追加された文書の検索を改善するが、以前のスライスの性能は著しく低下することを示す。
本稿では,モジュール型パラメトリックメモリヘッドで適応モデルを拡張するメモリのみの安定化ステージである,後適応メモリチューニング(PAMT)を提案する。
論文 参考訳(メタデータ) (2026-04-25T17:38:51Z) - Autoregressive, Yet Revisable: In Decoding Revision for Secure Code Generation [17.125957722393327]
Stream of Revision(ストリーム・オブ・リビジョン)は、モノトニックストリームから動的で自己修正的な軌道へのコード生成を高めるパラダイムシフトである。
モデルがシームレスにバックトラックし、単一のフォワードパス内で自身の履歴を編集できるように、特定のアクショントークンを導入します。
論文 参考訳(メタデータ) (2026-02-01T12:22:46Z) - PROMISE: Process Reward Models Unlock Test-Time Scaling Laws in Generative Recommendations [52.67948063133533]
生成レコメンデーションは有望なパラダイムとして現れ、階層的なセマンティックIDよりもシーケンス・ツー・シーケンス生成タスクとしてレコメンデーションを改革している。
既存の手法は、セマンティックドリフト(Semantic Drift)と呼ばれる重要な問題に悩まされ、初期、高レベルのトークンのエラーは、生成軌道を無関係な意味部分空間に不可逆的に分散させる。
本稿では,高密度なステップバイステップ検証を生成モデルに統合する新しいフレームワークPromiseを提案する。
論文 参考訳(メタデータ) (2026-01-08T07:38:46Z) - Parallel Decoder Transformer: Model-Internal Parallel Decoding with Speculative Invariance via Note Conditioning [0.0]
textbfParallel Decoder Transformer (PDT)は,凍結事前学習モデルの推論プロセスに直接調整プリミティブを埋め込むパラメータ効率の高いアーキテクチャである。
PDTは効果的な自己補正を達成し、カバレッジ予測の精度は textbf77.8% に達し、トランク重量を変更することなく近似シリアルセマンティクスを復元する。
論文 参考訳(メタデータ) (2025-12-10T20:19:10Z) - Towards Transformer-Based Aligned Generation with Self-Coherence Guidance [51.42269790543461]
トランスフォーマーを用いたテキストガイド拡散モデル(TGDM)におけるアライメント向上のためのトレーニング不要アプローチを提案する。
既存のTGDMは、特に複雑なテキストプロンプトやマルチコンセプト属性バインディングの問題を扱う場合、意味的に整合した画像を生成するのに苦労することが多い。
本手法は,生成過程において,相互注意マップを直接最適化することにより,これらの課題に対処する。
論文 参考訳(メタデータ) (2025-03-22T07:03:57Z) - POINTER: Constrained Progressive Text Generation via Insertion-based
Generative Pre-training [93.79766670391618]
ハードコントラストテキスト生成のための新しい挿入ベースアプローチであるPOINTERを提案する。
提案手法は,既存のトークン間で段階的に新しいトークンを並列に挿入することによって動作する。
結果として生じる粗大な階層構造は、生成プロセスを直感的で解釈可能である。
論文 参考訳(メタデータ) (2020-05-01T18:11:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。