論文の概要: ReconSpan: Reconstruction-Guided Adaptive Latent Tokenization

• arxiv url: http://arxiv.org/abs/2608.12756v1
• Date: Thu, 13 Aug 2026 03:08:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-14 18:29:38.374793
• Title: ReconSpan: Reconstruction-Guided Adaptive Latent Tokenization
• Title（参考訳）: ReconSpan: Restruction-Guided Adaptive Latent Tokenization
• Abstract要約: ReconSpanはテキストを、後方デコーダが単一のコンテキストプレフィックスコードから再構築できるチャンクに分割する。 得られた遅延シーケンスの読者はトピック情報を確実に回復するが、正確な詳細を抽出するのに苦労する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Adaptive latent tokenization maps a fine-grained input to a shorter sequence of continuous representations associated with input-dependent spans. We introduce ReconSpan, which divides text into chunks that a backward decoder can reconstruct from a single contextual prefix code and retains one such code as the latent token for each chunk. The reconstruction criterion is applied when chunks are formed, allowing one trained autoencoder to produce average chunk lengths from 6.5 to 12.2. At matched average length, reconstruction-guided boundaries preserve more text than random boundaries. Readers of the resulting latent sequence recover topic information reliably but struggle to extract exact details.
• Abstract（参考訳）: 適応潜在トークン化(Adaptive Latent tokenization)は、入力依存スパンに関連する連続表現の短いシーケンスにきめ細かい入力をマッピングする。 ReconSpanはテキストをチャンクに分割し、逆デコーダが単一のコンテキストプレフィックスコードから再構成でき、各チャンクの潜在トークンのようなコードを保持する。 1つの訓練されたオートエンコーダが6.5〜12.2の平均チャンク長を生成することができる。 一致した平均長さでは、再建誘導境界はランダム境界よりも多くのテキストを保持する。 得られた遅延シーケンスの読者はトピック情報を確実に回復するが、正確な詳細を抽出するのに苦労する。

関連論文リスト

• Penelope: Localized Latent Recurrence for Efficient Structured Reasoning [26.549641831847982]
  Penelopeは、事前訓練されたデコーダのみのトランスフォーマーのための効率的な潜時推論フレームワークである。 再帰計算を選択されたデコーダ間隔にローカライズする。 確立された潜在推論モデルと比較して、競争精度が向上する。
  論文  参考訳（メタデータ） (2026-07-28T16:06:46Z)
• Token-to-Token Alignment of Text Embeddings for Semantic Blending [55.88554156801394]
  本稿では,プロンプト間のトークン間の明示的な意味的対応を確立するフレームワークであるToken-to-Tokenアライメントを紹介する。 この結果から,テキストから画像への埋め込み空間は,表現が適切に整列されたときにアクセス可能な連続的な意味構造を暗黙的に符号化していることがわかった。
  論文  参考訳（メタデータ） (2026-06-22T23:54:40Z)
• DynaTok: Token-Based 4D Reconstruction from Partial Point Clouds [86.5916611076068]
  DynaTokは、画像のない部分点列からの対応のない4D再構成のための点ベースフレームワークである。 フローマッチングデコーダは、完全な時間的に一貫した4次元の点時間観測を再構成する。
  論文  参考訳（メタデータ） (2026-06-10T15:13:14Z)
• AdaPLD: Adaptive Retrieval and Reuse for Efficient Model-Free Speculative Decoding [35.23072855575658]
  本稿では,検索とドラフト構築の両方を適応的に改善するトレーニングフリーな手法であるemphAdaPLDを提案する。 様々なベンチマークで、AdaPLDは目標モデルのフォワードパスを減らし、最大3.10タイムのデコードスピードアップを実現している。
  論文  参考訳（メタデータ） (2026-06-04T06:09:44Z)
• Latent Recurrent Transformer: Architecture Exploration, Training Strategies, and Scaling Behavior [107.2098567818173]
  Latent Recurrent Transformer (LRT) は自己回帰変換器の軽量化である。 LRTは、次のトークンのリカレントメモリとして、前のトークンから高レベルなソース層隠れステートを再利用する。
  論文  参考訳（メタデータ） (2026-05-26T10:10:26Z)
• PairAlign: A Framework for Sequence Tokenization via Self-Alignment with Applications to Audio Tokenization [8.126475706520063]
  PairAlignは、シーケンスレベルの自己アライメントによるコンパクトなオーディオトークン化のためのフレームワークである。 広義の語彙を用いたコンパクトで非退化配列を学習する。 編集距離検索を保存し、アーカイブトークン数を55%削減する。
  論文  参考訳（メタデータ） (2026-05-07T17:11:22Z)
• Self-Infilling Code Generation [60.12883980846781]
  自動回帰デコードにインフィル操作を組み込んだ汎用フレームワークであるセルフインフィルコード生成を導入する。 我々は,従来の復号化において,新しい割り込みとループ機構を導入するために,この機能を利用する。 提案する復号処理は,複数のコード生成ベンチマークにおける正規性と品質の向上に有効である。
  論文  参考訳（メタデータ） (2023-11-29T16:02:06Z)
• Look-back Decoding for Open-Ended Text Generation [62.53302138266465]
  本研究では,現在の復号化過程と過去の復号化過程の分布距離を追跡する改良された復号化アルゴリズムであるLook-backを提案する。 ルックバックは、潜在的反復句とトピックドリフトを自動的に予測し、障害モードを引き起こす可能性のあるトークンを削除することができる。 文書の継続とストーリー生成に関する復号実験を行い、Look-backがより流動的で一貫性のあるテキストを生成することを実証する。
  論文  参考訳（メタデータ） (2023-05-22T20:42:37Z)
• Attributable and Scalable Opinion Summarization [79.87892048285819]
  我々は、頻繁なエンコーディングを復号することで抽象的な要約を生成し、同じ頻繁なエンコーディングに割り当てられた文を選択して抽出的な要約を生成する。 本手法は,要約プロセスの一部として要約を生成するために使用される文を同定するため,帰属的手法である。 なぜなら、アグリゲーションはトークンの長いシーケンスではなく、潜在空間で実行されるからである。
  論文  参考訳（メタデータ） (2023-05-19T11:30:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。