論文の概要: Right Reset: Chunking by Prefix Removal

• arxiv url: http://arxiv.org/abs/2608.04330v1
• Date: Wed, 05 Aug 2026 01:17:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-06 14:48:43.682443
• Title: Right Reset: Chunking by Prefix Removal
• Title（参考訳）: right reset: 修正削除によるチャンキング
• Authors: Mike Vegeto,
• Abstract要約: 右隠れ状態軌跡の保存を計測する右リセットを導入する。 平らなテキストでは、RRはオリジナルのレコードの47.7%をクリーン単位として回収し、BGE埋め込み境界は25.9%である。 6つの言語モデル全体で、RR選択されたカットは、未選択の候補エッジよりも局所的な出力破壊が一貫して少ない。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Removing the left context from a causal language model reveals a useful kind of boundary: an edge where the model processes the same right-hand tokens with little change. We turn this observation into prefix-removal probing and introduce Right Reset (RR), which measures preservation of the right-hand hidden-state trajectory. A dynamic program converts RR edge scores into variable-length chunks. On flattened text formed by concatenating topically similar records after deleting their separators and layout, RR recovers 47.7% of the original records as clean units, versus 25.9% for a BGE embedding boundary, the strongest tested conventional baseline without task-specific model training. The gain persists after rendering and OCR. Passive scores from the same Qwen3-4B layer and direct prompting of a same-scale instruction model perform substantially worse on flattened records. Across six language models, RR-selected cuts also undergo consistently less local output disruption than unselected candidate edges. An observed-token likelihood-ratio readout is competitive in some architectures, indicating that the central contribution is the intervention: context dependence itself can provide a boundary signal when surface structure is weak.
• Abstract（参考訳）: 因果的言語モデルから左のコンテキストを取り除くと、有用な境界線が明らかになる。 我々はこの観察を前頭葉切除検査に転換し、右隠れ状態軌跡の保存を計測する右リセット(Right Reset, RRR)を導入する。 動的プログラムはRRエッジスコアを可変長チャンクに変換する。 分離器とレイアウトを削除した後、位相的に類似したレコードを連結して形成された平らなテキストでは、RRはオリジナルのレコードの47.7%をクリーンな単位として回収し、BGE埋め込み境界は25.9%である。 レンダリングとOCR後にゲインが持続する。 同じQwen3-4B層からのパッシブスコアと、同じスケールの命令モデルの直接プロンプトは、フラット化されたレコードに対して著しく悪化する。 6つの言語モデル全体で、RR選択されたカットは、未選択の候補エッジよりも局所的な出力破壊が一貫して少ない。 観測された確率比の読み出しは、いくつかのアーキテクチャにおいて競合しており、中心的な貢献は介入であることを示している。

関連論文リスト

• Rethinking the Pointer Loss in Table Structure Recognition: Geometry-Aware Pointer Loss for Spatial Locality [12.986158862036866]
  ポインタネットワークを用いたテーブル構造認識は、検出されたテキスト(またはセル)領域にタグをアライメントしながらHTMLシーケンスを予測することで、印象的な結果を得る。 ポインタネットワークが失敗すると、79.6%のエラーが発生する。 本研究では,地中真理に近接した空間的近さに基づくクロスエントロピー目的の重み付けを行うGAPロスを提案する。
  論文  参考訳（メタデータ） (2026-06-17T05:59:31Z)
• Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning [55.264863369127774]
  現在の方法では、それぞれの正しいロールアウトを単一の報酬ビットに減らし、隠れた状態間で共有される幾何学的構造を無視している。 本稿では,RLトレーニングにおけるアンカートークンにおける正ロールアウトの最終層を,トレーニングと推論の両方においてゼロオーバーヘッドで整列する補助損失関数Hidden-Alignを提案する。 8つの数学的推論ベンチマークでは、Hidden-AlignはDAPOベースラインの平均パス@1をQwen3-1.7B, 4B, 14Bで3.8, 6.2, 5.4ポイント改善し、3つのスケールで一貫したパス@kゲインを得る。
  論文  参考訳（メタデータ） (2026-06-02T06:51:15Z)
• Memory by Design: Probabilistic Sequence Layers [19.16406809753255]
  本稿では,メモリに関する明示的な仮定から,効率的な逐次シーケンスマップを導出する方法を提案する。 設計モデルは、正確なベイズフィルタリングによって証拠を記憶に書き込む。 クエリ依存の読み出しは、平均が層出力である予測分布を生成する。
  論文  参考訳（メタデータ） (2026-05-29T11:13:00Z)
• Relational Rank Geometry in Transformers: Detecting and Steering Hidden-State Relation Frames [0.0]
  トークンコンストラクタ間の関係のランク付き幾何について検討した。 32以上のプロンプトを洗浄・腐食介入法で測定する。 クリーンターゲット関係フレームパスは、クリーン・アンサー動作と残差関係幾何を回復する。
  論文  参考訳（メタデータ） (2026-05-28T09:06:13Z)
• Arbor: A Framework for Reliable Navigation of Critical Conversation Flows [0.19573380763700712]
  本稿では,決定木ナビゲーションを専門的なノードレベルのタスクに分解するフレームワークであるArborを紹介する。 Abortは平均ターン精度を29.4ポイント改善し、ターン毎のレイテンシを57.1%削減し、ターン毎のコストを平均14.4倍削減する。
  論文  参考訳（メタデータ） (2026-02-16T11:09:02Z)
• CORE: Context-Robust Remasking for Diffusion Language Models [51.59514489363897]
  我々は、推論時リビジョンのためのトレーニング不要フレームワークであるContext-Robust Remasking (CORE)を提案する。 静的トークンの確率を信頼するのではなく、COREは、ターゲットとなるマスク付きコンテキストの摂動に対する感受性を示すことによって、コンテキスト不安定なトークンを識別する。 LLaDA-8B-Baseでは、COREは推論とコードベンチマークの間で一貫した改善を行い、計算に適合したベースラインを上回り、MBPPを最大9.2%改善した。
  論文  参考訳（メタデータ） (2026-02-04T00:12:30Z)
• CLUE: Non-parametric Verification from Experience via Hidden-State Clustering [64.50919789875233]
  隠れアクティベーションの軌跡内の幾何的に分離可能なシグネチャとして解の正しさが符号化されていることを示す。 ClUE は LLM-as-a-judge ベースラインを一貫して上回り、候補者の再選において近代的な信頼に基づく手法に適合または超えている。
  論文  参考訳（メタデータ） (2025-10-02T02:14:33Z)
• Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
  クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。 我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
  論文  参考訳（メタデータ） (2023-12-27T09:03:43Z)
• FastCorrect: Fast Error Correction with Edit Alignment for Automatic Speech Recognition [90.34177266618143]
  編集アライメントに基づく新しいNAR誤り訂正モデルであるFastCorrectを提案する。 fastcorrectは推論を6-9倍高速化し、自己回帰補正モデルと比較して精度を8-14%向上させる。 ニューラルマシン翻訳で採用されている一般的なNARモデルの精度を、大きなマージンで上回っています。
  論文  参考訳（メタデータ） (2021-05-09T05:35:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。