論文の概要: Context Injection and Long-Horizon Reliability: Separating Duplicate Recognition, Local Processing, and Counter Tracking
- arxiv url: http://arxiv.org/abs/2610.20633v1
- Date: Wed, 30 Sep 2026 14:08:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-18 21:02:54.547085
- Title: Context Injection and Long-Horizon Reliability: Separating Duplicate Recognition, Local Processing, and Counter Tracking
- Title（参考訳）: コンテキスト注入と長期信頼性:重複認識と局所処理とカウンタ追跡の分離
- Abstract要約: 言語モデルの長距離故障は通常、エンドタスクの成功または水平長として測定される。
代わりに、ステップごとに、400ステップの台帳タスクの3つのコンポーネントをスコア付けします。
重複認識エラーはエピソードの後半に発生するが、カウンタは8000ステップでエラーを発生せず、局所処理は記述的に安定している。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Long-horizon failures of language models are usually measured as end-task success or as a horizon length. We instead score, step by step, three components of a 400-step ledger task in which every step is easy in isolation and the model's own answers are re-injected into its context: recognising a record already seen 5 to 300 steps earlier, processing the current record locally, and writing a counter incremented at every step. On Qwen3-8B (non-thinking, 20 seeds, replicated on a second machine and backend), with every step scored component by component, two results hold. First, duplicate-recognition errors rise late in the episode -- from 0.0019 to 0.011 per step at risk across step 200 -- while the counter makes no error in 8,000 steps and local processing is descriptively stable; the rise combines long-distance recall errors and rising false alarms. Second, a block of irrelevant content inserted before each step makes the counter fail in 20 of 20 seeds on each machine, against none without it, while its effect on local processing is much smaller and not distinguishable from none. Three pre-registered follow-ups probe the counter. Its value depends on the value present in the response history: a corrupted value persists without correction in every seed, and an exact external reminder, repeated before each message, re-aligns it within one to two steps. Under the irrelevant block, no counter error was observed when an exact compact reminder of the state, supplied externally by an oracle, preceded each message (0 of 20 seeds with an error, against 15 without it), and this reminder outperformed a length-matched neutral text; whether a single reminder suffices was not conclusive, and the absence of damage to the other components was not established. An aggregate or exclusive error classification can hide the difference we report.
- Abstract（参考訳）: 言語モデルの長距離故障は通常、エンドタスクの成功または水平長として測定される。
その代わりに、400ステップの台帳タスクの3つのコンポーネントをスコアし、各ステップを分離しやすくし、モデル自身の回答をコンテキストに再注入します。
Qwen3-8B(考えずに、20個のシードが第2のマシンとバックエンドで複製される)では、各ステップがコンポーネントごとにスコア付けされ、2つの結果が保持される。
第一に、重複認識エラーはエピソードの後半(ステップ200全体で1ステップ当たり0.0019から0.011まで)に上昇するが、カウンターは8000ステップでエラーを発生せず、ローカル処理は記述的に安定している。
第2に、各ステップの前に挿入された無関係な内容のブロックは、カウンタを各マシン上の20種のうち20種に対して、それなしでは失敗させるが、局所処理に対する効果ははるかに小さく、それと区別できない。
登録済みの3人がカウンターを調査します。
その値は応答履歴に存在する値に依存する: 腐敗した値は、すべてのシードで修正されずに持続し、正確に外部リマインダーは、各メッセージの前に繰り返し、それを1から2ステップ以内に再調整する。
無関係なブロックの下では、オラクルによって外部に供給された正確なコンパクトなリマインダーが各メッセージ(エラーで20種中0種、エラー無しで15種)に先行するときにカウンターエラーは見られず、このリマインダーは長さにマッチした中性テキストより優れていた。
集合的または排他的エラー分類は、私たちが報告する違いを隠蔽することができる。
関連論文リスト
- DreamingGoose: Staged Distillation from Autoregressive Transformers to Bidirectional Recurrent Diffusion Language Models [41.99844472131922]
我々はQwen3の教師を1.7Bと8Bで3段階に分けて、注意なし、双方向、ゲート・デルタ・ルール拡散学習者に変換する。
言語モデリングは部分的および非分配のみを転送する。
検索を学習するすべてのモデルは、検索エピソードに現れないトークンに対して0.000のスコアを獲得します。
論文 参考訳（メタデータ） (2026-09-28T03:57:11Z) - VeriPhy: Agentic Physical Reasoning for World Model Evaluation and Refinement [57.86962208273888]
テキストのみのプランナが入力された物理義務にプロンプトをコンパイルする監査可能な物理検証システムを提案する。
それぞれのアクションは、ペイロードがタイプされた測定か、明示的にタグ付けされた学習状態である証明付きエビデンスレコードを返す。
我々は, 実発生障害を即時参照, 空間, 時間でローカライズする, 1500クリックの欠陥記録のコーパスにおいて, 評価をアンロックする。
論文 参考訳（メタデータ） (2026-09-02T20:36:45Z) - Boundary-Mutation Testing for Pattern-Based Secret Detection: A Rule-Level Method and Cross-Scanner Evaluation [0.0]
パターンベースシークレットスキャナにおける境界突然変異試験
3つのスキャナー(43ルールのオープンソーススキャナ、Gitleaks 8.21.2、TruffleHog 3.82.13)がテストされている。
論文 参考訳（メタデータ） (2026-09-02T13:41:50Z) - Shortcut Before Circuit: Document Statistics Time In-Context Conflict Resolution [0.0]
我々は、電流と希薄度が正確に一致した合成言語でトランスフォーマーを訓練する。
私たちはこれらを最小限の因果編集で分離し、真実、トークン数、答え位置を固定しながら1つのキューを反転させます。
論文 参考訳（メタデータ） (2026-08-25T12:09:19Z) - Feedback That Backfires: Why Small Language Model Agents Repeat the Call They Just Watched Fail [0.0]
障害レコードの修正的なゲインを、失敗するアクションを再発光するログ確率の変化として定義すると、そのゲインは、命令チューニングされたモデル毎に負であることが分かります。
問題は、モデルのエラーメッセージの把握ではなく、ハーネスにある。
論文 参考訳（メタデータ） (2026-08-24T10:19:17Z) - Turning Interaction History into Execution State: A Runtime Layer for Long-Horizon Coding Agents [48.967927222079965]
Ledgerは、エージェントの完了したインタラクションを明示的な実行状態に蒸留するランタイム層である。
Ledgerはこの状態をオンライン実行台帳に保持し、各ステップの2つのバウンダリに適用される。
500のSWE-bench検証インスタンス全体で、LedgerはPass@1を56.2%から64.2%に、GPT-5 miniを75.8%から81.0%に、MiniMax M2.5を81.0%に引き上げている。
論文 参考訳（メタデータ） (2026-08-01T18:25:00Z) - Stage-Replay Divergence Follows the KV Cache: Fixed-Prefix Precision Controls and Bidirectional Cache Transplantation [51.56484100374058]
Stage-replayは中間トークンプレフィックスを再構築し、プレフィックスに最初に到達したデコーダ状態からの継続として、新しいプリフィル継続を処理する。
一致した200itemの実験では、保持されたライブキャッシュと同一の整数トークンのワンショットプリフィルを比較し、両側に正確なレプリカを配置する。
論文 参考訳（メタデータ） (2026-07-30T16:41:40Z) - Measuring Alignment With Reader Highlights Net of Position and Length [1.8620637029128544]
120のウェブ文書(少なくとも12の独立した読者)では、言語モデルに重点を置くランキングが38.4%と一致した隣人の19.9%に対して群衆マーク付き文を維持している。
GPT-5.4 (+0.002 [-0.081, +0.088]) と区別できない 0.182 に到達し、5以下となる。
論文 参考訳（メタデータ） (2026-07-30T06:24:38Z) - Agents Don't Just Agree, They Remember: Benchmarking Persistent Sycophancy in Stateful Personal Agents [33.055253684457625]
ステートフルなパーソナルエージェントは、長期的なユーザープロファイル、エピソード記憶、再利用可能なスキルをますます維持する。
これを持続性梅毒と呼び、Personal Agent Sycophancy Benchmark (PASB)を導入します。
PASBは、会話的クレームが受け入れられ、耐久性のあるエージェント状態に書き込まれ、後に中立なクエリで再利用されるかどうかをトレースする。
論文 参考訳（メタデータ） (2026-07-12T01:08:59Z) - Repeated-Token Counting Reveals a Dissociation Between Representations and Outputs [0.0]
より大きな言語モデルは、より広範な推論ベンチマークのパフォーマンスにもかかわらず、繰り返しトークンを数えることに失敗する。
残差ストリーム上の線形プローブは、埋め込み後の各層において、正しいカウントをほぼ完全精度で復号する。
論文 参考訳（メタデータ） (2026-05-10T00:45:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。