論文の概要: Shortcut Before Circuit: Document Statistics Time In-Context Conflict Resolution

• arxiv url: http://arxiv.org/abs/2608.24460v1
• Date: Tue, 25 Aug 2026 12:09:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-26 14:09:34.961681
• Title: Shortcut Before Circuit: Document Statistics Time In-Context Conflict Resolution
• Title（参考訳）: サーキット前のショートカット: ドキュメント統計 時間内競合解決
• Abstract要約: 我々は、電流と希薄度が正確に一致した合成言語でトランスフォーマーを訓練する。 私たちはこれらを最小限の因果編集で分離し、真実、トークン数、答え位置を固定しながら1つのキューを反転させます。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When a context asserts two values for one fact, a model commits to a cue -- recency, repetition, position -- but natural data rarely makes these disagree, so behavior cannot reveal which. We train 26M-parameter transformers on a synthetic language where recency and rarity are exactly coextensive, and separate them with a minimal causal edit that inverts one cue while holding the truth, token count and answer position fixed. All 75 runs reach accuracy >= 0.999, including where the trivial heuristic fails, so no held-in evaluation distinguishes them. Under intervention the per-cell readout does not replicate: 13 of 25 cells differ by more than 0.3 in sign fraction across three seeds, the largest by 0.879 against a standard error of 0.025. The construction predicts this -- coextensive rules leave the objective indifferent between them -- and the variance is ordered by how much of the optimization each comparison releases. What replicates is timing: escape from a positional shortcut with a closed-form ceiling, monotone in redundancy. Probed before that escape, attribution reverses sign in 32 of 75 runs at unchanged accuracy, and gating on circuit formation is necessary but not sufficient. The corpus fixes when a mechanism appears, not which one -- a criterion for when mechanistic attribution to data is available at all, and our construction makes the unavailable case exact.
• Abstract（参考訳）: コンテキストが1つの事実に対して2つの値を主張すると、モデルがキュー -- 正確性、反復性、位置 -- にコミットする。 直流度と希少度が正確に一致した合成言語上で26Mパラメータ変換器を訓練し、真理、トークン数、解答位置を固定しながら1つのキューを反転させる最小限の因果編集でそれらを分離する。 75回の実行は、自明なヒューリスティックが失敗する箇所を含む精度 >=0.999 に達するので、ホールドイン評価がそれらを区別することはない。 25細胞のうち13細胞は3つの種子の符号分画で0.3以上、最大は0.879で標準エラーは0.025である。 構成は、これを予測する -- 厳密なルールは、それらの間に客観的に無関心なままであり、差分は、各比較がリリースする最適化の量によって順序付けられます。 複製されるタイミングは、閉じた形の天井のある位置のショートカットから逃げること、冗長なモノトーンである。 その脱走前に、帰属は75の32の符号を逆転させ、回路形成のゲーティングは必要だが十分ではない。 コーパスは、メカニズムが出現した時に修正するが、そのメカニズムは、データへの機械的属性が全く利用できない場合の基準ではない。

関連論文リスト

• Cross-Block Conditioning in Deep Boltzmann Machines for Statistical Data Fusion [0.0]
  本稿では,各行が実際に観測するものから抽出したターゲットに対して,マルチ予測対象を限定する,観測ブロック型マルチプレディションを提案する。 設定を生き残る差別的基準を持つことで、ジョイントモデルがまったく必要かどうかを問うことができます。
  論文  参考訳（メタデータ） (2026-09-14T02:26:16Z)
• A Dominant Diffuse Phase in the Sparse Autoencoder Phase Diagram [0.0]
  スパースオートエンコーダ(SAE)は、ニューラルネットワークのアクティベーションから解釈可能な特徴を回復するために、ますます使われるようになっている。 MAIS-O43開放問題では、真の合成辞書の回復が特徴付けの方法を与えるときに特徴付ける制御実験が提案されている。
  論文  参考訳（メタデータ） (2026-09-09T15:13:42Z)
• Wrong Prediction, Right Answer: Recovering Evidence from Collapsed LLM Sequence Scores [31.709549159768727]
  多様な推論ベンチマーク間で一貫した読み出しギャップを観察する。 隠れ状態プローブは、ネイティブシークエンススコアが完全に崩壊しても正解を復号することに成功した。 以上の結果から,無作為な内部論理を隠蔽する表現障害が明らかにゼロショット推論の欠点であることが明らかとなった。
  論文  参考訳（メタデータ） (2026-08-31T16:43:55Z)
• Feature Priming in Online Linear Regression: Sparse-Regret Lower Bounds and a Tight Univariate Rate [47.36630149538994]
  高次元のオンライン予測では、最良の予測子はいくつかの機能にのみ依存する可能性があるため、後悔は周囲の次元ではなく、疎らさでスケールすべきである。 WarmuthとAmidはCOLT 2023で、これらの3つのルールのいずれかが競合するオンライン後悔の保証を認めているかどうかを尋ねた。 安価なニュアンスは、リフィットが真の予測座標を過度に重くする原因となる。
  論文  参考訳（メタデータ） (2026-08-18T09:32:03Z)
• Excess Separability: Nuisance-Controlled Residual-Stream Probing for Benchmark Contamination Detection [0.0]
  ベンチマーク汚染はn-gram重なり、可能性に基づくメンバーシップ推論、カナリア文字列と診断される。 これを行う自然な方法はうまくいかないことを示し、測定を生き残るものを特定し、それを動作させる補正が、テストされるnullよりも多くのばらつきをもたらすことを見つけます。
  論文  参考訳（メタデータ） (2026-08-12T23:27:20Z)
• Stage-Replay Divergence Follows the KV Cache: Fixed-Prefix Precision Controls and Bidirectional Cache Transplantation [51.56484100374058]
  Stage-replayは中間トークンプレフィックスを再構築し、プレフィックスに最初に到達したデコーダ状態からの継続として、新しいプリフィル継続を処理する。 一致した200itemの実験では、保持されたライブキャッシュと同一の整数トークンのワンショットプリフィルを比較し、両側に正確なレプリカを配置する。
  論文  参考訳（メタデータ） (2026-07-30T16:41:40Z)
• Adversarial Test-Hardening for AI-Written Code: An Instrument Autopsy and a Pre-Registered Causal Estimate of the Critic Loop [0.0]
  メカニカルオラクル下での対向試験硬化ループについて検討した。 テスタモデルはテストを書き、変異テスト名は生き残った欠陥を注入し、Cryticモデルはテストを書き、それらを正確に実行します。 私たちは、すべてのレシートと分析コードの両方のプロトコルをリリースします。
  論文  参考訳（メタデータ） (2026-07-25T02:38:07Z)
• Memoir: Should a Model Write to Its Memory While It Thinks? [0.0]
  Memoirは、サンプル毎の高速メモリ、共有スローパラメータ、変数深度潜時再発、および将来の遅延エネルギー目標を組み合わせたものだ。 組み合わせた腕と、それ以外は同じ読み取り専用の機雷アームを比較します。 メモリの書き直しがエネルギーシグナルを損なうという予測された失敗は起こらなかった。
  論文  参考訳（メタデータ） (2026-07-22T23:34:56Z)
• Operational Proto-Introspection in Looped Language Models: Process-Quality Taps, Executable Branching, and the Readout-Control Boundary [0.0]
  言語モデルは、進行中の計算の質を読み取ることができるか? 外部介入は、その読み出しをより良い結果に変えることができるか? 凍結した2.6Bループ変換器,Ouro-RLTTで両質問を検証した。
  論文  参考訳（メタデータ） (2026-07-20T22:40:36Z)
• Forgetting Is Not a Fix: Path Dependence in Sequential Engram Editing [35.76482964927589]
  本研究では,概念固有のメモリトレースが1回,1回,1回を算術的に組み合わせて抽出できる線形オブジェクトとなるという仮説を検証した。 そのテストは、著者自身の参照実装に基づいて、報告された最高の編集強度で実行します。 アンラーニング・アズ・コンプライアンス:今日認定された消去は、次の編集後にアーティファクトを認定しない。
  論文  参考訳（メタデータ） (2026-07-06T23:45:06Z)
• Amplifying, Not Learning: Fine-Tuned AI Text Detectors Amplify a Pretrained Direction [51.56484100374058]
  テキスト検出器は、事前訓練された典型軸を増幅する。 タスク監督前の生エンコーダでは、3つのアーキテクチャでNYT-vs-HC3 AUROC 0.806/0.944/0.834を達成する。 RoBERTaベースでは、生のプロジェクションは微調整を超えるが、RoBERTaベースでは、フル微調整は、試験された流線型人口の双方で生よりも識別を小さくする。
  論文  参考訳（メタデータ） (2026-05-20T19:08:38Z)
• Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
  大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。 個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。 構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
  論文  参考訳（メタデータ） (2026-05-15T17:08:27Z)
• PBT-Bench: Benchmarking AI Agents on Property-Based Testing [29.035258104995204]
  PBT-Benchは、40の実際のPythonライブラリにまたがる100のプロパティベースのテスト問題のベンチマークである。 各問題は1つ以上のセマンティックなバグ(総数365、平均3.65)を注入し、デフォルトのストラテジーなランダムな入力がほとんど起こらないように設計する。 PBT指導によるバグリコールは42.1%から83.4%の範囲で、オープンエンドベースラインでは31.4%から76.7%である。
  論文  参考訳（メタデータ） (2026-05-13T18:01:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。