論文の概要: The Ignition Is Real, and It Lives at the Readout: Latent composition, difficulty-clocked ignition, and the interface-constituted commit in a recurrent-depth reasoner
- arxiv url: http://arxiv.org/abs/2608.03263v1
- Date: Tue, 04 Aug 2026 07:35:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-05 15:30:23.083369
- Title: The Ignition Is Real, and It Lives at the Readout: Latent composition, difficulty-clocked ignition, and the interface-constituted commit in a recurrent-depth reasoner
- Title(参考訳): Ignition is Real, and It Lives at the Readout: Latent composition, difficulty-clocked ignition, and the interface-constituted commit in a recurrent-deepth reasoner
- Authors: Simon Lam-Muir,
- Abstract要約: 我々は、潜時推論モデルで報告される「複合点火」が実計算なのか、楽器の人工物なのか、あるいは言語訓練データから継承されるのかを検証する。
到着時刻は問題深度とともに合法的に上昇し、解像度は鋭く保たれ、シグネチャは2つの同じシードの実現を通して再現される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We test whether the "compositional ignition" reported in latent-reasoning models is real computation, an instrument artifact, or inherited from verbal training data. We grow an independent realization of a published 30M-parameter recurrent-depth reasoner from scratch (same recipe and seed), film its development, certify fidelity through a pre-registered whole-signature gate, and measure resolution in two channels at once: the vocabulary readout and the hidden state. The ignition is real and lives at the readout: arrival time rises lawfully with problem depth, resolution is sharp and holds, and the signature reproduces across two same-seed realizations with divergent training trajectories. At commitment the decision margin jumps 5.8-8.0 logits in one iteration, exceeding the 90th percentile of near-threshold non-event steps in 96% of cases; the signed margin's zero-crossing there is definitional and carries no evidential weight, so the evidence is that conditioned magnitude. The hidden-state direction snaps in raw geometry, meeting its pre-registered criterion (in the decoder's LayerNorm coordinates it attenuates just below our bar, so the composite decoder-coordinate claim is not confirmed), and then freezes in both (descriptively so in decoder coordinates; angular steps 52.9 to 1.2 degrees over eight iterations), while subsequent displacement is predominantly radial (0.961 of squared-norm) and readout-null to a measured bound (radial logit effect <=5.7e-6). An earlier velocity-trough claim is withdrawn: pre-registered normalization controls showed it coordinate-dependent. Intermediates were never recoverable through the tied readout (relay 0.00). All criteria were frozen before their data; the predictions ledger, including this paper's own withdrawn headline, ships in the companion repository.
- Abstract(参考訳): 我々は、潜時推論モデルで報告される「複合点火」が実計算なのか、楽器の人工物なのか、あるいは言語訓練データから継承されるのかを検証する。
筆者らは,30Mパラメトリック再帰的推論器をスクラッチ(レシピとシード)から独立に実現し,その開発をフィルム化し,事前登録された全署名ゲートを通じて忠実さを証明し,語彙読み出しと隠蔽状態の2つのチャネルで分解能を同時に測定する。
着火時刻は問題深度とともに合法的に上昇し、解像度は鋭く保たれ、シグネチャは異なる訓練軌跡を持つ2つの同じシードの現実を再現する。
決定マージンは1回の反復で5.8-8.0ロジット増加し、96%のケースでほぼ閾値のない90%を超える。
隠れ状態の方向は生の幾何学においてスナップし、その事前登録された基準を満たす(デコーダのLayerNorm座標では、我々のバーのすぐ下に減衰するので、複合デコーダ・コーディネート・クレームは確認されない)。
事前登録された正規化制御は座標に依存していることを示した。
中間体は、連結された読み出し(0.00リレー)によって復元されることはなかった。
データの前に全ての基準が凍結され、この論文で削除された見出しを含む予測台帳は、共用リポジトリに出荷された。
関連論文リスト
- GradCuit: Credit-Assigned Gradient Flow Enables Robust and Interpretable Test-Time Latent Reasoning [61.67411833252235]
本稿では,プロンプトの隠蔽表現と生成された継続の間に,選択したTransformer層に最適化可能な潜在状態を挿入するGradCuitを紹介する。
5つの命令調整されたバックボーン、3つの推論ベンチマーク、2つの回答フォーマットで、GradCuitの平均精度は64.5%である。
解釈可能性について、トークンレベルの勾配属性は、遅延の影響が推論・接続子トークンに集中していることを明らかにする一方、層解析は、初期から中間のトランスフォーマー層を最も効果的な最適化空間として認識する。
論文 参考訳(メタデータ) (2026-08-03T17:55:24Z) - SketchMamba: A Lightweight State-Space Model for Joint Progressive Sketch Classification and Stroke Auto-Completion [0.0]
既存のベクトルスケッチモデルは、認識と生成を別のタスクとして扱う。
スケッチマンバ(SketchMamba)は、任意の部分的な接頭辞からスケッチを連続的に分類し、その継続を同時に生成する単一因果配列モデルである。
論文 参考訳(メタデータ) (2026-07-26T10:05:23Z) - From Geometric Recovery to Causal Validation: A Reproducible Audit of Sparse Autoencoder Features, from Superposition Geometry to Causal Inertness [0.0]
スパースオートエンコーダ(SAE)は、重畳された神経表現を解釈可能な特徴に分解する標準である。
これはデコーダ・ジオメトリーアライメントとエンコーダ・アクティベーションの2つの異なるクレームを示す。
本手法は,決定論的パイプラインを持つモデル非依存の楽器であるsae-causal-auditとしてパッケージ化する。
論文 参考訳(メタデータ) (2026-07-13T21:18:52Z) - Recovering Input Text from Hidden States: Study of Gradient-Based Inversion of Decoder-Only Language Models [0.0]
隠れ状態反転問題を連続埋め込み空間最適化として検討する。
我々は、どのトークンが再構成を破るかを分析し、鋭い分類的非対称性を見つける。
GPT-2の最後の層が隠された状態は、原文と同じくらい敏感である。
論文 参考訳(メタデータ) (2026-07-01T12:18:12Z) - When Agents Commit Too Soon: Diagnosing Premature Commitment in LLM Agents [0.0]
長い答えのLSMエージェントは静かに失敗する可能性があり、彼らは証拠を早期に読み上げ、残りの期間をその証拠を守るのに費やした。
我々は、表現的コミットメントを、固定された推論ステップにおいて、クロスランな隠れ状態収束として定義する。
ランタイムモニタは、AUROCの隠れ状態から0.97までの不整合軌道を検出する(より厳密なスプリットの下で0.85-0.88)。
論文 参考訳(メタデータ) (2026-06-22T07:13:13Z) - High-Dimensional Latents Should Be Diagnosed Through Phase Structure [56.362776482614976]
スピングラス理論のレンズによるオートエンコーダと変分オートエンコーダの潜在空間について検討した。
固定復号器用の潜時空間スピングラス辞書を定式化する。
トポロジカルな自明化機構のエッジ・オブ・ステイティに向けて潜伏系を駆動することは、下流に具体的な結果をもたらすことを示す。
論文 参考訳(メタデータ) (2026-05-23T06:17:23Z) - Amplifying, Not Learning: Fine-Tuned AI Text Detectors Amplify a Pretrained Direction [51.56484100374058]
テキスト検出器は、事前訓練された典型軸を増幅する。
タスク監督前の生エンコーダでは、3つのアーキテクチャでNYT-vs-HC3 AUROC 0.806/0.944/0.834を達成する。
RoBERTaベースでは、生のプロジェクションは微調整を超えるが、RoBERTaベースでは、フル微調整は、試験された流線型人口の双方で生よりも識別を小さくする。
論文 参考訳(メタデータ) (2026-05-20T19:08:38Z) - Self-Aware Vector Embeddings for Retrieval-Augmented Generation: A Neuroscience-Inspired Framework for Temporal, Confidence-Weighted, and Relational Knowledge [0.0]
現代の検索拡張生成(RAG)システムは、ベクトル埋め込みを静的で文脈に依存しないアーティファクトとして扱う。
このフレームワークは,3つの明示的な特性 – 時間的認識,信頼の低下,関係的認識 – で密着な埋め込みを強化するものだ。
論文 参考訳(メタデータ) (2026-04-22T14:13:50Z) - BadCLIP++: Stealthy and Persistent Backdoors in Multimodal Contrastive Learning [73.46118996284888]
マルチモーダル・コントラスト学習モデルに対するバックドア攻撃の研究は、ステルスネスと永続性という2つの大きな課題に直面している。
両課題に対処する統合フレームワークであるBadCLIP++を提案する。
ステルスネスのために,タスク関連領域付近に知覚不可能なパターンを埋め込むセマンティックフュージョンQRマイクロトリガーを導入する。
持続性については、半径縮小とセントロイドアライメントによるトリガ埋め込みを安定化する。
論文 参考訳(メタデータ) (2026-02-19T08:31:16Z) - CLUE: Non-parametric Verification from Experience via Hidden-State Clustering [64.50919789875233]
隠れアクティベーションの軌跡内の幾何的に分離可能なシグネチャとして解の正しさが符号化されていることを示す。
ClUE は LLM-as-a-judge ベースラインを一貫して上回り、候補者の再選において近代的な信頼に基づく手法に適合または超えている。
論文 参考訳(メタデータ) (2025-10-02T02:14:33Z) - Lazy Layers to Make Fine-Tuned Diffusion Models More Traceable [70.77600345240867]
新たな任意の任意配置(AIAO)戦略は、微調整による除去に耐性を持たせる。
拡散モデルの入力/出力空間のバックドアを設計する既存の手法とは異なり,本手法では,サンプルサブパスの特徴空間にバックドアを埋め込む方法を提案する。
MS-COCO,AFHQ,LSUN,CUB-200,DreamBoothの各データセットに関する実証研究により,AIAOの堅牢性が確認された。
論文 参考訳(メタデータ) (2024-05-01T12:03:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。