論文の概要: What Iterated Self-Feeding Probes of Language Models Measure, and a test that separates the construction from the model
- arxiv url: http://arxiv.org/abs/2608.10986v1
- Date: Tue, 11 Aug 2026 14:40:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-12 19:14:46.078068
- Title: What Iterated Self-Feeding Probes of Language Models Measure, and a test that separates the construction from the model
- Title（参考訳）: 言語モデルの反復型自己フィードバックプローブとモデル構築を分離するテスト
- Abstract要約: メソッドのクラスは、独自の出力を与えて言語モデルを探索する。
我々は、その問題を鋭くするために選ばれた工事において、そのような調査がどう対処するかを尋ねる。
答えは、見た目が似ている読書において、一度に2つの異なるものを測定することだ。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A growing class of methods probes a language model by feeding it its own output: self-consistency, iterated refinement, agentic loops. We ask what such a probe measures, in a construction chosen to make the question sharp: a ring of token cells resampled in place by the model's own windowed conditional p_r(x_i | x_{i+-r}). The substrate is Glauber dynamics on token sequences and is not new; what we change is the coupling. Advancing two rings that differ in one token under common random numbers makes undamaged copies diverge by exactly zero, so damage spreading becomes measurable where a maximal coupling gives mixing times instead. The answer is that it measures two different things at once, in readings that look alike. Some quantities are fixed by the construction: the damage light cone is kinematic, and the radius scaling of the token-space Lyapunov exponent lambda_ca(r) is model-invariant across 19 models and two scale ladders spanning 70x. Others genuinely track the model: lambda_ca crosses zero at a reproducible point in training, and the attractor share ranks models consistently however the lattice is built. Left undistinguished, the first kind is readily mistaken for the second -- we did so ourselves for four months, and report a phase transition we measured to three decimal places that belongs to the probe rather than to any language model. We give the test that separates them: hold the construction fixed and vary the model, or hold the model fixed and vary the construction, and see which readings move. We validate the instrument by reproduction first, recovering a Domany-Kinzel damage field bit-exactly against an independent prediction, and we report the estimator failures that this discipline caught -- four retracted verdicts, each on a quantity that looked like a measurement. The methodology ships as a package.
- Abstract（参考訳）: 成長するメソッドのクラスは、自己整合性、反復洗練、エージェントループという、独自の出力を供給することによって言語モデルを探索する。
モデル自身の条件付き条件付きp_r(x_i | x_{i+-r})により、トークンセルの環がその場で再サンプリングされる。
基質はトークンシーケンスのグラウバーダイナミクスであり、新しいものではない。
共通乱数の下で1つのトークンで異なる2つの環を増進すると、損傷のないコピーは正確にゼロに分岐するので、最大結合が混合時間を与える場合、損傷の拡散が測定可能となる。
答えは、見た目が似ている読書において、一度に2つの異なるものを測定することだ。
損傷光円錐はキネマティックであり、トークン空間 Lyapunov exponent lambda_ca(r) の半径スケーリングはモデル不変であり、19のモデルと2つのスケールのはしごは70倍である。
ラムダ_caは、トレーニングの再現可能なポイントでゼロを横切り、アトラクタは、格子が構築されているにもかかわらず、モデルを一貫してランク付けする。
私たちは4ヶ月間、自分自身でそれを行ない、フェーズ遷移を報告します。そして、どの言語モデルよりも、プローブに属する3つの10の場所へ測定しました。
モデルを固定して変更するか、モデルを固定して変更するか、どれが動くかを確認します。
まず,独立予測に対してドマニ・キンツェルの損傷場を微妙に復元し,この領域が捉えた推定器の故障を,それぞれが測定値のように見える量に基づいて報告する。
方法論はパッケージとして出荷されます。
関連論文リスト
- Prompt-Model Interaction Reaches the Fixed Points: A deterministic, task-free structural readout -- and the factorizations of it that failed [0.0]
ショートウィンドウ argmax map x_t+1 = argmax_x p(x | x_t-1, x_t) の固定点構造は96 から始まる。
6つのモデルのうち4つは、ウィンドウ16で完全に失われている。
第一に、相互作用は全等級でこの読み出しに達する:条件付けの9つのトークンは、そのほとんどにわたって固定点分数を動かす。
論文 参考訳（メタデータ） (2026-08-21T17:25:18Z) - Split the Labor: Separating Evidence Interpretation from Decision Aggregation [0.0]
言語モデルに多くの情報源から結論に達するよう要求するシステムは通常、それらを1つのプロンプトに分割する。
提案する4分野のエビデンス(仮説,信頼性バケット,合理性,証明)は,両半減期を決定することを示す。
この修正はアーキテクチャよりも算術的であり、言語モデル以外のルールのクラスに適用される。
論文 参考訳（メタデータ） (2026-08-14T17:24:55Z) - Intrinsic Structure: Spectral Identifiability for Mechanistic Interpretability [51.56484100374058]
機械論的解釈可能性プリミティブに対する最初の識別可能性定理を証明した。
スペクトルは、正当性分解ではなく、記述されたエラーバーを持つ識別可能なモデル固有の指紋である。
論文 参考訳（メタデータ） (2026-08-10T19:42:01Z) - Latent-Kernel Discrete Flow Maps for Few-Step Generation [4.159429302112398]
我々は,M因子化成分を1つの潜伏子で結合したフローマップカーネルを構築する。
1つのステップが、因数分解モデルと同じサンプリング時間複雑度で相関完備化に質量を置くことを示す。
One-Billion-Word (LM1B) とWikiText-103ベンチマークを用いた無条件テキスト生成実験により,LKFモデルが強ヘテロジニアス成分を学習していることが判明した。
論文 参考訳（メタデータ） (2026-07-29T23:46:31Z) - Two Confounds in Cross-Model Value Comparison: Response Determinism and the Access Harness [0.0]
クロスモデル比較は、言語モデルが個別の値を持っていることを示す証拠として、価値の分散を読み取る。
本稿では,非ルール値ジレンマと非ルール値ジレンマの相互バランス,繰り返し強制選択測定,決定性指数を導入する。
決定論は大きく異なる(係合モデルでは0.66-0.95)。
論文 参考訳（メタデータ） (2026-07-11T08:26:48Z) - The Geometry of Forgetting: Temporal Knowledge Drift as an Independent Axis in LLM Representations [50.43168858368539]
大規模言語モデルは自信を持って時代遅れの回答を生成し、既存の方法では検出できない。
これは工学的な失敗ではなく構造的な失敗であり、時間的ドリフトは、幾何的に残留流の方向として、正確性と不確実性の両方に符号化される。
論文 参考訳（メタデータ） (2026-05-09T22:27:31Z) - How Focused Are LLMs? A Quantitative Study via Repetitive Deterministic Prediction Tasks [0.9338697277815541]
繰り返し決定論的予測タスクにおける大規模言語モデルの性能について検討する。
実験により, 特徴的な長さスケールを超える急激な2重指数降下が明らかとなった。
これは、モデルがそれぞれの操作を独立して実行できないことを示している。
論文 参考訳（メタデータ） (2025-11-02T01:42:08Z) - Independence Tests for Language Models [47.0749292650885]
2つのモデルの重みを考えると、独立してトレーニングされたかどうかテストできますか?
制約付きと制約なしの2つの設定を検討します。
本稿では,2つのモデル間の隠れアクティベーションに一致し,逆変換やモデルアーキテクチャの変更に対して堅牢な新しいテストを提案する。
論文 参考訳（メタデータ） (2025-02-17T20:01:08Z) - Gumbel Counterfactual Generation From Language Models [64.55296662926919]
対実的推論が介入と概念的に異なることを示す。
そこで本研究では,真の文字列反事実を生成するためのフレームワークを提案する。
提案手法は,従来の介入手法が望ましくない副作用を有意に生み出しているのに対し,本手法は有意義な反事実を生じさせることを示す。
論文 参考訳（メタデータ） (2024-11-11T17:57:30Z) - Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data [49.73114504515852]
各世代の合成データによって元の実データを置き換えることは、モデル崩壊の傾向にあることを示す。
生成した実データと連続する合成データの蓄積は,モデル崩壊を回避することを実証する。
論文 参考訳（メタデータ） (2024-04-01T18:31:24Z) - How Can We Know When Language Models Know? On the Calibration of
Language Models for Question Answering [80.82194311274694]
言語モデルがいつ、自信を持って、特定のクエリに対する答えを知っているか、どのように知ることができるか?
我々は,T5,BART,GPT-2の3つの強力な生成モデルを検討した。
次に、そのようなモデルの校正方法を検討し、その信頼性スコアを正しさの確率と相関させる。
論文 参考訳（メタデータ） (2020-12-02T03:53:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。