論文の概要: Subliminal Prompting Beyond Static Geometry: Causal Depth and Multi-Token Confounds

• arxiv url: http://arxiv.org/abs/2609.19149v1
• Date: Mon, 20 Jul 2026 03:53:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.614135
• Title: Subliminal Prompting Beyond Static Geometry: Causal Depth and Multi-Token Confounds
• Title（参考訳）: 静的幾何学を超越したサブリミナルプロンプト:因果深さとマルチトークンコンファウンド
• Abstract要約: サブリミナル学習は、言語モデルがそれとは無関係に見える出力を通して隠れた特徴を伝達できることを示している。 出力共変数、固定出力ベクトルが一致しているか、解答を隠された状態から読み取るか、あるいはその状態がその解を因果的に制御するかを測定する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Subliminal learning shows that language models can transmit a hidden trait through outputs that appear unrelated to it. One proposed explanation, token entanglement, links animal and number tokens through the model's output vocabulary. Yet existing measurements answer different questions: whether outputs co-vary, fixed output vectors align, an answer can be read from a hidden state, or that state causally controls the answer. We measure each separately in a fixed animal-number prompting protocol. From Llama-3.1-8B to 70B, fixed output-vector similarity predicts behavior less well: the paired mean correlation change is -0.080 (95% CI [-0.127, -0.035]). A fixed output-head readout shows no resolved change in normalized depth AUC. To test control, we copy the temporary answer-position state from one number prompt into another at five depths and measure which prompt the final animal score follows. Donor-control AUC rises from 0.254 to 0.540, a paired change of +0.286 (95% CI [+0.272, +0.300]), with increases for all 18 concepts. The contrast remains with exactly eight transformer blocks remaining, while specificity and identity controls remain small or exact. In two Qwen models, scoring every digit in sequence does not recover the positive one-token association. Per-token averaging instead creates a positive pooled association that disappears after controlling number width, revealing a length confound. Thus, fixed geometry, observational readability, causal timing, and multi-token measurement are distinct properties of this frozen prompting channel. They constrain token-level explanations but do not identify the mechanism of training-time trait transfer.
• Abstract（参考訳）: サブリミナル学習は、言語モデルがそれとは無関係に見える出力を通して隠れた特徴を伝達できることを示している。 提案された1つの説明、トークンの絡み合いは、モデルの出力語彙を通して動物と数字のトークンをリンクする。 出力が共変数、固定出力ベクトルが一致しているか、答えは隠された状態から読み取るか、あるいはその状態がその答えを因果的に制御する。 我々はそれぞれを固定された動物数プロンプトプロトコルで別々に測定する。 Llama-3.1-8B から 70B まで、固定出力ベクトルの類似性は振舞いがより良く予測される: ペア平均相関変化は -0.080 (95% CI [-0.127, -0.035]) である。 固定出力ヘッド読み出しは、正規化深度AUCの解決された変化を示さない。 コントロールをテストするために,1つの数字のプロンプトから1つの数字のプロンプトを5つの深さにコピーし,最後の動物のスコアが続くように測定する。 ドナー制御 AUC は 0.254 から 0.540 に上昇し、対の CI [+0.272, +0.300] は +0.286 (95% CI [+0.272, +0.300]) となる。 コントラストには8つのトランスフォーマーブロックが残っているが、特異性やアイデンティティコントロールは小さいか正確に残っている。 2つのQwenモデルでは、各桁を順番にスコア付けしても、正の1-tokenアソシエーションは回復しない。 平均値の平均化は、数幅を制御した後に消滅する正のプール付きアソシエーションを生成し、長さの凹みを露呈する。 このように、固定幾何、観測可読性、因果タイミング、マルチトーケン測定は、この凍結促進チャネルの異なる特性である。 トークンレベルの説明を制約するが、トレーニング時の特性伝達のメカニズムを特定できない。

関連論文リスト

• SeGDeP: Semantic- and Geometric-Aware Decoupled Prompts for Reasoning Segmentation [51.46828526392219]
  推論セグメンテーションは暗黙の言語学的結論を正確なマスクに変換する。 既存のMLLMセグメンタインタフェースでは、特別なトリガーを使用するか、両方の信号を1つのコンテキストに圧縮する。 明示的なWhat-whereインターフェースであるSeGDePを提示する。
  論文  参考訳（メタデータ） (2026-09-08T15:11:32Z)
• Token Counts Are Not Model Lineage: A Frozen-Threshold Holdout Study of Black-Box LLM API Fingerprinting [4.093009863847175]
  大規模な言語モデルがリレーとリセラーAPIを通じて提供される場合、ブラックボックスモデルの属性はますます重要になる。 テンポの低い信号は、OpenAI互換エンドポイントで返されるプロンプトトケン数である。 しかし、この信号がより広範にEmphmodel- family属性に有効であることは、直接のホールドアウト試験がほとんど行われていない。 我々は,24個のラベル付きエンドポイントペアに対して凍結保持実験を行い,開発セットと未タッチのホールドアウトセットに均等に分割した。
  論文  参考訳（メタデータ） (2026-08-30T17:58:49Z)
• Operational Proto-Introspection in Looped Language Models: Process-Quality Taps, Executable Branching, and the Readout-Control Boundary [0.0]
  言語モデルは、進行中の計算の質を読み取ることができるか? 外部介入は、その読み出しをより良い結果に変えることができるか? 凍結した2.6Bループ変換器,Ouro-RLTTで両質問を検証した。
  論文  参考訳（メタデータ） (2026-07-20T22:40:36Z)
• No Usable Linear "Capitulation Direction" in Two Small LLMs: A Validation Protocol for Activation-Steering Claims, and a Cross-Family Behavioral Study of Sycophancy Under Pushback [0.0]
  言語モデルは、ユーザーが押し戻すと、しばしば正しい答えを放棄します。 我々は、異なる家庭の2つの小さな指導訓練モデルでこれを研究する。 測定ハザードの定量化: 降水量の過小評価を18～24ポイントまで下げる。
  論文  参考訳（メタデータ） (2026-07-16T17:15:23Z)
• Gauge dependence and structured-output corruption in sign-branched repetition penalties: measurements across models, inference stacks, and alternative repetition controls [0.0]
  罰則は明確に定義されていない。 それは構造化された出力を損なう。 200の現実世界のスキーマでは、theta=1.3は有効なスキーマ変換出力の率を97%から23%に下げる。
  論文  参考訳（メタデータ） (2026-07-09T05:11:22Z)
• The Geometry of Forgetting: Temporal Knowledge Drift as an Independent Axis in LLM Representations [50.43168858368539]
  大規模言語モデルは自信を持って時代遅れの回答を生成し、既存の方法では検出できない。 これは工学的な失敗ではなく構造的な失敗であり、時間的ドリフトは、幾何的に残留流の方向として、正確性と不確実性の両方に符号化される。
  論文  参考訳（メタデータ） (2026-05-09T22:27:31Z)
• LaTER: Efficient Test-Time Reasoning via Latent Exploration and Explicit Verification [35.08680804423239]
  CoT(Chain-of- Thought)推論は、難しいタスクにおいて大きな言語モデル(LLM)を改善するが、推論コストも高くつく。 本稿では,連続潜伏空間における有界探索を最初に行う2段階のパラダイムであるLaTERを提案する。 LaTERは入力の埋め込み空間に隠された最後の層を投影し、潜伏KVキャッシュを保持し、エントロピーとモデルネイティブのストップトーケンプローブを使用していつ切り替えるかを決定する。
  論文  参考訳（メタデータ） (2026-05-08T06:23:58Z)
• Correction and Corruption: A Two-Rate View of Error Flow in LLM Protocols [51.56484100374058]
  そこで本研究では,単一プロトコルステップを正確なマッチングタスクで監査するためのペアアウトカム計測インタフェースを提案する。 各インスタンスについて、インターフェースはベースラインの正当性ビットと後ステップの正当性ビットを記録する。 これらのレートは精度の変化を予測し、種、混合物、パイプライン間でテスト可能な再利用可能な経験的インターフェースを定義する。
  論文  参考訳（メタデータ） (2026-04-20T13:25:40Z)
• From Early Encoding to Late Suppression: Interpreting LLMs on Character Counting Tasks [49.57538588967748]
  LLM(Large Language Model)は、複雑なベンチマークでは優れているにもかかわらず、単語中の文字数などの基本的な記号的タスクにおいて失敗を示す。 我々は、LLaMA、Qwen、Gemmaなど、現代のアーキテクチャにまたがる一貫した現象を発見した。 LLMにおけるシンボリック推論失敗は,表現不足やスケール不足によるものではなく,モデル計算グラフ内の構造的干渉によるものであることを示す。
  論文  参考訳（メタデータ） (2026-04-01T11:40:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。