論文の概要: Curved Inference II: Sleeper Agent Geometry - Extending Interpretability Beyond Probes

• arxiv url: http://arxiv.org/abs/2608.24037v1
• Date: Tue, 25 Aug 2026 03:51:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-26 14:09:34.806031
• Title: Curved Inference II: Sleeper Agent Geometry - Extending Interpretability Beyond Probes
• Title（参考訳）: Curved Inference II: Sleeper Agent Geometry - プローブを超えて解釈可能性を拡張する
• Abstract要約: 本稿では,安全訓練を通じて人工バックドアが持続し,99%の精度で線形プローブで検出可能であることを示す,ArthhropicのSleeper Agents研究を拡張した。 人工的なトリガーや教師付きバックドア挿入を使わずに、現実的な偽装推論をシミュレートするマルチターンコンテキストウィンドウを用いた自然主義的手法を提案する。 幾何学的構造は意味分類を確実に予測し、5つのプロンプト戦略と2つのモデルファミリーの面面積に統計的に有意な差がある。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: This paper extends Anthropic's Sleeper Agents research [1], which showed artificial backdoors persist through safety training & can be detected by linear probes with >99% accuracy [2]. However, probe-based detection relies on linear separability that may be an artefact of backdoor insertion rather than a property of naturally occurring deceptive alignment. Sophisticated deceptive behaviours emerging through natural training are unlikely to produce such convenient linear signals. We introduce a naturalistic methodology using multi-turn context windows that simulates realistic deceptive reasoning without artificial triggers or supervised backdoor insertion. Rather than binary trigger-response patterns, we examine how semantic complexity emerges through gradual context development. Building on our Curved Inference framework, we analyse curvature, salience, & introduce semantic surface area (A'), a new metric of representational work capturing both the magnitude & directional change of meaning construction in unnormalised residual space. Without backdoors, labels, or probes, we apply this framework to naturalistic deceptive prompts & classify model outputs via LLM consensus. Geometric structure reliably predicts semantic classification, with statistically significant differences in surface area across five prompt strategies & two model families. Critically, measurement precision can reveal geometric signatures hidden by classification noise - some strategies improve from non-significant (p = 0.555) to significant (p = 0.048). This validates that sophisticated reasoning creates intrinsic geometric patterns that persist even when detection appears to fail, suggesting the shape of inference itself encodes semantic patterns regardless of whether models have learned to suppress linear indicators of deception - a scalable, unsupervised path for detection when linear methods fail.
• Abstract（参考訳）: 安全訓練により人工バックドアが持続し,99%の精度で線形プローブで検出できることを示す。 しかし、プローブに基づく検出は、自然に発生する欺くアライメントの特性ではなく、バックドア挿入の人工物である線形分離性に依存している。 自然な訓練によって生じる高度化された偽装行動は、そのような便利な線形信号を生み出すことはありそうにない。 人工的なトリガーや教師付きバックドア挿入を使わずに、現実的な偽装推論をシミュレートするマルチターンコンテキストウィンドウを用いた自然主義的手法を提案する。 二分的トリガー応答パターンではなく、段階的文脈発達によって意味的複雑性がどのように現れるかを検討する。 曲線推論フレームワークをベースとして、正規化されていない残空間における意味構築の大きさと方向の変化を計測する新しい表現的作業量である、曲率、サリエンス、意味表面積(A')を解析し、導入する。 バックドアやラベル,プローブがなければ,LLMコンセンサスによるモデルアウトプットの分類と自然主義的偽装プロンプトにこの枠組みを適用する。 幾何学的構造は意味分類を確実に予測し、5つのプロンプト戦略と2つのモデルファミリーの面面積に統計的に有意な差がある。 重要な点として、測定精度は分類ノイズによって隠された幾何学的シグネチャを明らかにすることができ、いくつかの戦略は非有意(p = 0.555)から有意(p = 0.048)へと改善される。 これは、洗練された推論が、検出が失敗しても持続する固有の幾何学的パターンを生成することを証明し、推論の形状自体が、モデルが偽装の線形指標(線形メソッドが失敗しても検出するためのスケーラブルで教師なしのパス)を抑えることができるかどうかに関わらず、セマンティックパターンを符号化していることを示唆している。

関連論文リスト

• Prototype-Anchored Generalized Manifold Regression for Unknown-Domain Object Detection [58.25418970608328]
  単一ソースドメイン上でトレーニングされた検出器を複数の未確認領域に転送することを目的としたシングルドメイン一般化オブジェクト検出(Single-DGOD)について検討する。 既存の手法は主に、トレーニング分布を拡大するために、データ拡張やテキストプロンプトといったシミュレーション駆動の戦略に依存している。 本稿では, 未知領域の一般化を多様体回帰問題として定式化する, Visual-Text Dual Chain-of-Thought (MR-DCoT) を用いたマニフォールド回帰を提案する。
  論文  参考訳（メタデータ） (2026-07-08T09:27:15Z)
• Rethinking Structural Anomaly Detection: From Decision Boundaries to Projection Operators [51.771100367755544]
  本稿では,既存手法の帰納バイアスとデータ構造とのミスマッチに対処する幾何学的視点を提案する。 具体的には、正規サンプルの多様体上の射影作用素を学習し、この射影によって変更される場合、サンプルを異常として定義する。 特に、プロジェクション品質の観点から、その成功と失敗を説明することによって、再構築に基づく手法の統一的な解釈を提供する。
  論文  参考訳（メタデータ） (2026-06-13T12:37:20Z)
• Need We Teach Foundation Models What is a Generative Image? Gradient-Free Generative Artifact Detection via Analytic Spectral Adaptation [3.881211374324378]
  勾配ベースの更新による生成成果物の検出に基礎モデルを適用することで、本質的な表現が損なわれる。 本稿では,二分分類から外分布(OOD)異常測定問題への検出を緩和する勾配のない手法を提案する。
  論文  参考訳（メタデータ） (2026-06-03T13:04:23Z)
• A Mean Curvature Approach to Boundary Detection: Geometric Insights for Unsupervised Learning [52.452902154360565]
  本稿では,幾何学的機械学習に基づく新しい幾何学的フレームワークであるMean Curvature Boundary Points (MCBP)を紹介する。 MCBPはデータ多様体の固有曲率を明示的にモデル化し、原理化された多様体のパラメトリゼーションを必要としない点平均曲率を計算する。 合成および実世界のデータセットの実験により、MCBPはクラスタリング性能を一貫して改善することを示した。
  論文  参考訳（メタデータ） (2026-05-05T20:19:09Z)
• Representational Curvature Modulates Behavioral Uncertainty in Large Language Models [7.361948338002342]
  時間的ストレート化は、次の予測対象がどのように表現を形作るかを説明する。 大規模言語モデル(LLMs)では、時間的ストレート化は、次のトーケン予測対象がどのように表現を形作るかを説明する。 本稿では,最近の文脈から次へのエントロピーに対する表現軌跡の曲がり度を測る幾何学的尺度である文脈曲率を関連付けることで,そのようなリンクを提供する。
  論文  参考訳（メタデータ） (2026-04-27T03:00:47Z)
• Distributional Equivalence in Linear Non-Gaussian Latent-Variable Cyclic Causal Models: Characterization and Learning [13.891913455492697]
  我々は、一般の、構造的前提のないアプローチに対する中核的な障害は、同値なキャラクタリゼーションの欠如であると主張する。 このアプローチの鍵となるのは、エッジレベルの制約という新しいツールです。
  論文  参考訳（メタデータ） (2026-03-05T03:57:14Z)
• Lie Detector: Unified Backdoor Detection via Cross-Examination Framework [68.45399098884364]
  半正直な設定で一貫したバックドア検出フレームワークを提案する。 本手法は,SoTAベースラインよりも5.4%,1.6%,11.9%の精度で検出性能が向上する。 特に、マルチモーダルな大規模言語モデルにおいて、バックドアを効果的に検出するのは、これが初めてである。
  論文  参考訳（メタデータ） (2025-03-21T06:12:06Z)
• Learning nonparametric latent causal graphs with unknown interventions [18.6470340274888]
  潜在因果グラフが非パラメトリック同定可能な条件を確立する。 隠れ変数の数は分かっていないと仮定し、隠された変数に対して少なくとも1つの未知の介入が必要であることを示す。
  論文  参考訳（メタデータ） (2023-06-05T14:06:35Z)
• Score-based Causal Representation Learning with Interventions [54.735484409244386]
  本稿では,潜在因果変数を間接的に観察する際の因果表現学習問題について検討する。 目的は、 (i) 未知の線形変換(スケーリングまで)を回復し、 (ii) 潜在変数の下の有向非巡回グラフ(DAG)を決定することである。
  論文  参考訳（メタデータ） (2023-01-19T18:39:48Z)
• ContraFeat: Contrasting Deep Features for Semantic Discovery [102.4163768995288]
  StyleGANは、アンタングル化セマンティックコントロールの強い可能性を示している。 StyleGANの既存の意味発見手法は、修正された潜在層を手作業で選択することで、良好な操作結果が得られる。 本稿では,このプロセスを自動化し,最先端のセマンティック発見性能を実現するモデルを提案する。
  論文  参考訳（メタデータ） (2022-12-14T15:22:13Z)
• Classification and Adversarial examples in an Overparameterized Linear Model: A Signal Processing Perspective [10.515544361834241]
  最先端のディープラーニング分類器は、無限の逆境摂動に非常に敏感である。 学習されたモデルは、分類が一般化するが回帰はしない中間体制の敵に感受性がある。 敵対的感受性にもかかわらず、これらの特徴による分類は、より一般的に研究されている「非依存的特徴」モデルよりも容易である。
  論文  参考訳（メタデータ） (2021-09-27T17:35:42Z)
• GELATO: Geometrically Enriched Latent Model for Offline Reinforcement Learning [54.291331971813364]
  オフライン強化学習アプローチは、近近法と不確実性認識法に分けられる。 本研究では,この2つを潜在変動モデルに組み合わせることのメリットを実証する。 提案したメトリクスは、分布サンプルのアウトの品質と、データ内のサンプルの不一致の両方を測定します。
  論文  参考訳（メタデータ） (2021-02-22T19:42:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。