論文の概要: Why Static Probes Fail: Context Determines Deception Feature Composition

• arxiv url: http://arxiv.org/abs/2610.27577v1
• Date: Tue, 20 Oct 2026 03:42:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.620479
• Title: Why Static Probes Fail: Context Determines Deception Feature Composition
• Title（参考訳）: 静的プローブが失敗する理由
• Abstract要約: 大規模言語モデル(LLM)は、不一致の目標を追求したり、監視から逃れるためにサンドバッグを打つなど、偽りの行動に携わることがある。 単方向ではなく多次元部分空間として偽造を表現することを提案する。 本手法は反復分解を利用して, 知覚意図の異なる面を捉えた相補的な方向を同定する。
• 参考スコア（独自算出の注目度）: 36.577790613554264
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: With increasing autonomy, Large Language Models (LLMs) may engage in deceptive behaviors, such as scheming to pursue misaligned goals or sandbagging to escape oversight. Monitoring outputs alone is insufficient, as models can produce seemingly benign responses while harboring misaligned internal objectives. While mechanistic approaches like linear probing are promising, they rely on the assumption that deception corresponds to a single direction in representation space. We demonstrate that such single-direction probes fail to generalize across diverse deception scenarios. To bridge this gap, we propose representing deception as a multi-dimensional subspace rather than a single direction. Our method utilizes iterative orthogonal decomposition to identify complementary directions that capture distinct facets of deceptive intent. To effectively leverage these directions for detection, we find that static combinations prove brittle due to strong domain dependence across different scenarios. We therefore introduce a domain-adaptive gating mechanism that dynamically composes the extracted directions through few-shot adaptation at test time. With only 10 examples, our approach achieves an average AUROC of 0.97 and 94% recall at 5% FPR across all evaluated datasets, substantially outperforming existing methods.
• Abstract（参考訳）: 自律性の向上に伴い、LLM(Large Language Models)は、不整合した目標を追求したり、監視から逃れるためにサンドバッグを張ったりといった詐欺行為を行うことがある。 アウトプットの監視だけでは不十分であり、モデルは不整合内部の目的を保ちながら、一見良質な応答を生成できる。 線形探索のような力学的アプローチは有望であるが、それらは虚偽が表現空間の1つの方向に対応するという仮定に依存している。 このような単一方向プローブは、様々な偽装シナリオにまたがる一般化に失敗することを示した。 このギャップを埋めるために、単方向ではなく多次元部分空間として偽装を表現することを提案する。 本手法は,反復的直交分解法を用いて,知覚意図の異なる面を捉える相補的な方向を同定する。 検出にこれらの方向を効果的に活用するために、静的な組み合わせは、異なるシナリオにまたがる強いドメイン依存のために不安定であることを示す。 そこで本研究では,テスト時の数ショット適応によって抽出された方向を動的に構成するドメイン適応型ゲーティング機構を提案する。 わずか10例で、評価されたすべてのデータセットに対して平均0.97のAUROCと94%のリコールを5%のFPRで達成し、既存の手法を大幅に上回っている。

関連論文リスト

• Mechanistic Anomaly Detection via Functional Attribution [6.1937472685875]
  ニューラルネットワークにおける異常検出のための機能的帰属問題を実装する。 視覚モデルにおけるバックドアに対しては,BackdoorBenchの最先端検出を実現する。 本研究は,デプロイモデルにおける異常な振る舞いを検出するための,効果的なモダリティに依存しないツールとして,機能的属性を確立した。
  論文  参考訳（メタデータ） (2026-04-21T01:39:57Z)
• Beyond Nodes vs. Edges: A Multi-View Fusion Framework for Provenance-Based Intrusion Detection [6.343815622517112]
  PROVfusionは、証明に基づく侵入検知のための多視点異常融合フレームワークである。 軽量な融合スキームを通じて異種異常信号を融合し、投票ベースの統合プロセスを通じて最終的な異常決定を決定する。 広く使用されている9つのベンチマークエンティティデータセットの実験では、PROVfusionは単一ノードとエッジ中心のベースラインよりも高い検出精度と偽陽性率を実現する。
  論文  参考訳（メタデータ） (2026-04-16T06:40:50Z)
• ELROND: Exploring and decomposing intrinsic capabilities of diffusion models [3.656403721249365]
  拡散モデルに渡される単一のテキストプロンプトは、プロセスによってのみ決定される幅広い視覚出力をもたらす。 本稿では,これらの意味的方向を入力埋め込み内で直接アンタングルするフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-10T19:07:15Z)
• Uncertainty-Guided Alignment for Unsupervised Domain Adaptation in Regression [5.437298646956505]
  Unsupervised Domain Adaptation for Regression (UDAR)は、ラベル付きソースドメインからラベル付きターゲットドメインにモデルを適応させることを目標としている。 従来の特徴アライメント手法は分類に成功し、回帰特徴の相関性から回帰に効果がないことがしばしば証明される。 特徴アライメントプロセスに予測の不確実性を統合する新しい手法である不確実性誘導アライメント(UGA)を提案する。
  論文  参考訳（メタデータ） (2024-01-24T14:55:02Z)
• Composed Image Retrieval with Text Feedback via Multi-grained Uncertainty Regularization [73.04187954213471]
  粗い検索ときめ細かい検索を同時にモデル化する統合学習手法を提案する。 提案手法は、強いベースラインに対して+4.03%、+3.38%、+2.40%のRecall@50精度を達成した。
  論文  参考訳（メタデータ） (2022-11-14T14:25:40Z)
• Trajectory Forecasting from Detection with Uncertainty-Aware Motion Encoding [121.66374635092097]
  物体検出と追跡から得られる軌道は、必然的にうるさい。 本稿では, 明示的に形成された軌道に依存することなく, 直接検出結果に基づく軌道予測器を提案する。
  論文  参考訳（メタデータ） (2022-02-03T09:09:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。