論文の概要: Mechanistically Eliciting Latent Behaviors in Language Models

• arxiv url: http://arxiv.org/abs/2606.29604v1
• Date: Sun, 28 Jun 2026 21:02:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.980233
• Title: Mechanistically Eliciting Latent Behaviors in Language Models
• Title（参考訳）: 言語モデルにおける潜時行動の機械的緩和
• Abstract要約: 解釈可能なローランクアダプタ (LoRA) を検出する教師なし手法であるCausal Perturbative Elicitation (CPE) を導入する。 CPEは顕著なデータ効率を示し、単一の例から多数の解釈可能なLoRAを学習する。 CPEはまた、サンドバッグングやロックされたBigCodeBenchパフォーマンスの85%の回復など、隠れた障害モードをサーフェスすることもできる。
• 参考スコア（独自算出の注目度）: 46.506434347933016
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We aim to discover diverse, generalizable perturbations of LLM internals that can surface hidden behavioral modes. Such perturbations could help reshape model behavior and systematically evaluate potential risks. We introduce Causal Perturbative Elicitation (CPE), an unsupervised method for discovering interpretable low-rank adapters (LoRAs) that can elicit these latent behaviors. CPE decomposes the computations of a deep transformer slice using a heuristic tensor-decomposition-based algorithm. CPE exhibits remarkable data efficiency, learning a large number of interpretable LoRAs from a single example. Even though CPE is unsupervised, we find that in some cases it can be competitive with supervised elicitation methods via brute-force enumerative search over weight space. For instance, CPE performs similarly to matched-wall-clock-time GRPO on the Countdown task for Qwen3-8B (85% vs 87%), demonstrating that CPE can efficiently elicit complex multi-token behaviors. Since CPE is unsupervised, it can also surface hidden failure modes, such as sandbagging, restoring 85% of locked BigCodeBench performance on a password-locked version of Llama3-70B introduced by Taylor et al. (2025). Additionally, since CPE explores behaviors in weight-space rather than token-space it can potentially ameliorate exploration hacking, a misalignment failure which may arise in sufficiently self-aware AI models (Ngo, 2022). In fact, we find that CPE virtually eliminates alignment-faking (Greenblatt et al., 2024) behavior in a Llama3-70B-based model organism developed by Hughes et al. (2025). Finally, we find that CPE can be used to initialize GPT-OSS-20B in an aligned basin when running GRPO on an environment prone to reward-hacking. By providing a data-efficient method to systematically explore the space of latent model behaviors, CPE yields a powerful tool for aligning AI systems and evaluating their safety.
• Abstract（参考訳）: 本研究の目的は,LLM内部の多種多様で一般化可能な摂動を,隠れた動作モードを表面化できることである。 このような摂動はモデル行動を再形成し、潜在的なリスクを体系的に評価するのに役立ちます。 本稿では、これらの潜伏動作を誘発できる解釈可能な低ランクアダプタ(LoRA)を発見するための教師なし手法であるCausal Perturbative Elicitation(CPE)を紹介する。 CPEは、ヒューリスティックテンソル分解に基づくアルゴリズムを用いて、ディープ・トランスフォーマースライスの計算を分解する。 CPEは顕著なデータ効率を示し、単一の例から多数の解釈可能なLoRAを学習する。 CPEは教師がいないが、重量空間上でのブルートフォース列挙探索を通した教師付きエレケーション法と競合する場合もある。 例えば、CPEはQwen3-8Bのカウントダウンタスク(85%対87%)において、マッチウォール時間GRPOと同様に動作し、CPEが複雑なマルチトークンの振る舞いを効率的に引き出すことができることを示した。 CPEは監視されていないため、サンドバッグング、ロックされたBigCodeBenchのパフォーマンスの85%を、Taylorらによって導入されたLlama3-70Bのパスワードロックバージョン(2025年)で復元できる。 さらに、CPEはトークンスペースではなく、重量空間での振る舞いを探索するので、十分に自己認識されたAIモデル(Ngo, 2022)で起こりうる不正調整の失敗である、探索ハッキングを改善する可能性がある。 実際、CPEはHughes et al (2025)によって開発されたLlama3-70B系モデル生物のアライメントフェイキング(Greenblatt et al , 2024)の挙動を実質的に排除している。 最後に,GPT-OSS-20B を環境上で GRPO を動作させる場合,GPT-OSS-20B の初期化に利用することができることを示す。 潜在モデル行動の空間を体系的に探索するデータ効率の方法を提供することで、CPEはAIシステムを整列させ、安全性を評価する強力なツールを提供する。

関連論文リスト

• Z-PEFT: Zero-shot Backdoor Detection in Parameter-Efficient Fine-Tuning via Canonical Spectral Signatures [19.105669683159302]
  悪意のあるアクターは、事前に定義されたトリガーに応じて特定の振る舞いを誘発するバックドアモデルを公開することができる。 重みのみを用いてモデルが悪質かどうかを検知器が予測する重み空間バックドア検出の問題について検討する。 本稿では,Z-PEFTを提案する。Z-PEFTは,層単位でのスペクトル測定にのみ依存する軽量メタ分類器である。
  論文  参考訳（メタデータ） (2026-08-03T14:10:54Z)
• CMP: Robust Whole-Body Tracking for Loco-Manipulation via Competence Manifold Projection [64.65196237023754]
  Manifold Competence Projectionは、アウト・オブ・ディストリビューションの摂動に対する堅牢性を改善する。 我々は、無限水平安全制約を計算効率の良い単段多様体包含に変換するフレーム-ワイズ安全スキームを用いる。 実験により、CMPは典型的なOODシナリオで最大10倍の生存率向上を達成することが示された。
  論文  参考訳（メタデータ） (2026-04-08T18:00:39Z)
• ProAct: Agentic Lookahead in Interactive Environments [56.50613398808361]
  ProActは、2段階のトレーニングパラダイムを通じて、エージェントが正確なルックアヘッド推論を内部化することを可能にするフレームワークである。 そこでは,環境に基づく探索から得られたトラジェクトリの微調整をエージェントが行うGLAD(Grounded LookAhead Distillation)を紹介する。 また,政策段階のアルゴリズムを改良する補助値推定器であるモンテカルロ批判(MC-Critic)を提案する。
  論文  参考訳（メタデータ） (2026-02-05T05:45:16Z)
• On GRPO Collapse in Search-R1: The Lazy Likelihood-Displacement Death Spiral [59.14787085809595]
  この障害を引き起こす中核的なメカニズムとしてLazy Likelihood Displacement(LLD)を同定する。 LDDは早期に出現し、自己強化性LDDデススパイラル(LDD Death Spiral)を引き起こす。 本稿では,GRPO のための軽量な確率保存正則化 LLDS を提案する。
  論文  参考訳（メタデータ） (2025-12-03T19:41:15Z)
• Integrated Gaussian Processes for Robust and Adaptive Multi-Object Tracking [1.338174941551702]
  本稿では,トラックブレークを最小限に抑える,計算効率のよいマルチオブジェクト追跡手法を提案する。 統合ガウス過程が運動モデルとして提供するフレキシビリティと、不均一なポアソン過程の便利な統計的性質を適切な観測モデルとして活用する。 合成データと実データを用いた性能評価とベンチマークにより,GaPP-ClassとGaPP-ReaCtionは,他の最先端追跡アルゴリズムよりも優れていることが示された。
  論文  参考訳（メタデータ） (2025-07-05T17:45:31Z)
• Attribution-guided Pruning for Compression, Circuit Discovery, and Targeted Correction in LLMs [15.23174472320989]
  大規模言語モデル(LLM)は多くの現代のAIアプリケーションの中心である。 eXplainable AI(XAI)の最近の研究は、解釈可能性がモデル圧縮を可能にすることを示唆している。
  論文  参考訳（メタデータ） (2025-06-16T17:38:36Z)
• Prior Prompt Engineering for Reinforcement Fine-Tuning [21.393485538155904]
  我々は、強化微細チューニング(RFT)の文脈における先行プロンプトエンジニアリング(pPE)について検討する。 推論時プロンプトエンジニアリング (iPE) にヒントを得て, 推論, 計画, コードベース推論, 知識リコール, および null-example 利用の5つの戦略を対応する pPE アプローチに翻訳する。 以上の結果から,全てのpPE学習モデルがiPE学習モデルを上回ることがわかった。
  論文  参考訳（メタデータ） (2025-05-20T10:05:11Z)
• Lazy Layers to Make Fine-Tuned Diffusion Models More Traceable [70.77600345240867]
  新たな任意の任意配置(AIAO)戦略は、微調整による除去に耐性を持たせる。 拡散モデルの入力/出力空間のバックドアを設計する既存の手法とは異なり,本手法では,サンプルサブパスの特徴空間にバックドアを埋め込む方法を提案する。 MS-COCO,AFHQ,LSUN,CUB-200,DreamBoothの各データセットに関する実証研究により,AIAOの堅牢性が確認された。
  論文  参考訳（メタデータ） (2024-05-01T12:03:39Z)
• Latent Exploration for Reinforcement Learning [87.42776741119653]
  強化学習では、エージェントは環境を探索し、相互作用することでポリシーを学ぶ。 LATent TIme-Correlated Exploration (Lattice)を提案する。
  論文  参考訳（メタデータ） (2023-05-31T17:40:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。