論文の概要: PRISM: Recovering Instruction Sets from Language Model Activations

• arxiv url: http://arxiv.org/abs/2606.09563v1
• Date: Mon, 08 Jun 2026 14:37:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:07.271391
• Title: PRISM: Recovering Instruction Sets from Language Model Activations
• Title（参考訳）: PRISM: 言語モデルのアクティベーションから命令セットを復元する
• Authors: Gilad Gressel, Rahul Pankajakshan, Julia Diament, Efim Hudis, Krishnashree Achuthan, Yisroel Mirsky,
• Abstract要約: PRISMは、凍結ターゲットモデルからアクティブ命令の忠実な弾丸リストに隠された状態をデコードするアクティベーション条件付きインタプリタである。 従来のアクティベーション・トゥ・ランゲージ法とは異なり、PRISMは命令セットを直接回復するよう訓練されており、判定誘導されたGRPOを使用して、カバーされた命令を報酬し、サポートされない命令を罰する。
• 参考スコア（独自算出の注目度）: 2.6331207988917664
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As LLMs are deployed as agents, reliable monitoring requires knowing not only what they output, but which instructions are steering their behavior. This is difficult when models infer unintended subgoals, follow contextual cues, or are influenced by prompt injections and hidden objectives. While activation-to-language methods suggest that hidden states can reveal natural-language information, existing approaches are not designed to recover the full set of simultaneous instructions, constraints, prohibitions, and subgoals active in agentic settings. We formalize this problem as instruction set retrieval and introduce PRISM, an activation-conditioned interpreter that decodes hidden states from a frozen target model into a faithful bullet list of active instructions. Unlike prior activation-to-language methods, PRISM is trained to recover instruction sets directly, using judge-guided GRPO to reward covered instructions and penalize unsupported ones. Across benign, constrained, prompt-injection, and hidden-objective settings, PRISM outperforms activation-to-language baselines, especially on security-relevant objectives.
• Abstract（参考訳）: LLMはエージェントとしてデプロイされるため、信頼できる監視には、出力するものだけでなく、どの命令が動作を制御しているかを知る必要がある。 これは、意図しないサブゴールを推測したり、文脈的な手がかりに従ったり、インジェクションや隠れた目的によって影響される場合、難しい。 アクティベーション・トゥ・ランゲージ法は、隠れた状態が自然言語情報を明らかにすることを示唆するが、既存のアプローチは、エージェント設定でアクティブな同時命令、制約、禁止、サブゴールの完全なセットを復元するように設計されていない。 我々は、この問題を命令セット検索として形式化し、凍結対象モデルから隠れた状態を復号したアクティベーション条件付きインタプリタであるPRISMを、アクティブな命令の忠実な弾丸リストに導入する。 従来のアクティベーション・トゥ・ランゲージ法とは異なり、PRISMは命令セットを直接回復するよう訓練されており、判定誘導されたGRPOを使用して、カバーされた命令を報酬し、サポートされない命令を罰する。 ベニグナ、制約付き、プロンプトインジェクション、および隠れオブジェクト設定全体において、PRISMはアクティベーションから言語へのベースライン、特にセキュリティ関連目標よりも優れています。

関連論文リスト

• TAG: Target-Agnostic Guidance for Stable Object-Centric Inference in Vision-Language-Action Models [59.13964209628383]
  VLA(Vision-Language-Action)ポリシーは、言語指示や視覚的な観察をロボット行動にマッピングする上で大きな進歩を見せている。 本稿では,VLA政策における乱れや外見に起因したバイアスを明示的に軽減する単純な推論時ガイダンス機構であるTAG(Target-Agnostic Guidance)を提案する。 我々は, LIBERO, LIBERO-Plus, VLABenchなどの標準操作ベンチマーク上でTAGを評価し, クラッタ下での堅牢性を一貫して改善し, ニアミスや不正なオブジェクト実行を減らす。
  論文  参考訳（メタデータ） (2026-03-25T17:56:32Z)
• Restoring Linguistic Grounding in VLA Models via Train-Free Attention Recalibration [24.562540060971273]
  VLA(Vision-Language-Action)モデルにより、ロボットは自然言語命令から直接操作タスクを実行することができる。 言語命令がシーンに矛盾する場合でも、VLAポリシーが視覚的に妥当な動作を実行し続ける重要な障害モードを明らかにする。 Instruction-Guided Attention Recalibration (IGAR) を提案する。
  論文  参考訳（メタデータ） (2026-03-06T08:01:36Z)
• Do What? Teaching Vision-Language-Action Models to Reject the Impossible [53.40183895299108]
  VLA(Vision-Language-Action)モデルは、さまざまなロボットタスクにおいて強力なパフォーマンスを示している。 Instruct-Verify-and-Act(IVA)を提案する。 実験の結果,IVAはベースラインよりも97.56%の精度で虚偽の前提検出精度を向上させることがわかった。
  論文  参考訳（メタデータ） (2025-08-22T10:54:33Z)
• Robustness via Referencing: Defending against Prompt Injection Attacks by Referencing the Executed Instruction [68.6543680065379]
  大型言語モデル(LLM)はインジェクション攻撃に弱い。 本研究では,LLMの命令追従能力を抑えるのではなく,新たな防御手法を提案する。
  論文  参考訳（メタデータ） (2025-04-29T07:13:53Z)
• Evaluating the Instruction-Following Robustness of Large Language Models to Prompt Injection [70.28425745910711]
  LLM(Large Language Models)は、命令追従に非常に熟練した言語である。 この能力は、迅速なインジェクション攻撃のリスクをもたらす。 このような攻撃に対する命令追従LDMの堅牢性を評価する。
  論文  参考訳（メタデータ） (2023-08-17T06:21:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。