論文の概要: PRISM: Recovering Instruction Sets from Language Model Activations

• arxiv url: http://arxiv.org/abs/2606.09563v1
• Date: Mon, 08 Jun 2026 14:37:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:07.271391
• Title: PRISM: Recovering Instruction Sets from Language Model Activations
• Title（参考訳）: PRISM: 言語モデルのアクティベーションから命令セットを復元する
• Abstract要約: PRISMは、凍結ターゲットモデルからアクティブ命令の忠実な弾丸リストに隠された状態をデコードするアクティベーション条件付きインタプリタである。 従来のアクティベーション・トゥ・ランゲージ法とは異なり、PRISMは命令セットを直接回復するよう訓練されており、判定誘導されたGRPOを使用して、カバーされた命令を報酬し、サポートされない命令を罰する。
• 参考スコア（独自算出の注目度）: 2.6331207988917664
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As LLMs are deployed as agents, reliable monitoring requires knowing not only what they output, but which instructions are steering their behavior. This is difficult when models infer unintended subgoals, follow contextual cues, or are influenced by prompt injections and hidden objectives. While activation-to-language methods suggest that hidden states can reveal natural-language information, existing approaches are not designed to recover the full set of simultaneous instructions, constraints, prohibitions, and subgoals active in agentic settings. We formalize this problem as instruction set retrieval and introduce PRISM, an activation-conditioned interpreter that decodes hidden states from a frozen target model into a faithful bullet list of active instructions. Unlike prior activation-to-language methods, PRISM is trained to recover instruction sets directly, using judge-guided GRPO to reward covered instructions and penalize unsupported ones. Across benign, constrained, prompt-injection, and hidden-objective settings, PRISM outperforms activation-to-language baselines, especially on security-relevant objectives.
• Abstract（参考訳）: LLMはエージェントとしてデプロイされるため、信頼できる監視には、出力するものだけでなく、どの命令が動作を制御しているかを知る必要がある。 これは、意図しないサブゴールを推測したり、文脈的な手がかりに従ったり、インジェクションや隠れた目的によって影響される場合、難しい。 アクティベーション・トゥ・ランゲージ法は、隠れた状態が自然言語情報を明らかにすることを示唆するが、既存のアプローチは、エージェント設定でアクティブな同時命令、制約、禁止、サブゴールの完全なセットを復元するように設計されていない。 我々は、この問題を命令セット検索として形式化し、凍結対象モデルから隠れた状態を復号したアクティベーション条件付きインタプリタであるPRISMを、アクティブな命令の忠実な弾丸リストに導入する。 従来のアクティベーション・トゥ・ランゲージ法とは異なり、PRISMは命令セットを直接回復するよう訓練されており、判定誘導されたGRPOを使用して、カバーされた命令を報酬し、サポートされない命令を罰する。 ベニグナ、制約付き、プロンプトインジェクション、および隠れオブジェクト設定全体において、PRISMはアクティベーションから言語へのベースライン、特にセキュリティ関連目標よりも優れています。

関連論文リスト

• CEDAR: Automata as Verifiable Interfaces for Language-Guided Embodied Action [10.197044775138883]
  CEDARは環境イベントトレース上の正規言語として命令を基盤とするフレームワークである。 Minecraftでは、プログラム生成ベースラインに同じシミュレータ/API観測が利用可能であり、CEDARは時間的および空間的制約を維持している。 これらの結果は,正規言語が自然言語命令と具体的エージェントポリシーの間に実践的な検証層を提供することを示している。
  論文  参考訳（メタデータ） (2026-08-28T00:25:48Z)
• In-Context VLA: Endowing Vision-Language-Action Models with Language via In-Context Post-Training and Agentic Tool Use [18.507118969955666]
  Vision-Language-Actionモデルは、静的イメージと固定命令で条件付けられた専門家のアクションチャンクを模倣する。 textbfourmethodは,言語能力を備えたVLAを実現するフレームワークである。 提案手法は,CoTをベースとした手法と比較して,性能と効率の両面において一貫したSOTA結果が得られる。
  論文  参考訳（メタデータ） (2026-08-06T08:21:02Z)
• Dynamic Parsing and Updating Natural Language Specification using VLMs for Robust Vision-Language Tracking [61.91472604294714]
  トラッキング主成分を抽出する新しい言語依存解析機構を提案する。 我々は、事前学習された視覚言語モデルQwen-VLの強力なクロスモーダル理解能力を利用する。 本手法は,複数の大規模視覚言語追跡ベンチマークにおいて,一貫した,より優れたトラッキング性能を実現する。
  論文  参考訳（メタデータ） (2026-06-28T12:12:18Z)
• TAG: Target-Agnostic Guidance for Stable Object-Centric Inference in Vision-Language-Action Models [59.13964209628383]
  VLA(Vision-Language-Action)ポリシーは、言語指示や視覚的な観察をロボット行動にマッピングする上で大きな進歩を見せている。 本稿では,VLA政策における乱れや外見に起因したバイアスを明示的に軽減する単純な推論時ガイダンス機構であるTAG(Target-Agnostic Guidance)を提案する。 我々は, LIBERO, LIBERO-Plus, VLABenchなどの標準操作ベンチマーク上でTAGを評価し, クラッタ下での堅牢性を一貫して改善し, ニアミスや不正なオブジェクト実行を減らす。
  論文  参考訳（メタデータ） (2026-03-25T17:56:32Z)
• Restoring Linguistic Grounding in VLA Models via Train-Free Attention Recalibration [24.562540060971273]
  VLA(Vision-Language-Action)モデルにより、ロボットは自然言語命令から直接操作タスクを実行することができる。 言語命令がシーンに矛盾する場合でも、VLAポリシーが視覚的に妥当な動作を実行し続ける重要な障害モードを明らかにする。 Instruction-Guided Attention Recalibration (IGAR) を提案する。
  論文  参考訳（メタデータ） (2026-03-06T08:01:36Z)
• Do What? Teaching Vision-Language-Action Models to Reject the Impossible [53.40183895299108]
  VLA(Vision-Language-Action)モデルは、さまざまなロボットタスクにおいて強力なパフォーマンスを示している。 Instruct-Verify-and-Act(IVA)を提案する。 実験の結果,IVAはベースラインよりも97.56%の精度で虚偽の前提検出精度を向上させることがわかった。
  論文  参考訳（メタデータ） (2025-08-22T10:54:33Z)
• Robustness via Referencing: Defending against Prompt Injection Attacks by Referencing the Executed Instruction [68.6543680065379]
  大型言語モデル(LLM)はインジェクション攻撃に弱い。 本研究では,LLMの命令追従能力を抑えるのではなく,新たな防御手法を提案する。
  論文  参考訳（メタデータ） (2025-04-29T07:13:53Z)
• Evaluating the Instruction-Following Robustness of Large Language Models to Prompt Injection [70.28425745910711]
  LLM(Large Language Models)は、命令追従に非常に熟練した言語である。 この能力は、迅速なインジェクション攻撃のリスクをもたらす。 このような攻撃に対する命令追従LDMの堅牢性を評価する。
  論文  参考訳（メタデータ） (2023-08-17T06:21:50Z)
• ADAPT: Vision-Language Navigation with Modality-Aligned Action Prompts [92.92047324641622]
  視覚言語ナビゲーション(VLN)のためのmodAlity-aligneD Action PrompT(ADAPT)を提案する。 ADAPTは、アクションレベルのモダリティアライメントの明示的な学習を可能にするために、アクションプロンプトをVLNエージェントに提供する。 R2RとRxRの両方の実験結果は、最先端手法よりもADAPTの方が優れていることを示している。
  論文  参考訳（メタデータ） (2022-05-31T02:41:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。