論文の概要: PRISM: Transfer and Limits of Activation Interventions in Tool-Calling Language Models

• arxiv url: http://arxiv.org/abs/2610.20808v1
• Date: Wed, 14 Oct 2026 18:55:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.026241
• Title: PRISM: Transfer and Limits of Activation Interventions in Tool-Calling Language Models
• Title（参考訳）: PRISM:ツールカーリング言語モデルにおけるアクティベーション介入の伝達と限界
• Abstract要約: PRISMは、精度、言語、スケールにわたるアクティベーション介入の伝達を評価するためのフレームワークである。 その結果、低リソース設定を活用することで、モデルアライメントを公開および改善するための堅牢な経路が提供されることがわかった。
• 参考スコア（独自算出の注目度）: 6.524163688191696
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent literature shows that unsafe tool calls can often accompany textual refusals in language models. To investigate this hidden vulnerability, we introduce PRISM, a framework for evaluating the transfer of activation interventions across precision, languages, and scales. Our findings demonstrate that leveraging lower-resource settings (specifically quantized NF4 labels and cross-lingual transfer) offers a robust pathway to expose and improve model alignment. Notably, using behavioral labels from an NF4 copy enables stable intervention estimation even with very few scenarios. Furthermore, these alignment improvements transfer effectively across languages: five-language NF4-supervised directions successfully transfer to held-out Arabic, reducing unsafe violations in Llama-3.1-8B by 21.95 percentage points without target-language tuning. By mapping paired benign activations, we also successfully transfer these safety interventions to much larger models (up to 70B parameters). Ultimately, PRISM highlights how auxiliary supervision from compressed models and multilingual data can uncover and mitigate hazardous tool-calling behaviors across different model families. We release all experimental code and supporting artifacts at https://github.com/GiKerche/prism, alongside an interactive explorer of recorded model responses and experimental results at https://gikerche.github.io/prism/.
• Abstract（参考訳）: 近年の文献では、安全でないツールコールは言語モデルにおけるテキストの拒絶を伴うことが多い。 この隠れた脆弱性を調査するため、我々はPRISMを導入し、正確性、言語、スケール間でのアクティベーション介入の伝達を評価する。 その結果,低リソース設定(特に量子化されたNF4ラベルと言語間移動)を活用することで,モデルアライメントを公開・改善するための堅牢な経路が得られた。 特に、NF4コピーの動作ラベルを使用することで、非常に少ないシナリオでも安定した介入推定が可能になる。 さらに、これらのアライメントの改善は、言語間で効果的に伝達される: 5言語NF4が指示する指示は、アラビア語の保留に成功し、Llama-3.1-8Bにおける安全でない違反を目標言語チューニングなしで21.95ポイント削減した。 ペアの良性活性化をマッピングすることにより、これらの安全介入をより大きなモデル(最大70Bパラメータ)に転送することに成功した。 最終的にPRISMは、圧縮されたモデルと多言語データからの補助的な監督が、さまざまなモデルファミリにわたる有害なツール呼び出し行動を発見し、緩和する方法について強調する。 我々は、すべての実験コードとアーティファクトをhttps://github.com/GiKerche/prismでリリースし、記録されたモデル応答と実験結果のインタラクティブなエクスプローラをhttps://gikerche.github.io/prism/でリリースします。

関連論文リスト

• The Heterogeneous Safety Impacts of Benign Multilingual Fine-Tuning [13.578131927232292]
  大きな言語モデルを微調整すると、安全でない敵のプロンプトに反応する傾向が増す。 Llama-3.2, Qwen3, Gemma-3モデルの微調整による多言語設定におけるこの現象の総合的研究について述べる。 安全性は、微調整言語の選択と評価言語の選択の両方に非常に敏感であることがわかった。
  論文  参考訳（メタデータ） (2026-06-27T10:05:36Z)
• Cross-Lingual Jailbreak Detection via Semantic Codebooks [0.0]
  大規模言語モデル(LLM)の安全性メカニズムは、主に英語中心であり、多言語展開における体系的な脆弱性を生み出している。 本研究では,言語に依存しないセマンティックな類似性によって,リトレーニングや言語固有の適応なしにこのような攻撃を軽減できるかどうかを検討する。
  論文  参考訳（メタデータ） (2026-04-28T14:43:40Z)
• STEAD: Robust Provably Secure Linguistic Steganography with Diffusion Language Model [71.35577462669856]
  拡散言語モデル(DLM)を用いた頑健で確実な言語ステガノグラフィーを提案する。 ステガノグラフ抽出中に擬似ランダム誤り訂正や近傍探索補正を含む誤り訂正戦略を導入する。
  論文  参考訳（メタデータ） (2026-01-21T08:58:12Z)
• Finding the Translation Switch: Discovering and Exploiting the Task-Initiation Features in LLMs [69.28193153685893]
  大きな言語モデル(LLM)は、タスク固有の微調整なしでも、しばしば強力な翻訳能力を示す。 このプロセスをデミスティフィケートするために、スパースオートエンコーダ(SAE)を活用し、タスク固有の特徴を特定するための新しいフレームワークを導入する。 我々の研究は、LLMの翻訳機構のコアコンポーネントをデコードするだけでなく、内部モデル機構を使用してより堅牢で効率的なモデルを作成するための青写真も提供しています。
  論文  参考訳（メタデータ） (2026-01-16T06:29:07Z)
• Causal Language Control in Multilingual Transformers via Sparse Feature Steering [7.754609745940422]
  マルチ言語モデルの生成言語を操るために,スパースオートエンコーダの機能を活用できるかどうかを検討する。 我々は、FastText言語分類によって測定された、最大90%の成功で制御された言語シフトを達成する。 解析の結果,言語ステアリングは中間から後期のトランスフォーマー層において最も効果的であることが判明した。
  論文  参考訳（メタデータ） (2025-07-17T06:49:16Z)
• Understanding Refusal in Language Models with Sparse Autoencoders [27.212781538459588]
  我々はスパースオートエンコーダを用いて、拒絶動作を因果的に仲介する潜伏特徴を特定する。 我々は、世代への影響を評価するために、拒絶に関連する特徴に介入する。 これにより、アクティベーションレベルでのリファインダーの表示方法のきめ細かい検査が可能になる。
  論文  参考訳（メタデータ） (2025-05-29T15:33:39Z)
• TuBA: Cross-Lingual Transferability of Backdoor Attacks in LLMs with Instruction Tuning [63.481446315733145]
  多言語大言語モデル(LLM)に対する言語間バックドア攻撃は未調査である。 本研究は, 教育指導データが有毒でない言語に対して, 教育指導データの有毒化がアウトプットに与える影響について検討した。 本手法は,mT5 や GPT-4o などのモデルにおいて,高い攻撃成功率を示し,12言語中7言語以上で90%以上を突破した。
  論文  参考訳（メタデータ） (2024-04-30T14:43:57Z)
• Unlikelihood Tuning on Negative Samples Amazingly Improves Zero-Shot Translation [79.96416609433724]
  Zero-shot Translation (ZST)は、トレーニングデータにおいて、目に見えない言語ペア間の翻訳を目的としている。 推論中にゼロショット言語マッピングをガイドする一般的な方法は、ソースとターゲット言語IDを意図的に挿入することである。 近年の研究では、言語IDが時折ZSTタスクのナビゲートに失敗し、ターゲット外問題に悩まされることが示されている。
  論文  参考訳（メタデータ） (2023-09-28T17:02:36Z)
• Self-Augmentation Improves Zero-Shot Cross-Lingual Transfer [92.80671770992572]
  言語間移動は多言語NLPにおける中心的なタスクである。 このタスクの以前の作業では、並列コーパス、バイリンガル辞書、その他の注釈付きアライメントデータを使用していた。 ゼロショットの言語間移動を改善するため, 単純で効果的なSALT法を提案する。
  論文  参考訳（メタデータ） (2023-09-19T19:30:56Z)
• Improving Multilingual Translation by Representation and Gradient Regularization [82.42760103045083]
  表現レベルと勾配レベルの両方でNMTモデルを正規化するための共同手法を提案する。 提案手法は,オフターゲット翻訳の発生率の低減とゼロショット翻訳性能の向上に有効であることを示す。
  論文  参考訳（メタデータ） (2021-09-10T10:52:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。