Fugu-MT 論文翻訳(概要): Invisible Safety Threat: Malicious Finetuning for LLM via Steganography

論文の概要: Invisible Safety Threat: Malicious Finetuning for LLM via Steganography

arxiv url: http://arxiv.org/abs/2603.08104v1
Date: Mon, 09 Mar 2026 08:48:27 GMT
ステータス: 翻訳完了
システム内更新日: 2026-03-10 15:13:15.712723
Title: Invisible Safety Threat: Malicious Finetuning for LLM via Steganography
Title（参考訳）: 可視安全性の脅威:ステガノグラフィーによるLSMの悪性度評価
Abstract要約: 妥協された大きな言語モデルは、有害なコンテンツを隠蔽しながら適切な安全アライメントのファサードを維持することができる。 OpenAIファインタニングAPIの保護にもかかわらず、GPT-4.1のこの目に見えない安全脅威を実証する。本稿では,コンテンツ安全分類のためのLlama-Guard-3-8Bを用いて,AdvBenchデータセット上での手法を定量的に評価する。
参考スコア（独自算出の注目度）: 74.00809267925642
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Understanding and addressing potential safety alignment risks in large language models (LLMs) is critical for ensuring their safe and trustworthy deployment. In this paper, we highlight an insidious safety threat: a compromised LLM can maintain a facade of proper safety alignment while covertly generating harmful content. To achieve this, we finetune the model to understand and apply a steganographic technique. At inference time, we input a prompt that contains a steganographically embedded malicious target question along with a plaintext cover question. The model, in turn, produces a target response similarly embedded within a benign-looking cover response. In this process, human observers only see the model being prompted with a cover question and generating a corresponding cover response, while the malicious content is hidden from view. We demonstrate this invisible safety threat on GPT-4.1 despite the OpenAI finetuning API's safeguards. The finetuned model produces steganographic malicious outputs in response to hidden malicious prompts, while the user interface displays only a fully benign cover interaction. We also replicate the attack on three open-source models, Llama-3.3-70B-Instruct, Phi-4, and Mistral-Small-24B-Base-2501, confirming the generality of our method. We quantitatively evaluate our method on the AdvBench dataset, using Llama-Guard-3-8B for content safety classification. Across all four models, all stegotexts containing malicious content are incorrectly classified as safe.
Abstract（参考訳）: 大きな言語モデル(LLM)における潜在的な安全性アライメントリスクの理解と対処は、安全で信頼性の高いデプロイメントを保証する上で重要である。本稿では, 有害なコンテンツを隠蔽しながら, 適切な安全アライメントのファサードを維持することができる, 有害な安全性の脅威を強調した。これを実現するために、我々は、そのモデルを微調整して、ステガノグラフィー技術を理解し、適用する。推測時には,テキストの表紙質問とともに,帳票に埋め込まれた悪意のあるターゲット質問を含むプロンプトを入力する。モデルでは、同様に、良質なカバー応答に埋め込まれたターゲット応答を生成する。このプロセスでは、人間の観察者は、悪意のあるコンテンツが視界から隠されている間、隠蔽質問と対応する隠蔽応答を誘導されるモデルのみを見る。 OpenAIファインタニングAPIの保護にもかかわらず、GPT-4.1のこの目に見えない安全性の脅威を実証する。微調整されたモデルでは、隠れた悪意のあるプロンプトに応答して、ステガノグラフィーの悪意のある出力を生成し、ユーザインターフェースは、完全に良質なカバーインタラクションのみを表示する。また,Llama-3.3-70B-Instruct,Phi-4,Mistral-Small-24B-Base-2501の3つのオープンソースモデルに対する攻撃を再現し,本手法の汎用性を確認した。本稿では,コンテンツ安全分類のためのLlama-Guard-3-8Bを用いて,AdvBenchデータセット上での手法を定量的に評価する。 4つのモデル全体で、悪意のあるコンテンツを含むすべてのステゴテキストは、誤って安全であると分類されている。

関連論文リスト

Safety Paradox: How Enhanced Safety Awareness Leaves LLMs Vulnerable to Posterior Attack [19.201635180438313]
大規模言語モデル(LLM)は、有害な要求を拒否するために厳格に整列されている。本研究では、この高度な安全意識が必然的に致命的な脆弱性をもたらすことを明らかにする。
論文参考訳（メタデータ） (2026-06-04T02:36:41Z)
Reasoning-Oriented Programming: Chaining Semantic Gadgets to Jailbreak Large Vision Language Models [9.123902853709206]
LVLM(Large Vision-Language Models)は、有害なコンテンツを抑えるために安全アライメントを行う。本稿では,LVLMを誘導し,良性前提から有害な論理を合成するシステム欠陥を同定する。提案手法は,ベニグインプットのセマンティック衝突を編成するために,モデルの命令追従機能を利用する。
論文参考訳（メタデータ） (2026-03-10T06:18:48Z)
What Matters For Safety Alignment? [38.86339753409445]
本稿では,AIシステムの安全アライメント能力に関する総合的研究について述べる。本研究では,6つの重要な内在モデル特性と3つの外部攻撃手法の影響を系統的に検討し,比較した。 LRMs GPT-OSS-20B, Qwen3-Next-80B-A3B-Thinking, GPT-OSS-120Bを最も安全な3つのモデルとして同定した。
論文参考訳（メタデータ） (2026-01-07T12:31:52Z)
Unveiling the Attribute Misbinding Threat in Identity-Preserving Models [14.683859565833297]
本稿では,NSFW(Not-Safe-For-Work)コンテンツの生成を促すことによって,ID保存モデルに対する脅威を生じさせる新しい手法を提案する。この攻撃の中核となるアイデアは、テキストフィルターの保護を回避するために、良心的なテキストプロンプトを作ることである。本稿では,現在最先端のID保存モデルにおけるコンテンツ生成リスクを検証したtextbfMis binding Prompt 評価セットを提案する。
論文参考訳（メタデータ） (2025-12-17T14:40:28Z)
Shape it Up! Restoring LLM Safety during Finetuning [65.75757313781104]
大型言語モデル(LLM)の微調整は、ユーザ固有のカスタマイズを可能にするが、重大な安全性リスクをもたらす。動的安全整形(DSS)は,不安全コンテンツを抑えつつ,応答の安全な部分からの学習を強化するための,きめ細かい安全信号を用いたフレームワークである。 STARスコアによって導かれるSTAR-DSSは、微調整リスクを堅牢に軽減し、多様な脅威、データセット、モデルファミリーにまたがる大幅な安全性の向上を提供する。
論文参考訳（メタデータ） (2025-05-22T18:05:16Z)
Do LLMs Understand the Safety of Their Inputs? Training-Free Moderation via Latent Prototypes [1.0779346838250028]
ラテントプロトタイプモデレータ (LPM) は、ラテント空間におけるマハラノビス距離を用いて入力安全性を評価する訓練のないモデレーション手法である。 LPMは、複数の安全ベンチマークで最先端のガードモデルと一致または超えている。
論文参考訳（メタデータ） (2025-02-22T10:31:50Z)
ShieldGemma: Generative AI Content Moderation Based on Gemma [49.91147965876678]
ShieldGemmaは、Gemma2上に構築された安全コンテンツモデレーションモデルのスイートである。モデルは、主要な危険タイプにわたる安全リスクの堅牢で最先端の予測を提供する。
論文参考訳（メタデータ） (2024-07-31T17:48:14Z)
What Makes and Breaks Safety Fine-tuning? A Mechanistic Study [64.9691741899956]
安全性の微調整は、大規模な言語モデル(LLM)を、安全なデプロイメントのための人間の好みに合わせるのに役立つ。安全でない入力の健全な側面をキャプチャする合成データ生成フレームワークを設計する。これを用いて,3つのよく知られた安全微調整手法について検討する。
論文参考訳（メタデータ） (2024-07-14T16:12:57Z)
Refuse Whenever You Feel Unsafe: Improving Safety in LLMs via Decoupled Refusal Training [67.30423823744506]
我々は,LLMに対して,いかなる応答位置においても有害なプロンプトへのコンプライアンスを拒否する権限を付与する,新しいアプローチであるDecoupled Refusal Training(DeRTa)を導入する。 DeRTaは,(1)安全応答の開始に有害な応答のセグメントを付加することにより,安全でないコンテンツの認識と回避をモデルに訓練する,(2)有害応答シーケンスを通して潜在的障害から安全拒絶へ移行する能力をモデルに装備する強化遷移最適化(RTO)という,2つの新しいコンポーネントを組み込んでいる。
論文参考訳（メタデータ） (2024-07-12T09:36:33Z)
Breach By A Thousand Leaks: Unsafe Information Leakage in `Safe' AI Responses [42.136793654338106]
モデル出力の不可避な情報漏洩に基づく新しい安全性評価フレームワークを提案する。我々は,情報検閲の安全性を確保するために,防衛機構が情報検閲を確実にする必要があることを示す。
論文参考訳（メタデータ） (2024-07-02T16:19:25Z)
Covert Malicious Finetuning: Challenges in Safeguarding LLM Adaptation [86.05704141217036]
Black-boxファインタニングは、最先端の言語モデルをユーザのニーズに適応するための、新たなインターフェースである。本研究では,検出を回避しながら,モデル安全性を損なう手法である隠れ悪意のある微調整を導入する。
論文参考訳（メタデータ） (2024-06-28T17:05:46Z)
FigStep: Jailbreaking Large Vision-Language Models via Typographic Visual Prompts [14.33139608409507]
We propose FigStep, a simple yet effective black-box jailbreak algorithm against LVLMs。 FigStepは、禁止されたコンテンツをタイポグラフィーで画像に変換し、安全アライメントをバイパスする。我々の研究は、現在のLVLMがジェイルブレイク攻撃に対して脆弱であることを明らかにし、新しいモダリティ間の安全アライメント技術の必要性を強調している。
論文参考訳（メタデータ） (2023-11-09T18:59:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。