論文の概要: Secret Stealing Attacks on Local LLM Fine-Tuning through Supply-Chain Model Code Backdoors

• arxiv url: http://arxiv.org/abs/2604.27426v1
• Date: Thu, 30 Apr 2026 05:03:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-01 16:31:53.929069
• Title: Secret Stealing Attacks on Local LLM Fine-Tuning through Supply-Chain Model Code Backdoors
• Title（参考訳）: サプライチェーン型コードバックドアによるローカルLLMファインチューニングのシークレットステアリング攻撃
• Authors: Zi Li, Tian Zhou, Wenze Li, Jingyu Hua, Yunlong Mao, Sheng Zhong,
• Abstract要約: ローカルな微調整データセットは、APIキーや個人識別子、財務記録など、機密性の高いシークレットを常用する。 私たちは、実用的だが見過ごされたサプライチェーンベクターを使用します -- 標準アーキテクチャ定義としてキャモフラージュされたモデルコードです。 オンラインテンソルルールマッチングによる動的計算フローにおいてトークンレベルのシークレットにロックする決定論的フルチェーン機構を導入する。
• 参考スコア（独自算出の注目度）: 9.503673758168693
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Local fine-tuning datasets routinely contain sensitive secrets such as API keys, personal identifiers, and financial records. Although ''local offline fine-tuning'' is often viewed as a privacy boundary, we reveal that compromised model code is sufficient to steal them. Current passive pretrained-weight poisoning attacks, while effective for natural language, fundamentally fail to capture such sparse high-entropy targets due to their reliance on probabilistic semantic prefixes. To bridge this gap, we identify and exploit a practical but overlooked supply-chain vector -- model code camouflaged as standard architectural definitions -- to realize a paradigm shift from passive weight poisoning to active execution hijacking. We introduce a deterministic full-chain memorization mechanism: it locks onto token-level secrets in dynamic computation flows via online tensor-rule matching, and leverages value-gradient decoupling to stealthily inject attack gradients, overcoming gradient drowning to force model memorization. Furthermore, we achieve, for the first time, attacker-verifiable secret stealing through black-box queries that precisely distinguishes true leakage from hallucination. Experiments demonstrate that our method achieves over 98\% Strict ASR without compromising the primary task, and can effectively bypass defense measures including DP-SGD, semantic auditing, and code auditing.
• Abstract（参考訳）: ローカルな微調整データセットは、APIキーや個人識別子、財務記録など、機密性の高いシークレットを常用する。 「ローカルオフライン微調整」はしばしばプライバシー境界と見なされるが、侵害されたモデルコードはそれらを盗むのに十分であることを明らかにした。 現在の受動的事前訓練による中毒攻撃は、自然言語に効果があるが、確率論的セマンティックプレフィックスに依存しているため、基本的にそのような疎い高エントロピーターゲットを捕捉できない。 このギャップを埋めるために、我々は実用的で見過ごされたサプライチェーンベクター(標準的なアーキテクチャ定義としてキャモフラージュされたモデルコード)を特定し、利用し、受動的重み付けからアクティブな実行ハイジャックへのパラダイムシフトを実現する。 オンラインテンソルルールマッチングによる動的計算フローにおけるトークンレベルのシークレットをロックし、価値段階的なデカップリングを利用して攻撃勾配を密かに注入し、グラデーションドローイングを克服し、強制モデル記憶を克服する決定論的フルチェーン記憶機構を導入する。 さらに,真に漏洩した幻覚を正確に識別するブラックボックスクエリを通じて,攻撃者検証可能な秘密盗みを初めて達成した。 実験により,本手法は主課題を達成せずに98 %以上のStrict ASRを達成でき,DP-SGD,セマンティック監査,コード監査などの防衛対策を効果的に回避できることが示された。

関連論文リスト

• TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
  分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。 我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。 我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
  論文  参考訳（メタデータ） (2026-04-30T13:44:01Z)
• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)
• The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
  大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。 CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T07:05:23Z)
• Towards Effective, Stealthy, and Persistent Backdoor Attacks Targeting Graph Foundation Models [62.87838888016534]
  Graph Foundation Models(GFM)は、さまざまなソースドメインで事前トレーニングされ、目に見えないターゲットに適応する。 GFMに対するバックドア攻撃は、3つの主要な課題のために簡単ではない。 グラフ基礎モデルに対する新たなバックドア攻撃モデルであるGFM-BAを提案する。
  論文  参考訳（メタデータ） (2025-11-22T08:52:09Z)
• Unmasking Backdoors: An Explainable Defense via Gradient-Attention Anomaly Scoring for Pre-trained Language Models [6.182793047410624]
  バックドア型事前学習言語モデルの内部挙動について検討する。 本稿では,トークンレベルの注意と勾配情報を組み合わせることで,異常スコアを構成する推論時間ディフェンスを提案する。
  論文  参考訳（メタデータ） (2025-10-05T20:15:56Z)
• DiffuGuard: How Intrinsic Safety is Lost and Found in Diffusion Large Language Models [50.21378052667732]
  我々は、ステップ内およびステップ間ダイナミクスという2つの異なる次元にわたるジェイルブレイク攻撃に対して、dLLM脆弱性の詳細な分析を行う。 デュアルステージアプローチによる脆弱性に対処する,トレーニング不要な防御フレームワークであるDiffuGuardを提案する。
  論文  参考訳（メタデータ） (2025-09-29T05:17:10Z)
• Robust Anti-Backdoor Instruction Tuning in LVLMs [53.766434746801366]
  大規模視覚言語モデル(LVLM)のための軽量で認証に依存しない防御フレームワークについて紹介する。 私たちのフレームワークは、命令チューニングの下で、アダプタモジュールとテキスト埋め込み層のみを微調整します。 Flickr30kとMSCOCOに対する7つの攻撃に対する実験は、我々の攻撃の成功率をほぼゼロに低下させることを示した。
  論文  参考訳（メタデータ） (2025-06-04T01:23:35Z)
• Hide in Plain Sight: Clean-Label Backdoor for Auditing Membership Inference [16.893873979953593]
  本研究では,ステルスデータ監査のための新しいクリーンラベルバックドア方式を提案する。 我々のアプローチでは、ターゲットモデルの振る舞いを模倣するシャドウモデルによって生成される最適なトリガを用いる。 提案手法は,ブラックボックスアクセスによるロバストなデータ監査を可能にし,多様なデータセット間で高い攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2024-11-24T20:56:18Z)
• A Practical Trigger-Free Backdoor Attack on Neural Networks [33.426207982772226]
  トレーニングデータへのアクセスを必要としないトリガーフリーのバックドア攻撃を提案する。 具体的には、悪意のあるデータの概念を攻撃者特定クラスの概念に組み込んだ、新しい微調整アプローチを設計する。 提案した攻撃の有効性,実用性,ステルスネスを実世界の3つのデータセットで評価した。
  論文  参考訳（メタデータ） (2024-08-21T08:53:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。