論文の概要: Architectural Backdoors in Vision-Language Model Supply Chains via Representation Steering
- arxiv url: http://arxiv.org/abs/2607.25479v1
- Date: Tue, 28 Jul 2026 09:12:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-29 20:50:42.782311
- Title: Architectural Backdoors in Vision-Language Model Supply Chains via Representation Steering
- Title（参考訳）: 表現ステアリングによる視覚言語モデルサプライチェーンのアーキテクチャバックドア
- Abstract要約: ビジョン-言語モデル(VLM)はモデルサプライチェーンを通じてますます展開される。
本稿では,VLMサプライチェーンにアーキテクチャバックドアを埋め込むことで,悪意のあるプロバイダがこの信頼境界を活用できることを示す。
- 参考スコア（独自算出の注目度）: 9.737607721974664
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Vision--Language Models (VLMs) are increasingly deployed through a model supply chain in which pretrained checkpoints, architecture definitions, text encoders, and exported computation graphs are distributed by third parties and reused across downstream services. This reuse model creates a security-critical trust boundary: VLM deployments inherit not only learned parameters but also executable behavior encoded in shared model artifacts. In this paper, we show that a malicious provider can exploit this trust boundary by embedding architectural backdoors into VLM supply chains through representation steering. Our attack introduces dormant steering logic into the model architecture through a trigger-gated additive modification of an intermediate representation, without poisoning training data, controlling downstream fine-tuning, or modifying prompts at deployment time. When the trigger is absent, the modification reduces to zero and the model follows its normal computation, preserving clean utility. When the trigger is present, a steering direction shifts the internal representation toward an attacker-defined objective. We evaluate the attack across multiple VLM families and downstream tasks, including visual question answering, text-to-image generation, retrieval, and semantic response biasing. The results show that the proposed architectural steering backdoor compromises integrity, safety enforcement, and ranking fairness while preserving normal behavior on clean inputs. We further show that shared VLM artifacts can carry dormant steering logic against downstream services, and we propose an auditing defense that inspects the executable logic distributed with model artifacts rather than only their learned weights.
- Abstract（参考訳）: ビジョンランゲージモデル(VLM)は、事前訓練されたチェックポイント、アーキテクチャ定義、テキストエンコーダ、エクスポートされた計算グラフがサードパーティによって配布され、下流サービス間で再利用されるモデルサプライチェーンを通じて、ますます展開される。
VLMデプロイメントは、学習したパラメータだけでなく、共有モデルアーティファクトにエンコードされた実行可能な振る舞いも継承します。
本稿では,VLMサプライチェーンにアーキテクチャバックドアを埋め込むことにより,悪意のあるプロバイダが,この信頼境界を活用できることを示す。
本攻撃では,中間表現のトリガゲート付加的な修正を施し,トレーニングデータを汚染することなく,下流の微調整を制御したり,配置時にプロンプトを変更することによって,モデルアーキテクチャに休眠型ステアリングロジックを導入している。
トリガーが欠落すると、修正はゼロに減少し、モデルは通常の計算に従ってクリーンなユーティリティを保持する。
トリガーが存在する場合、ステアリング方向は内部表現を攻撃者が定義した目的に向けてシフトさせる。
視覚的質問応答,テキスト・ツー・イメージ生成,検索,意味的応答バイアスなど,複数のVLMファミリーおよび下流タスクに対する攻撃の評価を行った。
提案手法は, クリーン入力の正常な動作を保ちながら, 整合性, 安全実施性, 格付け公正性を損なうことを示す。
さらに、共有VLMアーティファクトは、下流サービスに対して休眠型ステアリングロジックを持てることを示すとともに、学習重量だけでなく、モデルアーティファクトで分散された実行可能ロジックを検査する監査ディフェンスを提案する。
関連論文リスト
- Defending against Model Extraction for GNNs with Model Reprogramming [57.82196268649236]
グラフニューラルネットワーク(GNN)は、ML(Machine-Learning-as-a-Service)における高スループットアプリケーションのバックボーンとして機能する。
それでも、ブラックボックスのデプロイメントは、モデル抽出(ME)攻撃に晒される。
既存の防衛は「ユークリッドバイアス」に苦しむ
セキュリティのためにモデル再プログラミングを再利用するプロアクティブディフェンスフレームワークであるGraphRPを提案する。
論文 参考訳（メタデータ） (2026-08-11T23:20:15Z) - Beyond the Prompt: Jailbreaking Function-Calling LLMs via Simulated Moderation Traces [32.850551109913845]
大規模言語モデル(LLM)の安全なデプロイにとって、ジェイルブレイク攻撃は依然として重要な脅威である
このプロンプト中心のパラダイムは、ステートフルで関数呼び出し環境における構造的脆弱性を見落としていることを示す。
我々は、シミュレートされたモデレーショントレースに基づくブラックボックス攻撃フレームワークであるSMTを通じて、このアーキテクチャ欠陥を利用する。
論文 参考訳（メタデータ） (2026-07-01T06:08:07Z) - Beyond Homophily: Towards Generalized Graph Reconstruction Attack and Defense [80.28330585803133]
グラフニューラルネットワーク(GNN)は、計算データに広くデプロイされているが、トレーニンググラフの隣接性に関する機密情報やプロプライエタリ情報を漏洩することができる。
本研究は、訓練されたGNNからトレーニング隣接性を再構築するモデル逆転の一形態であるグラフ再構成攻撃(GRA)について研究する。
本稿では, MC-GRA(+)を提案する。これは, GNNにより誘導される表現が対象モデルのそれと一致した代理隣接を最適化することにより, 隣接性を再構築する。
防衛面では, MC-GPB (+) を提案する。
論文 参考訳（メタデータ） (2026-06-06T09:29:27Z) - Attesting LLM Pipelines: Enforcing Verifiable Training and Release Claims [2.0403981727850233]
現代の大規模言語モデル(LLM)システムは、事前トレーニングされた重み付け、微調整アダプタ、データセット、依存関係パッケージ、コンテナイメージといったサードパーティの成果物から組み立てられている。
このスピードには、妥協された依存関係、悪意のあるハブアーティファクト、安全でないデフォールト化、偽造された前兆、バックドアモデルなど、サプライチェーンのリスクが伴う。
本稿では,信頼された環境にアーティファクトが認められる前に,クレームエビデンスを検証し,安全なローディングと静的スキャンポリシーを適用し,セキュアなシリアル配置制約を適用した,証明対応のプロモーションゲートを提案する。
論文 参考訳（メタデータ） (2026-03-30T20:37:48Z) - Shape and Substance: Dual-Layer Side-Channel Attacks on Local Vision-Language Models [2.1198879079315573]
デバイス上のビジョンランゲージモデル(VLM)は、ローカル実行を通じてデータのプライバシを約束する。
動的高分解能前処理へのアーキテクチャシフトは,アルゴリズム的なサイドチャネルを導入している。
ローカルなVLMに対する2層アタック・フレームワークを実演する。
論文 参考訳（メタデータ） (2026-03-26T12:53:49Z) - Backdoor Directions in Vision Transformers [56.382912038371046]
本稿では,視覚変換器(ViT)におけるバックドアアタックの表現方法について検討する。
我々は、トリガーの内部表現に対応するモデルのアクティベーションにおいて、特定のトリガー方向'を識別する。
この方向を診断ツールとして使用して、バックドア機能が層間でどのように処理されるかを追跡する。
論文 参考訳（メタデータ） (2026-03-11T14:13:48Z) - CREDIT: Certified Ownership Verification of Deep Neural Networks Against Model Extraction Attacks [54.04030169323115]
我々は、モデル抽出攻撃(MEA)に対する認証された所有権検証であるCREDITを紹介する。
DNNモデル間の類似性を定量化し、実用的な検証しきい値を提案し、このしきい値に基づいてオーナシップ検証を行うための厳密な理論的保証を提供する。
我々は、さまざまなドメインやタスクにまたがるいくつかの主流データセットに対するアプローチを広範囲に評価し、最先端のパフォーマンスを実現した。
論文 参考訳（メタデータ） (2026-02-23T23:36:25Z) - Efficient Representations are Controllable Representations [0.0]
LLMの内部的な概念の表現方法を制御するには、まずモデルを識別し、次にモデルの既存の特徴幾何学に介入する洗練された方法が必要である。
単純な補助損失でLCMを微調整し、3072の残留ストリーム次元のうち16を、生成に必要な概念を示す不活性な解釈可能性フラグとして訓練する。
その結果、これらの不活性フラグは真の内部機能となり、解釈可能な制御スイッチによって推論時に生成を制御できます。
論文 参考訳（メタデータ） (2026-02-08T05:32:02Z) - Every Step Counts: Decoding Trajectories as Authorship Fingerprints of dLLMs [63.82840470917859]
本稿では,dLLMの復号化機構をモデル属性の強力なツールとして利用できることを示す。
本稿では、デコードステップ間の構造的関係を捉え、モデル固有の振る舞いをよりよく明らかにする、DDM(Directed Decoding Map)と呼ばれる新しい情報抽出手法を提案する。
論文 参考訳（メタデータ） (2025-10-02T06:25:10Z) - Proactive Disentangled Modeling of Trigger-Object Pairings for Backdoor Defense [0.0]
ディープニューラルネットワーク(DNN)とジェネレーティブAI(GenAI)は、バックドア攻撃に対してますます脆弱になっている。
本稿では、構造的ゆがみを利用したプロアクティブなフレームワークであるDBOMを紹介し、見えないバックドアの脅威を識別し、中和する。
そこで本研究では,DBOMが下流トレーニングに先立って有毒な画像を確実に検出し,トレーニングパイプラインの安全性を著しく向上することを示す。
論文 参考訳（メタデータ） (2025-08-03T21:58:15Z) - CogCoM: A Visual Language Model with Chain-of-Manipulations Reasoning [61.21923643289266]
カオス・オブ・マニピュレーション(Chain of Manipulations)は、視覚言語モデル(Vision-Language Models)が、エビデンスを段階的に解決するメカニズムである。
トレーニング後、モデルは外部ツールを介さずに、本質的な操作(グラウンド、ズームインなど)を積極的に行うことで、様々な視覚的問題を解決することができる。
トレーニングされたモデルである textbfCogCoM は、4つのカテゴリの9つのベンチマークで最先端のパフォーマンスを実現しています。
論文 参考訳（メタデータ） (2024-02-06T18:43:48Z) - Defending Variational Autoencoders from Adversarial Attacks with MCMC [74.36233246536459]
変分オートエンコーダ(VAE)は、様々な領域で使用される深部生成モデルである。
以前の研究が示すように、視覚的にわずかに修正された入力に対する予期せぬ潜在表現と再構成を生成するために、VAEを簡単に騙すことができる。
本稿では, 敵攻撃構築のための目的関数について検討し, モデルのロバスト性を評価する指標を提案し, 解決策を提案する。
論文 参考訳（メタデータ） (2022-03-18T13:25:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。