論文の概要: COMPASS: Membership Inference Attack Against Vision Large Language Models via Adaptive Noise Calibration

• arxiv url: http://arxiv.org/abs/2610.17332v1
• Date: Mon, 12 Oct 2026 19:41:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-18 02:08:50.366985
• Title: COMPASS: Membership Inference Attack Against Vision Large Language Models via Adaptive Noise Calibration
• Title（参考訳）: CompASS:適応雑音校正による視覚大言語モデルに対するメンバーシップ推論攻撃
• Abstract要約: ノイズレベルの制御された摂動下での視覚大言語モデル(VLLM)を微細分解能で特徴付ける。 最適摂動度とメンバシップ信号方向はモデル・データセット・ペアによって異なることが判明した。 本稿では,ゆるやかに分布整合した非メンバー参照セットを用いて,摂動度と会員スコア方向を校正する適応型グレーボックスMIAを提案する。
• 参考スコア（独自算出の注目度）: 8.631113707517907
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Vision large language models (VLLMs) are deployed in privacy-sensitive domains, raising training-data exposure concerns. Existing gray-box membership inference attacks (MIAs) commonly rely on entropy statistics or generated descriptions, requiring costly generation with limited membership separation. Perturbation-based methods instead measure response changes but focus on large perturbations, leaving VLLM membership behavior under smaller perturbations poorly understood. We systematically characterize VLLM membership behavior under controlled Gaussian perturbations across noise levels at fine resolution. We find that optimal perturbation magnitude and membership-signal direction vary across model-dataset pairs. In many settings, a previously unstudied low-noise regime yields stronger separation than large perturbations, with members exhibiting lower divergence than non-members, reversing the conventional score direction. Other settings retain the conventional direction, demonstrating that neither a fixed perturbation magnitude nor a predetermined score orientation is universally reliable. We propose COMPASS, an adaptive gray-box MIA that calibrates both the perturbation magnitude and membership-score direction using a loosely distribution-matched, known non-member reference set. We instantiate COMPASS using Renyi-normalized KL divergence and Renyi divergence, with max-k aggregation over the most informative image-logit positions. Across LLaVA v1.5-7B, MiniGPT-4, and HuluMed-32B, spanning pretraining, instruction-tuning, and medical-image datasets, COMPASS outperforms baselines. On general-domain data, COMPASS achieves AUCs up to 0.88. On the distribution-matched medical evaluation, it reaches 0.64 AUC, while the strongest baseline remains at chance level. These results establish full-range adaptive perturbation analysis as an effective approach to VLLM membership inference.
• Abstract（参考訳）: ビジョン大言語モデル(VLLM)は、プライバシに敏感なドメインにデプロイされ、トレーニングデータ露出に関する懸念が高まる。 既存の灰色のボックスメンバーシップ推論攻撃(MIA)は、エントロピー統計や生成した記述に依存しており、メンバーシップ分離が制限された費用がかかる。 摂動に基づく手法は、代わりに応答の変化を計測するが、大きな摂動に焦点を合わせ、VLLMのメンバーシップの振る舞いはより小さな摂動の下では理解されていない。 ノイズレベルの制御されたガウス摂動下でのVLLMメンバシップの挙動を微細な分解能で系統的に特徴付ける。 最適摂動度とメンバシップ信号方向はモデル・データセット・ペアによって異なることが判明した。 多くの設定において、未調査の低ノイズ体制は大きな摂動よりも強い分離をもたらし、メンバーは非メンバーよりも分散度が低く、従来のスコア方向を逆転させる。 他の設定では従来の方向を保ち、固定された摂動の大きさも所定のスコアの向きも普遍的に信頼性がないことを示す。 適応型グレーボックスMIAであるCompASSを提案する。これは、ゆるく分布整合された既知の非メンバー参照セットを用いて、摂動度と会員スコア方向の両方を校正する。 我々は,Renyi-normalized KL divergence と Renyi divergence を用いてCompASS をインスタンス化し,最も情報性の高い画像-ログ位置上で最大k の集約を行う。 LLaVA v1.5-7B、MiniGPT-4、HuluMed-32Bが事前トレーニング、命令チューニング、医療画像データセットにまたがって、CompASSはベースラインを上回っている。 一般ドメインデータでは、CompASS は AUC を 0.88 まで達成している。 分布整合型医療評価では0.64AUCに到達し、最強のベースラインはチャンスレベルに留まる。 これらの結果は、VLLMメンバシップ推論に対する効果的なアプローチとして、フルレンジ適応摂動解析を確立した。

関連論文リスト

• COMPASS: Contextual Moment Prior Alignment for Generalizable AIGI Detection [87.91469665365304]
  一般化可能なAI生成画像(AIGI)とディープフェイク検出は、非対称性現象のため難しいままである。 最近の部分空間適応法は、残留部分空間を適応させながら高次主成分を凍結することによりこの問題を軽減する。 本稿では,小さなSemantic Proxy Setを用いて,ターゲットのアクティベーション統計を推定するデータ認識サブスペース適応フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-10-13T09:23:12Z)
• Representation--Behavior Alignment for Explainable Weakly-Supervised Video Anomaly Detection [85.80105227185304]
  MLLM(MultiBehavior Large Language Models)は、ビデオの異常検出をより説明しやすいものにするための自然な方法である。 彼らの最終決定は、隠された状態に含まれる差別的な情報を常に完全に利用するとは限らない。 我々はこのギャップをキャパシティコンポーネントに分解し、読み出し位置に集約されない識別情報を計測する。 背骨の約0.012%を更新しながらビデオレベルラベルのみを用いてこれらの層を適応させるパラメータ効率の高い手法であるRepresentation-Behavior Alignment (RBA)を提案する。
  論文  参考訳（メタデータ） (2026-10-04T11:21:28Z)
• Granularity-Adaptive Credit Assignment for Long-Horizon LLM Agent Reinforcement Learning [7.885980895039013]
  我々は、正しい解決法は国家に依存していると論じ、不確実性に基づく臨界性プロキシに従って粒度が続く批判のない推定器であるGACAを提案する。 GACAは、自己のロールアウトがすでに記録している負のログライクな記録によって各ステップをスコアし、そのスコアで成長するステップ毎の重みと2つのアドバンテージをブレンドする。 ALFWorldとWebShopでは、GACAはGRPOとGiGPOよりも1.5Bと7Bのスケールでタスクの成功を改善する。
  論文  参考訳（メタデータ） (2026-09-11T04:19:44Z)
• Personalizing LLMs with Binary Feedback: A Preference-Corrected Optimization Framework [17.343792633458254]
  大言語モデル(LLM)のパーソナライゼーションは、モデルの振る舞いを個々のユーザの好みに合わせることを目的としている。 既存の手法は、ユーザー間の差異の本質的な役割を無視して、孤立したユーザー履歴に焦点を当てることが多い。 C-BPO(C-BPO)は、好み校正されたバイナリ信号を介してLLMをパーソナライズするフレームワークである。
  論文  参考訳（メタデータ） (2026-05-11T06:12:24Z)
• How Independent are Large Language Models? A Statistical Framework for Auditing Behavioral Entanglement and Reweighting Verifier Ensembles [46.63622714488747]
  共有事前学習データ、蒸留、アライメントパイプラインは、隠れた振る舞い依存、潜伏絡みを誘導することができる。 実際には、これは相関した推論パターンと同期された障害として現れます。 ブラックボックス言語モデル間の行動絡みを監査するための統計的枠組みを開発する。
  論文  参考訳（メタデータ） (2026-04-08T23:32:06Z)
• G-Drift MIA: Membership Inference via Gradient-Induced Feature Drift in LLMs [1.8986796884429726]
  メンバーシップ推論攻撃(MIA)は、トレーニング中に特定の例が使用されたかどうかを判断することを目的としている。 G-Drift MIAは,勾配誘起特徴量ドリフトに基づくホワイトボックスメンバシップ推論手法である。 G-Driftは信頼性ベース、パープレキシティベース、参照ベースアタックを大きく上回る。
  論文  参考訳（メタデータ） (2026-04-01T03:01:27Z)
• Steering and Rectifying Latent Representation Manifolds in Frozen Multi-modal LLMs for Video Anomaly Detection [52.5174167737992]
  ビデオ異常検出(VAD)は、ビデオ内の異常事象を特定することを目的としている。 本稿では,MLLMに基づくVADを受動的に読み上げから内部表現を積極的に操り,修正するSteerVADを提案する。 本手法は、トレーニングデータの1%しか必要としないチューニングフリーアプローチにおける最先端性能を実現する。
  論文  参考訳（メタデータ） (2026-02-27T13:48:50Z)
• Noise-Robust Tiny Object Localization with Flows [63.60972031108944]
  フレキシブルなエラーモデリングと不確実性誘導最適化に正規化フローを活用するノイズローバストローカライゼーションフレームワークを提案する。 本手法は,フローベース誤差モデルを用いて,複雑な非ガウス予測分布を抽出し,ノイズの多い監視下で頑健な学習を可能にする。 不確実性を考慮した勾配変調機構は、トレーニングを安定化しながら過度な適合を緩和し、高不確実でノイズの強いサンプルからの学習をさらに抑制する。
  論文  参考訳（メタデータ） (2026-01-02T09:16:55Z)
• GrAInS: Gradient-based Attribution for Inference-Time Steering of LLMs and VLMs [56.93583799109029]
  GrAInSは推論時ステアリングのアプローチで、言語のみのモデルと視覚言語の両方のモデルとタスクで動作する。 推論中、GrAInSはトークンレベルの属性信号によって誘導されるトランスフォーマー層で隠されたアクティベーションを隠蔽し、アクティベーションを正規化し、表現スケールを保存する。 微調整と既存のステアリングベースラインの両方を一貫して上回る。
  論文  参考訳（メタデータ） (2025-07-24T02:34:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。