Fugu-MT 論文翻訳(概要): GeoDetect: Geometric Adversarial Detection for VLPs

論文の概要: GeoDetect: Geometric Adversarial Detection for VLPs

arxiv url: http://arxiv.org/abs/2607.14737v1
Date: Thu, 16 Jul 2026 09:02:38 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-17 17:01:33.051834
Title: GeoDetect: Geometric Adversarial Detection for VLPs
Title（参考訳）: GeoDetect: VLPの幾何学的逆検出
Abstract要約: 視覚言語で事前訓練されたモデルは敵攻撃に対して脆弱である。逆検出法は単一モード設定で成功している。我々は,これらのオフマニフォールド偏差を幾何学的スコアを用いて利用して,逆数例を同定するGeoDetectを提案する。
参考スコア（独自算出の注目度）: 14.950658274405932
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Vision-language pre-trained models (VLPs) are widely used in real-world applications. However, they remain vulnerable to adversarial attacks. Although adversarial detection methods have demonstrated success in single-modality settings (either vision or language), their effectiveness and reliability in multimodal models such as VLPs remain largely unexplored. In this work, we study the geometry of VLP embedding spaces and observe structured anisotropy that differs from unimodal vision models. Our theoretical analysis shows that under this anisotropic structure, adversarial attacks increase the expected geometric separation between clean and adversarial examples (AEs). Specifically, we demonstrate that AEs consistently exhibit greater expected distances to randomly sampled points than their clean counterparts, indicating that AEs tend to push representations out of manifold regions. Building on these insights, we propose GeoDetect, which leverages these off-manifold deviations via geometric scores to identify AEs. Through comprehensive evaluations, we show that our approach reliably detects AEs across diverse VLP architectures and threat settings, covering unimodal and multimodal attacks as well as adaptive attacks, thereby providing a robust and practical approach to improving the safety and reliability of these models.
Abstract（参考訳）: 視覚言語事前訓練モデル(VLP)は現実世界のアプリケーションで広く使われている。しかし、敵の攻撃に弱いままである。対向検出法は単一のモダリティ設定(ビジョンや言語)で成功したが、VLPのようなマルチモーダルモデルの有効性と信頼性は未解明のままである。本研究では,VLP埋め込み空間の幾何学を考察し,非動視覚モデルとは異なる構造的異方性を観察する。この異方性構造の下では, 対角攻撃はクリーン例と対角的例(AE)の幾何学的分離を期待できる。具体的には、AEsはクリーンな点よりもランダムにサンプリングされた点よりも常に高い期待距離を示し、AEsが多様体領域から表現をプッシュする傾向があることを示す。これらの知見に基づいて、幾何学的スコアを用いてこれらのオフマニフォールド偏差を利用してAEを同定するGeoDetectを提案する。包括的評価により,本手法は多様なVLPアーキテクチャや脅威設定にまたがるAEを確実に検出し,非モーダルおよびマルチモーダルアタックと適応アタックをカバーし,これらのモデルの安全性と信頼性を向上させるための堅牢で実用的なアプローチを提供する。

関連論文リスト

Improving Generalizability and Undetectability for Targeted Adversarial Attacks on Multimodal Pre-trained Models [20.436364410114752]
マルチモーダル事前学習モデルには、一般化可能性と非検出性という2つの側面がある。具体的には、工芸目的敵例(AE)は、クロスモーダルアライメントタスクにおいて、部分的に知られている、または意味的に類似したターゲットに限定的な一般化を示す。本稿では,複数のソース・モーダル・ターゲット・モーダル・プロキシを利用してターゲットAEを最適化するPTA(Proxy Targeted Attack)を提案する。
論文参考訳（メタデータ） (2025-09-24T11:00:43Z)
Deep Learning Models for Robust Facial Liveness Detection [56.08694048252482]
本研究では,現代のアンチスプーフィング手法の欠陥に対処する新しい深層学習モデルを用いて,ロバストな解を提案する。テクスチャ解析と実際の人間の特性に関連する反射特性を革新的に統合することにより、我々のモデルは、顕著な精度でレプリカと真の存在を区別する。
論文参考訳（メタデータ） (2025-08-12T17:19:20Z)
Benchmarking the Spatial Robustness of DNNs via Natural and Adversarial Localized Corruptions [49.546479320670464]
本稿では,セグメンテーションモデルの空間的ロバスト性を評価するための特別な指標を紹介する。本稿では,モデルロバスト性をより深く理解する手法として,地域対応型マルチアタック・アタック・アタック・アタック・アタック・アタック・アタック・アタック・アタック・アタック・アタック・アタック・アタック・アタック分析を提案する。その結果、モデルがこれらの2種類の脅威に異なる反応を示すことが明らかとなった。
論文参考訳（メタデータ） (2025-04-02T11:37:39Z)
Geometry-Guided Adversarial Prompt Detection via Curvature and Local Intrinsic Dimension [10.892846618107392]
CurvaLIDは、その幾何学的性質を活用することで、敵のプロンプトを効率的に検出する新しい防御フレームワークである。 CurvaLIDは、テキストの幾何学的解析に基づいて、その基礎となる違いを明らかにする。以上の結果から,敵対的プロンプトは良性プロンプトと異なる幾何学的シグネチャを呈し,CurvaLIDがほぼ完璧に分類できることが示唆された。
論文参考訳（メタデータ） (2025-03-05T13:47:53Z)
MirrorCheck: Efficient Adversarial Defense for Vision-Language Models [55.73581212134293]
本稿では,視覚言語モデルにおける対角的サンプル検出のための,新しい,しかしエレガントなアプローチを提案する。本手法は,テキスト・トゥ・イメージ(T2I)モデルを用いて,ターゲットVLMが生成したキャプションに基づいて画像を生成する。異なるデータセットで実施した経験的評価により,本手法の有効性が検証された。
論文参考訳（メタデータ） (2024-06-13T15:55:04Z)
ADDMU: Detection of Far-Boundary Adversarial Examples with Data and Model Uncertainty Estimation [125.52743832477404]
AED(Adversarial Examples Detection)は、敵攻撃に対する重要な防御技術である。本手法は, 正逆検出とFB逆検出の2種類の不確実性推定を組み合わせた新しい手法である textbfADDMU を提案する。提案手法は,各シナリオにおいて,従来の手法よりも3.6と6.0のEmphAUC点が優れていた。
論文参考訳（メタデータ） (2022-10-22T09:11:12Z)
Be Your Own Neighborhood: Detecting Adversarial Example by the Neighborhood Relations Built on Self-Supervised Learning [64.78972193105443]
本稿では,予測に有効な新しいAE検出フレームワークを提案する。 AEの異常な関係と拡張バージョンを区別して検出を行う。表現を抽出し、ラベルを予測するために、既製の自己監視学習(SSL)モデルが使用される。
論文参考訳（メタデータ） (2022-08-31T08:18:44Z)
Exploring Robustness of Unsupervised Domain Adaptation in Semantic Segmentation [74.05906222376608]
クリーンな画像とそれらの逆の例との一致を、出力空間における対照的な損失によって最大化する、逆向きの自己スーパービジョンUDA(ASSUDA)を提案する。 i) セマンティックセグメンテーションにおけるUDA手法のロバスト性は未解明のままであり, (ii) 一般的に自己スーパービジョン(回転やジグソーなど) は分類や認識などのイメージタスクに有効であるが, セグメンテーションタスクの識別的表現を学習する重要な監視信号の提供には失敗している。
論文参考訳（メタデータ） (2021-05-23T01:50:44Z)
Adversarial Example Detection for DNN Models: A Review [13.131592630524905]
敵対的な例(AE)の目的は、ディープラーニングモデルを騙すことであり、DLアプリケーションに潜在的なリスクをもたらす。少数のレビューと調査が出版され、理論的には脅威の分類と対策方法を示した。このような方法に関する詳細な議論を行い、8つの最先端検出器の実験結果を示す。
論文参考訳（メタデータ） (2021-05-01T09:55:17Z)
MixDefense: A Defense-in-Depth Framework for Adversarial Example Detection Based on Statistical and Semantic Analysis [14.313178290347293]
AE検出のための多層ディフェンス・イン・ディープス・フレームワーク(MixDefense)を提案する。入力から抽出した雑音の特徴を利用して、自然画像と改ざん画像の統計的差異を抽出し、AE検出を行う。提案したMixDefenseソリューションは,既存のAE検出技術よりもかなり優れていることを示す。
論文参考訳（メタデータ） (2021-04-20T15:57:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。