論文の概要: Provable Adversarial Detection: Prime Quantization meets Gromov--Wasserstein

• arxiv url: http://arxiv.org/abs/2610.26102v1
• Date: Mon, 19 Oct 2026 10:00:07 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 22:36:01.5853
• Title: Provable Adversarial Detection: Prime Quantization meets Gromov--Wasserstein
• Title（参考訳）: 確率的逆検出:素量子化とグロモフ-ワッサーシュタイン
• Abstract要約: CNNからヴィジュアル言語モデル(VLM)まで、現代のヴィジュアルアーキテクチャ全体にわたってアドリアル脆弱性が持続する 幾何学的視点から, 対向摂動を確実に検出できるかどうかという問題に対処する。 我々のフレームワークは、ピクセルレベルの吸収境界、近傍径濃度、Gromov-Wasserstein (GW) 分離定理、実用的なリスク制御を含む理論的保証を提供する。
• 参考スコア（独自算出の注目度）: 8.370466398830127
• License:
• Abstract: Adversarial vulnerability persists across modern vision architectures from CNNs to vision language models (VLMs), yet existing detection methods rely on heuristics without theoretical guarantees. We address the fundamental question of when adversarial perturbations can be provably detected from a geometric perspective. Our key insight is that adversarial perturbations cannot simultaneously preserve geometric structure across spaces with fundamentally different properties. Accordingly, we construct two such complementary metric spaces. First, we use a standard CNN embedding space $Z$, where adversarial samples exhibit significant displacement patterns. Second, we build a novel prime-quantized space $P$, that absorbs small perturbations through number-theoretic discretization, resulting in minimal displacement, while preserving discriminability. We then leverage the geometric discrepancies across spaces $Z$ and $P$ to detect adversarial samples. To the best of our knowledge, we establish the first rigorous separation theory for adversarial detection, proving that adversarial samples create unavoidable geometric inconsistencies across both spaces. Our framework provides theoretical guarantees including pixel-level absorption bounds, neighborhood diameter concentration, Gromov-Wasserstein (GW) separation theorems, and practical risk control. Extensive experiments validate our theoretical predictions and achieve consistently strong detection performance across a wide range of attack types and model families.
• Abstract（参考訳）: 敵の脆弱性はCNNから視覚言語モデル(VLM)まで、現代の視覚アーキテクチャ全体にわたって持続するが、既存の検出方法は理論的な保証なしにヒューリスティックに依存している。 我々は,幾何的な視点から,逆方向の摂動を確実に検出できるかどうかという根本的な問題に対処する。 我々の重要な洞察は、逆転摂動は、根本的に異なる性質を持つ空間をまたいだ幾何学的構造を同時に保存することはできないということである。 したがって、そのような相補距離空間を2つ構築する。 まず、標準のCNN埋め込みスペースをZ$で使用し、敵のサンプルが大きな変位パターンを示す。 第二に、数論的な離散化を通じて小さな摂動を吸収し、最小の変位をもたらす新しい素量子化空間$P$を構築する。 次に、空間の幾何学的差分を$Z$と$P$で計算し、対数サンプルを検出する。 我々の知識を最大限に活用するために、対向検出のための最初の厳密な分離理論を確立し、対向サンプルが両空間にわたって不可避な幾何学的不整合を生み出すことを証明した。 我々のフレームワークは、ピクセルレベルの吸収境界、近傍径濃度、Gromov-Wasserstein (GW) 分離定理、実用的なリスク制御を含む理論的保証を提供する。 大規模な実験により、我々の理論予測が検証され、広範囲の攻撃タイプとモデルファミリーにわたって一貫して強力な検出性能が達成される。

関連論文リスト

• Measuring What Persists: Conditioning Mechanisms and a Geometric Framework for AI Agent Identity [0.0]
  ロングコンテキストアプリケーションのAIエージェントは、指定したIDからドリフトする。 現在の方法では、定性的劣化が見えた後にのみ検出される。 距離空間を$sqrtmathrmJSD$で測定する。
  論文  参考訳（メタデータ） (2026-06-20T02:38:43Z)
• Controlling False Discovery in Arbitrarily Structured Hypothesis Spaces via Reproducing Kernels [47.16593717985932]
  連続的なドメイン、グラフ、階層を1つのアルゴリズムで統一するフレームワークをカーネル選択のみで導入する。 FDR(False Discovery Rate)を制御するための2つの決定ルールを提供します。 本手法は,高次元実世界のデータセットから得られた空間的位置とタンパク質間相互作用グラフを用いた遺伝子発現タスクの2つの情報源で検証する。
  論文  参考訳（メタデータ） (2026-05-17T17:42:56Z)
• Adjoint Inversion Reveals Holographic Superposition and Destructive Interference in CNN Classifiers [0.33842793760651557]
  等相デカップリングと局所共役補正を基盤とした幻覚のない逆転フレームワークを提案する。 提案手法は,各再構成の空間勾配が真に活発なチャネルから厳密に支えられていることを数学的に保証する。 この枠組みを幾何学的プローブとして用いて、視覚エンコーダにおける強重畳みの最初のピクセルレベルの証拠を明らかにする。
  論文  参考訳（メタデータ） (2026-04-30T07:32:07Z)
• Anatomy of a Lie: A Multi-Stage Diagnostic Framework for Tracing Hallucinations in Vision-Language Models [62.932580559941414]
  VLM(Vision-Language Models)は、しばしば「ハロシン化(hallucinate)」する。 本稿では,静的な出力誤差からモデル計算認知の動的病理へ再キャストし,幻覚を診断するための新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-03-16T17:20:38Z)
• Geometry-Aware Backdoor Attacks: Leveraging Curvature in Hyperbolic Embeddings [3.8806403512213787]
  非ユークリッド基底モデルは双曲幾何学のような曲線空間に表現を配置する。 入力空間の小さな変化は標準の入力空間検出器には微妙に見えるが、モデルの表現空間において不均等に大きな変化をもたらす。 本稿では,幾何適応型トリガを提案し,タスクやアーキテクチャにわたって評価する。
  論文  参考訳（メタデータ） (2025-10-07T19:24:43Z)
• Geometry-Guided Adversarial Prompt Detection via Curvature and Local Intrinsic Dimension [10.892846618107392]
  CurvaLIDは、その幾何学的性質を活用することで、敵のプロンプトを効率的に検出する新しい防御フレームワークである。 CurvaLIDは、テキストの幾何学的解析に基づいて、その基礎となる違いを明らかにする。 以上の結果から,敵対的プロンプトは良性プロンプトと異なる幾何学的シグネチャを呈し,CurvaLIDがほぼ完璧に分類できることが示唆された。
  論文  参考訳（メタデータ） (2025-03-05T13:47:53Z)
• Disentangled Representation Learning with the Gromov-Monge Gap [65.73194652234848]
  乱れのないデータから歪んだ表現を学習することは、機械学習における根本的な課題である。 本稿では,2次最適輸送に基づく非交叉表現学習手法を提案する。 提案手法の有効性を4つの標準ベンチマークで示す。
  論文  参考訳（メタデータ） (2024-07-10T16:51:32Z)
• Subspace Defense: Discarding Adversarial Perturbations by Learning a Subspace for Clean Signals [52.123343364599094]
  敵の攻撃は、正常な例に基づいて慎重に摂動を行い、ディープニューラルネットワーク(DNN)を騙す まず,低次元線形部分空間において,クリーン信号と逆方向の摂動の特徴が冗長であり,重なりが最小であることを示す。 これにより、DNNは、摂動が破棄されている間、クリーン信号の特徴のみが存在する部分空間を学習することができる。
  論文  参考訳（メタデータ） (2024-03-24T14:35:44Z)
• Spatial-Frequency Discriminability for Revealing Adversarial Perturbations [53.279716307171604]
  敵の摂動に対するディープニューラルネットワークの脆弱性は、コンピュータビジョンコミュニティで広く認識されている。 現在のアルゴリズムは、通常、自然および敵対的なデータの識別的分解を通じて、敵のパターンを検出する。 空間周波数Krawtchouk分解に基づく識別検出器を提案する。
  論文  参考訳（メタデータ） (2023-05-18T10:18:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。