論文の概要: Beyond Attack-Based Accuracy: Rethinking Adversarial Robustness Evaluation Through Structural Gradient Alignment
- arxiv url: http://arxiv.org/abs/2611.17377v1
- Date: Wed, 11 Nov 2026 02:44:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-16 18:43:16.23739
- Title: Beyond Attack-Based Accuracy: Rethinking Adversarial Robustness Evaluation Through Structural Gradient Alignment
- Title(参考訳): 攻撃に基づく精度を超えて:構造的勾配アライメントによる敵のロバスト性評価を再考する
- Abstract要約: 本稿では、入力内容と目的条件付き局所モデル感度との間の構造的アライメントを測定する頑健度尺度である構造的勾配アライメント(SGA)を紹介する。
未調整のSGAは8つの公益条件で平均8.72%のペア・アグリーメントを達成し、全体のベースラインを9.38%上回った。
- 参考スコア(独自算出の注目度): 21.819034189309164
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Visual adversarial robustness remains a fundamental security property as vision systems evolve from conventional classifiers to vision-language models (VLMs) and large vision-language models (LVLMs), with visual inputs remaining an attack surface across generations. Yet existing evaluation methods often depend on prescribed attacks, in-distribution data, extensive probing, or classifier-specific formulations, limiting external auditing of diverse models. We introduce Structural Gradient Alignment (SGA), a complementary robustness metric measuring the structural alignment between input content and objective-conditioned local model sensitivity. SGA uses a few randomly sampled, unlabeled public probes that need not follow the downstream task distribution and only one input-gradient computation per model--probe pair. Across 38 distinct DNNs, VLMs, and LVLMs, SGA produces rankings consistent with attack-based references. Without robustness references, uncalibrated SGA achieves $83.72\%$ average pairwise agreement across eight public-probe conditions, outperforming the strongest overall baseline in all eight by $9.38$ percentage points on average. With known robustness orders of anchor models, calibrated SGA increases agreement to $85.36\%$. These results demonstrate an attack-agnostic, computationally efficient robustness signal across conventional DNNs, VLMs, and autoregressive LVLMs, downstream tasks, threat norms, probe distributions, and evaluator-knowledge settings. Our implementation is available at https://github.com/azrealwang/SGA.
- Abstract(参考訳): 視覚系は従来の分類器から視覚言語モデル(VLM)や大型視覚言語モデル(LVLM)へと進化し、視覚入力は世代にわたって攻撃面に留まる。
しかし、既存の評価手法は、しばしば所定の攻撃、分配データ、広範囲な探索、分類器固有の定式化に依存し、多様なモデルの外部監査を制限する。
本稿では、入力内容と目的条件付き局所モデル感度との間の構造的アライメントを測定するための相補的ロバスト性尺度である構造的勾配アライメント(SGA)を紹介する。
SGAは、ダウンストリームのタスク分布に従う必要のない、ランダムにサンプリングされた、ラベルなしの公開プローブと、モデル毎の入力勾配計算のみを使用する。
38の異なるDNN、VLM、LVLMにまたがって、SGAは攻撃ベースの参照と整合したランキングを生成する。
厳密な基準がなければ、SGAは8つの公益条件にまたがる平均的なペアワイズ契約を平均8.72セントで達成し、平均9.38ドルポイントで最強のベースラインを達成している。
アンカーモデルのロバスト性命令により、キャリブレーションされたSGAは契約を85.36 %$に引き上げる。
これらの結果は,従来のDNN, VLM, 自動回帰LVLM, 下流タスク, 脅威規範, プローブ分布, 評価器知識設定に対して, 攻撃に依存しない, 計算効率のよいロバスト性信号を示す。
私たちの実装はhttps://github.com/azrealwang/SGAで公開されています。
関連論文リスト
- COMPASS: Contextual Moment Prior Alignment for Generalizable AIGI Detection [87.91469665365304]
一般化可能なAI生成画像(AIGI)とディープフェイク検出は、非対称性現象のため難しいままである。
最近の部分空間適応法は、残留部分空間を適応させながら高次主成分を凍結することによりこの問題を軽減する。
本稿では,小さなSemantic Proxy Setを用いて,ターゲットのアクティベーション統計を推定するデータ認識サブスペース適応フレームワークを提案する。
論文 参考訳(メタデータ) (2026-10-13T09:23:12Z) - Inference Time Causal Probing in LLMs [26.69306706280534]
因果探索において、介入は、プロパティが異なる値を取るように隠された状態を変更する。
隠れ状態を直接制御するプローブレス勾配法であるHidden-state Driven Margin Intervention (HDMI)を提案する。
HDMIはLGD契約コーパスやCausalGymベンチマークの従来の方法よりも信頼性が高い。
論文 参考訳(メタデータ) (2026-05-08T11:59:13Z) - Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data [55.84428098924793]
構造保存探索を行うためのパラメータ自由復号法である Constrained Uniform Top-K Smpling (CUTS) を提案する。
グループ内の利点分散を増幅するために、エクスプロイトと探索的なロールアウトを相乗化するためのトレーニングフレームワークであるMixed-CUTSに統合する。
特にMixed-CUTSは、AIME25ベンチマークのPass@1の精度を標準のGRPOよりも15.1%向上している。
論文 参考訳(メタデータ) (2026-04-20T16:43:28Z) - K$α$LOS finds Consensus: A Meta-Algorithm for Evaluating Inter-Annotator Agreement in Complex Vision Tasks [4.297070083645049]
本稿では,「ローカライゼーションファースト」の原理を一般化した統一メタアルゴリズムであるK$LOSを提案する。
合意を査定する前に空間対応を解消することにより,複雑な分類問題を名目上の信頼性に変換する。
論文 参考訳(メタデータ) (2026-03-28T08:54:05Z) - SSVP: Synergistic Semantic-Visual Prompting for Industrial Zero-Shot Anomaly Detection [55.54007781679915]
本稿では,多種多様な視覚的エンコーディングを効率よく融合させ,モデルの微粒化知覚を高めるSynergistic Semantic-Visual Prompting (SSVP)を提案する。
SSVPは、MVTec-AD上で93.0%のImage-AUROCと92.2%のPixel-AUROCで最先端のパフォーマンスを達成し、既存のゼロショットアプローチを著しく上回っている。
論文 参考訳(メタデータ) (2026-01-14T04:42:19Z) - GrAInS: Gradient-based Attribution for Inference-Time Steering of LLMs and VLMs [56.93583799109029]
GrAInSは推論時ステアリングのアプローチで、言語のみのモデルと視覚言語の両方のモデルとタスクで動作する。
推論中、GrAInSはトークンレベルの属性信号によって誘導されるトランスフォーマー層で隠されたアクティベーションを隠蔽し、アクティベーションを正規化し、表現スケールを保存する。
微調整と既存のステアリングベースラインの両方を一貫して上回る。
論文 参考訳(メタデータ) (2025-07-24T02:34:13Z) - Data-Driven Calibration of Prediction Sets in Large Vision-Language Models Based on Inductive Conformal Prediction [0.0]
動的しきい値キャリブレーションとクロスモーダル整合性検証を統合したモデル非依存不確実性定量化法を提案する。
このフレームワークは、様々なキャリブレーションとテストの分割比で安定したパフォーマンスを実現し、医療、自律システム、その他の安全に敏感な領域における現実的な展開の堅牢性を強調している。
この研究は、マルチモーダルAIシステムにおける理論的信頼性と実用性の間のギャップを埋め、幻覚検出と不確実性を考慮した意思決定のためのスケーラブルなソリューションを提供する。
論文 参考訳(メタデータ) (2025-04-24T15:39:46Z) - Self-Guided Adaptation: Progressive Representation Alignment for Domain
Adaptive Object Detection [86.69077525494106]
非教師なしドメイン適応(UDA)は、オブジェクト検出モデルのドメイン間ロバスト性を改善するために前例のない成功を収めた。
既存のUDA手法は、モデル学習中の瞬間的なデータ分布を無視しており、大きなドメインシフトによって特徴表現が劣化する可能性がある。
本稿では、特徴表現の整合とドメイン間のオブジェクト検出モデルの転送を目標とする自己ガイド適応モデルを提案する。
論文 参考訳(メタデータ) (2020-03-19T13:30:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。