Fugu-MT 論文翻訳(概要): Discovering Natural Transformation Vulnerabilities in Black-Box Vision Models

論文の概要: Discovering Natural Transformation Vulnerabilities in Black-Box Vision Models

arxiv url: http://arxiv.org/abs/2609.07110v1
Date: Mon, 07 Sep 2026 06:51:08 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-10 19:44:08.375304
Title: Discovering Natural Transformation Vulnerabilities in Black-Box Vision Models
Title（参考訳）: ブラックボックスビジョンモデルにおける自然変換脆弱性の発見
Abstract要約: 自然反対例(NAEs)は、視覚モデルがノルム有界摂動を超えた現実的な意味変化の下で失敗することを明らかにする。本稿では,自然言語編集シナリオを検索するクエリベースのブラックボックスフレームワークであるbfAdversarial Scenario Attack (ASA)を提案する。 ASAは以前のクエリベースの生成攻撃よりも攻撃成功率を大幅に向上させる。
参考スコア（独自算出の注目度）: 2.5489046505746704
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Natural adversarial examples (NAEs) reveal that vision models can fail under realistic semantic changes beyond norm-bounded perturbations. However, generating NAEs in a black-box setting remains challenging because existing generative attacks often rely on surrogate models, learned attack priors, or costly query-based optimization, whereas the natural transformations that expose model vulnerabilities are unknown a priori. We propose \textbf{Adversarial Scenario Attack (ASA)}, a query-based black-box framework that searches over natural-language editing scenarios using a multimodal language model and a modern text-guided generative editor. ASA jointly explores background, weather, and material/color transformations through winner--loser feedback, and uses a greedy explorer to compose only attack-improving scenarios. Across diverse ImageNet classifiers, ASA achieves substantially higher attack success rates than prior query-based generative attacks while requiring fewer victim-model queries and preserving competitive perceptual quality. Moreover, ASA exhibits both image-level and prompt-level transferability: its adversarial images remain effective across victim-model architectures, while its discovered editing scenarios can be reused across same-class images and, in some cases, across architectures. These findings suggest that vision models possess reusable vulnerabilities to natural transformation patterns, which ASA can efficiently identify in a black-box setting.
Abstract（参考訳）: 自然反対例(NAEs)は、視覚モデルがノルム有界摂動を超えた現実的な意味変化の下で失敗することを明らかにする。しかし、既存の生成的攻撃はサロゲートモデルや学習された攻撃先、高価なクエリベースの最適化に依存することが多いため、ブラックボックス設定でのNAEの生成は難しいままである。我々は,マルチモーダル言語モデルと現代テキスト誘導生成エディタを用いて,自然言語編集シナリオを検索するクエリベースのブラックボックスフレームワークである,textbf{Adversarial Scenario Attack (ASA)}を提案する。 ASAは、勝者のフィードバックを通じて、背景、天候、物質/色の変化を共同で探索し、グレディなエクスプローラーを使用して、攻撃改善シナリオのみを構成する。多様なImageNet分類器全体で、ASAは以前のクエリベースの生成攻撃よりもはるかに高い攻撃成功率を達成すると同時に、犠牲者モデルのクエリを少なくし、競争力のある知覚品質を維持する。さらに、ASAは画像レベルとプロンプトレベルの転送可能性の両方を示しており、その逆画像は被害者モデルアーキテクチャで有効であり、発見された編集シナリオは同一級の画像と場合によってはアーキテクチャで再利用できる。これらの結果は、視覚モデルが自然変換パターンに対する再利用可能な脆弱性を有しており、ASAはブラックボックス設定で効率的に識別できることを示している。

関連論文リスト

Leveraging Association Context Retrieval in Knowledge Edit- ing to Build White-Box Attacks on LLMs [41.986377298239525]
本稿では,知識編集分野からの位置情報編集アプローチにインスパイアされた,新しいホワイトボックス攻撃を提案する。我々の選択は、そのようなスキームで編集されたモデルが、編集対象に異常に高い予測確率を割り当てる傾向にあるという観察によって動機づけられる。
論文参考訳（メタデータ） (2026-08-18T14:35:18Z)
Primitive-Driven Compositional Forensic Visual Prompting for Open-World Face Anti-Spoofing [59.765442274924595]
視覚的特徴空間で完全に機能する合成視覚的プロンプト学習フレームワークを提案する。このフレームワークは、学習可能なマイクロ法医学的プリミティブの共有セットを局所的な法医学的エビデンスユニットに洗練するためにパッチ対応の注意を払っている。 9つのオープンワールドプロトコルの実験は、最先端のパフォーマンス、強力なクロスドメインの一般化、そして目に見えない攻撃への堅牢な適応を示す。
論文参考訳（メタデータ） (2026-08-18T04:18:08Z)
TrustCLIP: Learning Private Visual Features via Adversarial Reconstruction [51.17509341761903]
TrustCLIPは、機能条件付きジェネレータを明示的なプライバシ敵として扱う、再構築駆動のフレームワークである。従来の分類とマルチモーダルな大規模言語モデルパイプラインにおいて,その有効性を示す。
論文参考訳（メタデータ） (2026-07-05T20:11:00Z)
Stealthy and Adjustable Text-Guided Backdoor Attacks on Multimodal Pretrained Models [65.63901005568772]
マルチモーダル事前訓練モデルは、バックドア攻撃に対して脆弱である。マルチモーダル事前学習モデルに対する新しいテキストガイドバックドア(TGB)攻撃を提案する。
論文参考訳（メタデータ） (2026-04-07T12:46:23Z)
Beyond Standard Benchmarks: A Systematic Audit of Vision-Language Model's Robustness to Natural Semantic Variation Across Diverse Tasks [11.064940886724257]
本稿では,視覚言語モデル(VLM)の自然なシナリオ下での体系的評価フレームワークを提案する。ゼロショット画像分類,セマンティックセグメンテーション,視覚的質問応答において,選択したVLMの自然な対向性能を測定した。解析の結果,頑健なCLIPモデルでは自然の敵対的脆弱性が増幅され,CLIPモデルでは自然言語による敵対的事例のパフォーマンスが著しく低下することが判明した。
論文参考訳（メタデータ） (2026-04-06T06:48:32Z)
A Generative Adversarial Approach to Adversarial Attacks Guided by Contrastive Language-Image Pre-trained Model [12.15621649989295]
CLIPモデルを用いて、高効率で視覚的に知覚できない対人摂動を発生させる生成的対人攻撃法を提案する。我々のアプローチは、サリエンシをベースとしたオートエンコーダからの集中摂動戦略と、GAMA(Generative Adversarial Multi-Object Scene Attacks)に似た異種テキスト埋め込みを統合する。
論文参考訳（メタデータ） (2025-11-03T08:02:48Z)
Image Can Bring Your Memory Back: A Novel Multi-Modal Guided Attack against Image Generation Model Unlearning [28.15997901023315]
Recallは、未学習のIMGの堅牢性を損なうために設計された、新しい敵のフレームワークである。逆効果、計算効率、意味的忠実性の点で、元のプロンプトで既存のベースラインを一貫して上回ります。これらの結果は、現在の未学習メカニズムにおける重大な脆弱性を明らかにし、より堅牢なソリューションの必要性を浮き彫りにしている。
論文参考訳（メタデータ） (2025-07-09T02:59:01Z)
Proxy-Embedding as an Adversarial Teacher: An Embedding-Guided Bidirectional Attack for Referring Expression Segmentation Models [7.064823891326925]
Referring Expression (RES)は、自然言語記述に基づく画像の正確なオブジェクトセグメンテーションを可能にする。その印象的な性能にもかかわらず、RESモデルの敵の例に対する堅牢性はほとんど解明されていない。本稿では RES モデルに対する埋め込み誘導双方向攻撃 PEAT を提案する。
論文参考訳（メタデータ） (2025-06-19T09:14:04Z)
Transferable Adversarial Attacks on Black-Box Vision-Language Models [63.22532779621001]
敵対的攻撃は、テキストのみのコンテキストとビジョンのみのコンテキストにおいて、オープンソースからプロプライエタリなブラックボックスモデルに移行することができる。攻撃者は、特定の攻撃者による視覚情報の解釈を誘導するために、摂動を作れます。普遍的な摂動 -- 広い範囲のイメージに適用可能な修正 -- は、これらの誤解釈を一貫して引き起こすことを発見した。
論文参考訳（メタデータ） (2025-05-02T06:51:11Z)
ObjectCompose: Evaluating Resilience of Vision-Based Models on Object-to-Background Compositional Changes [64.57705752579207]
本研究では,視覚モデルによる多様な背景背景環境に対するレジリエンスを評価する。我々は、画像から画像への変換、画像から画像への変換、および画像から画像への変換モデルの生成機能を利用して、オブジェクトから背景への変換を自動的に生成する。
論文参考訳（メタデータ） (2024-03-07T17:48:48Z)
Boosting Black-Box Attack with Partially Transferred Conditional Adversarial Distribution [83.02632136860976]
深層ニューラルネットワーク(DNN)に対するブラックボックス攻撃の研究我々は, 代理バイアスに対して頑健な, 対向移動可能性の新たなメカニズムを開発する。ベンチマークデータセットの実験と実世界のAPIに対する攻撃は、提案手法の優れた攻撃性能を示す。
論文参考訳（メタデータ） (2020-06-15T16:45:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。