Fugu-MT 論文翻訳(概要): Adversarial Attacks on Deep OCR Systems

論文の概要: Adversarial Attacks on Deep OCR Systems

arxiv url: http://arxiv.org/abs/2608.07636v1
Date: Fri, 07 Aug 2026 15:05:12 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-11 19:16:36.466452
Title: Adversarial Attacks on Deep OCR Systems
Title（参考訳）: 深部OCRシステムにおける敵攻撃
Abstract要約: 生成型OCR視覚言語モデルに対する最初のブラックボックス対逆攻撃を示す。 Deep-OCRの実験は、文字列のみの攻撃と評価パイプラインを検証する。事前に登録された評価が完了するまで、対象とする成功の主張は避けます。
参考スコア（独自算出の注目度）: 14.333045298417828
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Deep-OCR (DeepSeek-OCR) advances document recognition by treating the visual modality as an optical compression medium, enabling long-context OCR at low token cost. However, its increased complexity may introduce new security vulnerabilities. In this paper, we present, to the best of our knowledge, the first pure black-box adversarial attack against a generative OCR vision-language model, where only the decoded string can be queried and no gradients, logits, or model internals are available. We recast the attack as a zeroth-order optimization problem driven by a bounded scalar loss defined directly on the string output via sequence similarity, and estimate the gradient with a random-direction finite-difference scheme whose query cost is independent of the image dimension. An Adam update with ell_infinity projection yields imperceptible perturbations for both untargeted and targeted objectives. Pilot experiments on Deep-OCR validate the string-only attack and evaluation pipeline and expose severe qualitative decoder failures, including repetition, truncation, and prompt leakage. They also show that controlled targeted rewriting remains substantially harder than untargeted degradation; we avoid claiming targeted success until the pre-registered evaluation is complete.
Abstract（参考訳）: Deep-OCR(DeepSeek-OCR)は、視覚的モダリティを光学圧縮媒体として扱い、トークンコストの低い長文OCRを実現することにより、文書認識を向上する。しかし、その複雑さが増し、新たなセキュリティ脆弱性がもたらされる可能性がある。そこで本論文では,生成型OCR視覚言語モデルに対する最初の純ブラックボックス対逆攻撃として,復号文字列のみのクエリが可能であり,勾配やロジット,モデル内部が利用できないことを提案する。本研究では,文字列出力にシーケンス類似性を直接定義した有界スカラー損失によって引き起こされるゼロ階最適化問題として再キャストし,クエリコストが画像次元に依存しないランダム方向有限差分法を用いて勾配を推定する。 ell_infinityプロジェクションによるAdamのアップデートは、未目標と目標の両方に対して、知覚できない摂動をもたらす。 Deep-OCRの試験実験では、文字列のみの攻撃と評価パイプラインを検証し、繰り返し、切り離し、迅速なリークを含む厳密な定性的なデコーダ障害を露呈した。また、コントロール対象の書き直しは、未登録の劣化よりもはるかに難しいことを示し、事前に登録された評価が完了するまでターゲット目標の成功を主張するのを避ける。

関連論文リスト

TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
論文参考訳（メタデータ） (2026-04-30T13:44:01Z)
Rethinking IRSTD: Single-Point Supervision Guided Encoder-only Framework is Enough for Infrared Small Target Detection [18.866174322297997]
赤外線小ターゲット検出(IRSTD)は、小さなターゲットを乱雑な背景から分離することを目的としている。本稿では,新しい単一点応答スーパービジョン誘導赤外線確率応答法を提案する。
論文参考訳（メタデータ） (2026-04-07T03:01:51Z)
From Plausibility to Verifiability: Risk-Controlled Generative OCR for Vision-Language Models [13.2889725132666]
現代の視覚言語モデル(VLM)は、生成型OCRエンジンとして機能するが、オープンエンドの復号化は希少な失敗を露呈する。我々は、生成型OCRにおける中核配置ミスアライメントを特定し、モデルに依存しない幾何リスクコントローラを提案する。凍結したVLMバックボーンと標準OCRベンチマークの実験では、予測可能なカバレッジコストにおいて、極端なエラーリスクと破滅的なオーバージェネレーションが一貫した減少を示す。
論文参考訳（メタデータ） (2026-03-20T09:28:09Z)
Contrastive Spectral Rectification: Test-Time Defense towards Zero-shot Adversarial Robustness of CLIP [68.44229678548298]
コントラストスペクトル整流(Contrastive Spectral Rectification, CSR)は、敵の例に対する効率的な試験時間防御である。 CSRはSOTAを18.1%上回り、AutoAttackに勝っている。 CSRは様々な視覚的タスクに幅広い適用性を示す。
論文参考訳（メタデータ） (2026-01-27T05:24:45Z)
Gradient Structure Estimation under Label-Only Oracles via Spectral Sensitivity [37.729118253160145]
我々は,既存の手動攻撃の幅広い範囲を,真の損失勾配の兆候を暗黙的に近似するものとして解釈できることを示す統一理論的な視点を開発する。この第一原理の理解に動機づけられた我々は、ゼロクエリの周波数領域初期化とパターン駆動最適化(PDO)戦略を組み合わせた新たな攻撃フレームワークを提案する。我々は、CIFAR-10、ImageNet、ObjectNetに関する広範な実験を通じて、我々のフレームワークを実証的に検証し、標準および敵対的に訓練されたモデル、商用API、CLIPベースのモデルをカバーする。
論文参考訳（メタデータ） (2026-01-17T02:47:47Z)
Disabling Self-Correction in Retrieval-Augmented Generation via Stealthy Retriever Poisoning [14.419943772894754]
Retrieval-Augmented Generation (RAG)は,大規模言語モデル(LLM)の信頼性向上のための標準アプローチとなっている。本稿では,現代のLSMの強力なテクスト自己補正能力(SCA)によって,このような攻撃を軽減できることを明らかにする。我々は,新しい中毒パラダイムであるtextscDisarmRAG を導入し,レトリバー自体を妥協してSCAを抑止し,アタッカー・チョーゼン出力を強制する。
論文参考訳（メタデータ） (2025-08-27T17:49:28Z)
The Silent Saboteur: Imperceptible Adversarial Attacks against Black-Box Retrieval-Augmented Generation Systems [101.68501850486179]
本稿では,RAGシステムに対する敵攻撃について検討し,その脆弱性を同定する。このタスクは、ターゲット文書を検索する非知覚的な摂動を見つけることを目的としており、もともとはトップ$k$の候補セットから除外されていた。本稿では、攻撃者とターゲットRAG間の相互作用を追跡する強化学習ベースのフレームワークであるReGENTを提案する。
論文参考訳（メタデータ） (2025-05-24T08:19:25Z)
STBA: Towards Evaluating the Robustness of DNNs for Query-Limited Black-box Scenario [50.37501379058119]
本研究では,クエリ制限シナリオにおいて,悪意のある逆の例を作成するために,空間変換ブラックボックス攻撃(STBA)を提案する。そこで本研究では,STBAが対向例の認識不能性を効果的に改善し,クエリ制限条件下での攻撃成功率を大幅に向上できることを示す。
論文参考訳（メタデータ） (2024-03-30T13:28:53Z)
From Mean to Extreme: Formal Differential Privacy Bounds on the Success of Real-World Data Reconstruction Attacks [54.25638567385662]
機械学習における微分プライバシーは、しばしばメンバーシップ推論に対する保証として解釈される。 DP予算を定量的な保護に翻訳することで、データ再構築の脅威を悪化させることは、依然として困難な課題である。本稿では、実証された"ゼロスクラッチ"攻撃のメカニズムに合わせた、最初の公式なプライバシー境界を導出することで、臨界ギャップを埋める。
論文参考訳（メタデータ） (2024-02-20T09:52:30Z)
Vulnerability Analysis of Transformer-based Optical Character Recognition to Adversarial Attacks [1.8130068086063336]
我々は、標的攻撃と未目標攻撃の両方のアルゴリズムを開発し、評価する。 TrOCRは標的外攻撃に対して非常に脆弱であり、標的攻撃に対して若干脆弱でないことが判明した。
論文参考訳（メタデータ） (2023-11-28T15:22:23Z)
Small Object Detection via Coarse-to-fine Proposal Generation and Imitation Learning [52.06176253457522]
本稿では,粗粒度パイプラインと特徴模倣学習に基づく小型物体検出に適した2段階フレームワークを提案する。 CFINetは、大規模な小さなオブジェクト検出ベンチマークであるSODA-DとSODA-Aで最先端の性能を達成する。
論文参考訳（メタデータ） (2023-08-18T13:13:09Z)
LEAT: Towards Robust Deepfake Disruption in Real-World Scenarios via Latent Ensemble Attack [11.764601181046496]
生成モデルによって作成された悪意のある視覚コンテンツであるディープフェイクは、社会にますます有害な脅威をもたらす。近年のディープフェイクの損傷を積極的に軽減するために, 逆方向の摂動を用いてディープフェイクモデルの出力を妨害する研究が進められている。そこで本研究では,Latent Ensemble ATtack (LEAT) と呼ばれる簡易かつ効果的なディスラプション手法を提案する。
論文参考訳（メタデータ） (2023-07-04T07:00:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。