論文の概要: Threats to Arabic Handwriting Recognition: Investigating Black-Box Adversarial Attacks on embedded ConvNet models

• arxiv url: http://arxiv.org/abs/2605.18058v1
• Date: Mon, 18 May 2026 08:45:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:49.195261
• Title: Threats to Arabic Handwriting Recognition: Investigating Black-Box Adversarial Attacks on embedded ConvNet models
• Title（参考訳）: アラビア文字認識への脅威:組込みConvNetモデルにおけるブラックボックス対応攻撃の調査
• Authors: Mohsine EL Khayati, Abdelillah Semma, Abdelaziz Courr, Rachid Elouahbi,
• Abstract要約: 本研究は、敵のブラックボックス攻撃に対するハイパフォーマンスモデルの脆弱性を実証する。 アラビア文字を含む2つのベンチマークAHRデータセットで実験を行った。
• 参考スコア（独自算出の注目度）: 0.2519906683279152
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Arabic handwriting recognition (AHR) has made significant progress with deep learning models. AHR research has largely focused on performance, with security receiving little attention. This study provides what appears to be a new line of inquiry by demonstrating the vulnerability of high-performing models to adversarial black-box attacks. The focus on black-box attacks reflects real-world scenarios where the attacker has no prior knowledge of the model architecture. Extensive experiments were conducted on two benchmark AHR datasets containing Arabic handwritten Characters. Results demonstrated the effectiveness of the attacks, with the Pixle attack achieving an attack success rate of 99-100\% on most models. Other, less aggressive attacks achieved success rates of 50-96\% across most experiments. Despite the higher attack success rate, the attacks maintain the structural integrity of the characters, rendering them almost imperceptible to the human eye. The findings indicate the higher vulnerability of the studied models to adversarial manipulation. This underscores the need to strengthen efforts to secure these models and ensure their reliability in AHR real-world applications.
• Abstract（参考訳）: アラビア文字認識(AHR)はディープラーニングモデルで大きく進歩している。 AHRの研究は主にパフォーマンスに重点を置いており、セキュリティはほとんど注目されていない。 この研究は、敵のブラックボックス攻撃に対するハイパフォーマンスモデルの脆弱性を実証することによって、新たな調査の線と思われるものを提供する。 ブラックボックス攻撃の焦点は、攻撃者がモデルアーキテクチャについて事前の知識を持っていない現実のシナリオを反映している。 アラビア文字を含む2つのベンチマークAHRデータセットで大規模な実験を行った。 その結果、ほとんどのモデルにおいてピクトル攻撃が99-100\%の攻撃成功率を達成したことにより、攻撃の有効性が示された。 その他の攻撃的でない攻撃は、ほとんどの実験で50-96 %の成功率を達成した。 攻撃の成功率が高いにもかかわらず、攻撃はキャラクターの構造的整合性を維持しており、人間の目にはほとんど知覚できない。 以上の結果から,研究対象モデルの敵視操作に対する脆弱性が高いことが示唆された。 このことは、これらのモデルをセキュアにし、AHRの現実世界のアプリケーションで信頼性を確保するための努力を強化する必要性を浮き彫りにしている。

関連論文リスト

• GradingAttack: Attacking Large Language Models Towards Short Answer Grading Ability [12.36073220426879]
  大規模言語モデル(LLM)は、自動短解階調(ASAG)の顕著な可能性を示している。 敵の操作に対する脆弱性は、自動グレーディング公正性と信頼性に対する重要な懸念を引き起こす。 我々は,LSMベースのASAGモデルの脆弱性を体系的に評価する,きめ細かな敵攻撃フレームワークであるGradingAttackを紹介する。
  論文  参考訳（メタデータ） (2026-02-01T02:39:51Z)
• Web Artifact Attacks Disrupt Vision Language Models [61.59021920232986]
  視覚言語モデル(VLM)は、大規模で軽量にキュレートされたWebデータセットに基づいて訓練されている。 意味概念と無関係な視覚信号の間に意図しない相関関係を学習する。 これまでの研究は、これらの相関関係をモデル予測を操作するための攻撃ベクトルとして武器化してきた。 非マッチングテキストとグラフィカル要素の両方を使ってモデルを誤解させる新しい操作のクラスである「アーティファクトベース」アタックを導入する。
  論文  参考訳（メタデータ） (2025-03-17T18:59:29Z)
• Revisiting Backdoor Attacks against Large Vision-Language Models from Domain Shift [104.76588209308666]
  本稿では,LVLMの学習訓練におけるバックドア攻撃について検討する。 我々は,攻撃の堅牢性を評価するために,新たな評価次元,バックドア領域の一般化を導入する。 本稿では,ドメイン非依存的トリガを臨界領域に注入するマルチモーダルアトリビューションバックドアアタック(MABA)を提案する。
  論文  参考訳（メタデータ） (2024-06-27T02:31:03Z)
• From Attack to Defense: Insights into Deep Learning Security Measures in Black-Box Settings [1.8006345220416338]
  敵のサンプルは深刻な脅威となり、モデルがそのようなアプリケーションの性能を誤解し、損なう可能性がある。 ディープラーニングモデルの堅牢性に対処することは、敵の攻撃を理解し防御するために重要になっている。 我々の研究は、SimBA、HopSkipJump、MGAAttack、境界攻撃などのブラックボックス攻撃、およびプリプロセッサベースの防御機構に焦点を当てている。
  論文  参考訳（メタデータ） (2024-05-03T09:40:47Z)
• Hijacking Attacks against Neural Networks by Analyzing Training Data [21.277867143827812]
  CleanSheetは、新しいモデルハイジャック攻撃で、モデルをトレーニングする相手を必要とせずに、バックドア攻撃のハイパフォーマンスを得る。 CleanSheetはトレーニングデータから発生したタンパーの脆弱性を利用する。 CIFAR-100では平均的な攻撃成功率(ASR)が97.5%、GTSRBでは92.4%である。
  論文  参考訳（メタデータ） (2024-01-18T05:48:56Z)
• Attack-SAM: Towards Attacking Segment Anything Model With Adversarial Examples [68.5719552703438]
  Segment Anything Model (SAM) は、様々なダウンストリームタスクにおける印象的なパフォーマンスのために、最近大きな注目を集めている。 深い視覚モデルは敵の例に弱いと広く認識されており、それはモデルを騙して知覚不能な摂動で間違った予測をする。 この研究は、SAMの攻撃方法に関する総合的な調査を敵対的な例で実施した最初のものである。
  論文  参考訳（メタデータ） (2023-05-01T15:08:17Z)
• Robust Contrastive Language-Image Pre-training against Data Poisoning and Backdoor Attacks [52.26631767748843]
  ROCLIPは、ターゲットデータ中毒やバックドア攻撃に対して、マルチモーダル視覚言語モデルを堅牢に学習するための最初の効果的な方法である。 ROCLIPは、比較的大きく多様なランダムキャプションのプールを考慮することにより、有毒な撮像対の関連を効果的に破壊する。 実験の結果,ROCLIPは訓練前のCLIPモデルにおいて,最先端のデータ中毒やバックドア攻撃を未然に防ぐことができることがわかった。
  論文  参考訳（メタデータ） (2023-03-13T04:49:46Z)
• Recent improvements of ASR models in the face of adversarial attacks [28.934863462633636]
  音声認識モデルは敵攻撃に対して脆弱である。 異なる攻撃アルゴリズムの相対的強度は、モデルアーキテクチャを変更する際に大きく異なることを示す。 ソースコードをパッケージとしてリリースし、将来の攻撃と防御の評価に役立ちます。
  論文  参考訳（メタデータ） (2022-03-29T22:40:37Z)
• Learning to Attack: Towards Textual Adversarial Attacking in Real-world Situations [81.82518920087175]
  敵攻撃は、敵の例でディープニューラルネットワークを騙すことを目的としている。 本稿では、攻撃履歴から学習し、より効率的に攻撃を開始することができる強化学習に基づく攻撃モデルを提案する。
  論文  参考訳（メタデータ） (2020-09-19T09:12:24Z)
• Defense for Black-box Attacks on Anti-spoofing Models by Self-Supervised Learning [71.17774313301753]
  本研究では,自己指導型高水準表現の堅牢性について,敵攻撃に対する防御に利用して検討する。 ASVspoof 2019データセットの実験結果は、Mockingjayによって抽出されたハイレベルな表現が、敵の例の転送可能性を妨げることを示した。
  論文  参考訳（メタデータ） (2020-06-05T03:03:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。