Fugu-MT 論文翻訳(概要): Precision-Varying Prediction (PVP): Robustifying ASR systems against adversarial attacks

論文の概要: Precision-Varying Prediction (PVP): Robustifying ASR systems against adversarial attacks

arxiv url: http://arxiv.org/abs/2603.22590v1
Date: Mon, 23 Mar 2026 21:29:33 GMT
ステータス: 翻訳完了
システム内更新日: 2026-03-25 19:53:37.19855
Title: Precision-Varying Prediction (PVP): Robustifying ASR systems against adversarial attacks
Title（参考訳）: 精度変化予測(PVP):敵攻撃に対するロバスト化ASRシステム
Authors: Matías Pizarro, Raghavan Narasimhan, Asja Fischer,
Abstract要約: 推論中にASRモデルの精度を変更すると、敵攻撃が成功する可能性が低下する。この事実を利用して、予測中の精度の単純なランダムサンプリングによってモデルをより堅牢にする。実験により、ロバスト性および競合検出性能が著しく向上したことが示された。
参考スコア（独自算出の注目度）: 10.198804733111901
License: http://creativecommons.org/licenses/by/4.0/
Abstract: With the increasing deployment of automated and agentic systems, ensuring the adversarial robustness of automatic speech recognition (ASR) models has become critical. We observe that changing the precision of an ASR model during inference reduces the likelihood of adversarial attacks succeeding. We take advantage of this fact to make the models more robust by simple random sampling of the precision during prediction. Moreover, the insight can be turned into an adversarial example detection strategy by comparing outputs resulting from different precisions and leveraging a simple Gaussian classifier. An experimental analysis demonstrates a significant increase in robustness and competitive detection performance for various ASR models and attack types.
Abstract（参考訳）: 自動およびエージェントシステムの展開の増加に伴い、自動音声認識(ASR)モデルの対角的堅牢性を保証することが重要になっている。我々は、推論中にASRモデルの精度を変更することで、敵攻撃が成功する可能性を減らすことを観察する。この事実を利用して、予測中の精度の単純なランダムサンプリングによってモデルをより堅牢にする。さらに、異なる精度から得られた出力を比較し、単純なガウス分類器を活用することにより、洞察を逆例検出戦略に変換することができる。実験により、様々なASRモデルと攻撃タイプに対するロバスト性および競合検出性能が著しく向上したことが示された。

関連論文リスト

A methodological analysis of prompt perturbations and their effect on attack success rates [0.5387033080274478]
この研究は、異なるLarge Language Models (LLM)アライメントメソッドが、攻撃に対するモデルの応答にどのように影響するかを調査することを目的としている。我々は,最も一般的なアライメント手法,すなわち Supervised Fine-Tuning (SFT), Direct Preference Optimization (DPO), Reinforcement Learning with Human Feedback (RLHF) に基づいて,オープンソースモデルを選択した。
論文参考訳（メタデータ） (2025-11-11T19:39:33Z)
Sampling-aware Adversarial Attacks Against Large Language Models [52.30089653615172]
既存の敵攻撃は、通常、単一点の欲望世代において有害な反応を標的とする。本研究では,有害な応答を抽出する目的のために,攻撃時のモデル出力の繰り返しサンプリングを行う。既存の攻撃にサンプリングを統合することで、成功率が最大37%向上し、最大2桁の効率が向上することを示す。
論文参考訳（メタデータ） (2025-07-06T16:13:33Z)
Explainer-guided Targeted Adversarial Attacks against Binary Code Similarity Detection Models [12.524811181751577]
我々は,BCSDモデルに対する敵攻撃に対する新たな最適化を提案する。特に,攻撃目標は,モデル予測を特定の範囲に制限することである。我々の攻撃は、モデル決定境界の解釈において、ブラックボックス、モデルに依存しない説明器の優れた能力を活用する。
論文参考訳（メタデータ） (2025-06-05T08:29:19Z)
Robust VAEs via Generating Process of Noise Augmented Data [9.366139389037489]
本稿では,原データと雑音増大データ間の潜時空間のばらつきを規則化し,ロバスト性を高める新しい枠組みを提案する。実験により,ロバスト拡張変分オートエンコーダ(RAVEN)と呼ばれるこの手法は,対向入力に対して優れた性能を示すことが示された。
論文参考訳（メタデータ） (2024-07-26T09:55:34Z)
PASA: Attack Agnostic Unsupervised Adversarial Detection using Prediction & Attribution Sensitivity Analysis [2.5347892611213614]
分類のためのディープニューラルネットワークは、サンプル入力に対する小さな摂動が誤った予測につながる敵攻撃に対して脆弱である。本研究では, モデル予測と特徴属性のこの特性の実用的手法を開発し, 対向サンプルを検出する。本手法は,敵が防御機構を認識した場合でも,競争性能を示す。
論文参考訳（メタデータ） (2024-04-12T21:22:21Z)
Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning [80.21709045433096]
対向ロバスト性の標準的な方法は、サンプルを最小に摂動させることによって作られたサンプルに対して防御する枠組みを仮定する。距離学習を用いて、最適輸送問題として逆正則化をフレーム化する。予備的な結果から, 変分摂動の規則化は, 変分防御と敏感防御の両方を改善することが示唆された。
論文参考訳（メタデータ） (2022-11-04T13:54:02Z)
From Environmental Sound Representation to Robustness of 2D CNN Models Against Adversarial Attacks [82.21746840893658]
本稿では, 各種環境音響表現(スペクトログラム)が, 被害者残差畳み込みニューラルネットワークの認識性能と対角攻撃性に与える影響について検討する。 DWTスペクトログラムでトレーニングしたResNet-18モデルでは高い認識精度が得られたが、このモデルに対する攻撃は敵にとって比較的コストがかかる。
論文参考訳（メタデータ） (2022-04-14T15:14:08Z)
CC-Cert: A Probabilistic Approach to Certify General Robustness of Neural Networks [58.29502185344086]
安全クリティカルな機械学習アプリケーションでは、モデルを敵の攻撃から守ることが不可欠である。意味的に意味のある入力変換に対して、ディープラーニングモデルの証明可能な保証を提供することが重要である。我々はChernoff-Cramer境界に基づく新しい普遍確率的証明手法を提案する。
論文参考訳（メタデータ） (2021-09-22T12:46:04Z)
Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
論文参考訳（メタデータ） (2021-05-31T17:01:05Z)
Firearm Detection via Convolutional Neural Networks: Comparing a Semantic Segmentation Model Against End-to-End Solutions [68.8204255655161]
武器の脅威検出とライブビデオからの攻撃的な行動は、潜在的に致命的な事故の迅速検出と予防に使用できる。これを実現する一つの方法は、人工知能と、特に画像分析のための機械学習を使用することです。従来のモノリシックなエンド・ツー・エンドのディープラーニングモデルと、セマンティクスセグメンテーションによって火花を検知する単純なニューラルネットワークのアンサンブルに基づく前述したモデルを比較した。
論文参考訳（メタデータ） (2020-12-17T15:19:29Z)
Detecting Adversarial Examples for Speech Recognition via Uncertainty Quantification [21.582072216282725]
機械学習システム、特に自動音声認識(ASR)システムは、敵の攻撃に対して脆弱である。本稿では,ハイブリッドASRシステムに着目し,攻撃時の不確実性を示す能力に関する4つの音響モデルを比較した。我々は、受信演算子曲線スコア0.99以上の領域の逆例を検出することができる。
論文参考訳（メタデータ） (2020-05-24T19:31:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。