論文の概要: Evaluating Text Classification Robustness to Part-of-Speech Adversarial Examples

• arxiv url: http://arxiv.org/abs/2408.08374v1
• Date: Thu, 15 Aug 2024 18:33:54 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-19 17:29:47.393916
• Title: Evaluating Text Classification Robustness to Part-of-Speech Adversarial Examples
• Title（参考訳）: テキスト分類ロバスト性の評価
• Authors: Anahita Samadi, Allison Sullivan,
• Abstract要約: 逆の例は意思決定プロセスを騙すために設計された入力であり、人間には理解できないことを意図している。 テキストベースの分類システムでは、入力の変更(テキストの文字列)は常に認識可能である。 テキストベースの逆数例の質を向上させるためには、入力テキストのどの要素に注目する価値があるかを知る必要がある。
• 参考スコア（独自算出の注目度）: 0.6445605125467574
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As machine learning systems become more widely used, especially for safety critical applications, there is a growing need to ensure that these systems behave as intended, even in the face of adversarial examples. Adversarial examples are inputs that are designed to trick the decision making process, and are intended to be imperceptible to humans. However, for text-based classification systems, changes to the input, a string of text, are always perceptible. Therefore, text-based adversarial examples instead focus on trying to preserve semantics. Unfortunately, recent work has shown this goal is often not met. To improve the quality of text-based adversarial examples, we need to know what elements of the input text are worth focusing on. To address this, in this paper, we explore what parts of speech have the highest impact of text-based classifiers. Our experiments highlight a distinct bias in CNN algorithms against certain parts of speech tokens within review datasets. This finding underscores a critical vulnerability in the linguistic processing capabilities of CNNs.
• Abstract（参考訳）: 機械学習システムが、特に安全クリティカルなアプリケーションに広く使われるようになるにつれて、敵対的な例に直面したとしても、これらのシステムが意図したように振る舞うことを保証する必要性が高まっている。 逆の例は意思決定プロセスを騙すために設計された入力であり、人間には理解できないことを意図している。 しかし、テキストベースの分類システムでは、入力の変更、一行のテキストは常に認識可能である。 したがって、テキストベースの敵の例は、セマンティクスの保存に重点を置いている。 残念ながら、最近の研究は、この目標が満たされていないことをしばしば示している。 テキストベースの逆数例の質を向上させるためには、入力テキストのどの要素に注目する価値があるかを知る必要がある。 そこで本論文では,テキストベースの分類器が音声のどの部分が最も与える影響について検討する。 実験では、レビューデータセット内の音声トークンの特定の部分に対するCNNアルゴリズムの偏りを強調した。 この発見は、CNNの言語処理能力の重大な脆弱性を浮き彫りにする。

関連論文リスト

• Enhancing Multilingual Voice Toxicity Detection with Speech-Text Alignment [4.2936749846785345]
  音声の毒性分類は、音声の意味的内容に大きく依存する。 テキストのセマンティック埋め込みを多ラベル音声毒性分類器に組み込むために,クロスモーダル学習を利用する新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-14T17:56:53Z)
• On Adversarial Examples for Text Classification by Perturbing Latent Representations [0.0]
  テキスト分類における逆例に対して,ディープラーニングは脆弱であることを示す。 この弱点は、ディープラーニングがそれほど堅牢ではないことを示している。 我々は,テキスト分類器の頑健性を測定するフレームワークを,分類器の勾配を用いて構築する。
  論文  参考訳（メタデータ） (2024-05-06T18:45:18Z)
• Efficiently Leveraging Linguistic Priors for Scene Text Spotting [63.22351047545888]
  本稿では,大規模テキストコーパスから言語知識を活用する手法を提案する。 シーンテキストデータセットとよく一致したテキスト分布を生成し、ドメイン内の微調整の必要性を取り除く。 実験結果から,本手法は認識精度を向上するだけでなく,単語のより正確な局所化を可能にすることが示された。
  論文  参考訳（メタデータ） (2024-02-27T01:57:09Z)
• Context Unlocks Emotions: Text-based Emotion Classification Dataset Auditing with Large Language Models [23.670143829183104]
  テキストデータに文脈情報がないため、テキストベースの感情分類データセットのアノテーションプロセスは困難である。 本稿では,このような文脈情報を強化するための促進戦略を動機付けるために,テキストコンテキストの形式的定義を提案する。 提案手法は, 経験的, 人的評価的両面から, 入力と人的アノテートラベルのアライメントを改善する。
  論文  参考訳（メタデータ） (2023-11-06T21:34:49Z)
• Verifying the Robustness of Automatic Credibility Assessment [50.55687778699995]
  入力テキストにおける意味保存的変化がモデルを誤解させる可能性があることを示す。 また、誤情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAについても紹介する。 我々の実験結果によると、現代の大規模言語モデルは、以前のより小さなソリューションよりも攻撃に対して脆弱であることが多い。
  論文  参考訳（メタデータ） (2023-03-14T16:11:47Z)
• Classifying text using machine learning models and determining conversation drift [4.785406121053965]
  様々な種類のテキストの分析は、意味的意味と関連性の両方を理解するのに有用である。 テキスト分類は文書を分類する方法である。 コンピュータテキスト分類と自然言語処理を組み合わせて、テキストを集約して分析する。
  論文  参考訳（メタデータ） (2022-11-15T18:09:45Z)
• Textual Entailment Recognition with Semantic Features from Empirical Text Representation [60.31047947815282]
  テキストが仮説を包含するのは、仮説の真の価値がテキストに従う場合に限る。 本稿では,テキストと仮説のテキストの包含関係を同定する新しい手法を提案する。 本手法では,テキスト・ハイブリッド・ペア間の意味的含意関係を識別できる要素ワイド・マンハッタン距離ベクトルベースの特徴を用いる。
  論文  参考訳（メタデータ） (2022-10-18T10:03:51Z)
• Span Classification with Structured Information for Disfluency Detection in Spoken Utterances [47.05113261111054]
  本稿では,音声音声からテキスト中の不一致を検出する新しいアーキテクチャを提案する。 提案手法は, 広範に使われているイングリッシュスイッチボードを用いて, ディフルエンシ検出の最先端化を実現する。
  論文  参考訳（メタデータ） (2022-03-30T03:22:29Z)
• AES Systems Are Both Overstable And Oversensitive: Explaining Why And Proposing Defenses [66.49753193098356]
  スコアリングモデルの驚くべき逆方向の脆さの原因について検討する。 のモデルとして訓練されているにもかかわらず、単語の袋のように振る舞うことを示唆している。 高い精度で試料を発生させる過敏性と過敏性を検出できる検出ベース保護モデルを提案する。
  論文  参考訳（メタデータ） (2021-09-24T03:49:38Z)
• Narrative Incoherence Detection [76.43894977558811]
  本稿では,文間セマンティック理解のための新たなアリーナとして,物語不整合検出の課題を提案する。 複数文の物語を考えると、物語の流れに意味的な矛盾があるかどうかを決定します。
  論文  参考訳（メタデータ） (2020-12-21T07:18:08Z)
• TextScanner: Reading Characters in Order for Robust Scene Text Recognition [60.04267660533966]
  TextScannerはシーンテキスト認識の代替手法である。 文字クラス、位置、順序に対する画素単位のマルチチャネルセグメンテーションマップを生成する。 また、コンテキストモデリングにRNNを採用し、文字の位置とクラスを並列で予測する。
  論文  参考訳（メタデータ） (2019-12-28T07:52:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。