論文の概要: Attacking Only Half the Data: Two-Sided Evaluation of AI-Text Detector Robustness

• arxiv url: http://arxiv.org/abs/2610.18151v1
• Date: Tue, 13 Oct 2026 10:55:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 07:11:21.997086
• Title: Attacking Only Half the Data: Two-Sided Evaluation of AI-Text Detector Robustness
• Title（参考訳）: データの半分の攻撃:AIテキスト検出のロバストネスの2段階評価
• Abstract要約: 我々は,人文と機械文の両方に適用された攻撃下で,広く使用されているAIテキスト検出装置の堅牢性について検討する。 両クラスにアタックを適用するための双方向プロトコルを導入する。 2つのコーパスと9つの検出器で、AUROCは2つの評価の下で消失し、攻撃された人間のテキストは100%まで誤分類された。
• 参考スコア（独自算出の注目度）: 1.2832858109291985
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We investigate the robustness of widely used AI text detectors under attacks applied to both human and machine text. Prior evaluations typically attack only machine text, overlooking that human text is routinely modified through grammar correction, formatting, or invisible character insertion. We introduce a two-sided protocol that applies attacks to both classes. Across two corpora and nine detectors, reported AUROC gains vanish under two-sided evaluation, with attacked human text misclassified at rates up to 100%. While simple preprocessing reverses character-level attacks, word-level synonym substitution remains effective meaning-preserving, and irreversible.
• Abstract（参考訳）: 我々は,人文と機械文の両方に適用された攻撃下で,広く使用されているAIテキスト検出装置の堅牢性について検討する。 従来の評価は機械テキストのみを攻撃し、人間のテキストは文法修正やフォーマット、見えない文字挿入によって定期的に修正される。 両クラスにアタックを適用するための双方向プロトコルを導入する。 2つのコーパスと9つの検出器で、AUROCは2つの評価の下で消失し、攻撃された人間のテキストは100%まで誤分類された。 単純な前処理は文字レベルの攻撃を逆転させるが、単語レベルの同義語置換は効果的な意味保存であり、不可逆である。

関連論文リスト

• On the Insecurity of Keystroke-Based AI Authorship Detection: Timing-Forgery Attacks Against Motor-Signal Verification [0.0]
  最近の提案では、AI生成コンテンツと人為的なテキストを区別するためにキーストロークタイミング信号を使うことを提唱している。 このタイプの防御は、2つの実践的な攻撃クラスに対して安全でないことを示す。 検出者がタイミングのみを観測した場合、特徴と内容の出所の相互情報はコピー型攻撃ではゼロとなる。
  論文  参考訳（メタデータ） (2026-01-24T03:39:38Z)
• Group-Adaptive Threshold Optimization for Robust AI-Generated Text Detection [58.419940585826744]
  本稿では,確率的AIテキスト検出のためのグループ固有しきい値最適化アルゴリズムであるFairOPTを紹介する。 属性(例えば、テキストの長さと書き込みスタイル)に基づいてデータをサブグループに分割し、FairOPTを実装して、各グループに対する決定しきい値の学習を行い、不一致を低減しました。 我々のフレームワークは、後処理によるAI生成コンテンツ検出において、より堅牢な分類の道を開く。
  論文  参考訳（メタデータ） (2025-02-06T21:58:48Z)
• DAMAGE: Detecting Adversarially Modified AI Generated Text [0.13108652488669736]
  既存のAI検出器の多くが、人間化されたテキストを検出できないことを示す。 偽陽性率を低く保ちながら、人間化されたAIテキストを検出する頑健なモデルを実証する。
  論文  参考訳（メタデータ） (2025-01-06T23:43:49Z)
• Red Teaming Language Model Detectors with Language Models [114.36392560711022]
  大規模言語モデル(LLM)は、悪意のあるユーザによって悪用された場合、重大な安全性と倫理的リスクをもたらす。 近年,LLM生成テキストを検出し,LLMを保護するアルゴリズムが提案されている。 1) LLMの出力中の特定の単語を, 文脈が与えられたシノニムに置き換えること, 2) 生成者の書き方を変更するための指示プロンプトを自動で検索すること,である。
  論文  参考訳（メタデータ） (2023-05-31T10:08:37Z)
• Can AI-Generated Text be Reliably Detected? [50.95804851595018]
  大規模言語モデル(LLM)は、様々なアプリケーションで非常によく機能します。 盗作、偽ニュースの発生、スパムなどの活動においてこれらのモデルが誤用される可能性があることは、彼らの責任ある使用に対する懸念を引き起こしている。 我々は、攻撃者の存在下で、これらのAIテキスト検出装置の堅牢性を強調テストする。
  論文  参考訳（メタデータ） (2023-03-17T17:53:19Z)
• Verifying the Robustness of Automatic Credibility Assessment [50.55687778699995]
  入力テキストにおける意味保存的変化がモデルを誤解させる可能性があることを示す。 また、誤情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAについても紹介する。 我々の実験結果によると、現代の大規模言語モデルは、以前のより小さなソリューションよりも攻撃に対して脆弱であることが多い。
  論文  参考訳（メタデータ） (2023-03-14T16:11:47Z)
• Preserving Semantics in Textual Adversarial Attacks [0.0]
  敵の攻撃によって生じる敵の事例の最大70%は、意味論を保存していないため破棄されるべきである。 SPE(Semantics-Preserving-Encoder)と呼ばれる新しい完全教師付き文埋め込み手法を提案する。 本手法は, 敵攻撃における既存の文エンコーダよりも1.2倍から5.1倍優れた実攻撃成功率を達成している。
  論文  参考訳（メタデータ） (2022-11-08T12:40:07Z)
• Perturbations in the Wild: Leveraging Human-Written Text Perturbations for Realistic Adversarial Attack and Defense [19.76930957323042]
  ANTHROは、野生で600万以上の人間が書いたテキストの摂動を誘導的に抽出し、それらを現実的な敵攻撃に活用する。 本研究では,(1)攻撃成功率,(2)原文の意味的保存,(3)人文と区別できないステルスネスのトレードオフを,AnTHROが生成した敵対的テキストが達成できることを見出した。
  論文  参考訳（メタデータ） (2022-03-19T16:00:01Z)
• Identifying Adversarial Attacks on Text Classifiers [32.958568467774704]
  本稿では,その生成にどの方法が使われたかを決定するために,逆テキストを解析する。 最初のコントリビューションは、攻撃検出とラベル付けのための広範なデータセットです。 第2のコントリビューションとして、このデータセットを使用して、攻撃識別のための多くの分類器を開発し、ベンチマークします。
  論文  参考訳（メタデータ） (2022-01-21T06:16:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。