論文の概要: Adversarial Attacks Reveal Divergent Deception Competence in Humans and Generative Language Models

• arxiv url: http://arxiv.org/abs/2610.13363v1
• Date: Fri, 09 Oct 2026 10:38:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.53835
• Title: Adversarial Attacks Reveal Divergent Deception Competence in Humans and Generative Language Models
• Title（参考訳）: 敵対的攻撃による人間と生成言語モデルにおける多様性認知能力の検討
• Abstract要約: 機械学習モデルに対する脅威は、敵攻撃に対する脆弱性である。 我々は,人間と生成言語モデルによるパラフレーズ攻撃の有効性,効率,性質を比較した。 生成言語モデルは真理のように嘘をつくのに効果的で効率的であったのに対し、真理に反する文を書き換える場合、人間はより効果的な攻撃者であったことがわかりました。
• 参考スコア（独自算出の注目度）: 0.30798859462300754
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning models typically outperform humans in deception detection. A threat to machine learning models is their vulnerability to adversarial attacks: subtle yet targeted perturbations of input data that trick a model into misclassification. Yet, this also provides an opportunity: understanding how humans versus machines construct attacks offers new insights into second-order beliefs about deception. In a preregistered experiment (n = 501), we compare the effectiveness, efficiency, and nature of a paraphrasing attack by humans and generative language models on an automated deception classifier. We find that humans were more effective attackers when rewriting truthful statements to be deceptive, while the generative language model was more effective and efficient at making lies sound like truths. Computational text analysis suggests that this is because humans make targeted use of deception cues, while generative language models, instead, apply generic changes that signal truth. The failure to mimic deception is two-sided: while it exposes a blind spot in the machines increasingly used to detect lies, it also means that language models might facilitate successful lying.
• Abstract（参考訳）: 機械学習モデルは典型的には騙し検出において人間より優れている。 機械学習モデルに対する脅威は、敵の攻撃に対する脆弱性である。 しかし、これはまた機会を与える:人間と機械がどのように攻撃を構築するかを理解することは、詐欺に関する二階の信念に新たな洞察を与える。 事前登録実験(n = 501)では,自動偽装分類器において,人によるパラフレーズ攻撃と生成言語モデルの有効性,効率,性質を比較検討した。 生成言語モデルは真理のように嘘をつくのに効果的で効率的であったのに対し、真理に反する文を書き換える場合、人間はより効果的な攻撃者であったことがわかりました。 計算テキスト分析は、人間が偽造の手がかりを標的にしているのに対し、生成言語モデルは真理を伝達する一般的な変化を適用しているためであることを示している。 偽造を模倣する失敗は2つの側面がある: 嘘を検出するためにますます使われる機械の盲点を露呈する一方で、言語モデルが嘘をつくのを成功させる可能性があることも意味している。

関連論文リスト

• Effective faking of verbal deception detection with target-aligned adversarial attacks [0.3441021278275805]
  偽りの文を書き直して真に見せる自動敵攻撃は深刻な脅威となる。 我々は,人間と機械学習モデルに対する騙し検出タスクにおいて,243の真偽と262の自伝的ストーリーのデータセットを使用した。
  論文  参考訳（メタデータ） (2025-01-10T13:42:40Z)
• Fine-tuning Language Models for Factuality [96.5203774943198]
  大規模な事前訓練型言語モデル(LLM)は、しばしば伝統的な検索エンジンの代替として、広く使われるようになった。 しかし、言語モデルは説得力のあるが事実的に不正確な主張をしがちである(しばしば「幻覚」と呼ばれる)。 本研究では,人間のラベル付けなしに,より現実的な言語モデルを微調整する。
  論文  参考訳（メタデータ） (2023-11-14T18:59:15Z)
• Robustifying Language Models with Test-Time Adaptation [17.96043752001886]
  大規模言語モデルは、多くの言語タスクに対して最先端のパフォーマンスを達成した。 これらは、言語モデルを騙すように最適化された文であるが、人間に類似した意味を持つ、敵対的な言語の例では失敗する。 入力文をマスキングされた単語からの予測に適応させることで,多くの言語敵対攻撃を逆転させることができることを示す。
  論文  参考訳（メタデータ） (2023-10-29T22:37:54Z)
• Analyzing the Impact of Adversarial Examples on Explainable Machine Learning [0.8312466807725919]
  敵対的攻撃は機械学習モデルに対する攻撃の一種であり、攻撃者は入力を意図的に修正し、モデルに誤った予測をさせる。 ディープラーニングモデルと敵攻撃の脆弱性に取り組むことで、モデルに望まないことを予測させるサンプルを非常に簡単に作成できることが示されています。 本研究では,テキスト分類問題に対する逆攻撃によるモデル解釈可能性の影響を解析する。
  論文  参考訳（メタデータ） (2023-07-17T08:50:36Z)
• Discovering Latent Knowledge in Language Models Without Supervision [72.95136739040676]
  既存の言語モデルをトレーニングするテクニックは、真実と正しく一致していない可能性がある。 本稿では,言語モデルの内部アクティベーション内部の潜伏知識を,純粋に教師なしの方法で直接見つけることを提案する。 本手法は, 教師なし, モデル出力がないにもかかわらず, 大規模言語モデルで表される多様な知識を復元できることを示す。
  論文  参考訳（メタデータ） (2022-12-07T18:17:56Z)
• A Word is Worth A Thousand Dollars: Adversarial Attack on Tweets Fools Stock Prediction [100.9772316028191]
  本稿では,3つのストック予測犠牲者モデルを騙すために,様々な攻撃構成を試行する。 以上の結果から,提案手法が一貫した成功率を達成し,取引シミュレーションにおいて大きな損失をもたらす可能性が示唆された。
  論文  参考訳（メタデータ） (2022-05-01T05:12:22Z)
• Adversarial GLUE: A Multi-Task Benchmark for Robustness Evaluation of Language Models [86.02610674750345]
  AdvGLUE(Adversarial GLUE)は、様々な種類の敵攻撃の下で、現代の大規模言語モデルの脆弱性を調査し評価するための新しいマルチタスクベンチマークである。 GLUEタスクに14の逆攻撃手法を適用してAdvGLUEを構築する。 テストしたすべての言語モデルとロバストなトレーニングメソッドは、AdvGLUEではパフォーマンスが悪く、スコアは明確な精度よりもはるかに遅れています。
  論文  参考訳（メタデータ） (2021-11-04T12:59:55Z)
• A Differentiable Language Model Adversarial Attack on Text Classifiers [10.658675415759697]
  自然言語処理のための新しいブラックボックス文レベルアタックを提案する。 本手法は,事前学習した言語モデルを微調整して,逆例を生成する。 提案手法は, 計算量と人的評価の両方において, 多様なNLP問題において, 競合相手よりも優れていることを示す。
  論文  参考訳（メタデータ） (2021-07-23T14:43:13Z)
• Attack to Fool and Explain Deep Networks [59.97135687719244]
  対人摂動における人為的意味のパターンの証拠を提供することによって、私たちは逆転する。 我々の主な貢献は、その後視覚モデルを理解するためのツールに変換される、新しい実用的対人攻撃である。
  論文  参考訳（メタデータ） (2021-06-20T03:07:36Z)
• Learning to Attack: Towards Textual Adversarial Attacking in Real-world Situations [81.82518920087175]
  敵攻撃は、敵の例でディープニューラルネットワークを騙すことを目的としている。 本稿では、攻撃履歴から学習し、より効率的に攻撃を開始することができる強化学習に基づく攻撃モデルを提案する。
  論文  参考訳（メタデータ） (2020-09-19T09:12:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。