論文の概要: Evaluating AI Models' Capability to Automate Voice Phishing Attacks

• arxiv url: http://arxiv.org/abs/2607.09970v1
• Date: Fri, 10 Jul 2026 20:54:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-14 15:40:48.266569
• Title: Evaluating AI Models' Capability to Automate Voice Phishing Attacks
• Title（参考訳）: AIモデルによる音声フィッシング攻撃の自動化能力の評価
• Abstract要約: 我々は、AIによる音声フィッシング攻撃に対する米国の成人の感受性を評価するための大規模な調査実験を行っている。 参加者の最大36%が「相対的距離」カテゴリーのフィッシング要求に従うか、あるいは従う可能性がある。 われわれの経済分析によると、人間が操作するヴァイシングは米国の賃金では収益が得られないが、AIによるヴァイシングはいくつかのモデルで経済的に有効であるようだ。
• 参考スコア（独自算出の注目度）: 5.7124370517630245
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Voice phishing (vishing) attacks have traditionally been limited by the need for human operators. The rapid emergence of high-quality AI voice synthesis and large language models (LLMs) reduces this bottleneck and enables scalable, automated scams. In this paper, we conduct a large-scale survey experiment (N=4100) and qualitative interviews (N=12) to assess U.S. adults' susceptibility to AI-powered voice phishing attacks. Participants were exposed to audio recordings or transcripts of scam scenarios generated using leading voice models such as Llama Full Duplex (Llama FD), Sesame, Gemini, OAI AVM, Play.AI, and ElevenLabs and the corresponding human baselines. The results show high compliance rates. Up to 36% of participants would or might comply with phishing requests in the "relative-in-distress" category. Overall compliance rate across all five scam categories was 16.5%, a striking figure given the low cost and high scalability of AI-automated voice phishing. Caller persuasiveness was the strongest predictor of compliance and certain models (most notably Sesame) achieved ratings comparable to human voices, or sometimes even slightly surpassing them. Our economic analysis suggests that while human-operated vishing is unprofitable at US wages, AI-powered vishing appears to be economically viable for several models. The primary risk of present-day AI-enabled vishing thus lies in the economics of automation rather than novel or "superhuman" persuasive techniques, though these cannot be ruled out for future systems. This raises significant concerns for the design of AI systems, consumer protection, and model release policies.
• Abstract（参考訳）: 音声フィッシング(ヴァイシング)攻撃は、伝統的に人間のオペレーターの必要性によって制限されてきた。 高品質なAI音声合成と大規模言語モデル(LLM)の急速な台頭は、このボトルネックを低減し、スケーラブルで自動化された詐欺を可能にする。 本稿では,AIによる音声フィッシング攻撃に対する米国成人の感受性を評価するため,大規模調査(N=4100)と質的インタビュー(N=12)を行う。 参加者は、Llama Full Duplex (Llama FD)、Sesame、Gemini、OAI AVM、Play.AI、ElevenLabsなどの主要な音声モデルを用いて生成されたスカムシナリオの音声記録やスカムの書き起こしに晒された。 結果は高いコンプライアンス率を示している。 参加者の最大36%が「相対的距離」カテゴリーのフィッシング要求に従うか、あるいは従う可能性がある。 5つの詐欺カテゴリー全体でのコンプライアンス率は16.5%であり、AI自動化音声フィッシングの低コストと高いスケーラビリティを考えると、顕著な数字である。 キャラー説得力はコンプライアンスの最も強い予測者であり、特定のモデル(特にセサミ)は人間の声に匹敵する評価を得た。 われわれの経済分析によると、人間が操作するヴァイシングは米国の賃金では収益が得られないが、AIによるヴァイシングはいくつかのモデルで経済的に有効であるようだ。 したがって、今日のAI対応ヴァイシングの主なリスクは、自動化の経済において、新しいものや「超人的」な説得技術よりも、自動化の経済にあるが、これらは将来のシステムでは除外できない。 これにより、AIシステムの設計、消費者保護、モデルリリースポリシーに対する重要な懸念が提起される。

関連論文リスト

• Characterizing initial human-AI proof formalization workflows [66.06866890889131]
  AIシステムのコード生成能力の進歩と、証明を形式化し、検証する人々の能力を変えるための高度な数学的推論の約束への関与。 我々は、AIが人々のフォーマル化に与える影響について、混合メソッド分析を行う。 質的な調査では、人々の好みは多様であるが、形式化におけるAI支援に対する一般的な欲求が示されている。
  論文  参考訳（メタデータ） (2026-06-02T22:58:19Z)
• Can You Tell It's AI? Human Perception of Synthetic Voices in Vishing Scenarios [3.2976205772213123]
  大規模言語モデルと商用音声合成システムにより、高度にリアルなAI生成音声スカム(ビッシング)が可能になった しかし、現実的な詐欺の文脈でAIが生成した音声と人間の音声を確実に区別できるかどうかは不明だ。 その結果,22名の被験者がバイシングスタイルの音声クリップを16本評価し,それぞれ人間かAIに分類した。
  論文  参考訳（メタデータ） (2026-02-23T17:17:53Z)
• Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians [47.64440749179653]
  理想化されたベイズレーショナルユーザでさえ,妄想スパイラルに対して脆弱であることを示す。 この効果は2つの候補の緩和に面して持続する。
  論文  参考訳（メタデータ） (2026-02-22T12:13:44Z)
• Do AI Voices Learn Social Nuances? A Case of Politeness and Speech Rate [0.0]
  本研究は,現在最先端の音声合成システムにおいて,丁寧さを伝達するための発話速度を低下させる傾向があるかどうかを考察する。 私たちは、2つの主要なAIプラットフォームから22の合成音声を誘導し、"政治とフォーマル"と"カジュアルと非公式"の両方の条件の下で固定されたスクリプトを読みました。 両方のAIプラットフォームで、丁寧なプロンプトは、非常に大きな効果を持つカジュアルなプロンプトよりも遅い音声を生み出した。
  論文  参考訳（メタデータ） (2025-11-12T07:44:42Z)
• EQ-Negotiator: Dynamic Emotional Personas Empower Small Language Models for Edge-Deployable Credit Negotiation [66.09161596959771]
  小型言語モデル (SLM) は実用的な代替手段を提供するが、大規模言語モデル (LLM) と比較して大きな性能差がある。 本稿では,感情的ペルソナを用いて,この能力ギャップを橋渡しする新しいフレームワークであるEQ-Negotiatorを紹介する。 EQ-Negotiator を用いた 7B パラメータ言語モデルは,ベースライン LLM の 10 倍以上の大きさで,債務回復と交渉効率が向上することを示す。
  論文  参考訳（メタデータ） (2025-11-05T11:25:07Z)
• Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence [31.666988490509237]
  我々は、人々がAIからアドバイスを求めるとき、梅毒の広範性と有害な影響を示す。 モデルは非常にサイコファン性が高く、ユーザーの行動が人間よりも50%多いことを確認しています。 参加者は、サイコファンティックな反応をより高い品質と評価し、サイコファンティックなAIモデルをより信頼し、再びそれを使う意思があった。
  論文  参考訳（メタデータ） (2025-10-01T19:26:01Z)
• ASRJam: Human-Friendly AI Speech Jamming to Prevent Automated Phone Scams [2.6528263069045126]
  大規模言語モデル (LLM) とテキスト音声認識 (TTS) と自動音声認識 (ASR) を組み合わせることで、音声フィッシング (vishing) 詐欺の自動化がますます進んでいる。 ASRJamは、攻撃者のASRを妨害するために、被害者の音声に敵の摂動を注入するプロアクティブディフェンスフレームワークである。 また、残響やエコーなどの自然な歪みを利用した新しいジャマーであるEchoGuardも提案する。
  論文  参考訳（メタデータ） (2025-06-10T10:04:23Z)
• Image Quality Assessment for Embodied AI [103.66095742463195]
  Embodied AIは近年急速に発展しているが、現在も主に実験室に配備されている。 具体的タスク、すなわちロボットの知覚品質における画像のユーザビリティを評価するためのIQA手法は存在しない。
  論文  参考訳（メタデータ） (2025-05-22T15:51:07Z)
• AI persuading AI vs AI persuading Humans: LLMs' Differential Effectiveness in Promoting Pro-Environmental Behavior [70.24245082578167]
  環境保護行動(PEB)は気候変動に対処するために不可欠であるが、意識を意図や行動に変えることはいまだ明白である。 大規模言語モデル(LLM)をPEBを促進するツールとして検討し,その影響を3,200人の参加者で比較した。 人工的およびシミュレートされたエージェントは、介入後のEBスタンスに大きく影響し、ヒトの反応はほとんど変化しない。
  論文  参考訳（メタデータ） (2025-03-03T21:40:55Z)
• Almost AI, Almost Human: The Challenge of Detecting AI-Polished Writing [55.2480439325792]
  本研究では、AI-Polished-Text Evaluationデータセットを用いて、12の最先端AIテキスト検出器を体系的に評価する。 我々の発見によると、検出器は、最小限に洗練されたテキストをAI生成としてフラグ付けし、AIの関与度を区別し、古いモデルや小さなモデルに対するバイアスを示す。
  論文  参考訳（メタデータ） (2025-02-21T18:45:37Z)
• AI-Driven Agents with Prompts Designed for High Agreeableness Increase the Likelihood of Being Mistaken for a Human in the Turing Test [0.0]
  チューリング試験では, 適合性の異なるGPT剤を試験した。 混乱率は50%を超え、AIエージェントは60%を超えた。 この薬は、最も人間らしい特徴を示すものと認識された。
  論文  参考訳（メタデータ） (2024-11-20T23:12:49Z)
• PITCH: AI-assisted Tagging of Deepfake Audio Calls using Challenge-Response [14.604998731837595]
  我々は,対話型ディープフェイク音声通話の検出とタグ付けを行う,堅牢なチャレンジ応答手法であるPITCHを開発した。 PITCHの課題は、マシン検出能力を88.7%のAUROCスコアに向上させた。 疑わしい通話を「ディープフェイク風」とタグ付けする新しい人間とAI協調システムを開発した。
  論文  参考訳（メタデータ） (2024-02-28T06:17:55Z)
• Can Machines Imitate Humans? Integrative Turing-like tests for Language and Vision Demonstrate a Narrowing Gap [56.611702960809644]
  3つの言語タスクと3つの視覚タスクで人間を模倣するAIの能力をベンチマークする。 次に,人間1,916名,AI10名を対象に,72,191名のチューリング様試験を行った。 模倣能力は従来のAIパフォーマンス指標と最小限の相関を示した。
  論文  参考訳（メタデータ） (2022-11-23T16:16:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。