論文の概要: An Explainable Agentic System for Detection of Conversational Scams with Summary-Based Memory
- arxiv url: http://arxiv.org/abs/2607.11707v2
- Date: Wed, 15 Jul 2026 14:17:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-16 12:21:59.431227
- Title: An Explainable Agentic System for Detection of Conversational Scams with Summary-Based Memory
- Title（参考訳）: 概要記憶を用いた対話型詐欺検出のための説明可能なエージェントシステム
- Abstract要約: 本稿では,シングルメッセージフィッシング検出を拡張し,高度な会話詐欺を検出するための説明可能なエージェントシステムを提案する。
ConScamBench-278は、8種類のスカムにまたがる会話詐欺検出のための、最初の公開マルチカテゴリベンチマークである。
孤立したメッセージでは、シングルメッセージ検出器は100%フィッシングリコールを達成し、会話レベル検出器はパブリックなLoveFraud02コーパス内のすべての会話詐欺を検知する。
- 参考スコア（独自算出の注目度）: 0.7712979281505654
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Following the rapid progress of generative Artificial Intelligence, there is a growing threat posed by conversational scams. These scams often span over multiple weeks or months, gradually build trust and request for money or sensitive information. Existing scam-detection systems mainly focus on isolated messages, which renders them inadequate against this evolving threat. This paper extends single-message phishing detection and presents an explainable agentic system for detecting sophisticated conversational scams. It also introduces ConScamBench-278, an initial public multi-category benchmark for conversational scam detection spanning eight scam types, released to support reproducible evaluation and future expansion. On isolated messages the single-message detector attains 100% phishing recall, while the conversation-level detector identifies all conversational scams in the public LoveFraud02 corpus (83/83) and reaches 97.8% accuracy (95% CI [95.4, 99.0]) on ConScamBench-278. Two user studies (N = 100 and N = 45) further motivate the system: participants report frequently experiencing uncertainty when judging suspicious conversations. In an uncontrolled pre/post comparison, users self-reported trust, self-confidence, and perceived need for AI-based scam detection all increased (p < 0.001, Wilcoxon signed-rank). The system also receives a System Usability Scale score of 74.7 (95% CI [72.5, 76.9]), above the established usability benchmark.
- Abstract（参考訳）: 生成的人工知能の急速な進歩に続いて、会話詐欺による脅威が高まっている。
これらの詐欺は、数週間から数ヶ月に渡り、徐々に信頼を築き、お金や機密情報を要求する。
既存の詐欺検出システムは、主に孤立したメッセージに焦点を当てており、この進化する脅威に対して不十分である。
本稿では,シングルメッセージフィッシング検出を拡張し,高度な会話詐欺を検出するための説明可能なエージェントシステムを提案する。
ConScamBench-278は、再現可能な評価と将来の拡張をサポートするためにリリースされた8つの詐欺型にわたる会話詐欺検出のための、最初の公開マルチカテゴリベンチマークである。
分離メッセージでは、シングルメッセージ検出器は100%フィッシングリコールを達成する一方、会話レベル検出器はパブリックなLoveFraud02コーパス(83/83)内のすべての会話詐欺を検知し、ConScamBench-278上で97.8%の精度(95% CI [95.4, 99.0])に達する。
2つのユーザスタディ(N = 100 と N = 45 )は、さらにシステムのモチベーションを高めている。
制御されていないプレ/ポスト比較では、ユーザは、自己報告された信頼、自信、認識されたAIベースの詐欺検出の必要性がすべて増加した(p < 0.001, Wilcoxon sign-rank)。
また、システムユーザビリティ尺度のスコアは74.7(95% CI [72.5, 76.9])で、確立されたユーザビリティベンチマークよりも高い。
関連論文リスト
- Black-Box Forensics for Conversational LLM Agents [27.24002262427959]
会話型LLMエージェントのブラックボックス法医学は、匿名エンドポイントの背後に隠されたシステムの説明責任への道を提供する。
エージェントの背後にあるベースモデルを,数回の非対人会話から98%の精度で同定する。
AUCは0.768、F1は0.703である。
論文 参考訳（メタデータ） (2026-06-21T22:24:55Z) - PreScam: A Benchmark for Predicting Scam Progression from Early Conversations [22.864427809364397]
初期の会話から詐欺進行をモデル化するためのベンチマークであるPreScamを紹介する。
リアルタイム終端予測とスキャマー動作予測という2つのタスクのモデルをベンチマークする。
その結果, 表面流速と進行モデルの間には明確なギャップが認められた。
論文 参考訳（メタデータ） (2026-05-12T15:11:41Z) - How Vulnerable Are AI Agents to Indirect Prompt Injections? Insights from a Large-Scale Public Competition [48.32744727426218]
LLMベースのエージェントは、電子メール、ドキュメント、コードリポジトリなどの外部データソースを処理する高利得設定にますますデプロイされている。
これにより間接的なプロンプトインジェクション攻撃が発生し、外部コンテンツに埋め込まれた敵の命令は、ユーザの意識なしにエージェントの動作を操作できる。
この2つの目的を3つのエージェント設定で評価した。
論文 参考訳（メタデータ） (2026-03-16T14:49:36Z) - SAFE-QAQ: End-to-End Slow-Thinking Audio-Text Fraud Detection via Reinforcement Learning [52.29460857893198]
既存の不正検出方法は、書き起こされたテキストに依存しており、ASRのエラーや、声調や環境条件のような重要な音響的手がかりが欠けている。
音声に基づくスロー思考詐欺検出のためのエンドツーエンド包括的フレームワークSAFE-QAQを提案する。
本フレームワークは,ライブコール中に動的リスクアセスメントフレームワークを導入し,不正の早期検出と防止を可能にする。
論文 参考訳（メタデータ） (2026-01-04T06:09:07Z) - Send to which account? Evaluation of an LLM-based Scambaiting System [0.0]
本稿では,大規模言語モデル(LLM)を用いたスカンバイティングシステムの大規模実世界評価について述べる。
5ヶ月にわたるデプロイメントで、システムは実際のスキャマーと2,600以上のエンゲージメントを開始し、18,700以上のメッセージのデータセットを作成した。
情報開示率(IDR)は約32%に達し、ラバ口座などの機密情報を抽出することに成功している。
論文 参考訳（メタデータ） (2025-09-10T11:08:52Z) - CASE: An Agentic AI Framework for Enhancing Scam Intelligence in Digital Payments [0.24378845585726894]
本稿では,新しいエージェントAIフレームワークであるCASE(Conversational Agent for Scam Elucidation)を提案する。
会話エージェントは、潜在的な犠牲者を積極的にインタビューし、詳細な会話の形でインテリジェンスを引き出すように設計されている。
この新しいインテリジェンスによって既存の機能を増強することで、詐欺行為の量で21%のアップリフトが観測された。
論文 参考訳（メタデータ） (2025-08-27T14:47:33Z) - Evaluating Robustness of Generative Search Engine on Adversarial Factual Questions [89.35345649303451]
生成検索エンジンは、人々がオンラインで情報を求める方法を変える可能性を秘めている。
しかし,既存の大規模言語モデル(LLM)が支援する生成検索エンジンからの応答は必ずしも正確ではない。
検索強化世代は、敵がシステム全体を回避できるため、安全上の懸念を増す。
論文 参考訳（メタデータ） (2024-02-25T11:22:19Z) - Token-Level Adversarial Prompt Detection Based on Perplexity Measures
and Contextual Information [67.78183175605761]
大規模言語モデルは、敵の迅速な攻撃に影響を受けやすい。
この脆弱性は、LLMの堅牢性と信頼性に関する重要な懸念を浮き彫りにしている。
トークンレベルで敵のプロンプトを検出するための新しい手法を提案する。
論文 参考訳（メタデータ） (2023-11-20T03:17:21Z) - Automatic Scam-Baiting Using ChatGPT [0.46040036610482665]
本稿では,ChatGPTをベースとした2つの自動詐欺バイターの有効性を,コントロール尺度に比較した1ヶ月の試験結果について報告する。
250人以上の実メール詐欺師の関与により、ChatGPTベースの詐欺バイターは、スパム反応率と会話の長さが著しく増加したことが判明した。
本稿では,これらの結果の意義と,自動詐欺ベイティングの広範な展開に向けた実践的考察について論じる。
論文 参考訳（メタデータ） (2023-09-04T13:13:35Z) - FreeEagle: Detecting Complex Neural Trojans in Data-Free Cases [50.065022493142116]
バックドア攻撃とも呼ばれるディープニューラルネットワークに対するトロイの木馬攻撃は、人工知能に対する典型的な脅威である。
FreeEagleは、複雑なバックドア攻撃を効果的に検出できる最初のデータフリーバックドア検出方法である。
論文 参考訳（メタデータ） (2023-02-28T11:31:29Z) - DFraud3- Multi-Component Fraud Detection freeof Cold-start [50.779498955162644]
コールドスタート(Cold-start)は、新しいユーザの認証に検出システムが失敗したことを指す重要な問題である。
本稿では,各コンポーネントに固有の表現を可能にする異種情報ネットワーク (HIN) としてレビューシステムをモデル化する。
HINとグラフ誘導はカモフラージュ問題(本物のレビュー付き詐欺師)に対処するのに役立ち、これはコールドスタートと組み合わされた場合、すなわち真に最初のレビューを持つ新しい詐欺師がより深刻であることが示されている。
論文 参考訳（メタデータ） (2020-06-10T08:20:13Z) - Integrated Replay Spoofing-aware Text-independent Speaker Verification [47.41124427552161]
本稿では,話者認証と提示攻撃検出の統合システムを構築するための2つのアプローチを提案する。
第1のアプローチは、話者識別、提示攻撃検出、マルチタスク学習を用いた統合システムとを同時に訓練する。
本稿では、話者検証と提示攻撃検出に分離されたディープニューラルネットワーク(DNN)を用いたバックエンドモジュール方式を提案する。
論文 参考訳（メタデータ） (2020-06-10T01:24:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。