論文の概要: Joint Detection of Fraud and Concept Drift inOnline Conversations with LLM-Assisted Judgment

• arxiv url: http://arxiv.org/abs/2505.07852v1
• Date: Wed, 07 May 2025 22:30:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-14 20:57:54.222193
• Title: Joint Detection of Fraud and Concept Drift inOnline Conversations with LLM-Assisted Judgment
• Title（参考訳）: LLMを用いたオンライン会話におけるフルートとコンセプトドリフトの同時検出
• Authors: Ali Senol, Garima Agrawal, Huan Liu,
• Abstract要約: 本稿では,まず,アンサンブル分類モデルを用いて疑わしい会話を識別する2段階検出フレームワークを提案する。 検出の信頼性を向上させるため,一級ドリフト検出器(OCDD)を用いた概念ドリフト解析を取り入れた。 ドリフトが検出されると、大きな言語モデル(LLM)は、シフトが不正操作または正当なトピック変更を示すかどうかを評価する。
• 参考スコア（独自算出の注目度）: 11.917779863156097
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Detecting fake interactions in digital communication platforms remains a challenging and insufficiently addressed problem. These interactions may appear as harmless spam or escalate into sophisticated scam attempts, making it difficult to flag malicious intent early. Traditional detection methods often rely on static anomaly detection techniques that fail to adapt to dynamic conversational shifts. One key limitation is the misinterpretation of benign topic transitions referred to as concept drift as fraudulent behavior, leading to either false alarms or missed threats. We propose a two stage detection framework that first identifies suspicious conversations using a tailored ensemble classification model. To improve the reliability of detection, we incorporate a concept drift analysis step using a One Class Drift Detector (OCDD) to isolate conversational shifts within flagged dialogues. When drift is detected, a large language model (LLM) assesses whether the shift indicates fraudulent manipulation or a legitimate topic change. In cases where no drift is found, the behavior is inferred to be spam like. We validate our framework using a dataset of social engineering chat scenarios and demonstrate its practical advantages in improving both accuracy and interpretability for real time fraud detection. To contextualize the trade offs, we compare our modular approach against a Dual LLM baseline that performs detection and judgment using different language models.
• Abstract（参考訳）: デジタル通信プラットフォームにおけるフェイクインタラクションの検出は、依然として困難で不十分な課題である。 これらの相互作用は、無害なスパムとして現れるか、高度な詐欺未遂にエスカレートする可能性があるため、悪意のある意図を早期にフラグするのは難しい。 従来の検出方法は、動的会話のシフトに適応できない静的な異常検出技術に頼っていることが多い。 1つの重要な制限は、偽りの警報または誤脅威のどちらかにつながる詐欺行為としてコンセプトドリフトと呼ばれる、良心的な話題遷移の誤解釈である。 本稿では,まず,アンサンブル分類モデルを用いて疑わしい会話を識別する2段階検出フレームワークを提案する。 検出の信頼性を向上させるため,一級ドリフト検出器(OCDD)を用いた概念ドリフト解析を組み込んで,フラグ付き対話内での会話シフトを分離する。 ドリフトが検出されると、大きな言語モデル(LLM)は、シフトが不正操作または正当なトピック変更を示すかどうかを評価する。 漂流が見つからない場合、その振る舞いはスパムのように推測される。 社会工学的なチャットシナリオのデータセットを用いて、我々のフレームワークを検証し、リアルタイム不正検出における精度と解釈性の両方を改善するための実践的な利点を実証する。 トレードオフの文脈化のために,異なる言語モデルを用いて検出と判定を行うDual LLMベースラインと比較した。

関連論文リスト

• Debate-Driven Multi-Agent LLMs for Phishing Email Detection [0.0]
  エージェント間の偽りの議論をシミュレートしてフィッシングメールを検出する多エージェント大規模言語モデル(LLM)を提案する。 提案手法では,2つの LLM エージェントを用いて,最終判断を代弁する判断エージェントを用いて,分類課題の論拠を提示する。 結果は、議論の構造自体が、余分なプロンプト戦略を伴わずに正確な決定を下すのに十分であることを示している。
  論文  参考訳（メタデータ） (2025-03-27T23:18:14Z)
• METANOIA: A Lifelong Intrusion Detection and Investigation System for Mitigating Concept Drift [6.988127333802916]
  本稿では,概念漂流による偽陽性を緩和する最初の終生検出システムであるMetanoiaについて述べる。 最先端ベンチマークを用いて,MeTANOIAはウィンドウレベル,グラフレベル,ノードレベルの精度をそれぞれ30%,54%,29%向上することを示した。
  論文  参考訳（メタデータ） (2024-12-31T13:44:27Z)
• TI-PREGO: Chain of Thought and In-Context Learning for Online Mistake Detection in PRocedural EGOcentric Videos [48.126793563151715]
  オンラインのオープンセットの手続きミスを効果的に検出する技術はない。 1つのブランチは、入力されたエゴセントリックビデオからステップ認識を連続的に行う。 もう1つは、認識モジュールの出力に基づいて将来のステップを予測します。
  論文  参考訳（メタデータ） (2024-11-04T20:03:06Z)
• Conditioned Prompt-Optimization for Continual Deepfake Detection [11.634681724245933]
  本稿では,Pmpt2Guardについて紹介する。 我々は,読み出し専用プロンプトを用いた予測アンサンブル手法を活用し,複数のフォワードパスの必要性を軽減した。 提案手法は,ディープフェイク検出に適したテキスト・プロンプト・コンディショニングを利用する。
  論文  参考訳（メタデータ） (2024-07-31T12:22:57Z)
• Token-Level Adversarial Prompt Detection Based on Perplexity Measures and Contextual Information [67.78183175605761]
  大規模言語モデルは、敵の迅速な攻撃に影響を受けやすい。 この脆弱性は、LLMの堅牢性と信頼性に関する重要な懸念を浮き彫りにしている。 トークンレベルで敵のプロンプトを検出するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-20T03:17:21Z)
• NPVForensics: Jointing Non-critical Phonemes and Visemes for Deepfake Detection [50.33525966541906]
  既存のマルチモーダル検出手法は、Deepfakeビデオを公開するために、音声と視覚の不整合をキャプチャする。 NPVForensics と呼ばれる非臨界音素とビセムの相関関係を抽出する新しいディープフェイク検出法を提案する。 我々のモデルは、微調整で下流のDeepfakeデータセットに容易に適応できる。
  論文  参考訳（メタデータ） (2023-06-12T06:06:05Z)
• Interactive System-wise Anomaly Detection [66.3766756452743]
  異常検出は様々なアプリケーションにおいて基本的な役割を果たす。 既存のメソッドでは、インスタンスがデータとして容易に観察できないシステムであるシナリオを扱うのが難しい。 システム埋め込みを学習するエンコーダデコーダモジュールを含むエンドツーエンドアプローチを開発する。
  論文  参考訳（メタデータ） (2023-04-21T02:20:24Z)
• Detecting Concept Drift With Neural Network Model Uncertainty [0.0]
  不確実ドリフト検出(UDD)は、真のラベルにアクセスすることなくドリフトを検出することができる。 入力データに基づくドリフト検出とは対照的に,現在の入力データが予測モデルの特性に与える影響を考察する。 UDDは2つの合成および10の実世界のデータセットにおいて、回帰処理と分類処理の両方において、他の最先端戦略よりも優れていることを示す。
  論文  参考訳（メタデータ） (2021-07-05T08:56:36Z)
• Discriminative Nearest Neighbor Few-Shot Intent Detection by Transferring Natural Language Inference [150.07326223077405]
  データ不足を緩和するためには、ほとんどショットラーニングが注目を集めている。 深部自己注意を伴う識別的近傍分類を提示する。 自然言語推論モデル(NLI)を変換することで識別能力を高めることを提案する。
  論文  参考訳（メタデータ） (2020-10-25T00:39:32Z)
• DFraud3- Multi-Component Fraud Detection freeof Cold-start [50.779498955162644]
  コールドスタート(Cold-start)は、新しいユーザの認証に検出システムが失敗したことを指す重要な問題である。 本稿では,各コンポーネントに固有の表現を可能にする異種情報ネットワーク (HIN) としてレビューシステムをモデル化する。 HINとグラフ誘導はカモフラージュ問題(本物のレビュー付き詐欺師)に対処するのに役立ち、これはコールドスタートと組み合わされた場合、すなわち真に最初のレビューを持つ新しい詐欺師がより深刻であることが示されている。
  論文  参考訳（メタデータ） (2020-06-10T08:20:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。