論文の概要: FraudShield: Knowledge Graph Empowered Defense for LLMs against Fraud Attacks

• arxiv url: http://arxiv.org/abs/2601.22485v1
• Date: Fri, 30 Jan 2026 02:48:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-02 18:28:15.178635
• Title: FraudShield: Knowledge Graph Empowered Defense for LLMs against Fraud Attacks
• Title（参考訳）: FraudShield: LLMの知識グラフを活用した防御
• Authors: Naen Xu, Jinghuai Zhang, Ping He, Chunyi Zhou, Jun Wang, Zhihui Fu, Tianyu Du, Zhaoxiang Wang, Shouling Ji,
• Abstract要約: 大規模言語モデル(LLM)は、重要な自動化プロセスに広く統合されている。 不正な情報による操作に影響を受けやすいため、有害な結果につながる可能性がある。 本稿では,不正コンテンツからLLMを保護するためのフレームワークであるFraudShieldを紹介する。
• 参考スコア（独自算出の注目度）: 42.60338754083519
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) have been widely integrated into critical automated workflows, including contract review and job application processes. However, LLMs are susceptible to manipulation by fraudulent information, which can lead to harmful outcomes. Although advanced defense methods have been developed to address this issue, they often exhibit limitations in effectiveness, interpretability, and generalizability, particularly when applied to LLM-based applications. To address these challenges, we introduce FraudShield, a novel framework designed to protect LLMs from fraudulent content by leveraging a comprehensive analysis of fraud tactics. Specifically, FraudShield constructs and refines a fraud tactic-keyword knowledge graph to capture high-confidence associations between suspicious text and fraud techniques. The structured knowledge graph augments the original input by highlighting keywords and providing supporting evidence, guiding the LLM toward more secure responses. Extensive experiments show that FraudShield consistently outperforms state-of-the-art defenses across four mainstream LLMs and five representative fraud types, while also offering interpretable clues for the model's generations.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、契約レビューやジョブアプリケーションプロセスを含む重要な自動化ワークフローに広く統合されています。 しかし、LSMは不正な情報による操作に影響を受けやすいため、有害な結果をもたらす可能性がある。 この問題に対処するために先進的な防御手法が開発されているが、特にLLMベースのアプリケーションに適用する場合、有効性、解釈可能性、一般化可能性の限界がしばしば現れる。 これらの課題に対処するために,詐欺行為の包括的分析を活用することで,LLMを不正コンテンツから保護する新しいフレームワークであるFraudShieldを紹介した。 特に、FraudShieldは、不正なテキストと不正なテクニックの間の高い信頼関係を捉えるために、不正な戦術キーワードの知識グラフを構築し、洗練する。 構造化知識グラフは、キーワードを強調表示し、支持するエビデンスを提供し、LSMをより安全な応答へと導くことで、元の入力を強化する。 大規模な実験により、フロイトシールドは4つの主要なLSMと5つの代表的詐欺タイプで最先端の防衛を一貫して上回り、モデル世代に対する解釈可能な手がかりも提供した。

関連論文リスト

• Token Highlighter: Inspecting and Mitigating Jailbreak Prompts for Large Language Models [61.916827858666906]
  大規模言語モデル(LLM)は、ユーザクエリに対する応答を提供するために、ChatGPTなどのサービスに統合されつつある。 本稿では,Token Highlighterという手法を提案する。
  論文  参考訳（メタデータ） (2024-12-24T05:10:02Z)
• Emerging Security Challenges of Large Language Models [6.151633954305939]
  大規模言語モデル(LLM)は、多くの異なる分野において短期間で記録的な普及を遂げた。 これらは、特定の下流タスクに合わせて調整されることなく、多様なデータでトレーニングされたオープンエンドモデルである。 従来の機械学習(ML)モデルは、敵の攻撃に対して脆弱である。
  論文  参考訳（メタデータ） (2024-12-23T14:36:37Z)
• Look Before You Leap: Enhancing Attention and Vigilance Regarding Harmful Content with GuidelineLLM [53.79753074854936]
  大規模言語モデル(LLM)は、出現するジェイルブレイク攻撃に対してますます脆弱である。 この脆弱性は現実世界のアプリケーションに重大なリスクをもたらす。 本稿では,ガイドラインLLMという新しい防御パラダイムを提案する。
  論文  参考訳（メタデータ） (2024-12-10T12:42:33Z)
• Exploring Automatic Cryptographic API Misuse Detection in the Era of LLMs [60.32717556756674]
  本稿では,暗号誤用の検出において,大規模言語モデルを評価するための体系的評価フレームワークを提案する。 11,940個のLCM生成レポートを詳細に分析したところ、LSMに固有の不安定性は、報告の半数以上が偽陽性になる可能性があることがわかった。 最適化されたアプローチは、従来の手法を超え、確立されたベンチマークでこれまで知られていなかった誤用を明らかにすることで、90%近い顕著な検出率を達成する。
  論文  参考訳（メタデータ） (2024-07-23T15:31:26Z)
• Detecting Scams Using Large Language Models [19.7220607313348]
  大規模言語モデル(LLM)は、セキュリティなど、様々なアプリケーションで注目を集めている。 本稿では,サイバーセキュリティの重要な側面である詐欺検知におけるLCMの有用性について検討する。 フィッシング、前払い詐欺、ロマンス詐欺などの詐欺を識別するためのLLMの新しいユースケースを提案する。
  論文  参考訳（メタデータ） (2024-02-05T16:13:54Z)
• A Survey on Large Language Model (LLM) Security and Privacy: The Good, the Bad, and the Ugly [21.536079040559517]
  大規模言語モデル(LLM)は、自然言語の理解と生成に革命をもたらした。 本稿では,LLMとセキュリティとプライバシの交わりについて考察する。
  論文  参考訳（メタデータ） (2023-12-04T16:25:18Z)
• Spear Phishing With Large Language Models [3.2634122554914002]
  本研究では,スピアフィッシングに大規模言語モデル(LLM)を用いる方法について検討した。 私はOpenAIのGPT-3.5とGPT-4モデルを使用して、600人以上の英国議会議員に対して独自のフィッシングメッセージを作成します。 私の発見は、これらのメッセージが現実的であるだけでなく、コスト効率も高いという証拠を提供しています。
  論文  参考訳（メタデータ） (2023-05-11T16:55:19Z)
• Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection [64.67495502772866]
  大規模言語モデル(LLM)は、様々なアプリケーションに統合されつつある。 本稿では、プロンプトインジェクション攻撃を用いて、攻撃者が元の命令をオーバーライドし、制御を採用する方法を示す。 我々は、コンピュータセキュリティの観点から、影響や脆弱性を体系的に調査する包括的な分類法を導出する。
  論文  参考訳（メタデータ） (2023-02-23T17:14:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。