論文の概要: LLM-Powered Text Simulation Attack Against ID-Free Recommender Systems

• arxiv url: http://arxiv.org/abs/2409.11690v2
• Date: Thu, 19 Sep 2024 03:28:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-10 15:26:55.883576
• Title: LLM-Powered Text Simulation Attack Against ID-Free Recommender Systems
• Title（参考訳）: LLMによるIDフリーレコメンダシステムに対するテキストシミュレーション
• Authors: Zongwei Wang, Min Gao, Junliang Yu, Xinyi Gao, Quoc Viet Hung Nguyen, Shazia Sadiq, Hongzhi Yin,
• Abstract要約: 本研究は,提案したテキストシミュレーション攻撃(TextSimu)に対して,IDフリーのレコメンデータシステムが脆弱であることを明らかにする。 新しいタイプのテキスト中毒攻撃として、TextSimuは、人気のあるアイテムの特徴をシミュレートすることで、ターゲットアイテムのテキスト情報を変更するために、大きな言語モデル(LLM)を利用する。 TextSimuライクな攻撃に耐えるために,LLM生成したプロモーションテキストを識別するための検出手法を検討する。
• 参考スコア（独自算出の注目度）: 42.07327538740209
• License:
• Abstract: The ID-free recommendation paradigm has been proposed to address the limitation that traditional recommender systems struggle to model cold-start users or items with new IDs. Despite its effectiveness, this study uncovers that ID-free recommender systems are vulnerable to the proposed Text Simulation attack (TextSimu) which aims to promote specific target items. As a novel type of text poisoning attack, TextSimu exploits large language models (LLM) to alter the textual information of target items by simulating the characteristics of popular items. It operates effectively in both black-box and white-box settings, utilizing two key components: a unified popularity extraction module, which captures the essential characteristics of popular items, and an N-persona consistency simulation strategy, which creates multiple personas to collaboratively synthesize refined promotional textual descriptions for target items by simulating the popular items. To withstand TextSimu-like attacks, we further explore the detection approach for identifying LLM-generated promotional text. Extensive experiments conducted on three datasets demonstrate that TextSimu poses a more significant threat than existing poisoning attacks, while our defense method can detect malicious text of target items generated by TextSimu. By identifying the vulnerability, we aim to advance the development of more robust ID-free recommender systems.
• Abstract（参考訳）: IDのないレコメンデーションパラダイムは、従来のレコメンデーションシステムは、コールドスタートユーザーや新しいIDを持つアイテムをモデル化するのに苦労する制限に対処するために提案されている。 有効性にもかかわらず,本研究では,特定の対象項目の促進を目的としたテキストシミュレーション攻撃(TextSimu)に対して,IDフリーのレコメンデータシステムが脆弱であることを明らかにする。 新しいタイプのテキスト中毒攻撃として、TextSimuは、人気のあるアイテムの特徴をシミュレートすることで、ターゲットアイテムのテキスト情報を変更するために、大きな言語モデル(LLM)を利用する。 ブラックボックスとホワイトボックスの両方で効果的に動作し、人気アイテムの本質的な特徴を捉えた統一的な人気抽出モジュールと、人気アイテムをシミュレートすることで、ターゲットアイテムの洗練されたプロモーションテキスト記述を協調的に合成する複数のペルソナを生成するN-人格整合性シミュレーション戦略の2つの主要なコンポーネントを利用する。 TextSimuライクな攻撃に対処するため、LLM生成したプロモーションテキストを識別するための検出手法をさらに検討する。 3つのデータセットで行った大規模な実験により、TextSimuは既存の毒殺攻撃よりも重大な脅威となり、防御法はTextSimuが生成したターゲットアイテムの悪意のあるテキストを検出できることが示された。 脆弱性を特定することで、より堅牢なIDフリーレコメンデータシステムの開発を進めることを目指している。

関連論文リスト

• Unveiling Large Language Models Generated Texts: A Multi-Level Fine-Grained Detection Framework [9.976099891796784]
  大型言語モデル (LLM) は文法の修正、内容の拡張、文体の改良によって人間の書き方を変えてきた。 既存の検出方法は、主に単一機能分析とバイナリ分類に依存しているが、学術的文脈においてLLM生成テキストを効果的に識別することができないことが多い。 低レベル構造, 高レベル意味, 深層言語的特徴を統合することで, LLM生成テキストを検出する多レベルきめ細粒度検出フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-18T07:25:00Z)
• Detecting Machine-Generated Long-Form Content with Latent-Space Variables [54.07946647012579]
  既存のゼロショット検出器は主に、現実世界のドメインシフトに弱いトークンレベルの分布に焦点を当てている。 本稿では,イベント遷移などの抽象的要素を機械対人文検出の鍵となる要因として組み込んだ,より堅牢な手法を提案する。
  論文  参考訳（メタデータ） (2024-10-04T18:42:09Z)
• Style-Specific Neurons for Steering LLMs in Text Style Transfer [55.06697862691798]
  テキストスタイル転送(TST)は、本来の意味を変更することなく、テキストのスタイルを変更することを目的としている。 スタイル特異的ニューロンを用いた大規模言語モデルのステアリング手法であるsNeuron-TSTを提案する。
  論文  参考訳（メタデータ） (2024-10-01T11:25:36Z)
• Zero-Shot Detection of LLM-Generated Text using Token Cohesiveness [6.229124658686219]
  我々は,既存のゼロショット検出器を改善するために,トークン凝集性をプラグアンドプレイモジュールとして利用する汎用的なデュアルチャネル検出パラダイムを開発した。 トークンの凝集度を計算するために,ランダムなトークンの削除と意味的差分測定を数ラウンドで行う。 各種データセット,ソースモデル,評価設定の4つの最先端ベース検出器を用いた実験は,提案手法の有効性と汎用性を示す。
  論文  参考訳（メタデータ） (2024-09-25T13:18:57Z)
• Adversarial Text Rewriting for Text-aware Recommender Systems [21.73809272703814]
  アイテム記述への依存は、eコマースプラットフォーム上での敵の売り手による操作に対して、レコメンデーターシステムに脆弱性をもたらすと論じる。 本稿では,テキスト認識レコメンデータシステムに対する新たなテキスト書き換えフレームワークを提案する。 本研究は,人的評価者から現実的と認識されつつも,販売者が不当に商品を上乗せするために書き直し攻撃を活用できることを実証する。
  論文  参考訳（メタデータ） (2024-08-01T06:14:42Z)
• White-box Multimodal Jailbreaks Against Large Vision-Language Models [61.97578116584653]
  本稿では,テキストと画像のモダリティを併用して,大規模視覚言語モデルにおけるより広範な脆弱性のスペクトルを利用する,より包括的戦略を提案する。 本手法は,テキスト入力がない場合に,逆画像プレフィックスをランダムノイズから最適化し,有害な応答を多様に生成することから始める。 様々な有害な指示に対する肯定的な反応を誘発する確率を最大化するために、対向テキスト接頭辞を、対向画像接頭辞と統合し、共最適化する。
  論文  参考訳（メタデータ） (2024-05-28T07:13:30Z)
• ToBlend: Token-Level Blending With an Ensemble of LLMs to Attack AI-Generated Text Detection [6.27025292177391]
  ToBlendはトークンレベルのアンサンブルテキスト生成手法であり、現在のAIコンテンツ検出アプローチの堅牢性に挑戦する。 ToBlendは、主要なAIコンテンツ検出手法の性能を著しく低下させる。
  論文  参考訳（メタデータ） (2024-02-17T02:25:57Z)
• DPIC: Decoupling Prompt and Intrinsic Characteristics for LLM Generated Text Detection [56.513637720967566]
  大規模言語モデル(LLM)は、盗作、eコマースプラットフォームへの偽レビューの設置、炎症性偽ツイートなどの誤用のリスクを引き起こすテキストを生成することができる。 既存の高品質な検出手法では、本質的な特徴を抽出するために、モデルの内部にアクセスする必要がある。 ブラックボックスモデル生成テキストの深い内在特性を抽出する。
  論文  参考訳（メタデータ） (2023-05-21T17:26:16Z)
• MOST: A Multi-Oriented Scene Text Detector with Localization Refinement [67.35280008722255]
  シーンテキスト検出のための新しいアルゴリズムを提案し、テキストローカリゼーションの品質を大幅に向上させる一連の戦略を提案する。 具体的には,テキスト・フィーチャー・アライメント・モジュール (TFAM) を提案し,特徴の受容領域を動的に調整する。 信頼できないものを排除するために、位置認識非最大抑制(PA-NMS)モジュールを考案する。
  論文  参考訳（メタデータ） (2021-04-02T14:34:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。