論文の概要: Adversarial Text Rewriting for Text-aware Recommender Systems

• arxiv url: http://arxiv.org/abs/2408.00312v1
• Date: Thu, 1 Aug 2024 06:14:42 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-04 21:35:40.853495
• Title: Adversarial Text Rewriting for Text-aware Recommender Systems
• Title（参考訳）: テキスト認識型レコメンダシステムにおける逆テキスト書き換え
• Authors: Sejoon Oh, Gaurav Verma, Srijan Kumar,
• Abstract要約: アイテム記述への依存は、eコマースプラットフォーム上での敵の売り手による操作に対して、レコメンデーターシステムに脆弱性をもたらすと論じる。 本稿では,テキスト認識レコメンデータシステムに対する新たなテキスト書き換えフレームワークを提案する。 本研究は,人的評価者から現実的と認識されつつも,販売者が不当に商品を上乗せするために書き直し攻撃を活用できることを実証する。
• 参考スコア（独自算出の注目度）: 21.73809272703814
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Text-aware recommender systems incorporate rich textual features, such as titles and descriptions, to generate item recommendations for users. The use of textual features helps mitigate cold-start problems, and thus, such recommender systems have attracted increased attention. However, we argue that the dependency on item descriptions makes the recommender system vulnerable to manipulation by adversarial sellers on e-commerce platforms. In this paper, we explore the possibility of such manipulation by proposing a new text rewriting framework to attack text-aware recommender systems. We show that the rewriting attack can be exploited by sellers to unfairly uprank their products, even though the adversarially rewritten descriptions are perceived as realistic by human evaluators. Methodologically, we investigate two different variations to carry out text rewriting attacks: (1) two-phase fine-tuning for greater attack performance, and (2) in-context learning for higher text rewriting quality. Experiments spanning 3 different datasets and 4 existing approaches demonstrate that recommender systems exhibit vulnerability against the proposed text rewriting attack. Our work adds to the existing literature around the robustness of recommender systems, while highlighting a new dimension of vulnerability in the age of large-scale automated text generation.
• Abstract（参考訳）: テキスト認識レコメンデータシステムは、タイトルや記述などのリッチなテキスト機能を導入して、ユーザのためのアイテムレコメンデーションを生成する。 テキスト機能の使用は、コールドスタート問題を軽減するのに役立つため、このようなレコメンデーションシステムは注目を集めている。 しかし、アイテム記述への依存により、eコマースプラットフォーム上での敵対販売者による操作に対して、レコメンデーションシステムは脆弱である、と論じる。 本稿では,テキスト認識レコメンデータシステムに対する新たなテキスト書き換えフレームワークを提案することにより,このような操作の可能性を検討する。 本研究は,人的評価者から現実的と認識されつつも,販売者が不当に商品を上乗せするために書き直し攻撃を活用できることを実証する。 提案手法は,(1)攻撃性能向上のための2相微調整,(2)テキスト書き直し品質向上のためのテキスト書き直し学習,の2つのバリエーションについて検討する。 3つの異なるデータセットと4つの既存アプローチにまたがる実験では、提案されたテキスト書き換え攻撃に対する脆弱性を示すレコメンダシステムが示されている。 我々の研究は、リコメンデータシステムの堅牢性に関する既存の文献に加え、大規模自動テキスト生成の時代における新たな脆弱性の次元を強調した。

関連論文リスト

• LLM-Powered Text Simulation Attack Against ID-Free Recommender Systems [42.07327538740209]
  本研究は,提案したテキストシミュレーション攻撃(TextSimu)に対して,IDフリーのレコメンデータシステムが脆弱であることを明らかにする。 新しいタイプのテキスト中毒攻撃として、TextSimuは、人気のあるアイテムの特徴をシミュレートすることで、ターゲットアイテムのテキスト情報を変更するために、大きな言語モデル(LLM)を利用する。 TextSimuライクな攻撃に耐えるために,LLM生成したプロモーションテキストを識別するための検出手法を検討する。
  論文  参考訳（メタデータ） (2024-09-18T04:10:44Z)
• On Evaluating The Performance of Watermarked Machine-Generated Texts Under Adversarial Attacks [20.972194348901958]
  まず、メインストリームのウォーターマーキングスキームと、機械生成テキストに対する削除攻撃を組み合わせます。 8つの透かし(5つのプレテキスト、3つのポストテキスト)と12のアタック(2つのプレテキスト、10のポストテキスト)を87のシナリオで評価した。 その結果、KGWとExponentialの透かしは高いテキスト品質と透かしの保持を提供するが、ほとんどの攻撃に対して脆弱であることが示唆された。
  論文  参考訳（メタデータ） (2024-07-05T18:09:06Z)
• Improving Subject-Driven Image Synthesis with Subject-Agnostic Guidance [62.15866177242207]
  主観的条件を構築することにより、与えられた主観的条件と入力テキストプロンプトの両方に整合した出力が得られることを示す。 私たちのアプローチは概念的にはシンプルで、最小限のコード修正しか必要ありませんが、実質的な品質改善につながります。
  論文  参考訳（メタデータ） (2024-05-02T15:03:41Z)
• Understanding and Mitigating the Threat of Vec2Text to Dense Retrieval Systems [28.175920880194223]
  本稿では,Vec2Textによるテキスト復元に影響を及ぼすであろう埋め込みモデルに関連する要因について検討する。 本稿では,回復可能性リスクを軽減しつつ,均等なランク付けを保証できる簡易な埋め込み変換修正法を提案する。
  論文  参考訳（メタデータ） (2024-02-20T07:49:30Z)
• ESTextSpotter: Towards Better Scene Text Spotting with Explicit Synergy in Transformer [88.61312640540902]
  明示的な構文に基づくテキストスポッティング変換フレームワーク(ESTextSpotter)を紹介する。 本モデルは,1つのデコーダ内におけるテキスト検出と認識のための識別的,インタラクティブな特徴をモデル化することにより,明示的な相乗効果を実現する。 実験結果から,本モデルが従来の最先端手法よりも有意に優れていたことが示唆された。
  論文  参考訳（メタデータ） (2023-08-20T03:22:23Z)
• Verifying the Robustness of Automatic Credibility Assessment [50.55687778699995]
  入力テキストにおける意味保存的変化がモデルを誤解させる可能性があることを示す。 また、誤情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAについても紹介する。 我々の実験結果によると、現代の大規模言語モデルは、以前のより小さなソリューションよりも攻撃に対して脆弱であることが多い。
  論文  参考訳（メタデータ） (2023-03-14T16:11:47Z)
• Mitigating Human and Computer Opinion Fraud via Contrastive Learning [0.0]
  本稿では,協調フィルタリングレコメンデータシステムにおける偽テキストレビュー検出への新たなアプローチを提案する。 既存のアルゴリズムは、言語モデルによって生成された偽レビューを検出し、不正直なユーザーによって書かれたテキストを無視している。 本稿では,ユーザ人口特性とテキストレビューを,偽造に対する追加的証拠として活用する,対照的な学習ベースアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2023-01-08T12:02:28Z)
• R2D2: Robust Data-to-Text with Replacement Detection [16.53137103104244]
  R2D2は不誠実なData-to-Text生成に対処するトレーニングフレームワークです。 我々は、D2Tシステムのエンティティ検索能力が貧弱であることが、不信の原因の1つだと論じている。 実験の結果,R2D2システムは不信なテキスト生成を効果的に軽減できることがわかった。
  論文  参考訳（メタデータ） (2022-05-25T03:29:25Z)
• SmartPatch: Improving Handwritten Word Imitation with Patch Discriminators [67.54204685189255]
  本稿では,現在の最先端手法の性能を向上させる新手法であるSmartPatchを提案する。 我々は、よく知られたパッチ損失と、平行訓練された手書きテキスト認識システムから収集された情報を組み合わせる。 これにより、より強化された局所識別器が実現し、より現実的で高品質な手書き文字が生成される。
  論文  参考訳（メタデータ） (2021-05-21T18:34:21Z)
• MOST: A Multi-Oriented Scene Text Detector with Localization Refinement [67.35280008722255]
  シーンテキスト検出のための新しいアルゴリズムを提案し、テキストローカリゼーションの品質を大幅に向上させる一連の戦略を提案する。 具体的には,テキスト・フィーチャー・アライメント・モジュール (TFAM) を提案し,特徴の受容領域を動的に調整する。 信頼できないものを排除するために、位置認識非最大抑制(PA-NMS)モジュールを考案する。
  論文  参考訳（メタデータ） (2021-04-02T14:34:41Z)
• Conditioned Text Generation with Transfer for Closed-Domain Dialogue Systems [65.48663492703557]
  条件付き変分オートエンコーダを用いて,意図特化文の生成を最適に学習し,制御する方法を示す。 クエリ転送と呼ばれる新しいプロトコルを導入し、大規模で遅延のないデータセットを活用できるようにします。
  論文  参考訳（メタデータ） (2020-11-03T14:06:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。