論文の概要: Attacks against Ranking Algorithms with Text Embeddings: a Case Study on Recruitment Algorithms

• arxiv url: http://arxiv.org/abs/2108.05490v1
• Date: Thu, 12 Aug 2021 01:41:21 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-13 14:44:29.210079
• Title: Attacks against Ranking Algorithms with Text Embeddings: a Case Study on Recruitment Algorithms
• Title（参考訳）: テキスト埋め込みによるランク付けアルゴリズムに対する攻撃:リクルートアルゴリズムを事例として
• Authors: Anahita Samadi, Debapriya Banerjee, Shirin Nilizadeh
• Abstract要約: 本稿では、求職者に対するテキスト埋め込みを利用したランキングアルゴリズムについて、求職者による求職者に対する評価と比較した。 テキストアイテムを識別するホワイトボックスとブラックボックスの両方の攻撃を,埋め込みスペースにおける位置に基づいて,履歴書とジョブ記述との類似点の増大に大きく貢献することを示す。
• 参考スコア（独自算出の注目度）: 2.0024346589785926
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recently, some studies have shown that text classification tasks are vulnerable to poisoning and evasion attacks. However, little work has investigated attacks against decision making algorithms that use text embeddings, and their output is a ranking. In this paper, we focus on ranking algorithms for recruitment process, that employ text embeddings for ranking applicants resumes when compared to a job description. We demonstrate both white box and black box attacks that identify text items, that based on their location in embedding space, have significant contribution in increasing the similarity score between a resume and a job description. The adversary then uses these text items to improve the ranking of their resume among others. We tested recruitment algorithms that use the similarity scores obtained from Universal Sentence Encoder (USE) and Term Frequency Inverse Document Frequency (TF IDF) vectors. Our results show that in both adversarial settings, on average the attacker is successful. We also found that attacks against TF IDF is more successful compared to USE.
• Abstract（参考訳）: 近年,テキスト分類タスクは中毒や回避攻撃に弱いことが研究で示されている。 しかし,テキスト埋め込みを用いた意思決定アルゴリズムに対する攻撃についてはほとんど研究されていない。 本稿では,求職者の履歴書に対するテキスト埋め込みを用いた採用プロセスにおけるランク付けアルゴリズムに着目した。 我々は,テキストアイテムを識別するホワイトボックスとブラックボックスの両方を,埋め込みスペースにおける位置に基づいて,履歴書とジョブ記述との類似点の増大に大きく貢献することを示す。 敵はこれらのテキストアイテムを使用して履歴書のランキングを改善させる。 汎用文エンコーダ (use) と項周波数逆文書周波数 (tf idf) から得られた類似度スコアを用いたリクルートアルゴリズムをテストした。 結果は,両敵の状況において,攻撃者が平均的に成功していることを示している。 また,TF IDFに対する攻撃はUSEと比較してより成功した。

関連論文リスト

• SemStamp: A Semantic Watermark with Paraphrastic Robustness for Text Generation [72.10931780019297]
  既存の透かしアルゴリズムはトークンレベルの設計のため、パラフレーズ攻撃に弱い。 局所性に敏感なハッシュ(LSH)に基づく頑健な文レベルのセマンティック透かしアルゴリズムSemStampを提案する。 実験結果から,本アルゴリズムは従来手法に比べて,従来手法よりも頑健であるだけでなく,生成品質の維持にも有効であることが示唆された。
  論文  参考訳（メタデータ） (2023-10-06T03:33:42Z)
• RankCSE: Unsupervised Sentence Representations Learning via Learning to Rank [54.854714257687334]
  本稿では,教師なし文表現学習のための新しい手法であるRangCSEを提案する。 コントラスト学習を伴うランキング一貫性とランキング蒸留を統一された枠組みに組み込む。 セマンティックテキスト類似性(STS)と転送タスク(TR)の両方について、広範な実験が実施されている。
  論文  参考訳（メタデータ） (2023-05-26T08:27:07Z)
• A Gold Standard Dataset for the Reviewer Assignment Problem [117.59690218507565]
  類似度スコア(Similarity score)とは、論文のレビューにおいて、レビュアーの専門知識を数値で見積もるものである。 私たちのデータセットは、58人の研究者による477の自己申告された専門知識スコアで構成されています。 2つの論文をレビュアーに関連付けるタスクは、簡単なケースでは12%～30%、ハードケースでは36%～43%である。
  論文  参考訳（メタデータ） (2023-03-23T16:15:03Z)
• Verifying the Robustness of Automatic Credibility Assessment [50.55687778699995]
  入力テキストにおける意味保存的変化がモデルを誤解させる可能性があることを示す。 また、誤情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAについても紹介する。 我々の実験結果によると、現代の大規模言語モデルは、以前のより小さなソリューションよりも攻撃に対して脆弱であることが多い。
  論文  参考訳（メタデータ） (2023-03-14T16:11:47Z)
• A Tale of HodgeRank and Spectral Method: Target Attack Against Rank Aggregation Is the Fixed Point of Adversarial Game [153.74942025516853]
  ランクアグリゲーション手法の本質的な脆弱性は文献ではよく研究されていない。 本稿では,ペアデータの変更による集計結果の指定を希望する目的のある敵に焦点をあてる。 提案した標的攻撃戦略の有効性は,一連の玩具シミュレーションと実世界のデータ実験によって実証された。
  論文  参考訳（メタデータ） (2022-09-13T05:59:02Z)
• A Strong Baseline for Query Efficient Attacks in a Black Box Setting [3.52359746858894]
  そこで本研究では,テキスト分類とエンタテインメントタスクにおいて,妥当な敵の例を生成するためのクエリ効率のよい攻撃戦略を提案する。 我々の攻撃は、クエリ数を減らすために、注意機構と局所性に敏感なハッシュ(LSH)を併用する。
  論文  参考訳（メタデータ） (2021-09-10T10:46:32Z)
• Poisoning Attack against Estimating from Pairwise Comparisons [140.9033911097995]
  攻撃者はランクリストを操作するための強い動機と動機を持っている。 ペアワイズランキングアルゴリズムに対するデータ中毒攻撃は、ローダとアタッカーの間の動的および静的ゲームとして形式化することができる。 本稿では、2つの効率的な毒殺攻撃アルゴリズムを提案し、関連する理論的保証を確立する。
  論文  参考訳（メタデータ） (2021-07-05T08:16:01Z)
• Rank over Class: The Untapped Potential of Ranking in Natural Language Processing [8.637110868126546]
  我々は、現在分類を用いて対処されている多くのタスクが、実際には分類モールドに切り替わっていると論じる。 本稿では,一対のテキストシーケンスの表現を生成するトランスフォーマーネットワークからなる新しいエンドツーエンドランキング手法を提案する。 重く歪んだ感情分析データセットの実験では、ランキング結果を分類ラベルに変換すると、最先端のテキスト分類よりも約22%改善する。
  論文  参考訳（メタデータ） (2020-09-10T22:18:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。