論文の概要: Exploring prompts to elicit memorization in masked language model-based named entity recognition

• arxiv url: http://arxiv.org/abs/2405.03004v1
• Date: Sun, 5 May 2024 17:19:35 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-07 15:33:57.853155
• Title: Exploring prompts to elicit memorization in masked language model-based named entity recognition
• Title（参考訳）: マスキング言語モデルに基づく名前付きエンティティ認識における暗黙化の探索
• Authors: Yuxi Xia, Anastasiia Sedova, Pedro Henrique Luz de Araujo, Vasiliki Kougia, Lisa Nußbaumer, Benjamin Roth,
• Abstract要約: 言語モデルのトレーニングデータ記憶は、モデル能力(一般化)と安全性(プライバシリスク)に影響を与える 本稿では、6つのマスキング言語モデルに基づく名前付きエンティティ認識モデルの暗記検出に対するプロンプトの影響を分析することに焦点を当てた。 包括的な分析は、迅速なパフォーマンスが、プロンプト特性、トークンを含むこと、そしてプロンプトに対するモデルの自己注意重みによってどのように影響されるかを示している。
• 参考スコア（独自算出の注目度）: 3.8814287802779925
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Training data memorization in language models impacts model capability (generalization) and safety (privacy risk). This paper focuses on analyzing prompts' impact on detecting the memorization of 6 masked language model-based named entity recognition models. Specifically, we employ a diverse set of 400 automatically generated prompts, and a pairwise dataset where each pair consists of one person's name from the training set and another name out of the set. A prompt completed with a person's name serves as input for getting the model's confidence in predicting this name. Finally, the prompt performance of detecting model memorization is quantified by the percentage of name pairs for which the model has higher confidence for the name from the training set. We show that the performance of different prompts varies by as much as 16 percentage points on the same model, and prompt engineering further increases the gap. Moreover, our experiments demonstrate that prompt performance is model-dependent but does generalize across different name sets. A comprehensive analysis indicates how prompt performance is influenced by prompt properties, contained tokens, and the model's self-attention weights on the prompt.
• Abstract（参考訳）: 言語モデルのトレーニングデータの記憶は、モデル能力(一般化)と安全性(プライバシリスク)に影響を与える。 本稿では、6つのマスキング言語モデルに基づく名前付きエンティティ認識モデルの暗記検出に対するプロンプトの影響を分析することに焦点を当てた。 具体的には,400個のプロンプトを自動生成する多種多様なセットと,各ペアがトレーニングセットから1人の名前と,そのセットから他の名前で構成されているペアワイズデータセットを用いる。 人物の名前で完了したプロンプトは、この名前を予測するモデルの信頼を得るための入力となる。 最後に、モデル記憶の迅速な検出性能を、モデルがトレーニングセットから名前に対する信頼性が高い名前対の割合で定量化する。 異なるプロンプトの性能は、同じモデル上で最大16ポイントまで変化し、エンジニアリングがさらにギャップを増すことを示す。 さらに,本実験では,迅速な性能はモデル依存であるが,異なる名前集合にまたがって一般化することを示した。 包括的な分析は、迅速なパフォーマンスが、プロンプト特性、トークンを含むこと、そしてプロンプトに対するモデルの自己注意重みによってどのように影響されるかを示している。

関連論文リスト

• Extracting Training Data from Document-Based VQA Models [67.1470112451617]
  VLM(Vision-Language Models)は、文書ベースの視覚質問回答において顕著な進歩を遂げている(つまり、画像として提供される入力文書の内容に関する問い合わせに応答する)。 これらのモデルでは、関連する視覚情報が削除された場合でも、トレーニングサンプルに対する応答を記憶し、それらをリグルジタイズすることができる。 これには、トレーニングセットで繰り返し繰り返されるパーソナライズ可能な情報が含まれており、これらのモデルが機密情報を漏らし、したがってプライバシーリスクを引き起こす可能性があることを示している。
  論文  参考訳（メタデータ） (2024-07-11T17:44:41Z)
• ROME: Memorization Insights from Text, Logits and Representation [17.458840481902644]
  本稿では、トレーニングデータの直接処理をバイパスするROMEという革新的な手法を提案する。 具体的には、コンテキスト非依存、従来型、事実の3つの異なるタイプに分類されるデータセットを選択します。 そこで本研究では,生成したテキストのロジットと表現を調べることで,記憶されたサンプルと記憶されていないサンプルの相違に着目した。
  論文  参考訳（メタデータ） (2024-03-01T13:15:30Z)
• Multicultural Name Recognition For Previously Unseen Names [65.268245109828]
  本論文は、人名の認識を改善することを目的としており、それは、誰かが生まれたり、名前を変えたりする際にも、成長できる多様なカテゴリーである。 私は103か国の名前を見て、モデルが異なる文化の名前でどれだけうまく機能するかを比較します。 文字入力と単語入力を組み合わせたモデルの方が単語のみのモデルより優れており,従来のNERモデルと比較して精度が向上する可能性がある。
  論文  参考訳（メタデータ） (2024-01-23T17:58:38Z)
• MetricPrompt: Prompting Model as a Relevance Metric for Few-shot Text Classification [65.51149771074944]
  MetricPromptは、数発のテキスト分類タスクをテキストペア関連性推定タスクに書き換えることで、言語設計の難易度を緩和する。 広範に使われている3つのテキスト分類データセットを4つのショット・セッティングで実験する。 結果から,MetricPromptは,手動弁証法や自動弁証法よりも優れた性能を示した。
  論文  参考訳（メタデータ） (2023-06-15T06:51:35Z)
• Navigating Prompt Complexity for Zero-Shot Classification: A Study of Large Language Models in Computational Social Science [27.727207443432278]
  本稿では,ChatGPTとOpenAssistantの2つの公開言語モデルのゼロショット性能を評価する。 その結果,異なるプロンプト戦略が分類精度に大きく影響し,F1スコアが10%を超えることが判明した。
  論文  参考訳（メタデータ） (2023-05-23T17:48:21Z)
• PLAR: Prompt Learning for Action Recognition [56.57236976757388]
  我々は,行動認識のためのプロンプト学習(PLAR)という新しい一般学習手法を提案する。 提案手法は,モデルが入力ビデオのアクションに関連する記述や指示に焦点を合わせることで,アクションラベルを予測できるように設計されている。 我々は,空中マルチエージェントデータセットOkutamamの3.110-7.2%の精度向上と地上カメラ単一エージェントデータセットSomesome V2の1.0-3.6%の改善を観察した。
  論文  参考訳（メタデータ） (2023-05-21T11:51:09Z)
• Can discrete information extraction prompts generalize across language models? [36.85568212975316]
  自動誘導型プロンプトをアウト・オブ・ザ・ボックス(out-of-the-box)として使用して,他の言語モデルに対して同じ情報を求めることができるかを検討する。 学習時に言語モデルを混合することでプロンプトを誘導する手法を導入し、モデル間でよく一般化するプロンプトを導出する。
  論文  参考訳（メタデータ） (2023-02-20T09:56:51Z)
• Memorization Without Overfitting: Analyzing the Training Dynamics of Large Language Models [64.22311189896888]
  因果的および仮面的言語モデリング、モデルサイズ、およびトレーニングプロセス全体における正確な記憶について検討する。 驚くべきことに、大きなモデルは過度に適合する前にデータの大部分を記憶し、トレーニングプロセスを通して忘れる傾向にある。
  論文  参考訳（メタデータ） (2022-05-22T07:43:50Z)
• Interpretability Analysis for Named Entity Recognition to Understand System Predictions and How They Can Improve [49.878051587667244]
  名前付きエンティティ認識のためのLSTM-CRFアーキテクチャの性能について検討する。 文脈表現はシステムの性能に寄与するが、ハイパフォーマンスを駆動する主な要因は、名前トークン自体を学習することにある。 我々は、コンテキストのみからエンティティタイプを推測する可能性を評価するために、人間アノテーションを登録し、コンテキストのみのシステムによるエラーの大部分に対してエンティティタイプを推論することはできないが、改善の余地はいくつかある。
  論文  参考訳（メタデータ） (2020-04-09T14:37:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。