論文の概要: LLMvsSmall Model? Large Language Model Based Text Augmentation Enhanced Personality Detection Model

• arxiv url: http://arxiv.org/abs/2403.07581v1
• Date: Tue, 12 Mar 2024 12:10:18 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-13 21:46:27.098337
• Title: LLMvsSmall Model? Large Language Model Based Text Augmentation Enhanced Personality Detection Model
• Title（参考訳）: llmvs小モデル? 大規模言語モデルに基づくテキスト拡張による個人性検出モデル
• Authors: Linmei Hu, Hongyu He, Duokang Wang, Ziwang Zhao, Yingxia Shao, Liqiang Nie
• Abstract要約: パーソナリティ検出は、ソーシャルメディア投稿に根ざした性格特性を検出することを目的としている。 既存のほとんどのメソッドは、事前訓練された言語モデルを微調整することで、ポスト機能を直接学習する。 本稿では,大規模言語モデル (LLM) に基づくテキスト拡張強化人格検出モデルを提案する。
• 参考スコア（独自算出の注目度）: 58.887561071010985
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Personality detection aims to detect one's personality traits underlying in social media posts. One challenge of this task is the scarcity of ground-truth personality traits which are collected from self-report questionnaires. Most existing methods learn post features directly by fine-tuning the pre-trained language models under the supervision of limited personality labels. This leads to inferior quality of post features and consequently affects the performance. In addition, they treat personality traits as one-hot classification labels, overlooking the semantic information within them. In this paper, we propose a large language model (LLM) based text augmentation enhanced personality detection model, which distills the LLM's knowledge to enhance the small model for personality detection, even when the LLM fails in this task. Specifically, we enable LLM to generate post analyses (augmentations) from the aspects of semantic, sentiment, and linguistic, which are critical for personality detection. By using contrastive learning to pull them together in the embedding space, the post encoder can better capture the psycho-linguistic information within the post representations, thus improving personality detection. Furthermore, we utilize the LLM to enrich the information of personality labels for enhancing the detection performance. Experimental results on the benchmark datasets demonstrate that our model outperforms the state-of-the-art methods on personality detection.
• Abstract（参考訳）: パーソナリティ検出は、ソーシャルメディア投稿に根ざした性格特性を検出することを目的としている。 この課題の1つの課題は、自己報告アンケートから収集される地対人パーソナリティ特性の不足である。 既存のほとんどの手法は、限定されたパーソナリティラベルの監督の下で事前訓練された言語モデルを微調整することで、ポスト機能を直接学習する。 これにより、ポスト機能の品質が低下し、結果としてパフォーマンスに影響を及ぼす。 さらに、性格特性を一つのホットな分類ラベルとして扱い、その中の意味情報を見渡す。 本稿では,この課題においてllmが失敗した場合でも,llmの知識を抽出し,小規模のパーソナリティ検出モデルを強化する,大規模言語モデル(llm)に基づくパーソナリティ検出モデルを提案する。 具体的には,パーソナリティ検出に不可欠な意味的,感情的,言語的側面から,llmがポスト分析(示唆)を生成できるようにする。 コントラスト学習を用いて埋め込み空間にそれらをまとめることで、ポストエンコーダはポスト表現内の精神言語情報をよりよく捉え、パーソナリティ検出を改善することができる。 さらに,LLMを用いてパーソナリティラベルの情報を強化し,検出性能を向上させる。 評価実験の結果,我々のモデルは人格検出の最先端手法よりも優れていた。

関連論文リスト

• Orca: Enhancing Role-Playing Abilities of Large Language Models by Integrating Personality Traits [4.092862870428798]
  我々は,人格特性を統合することで,カスタム文字のLLMをデータ処理し,訓練するためのフレームワークOrcaを提案する。 Orcaは4つのステージで構成されている。 パーソナリティ特性の推測、LCMの活用により、ユーザのBigFiveパーソナリティ特性のレポートとスコアを推測する。 提案手法は,本ベンチマークにおいて優れた性能を示すことを示す。
  論文  参考訳（メタデータ） (2024-11-15T07:35:47Z)
• Neuron-based Personality Trait Induction in Large Language Models [115.08894603023712]
  大規模言語モデル (LLM) は、様々な性格特性をシミュレートする能力が増している。 LLMにおけるパーソナリティ特性誘導のためのニューロンに基づくアプローチを提案する。
  論文  参考訳（メタデータ） (2024-10-16T07:47:45Z)
• Humanity in AI: Detecting the Personality of Large Language Models [0.0]
  アンケートは大規模言語モデル(LLM)の個性を検出する一般的な方法である 本稿では,テキストマイニングとアンケート手法の組み合わせを提案する。 LLMのパーソナリティは、事前訓練されたデータから導かれる。
  論文  参考訳（メタデータ） (2024-10-11T05:53:11Z)
• Characterizing Truthfulness in Large Language Model Generations with Local Intrinsic Dimension [63.330262740414646]
  大規模言語モデル(LLM)から生成されたテキストの真偽を特徴付ける方法と予測法について検討する。 モデルアクティベーションの局所固有次元 (LID) を用いて, 内部アクティベーションを調査し, LLMの真偽を定量化する。
  論文  参考訳（メタデータ） (2024-02-28T04:56:21Z)
• Eliciting Personality Traits in Large Language Models [0.0]
  大規模言語モデル(LLM)は採用の文脈において、候補者と雇用主の両方が利用している。 本研究は,異なる入力プロンプトに基づいて,それらの出力変動を調べることによって,そのようなモデルをよりよく理解することを目的とする。
  論文  参考訳（メタデータ） (2024-02-13T10:09:00Z)
• PsyCoT: Psychological Questionnaire as Powerful Chain-of-Thought for Personality Detection [50.66968526809069]
  PsyCoTと呼ばれる新しい人格検出手法を提案する。これは、個人がマルチターン対話方式で心理的質問を完遂する方法を模倣するものである。 実験の結果,PsyCoTは人格検出におけるGPT-3.5の性能とロバスト性を大幅に向上させることがわかった。
  論文  参考訳（メタデータ） (2023-10-31T08:23:33Z)
• Improving Input-label Mapping with Demonstration Replay for In-context Learning [67.57288926736923]
  In-context Learning (ICL)は、大規模な自己回帰言語モデルの出現する能力である。 Sliding Causal Attention (RdSca) と呼ばれる新しいICL法を提案する。 ICL実験において,本手法は入力ラベルマッピングを大幅に改善することを示す。
  論文  参考訳（メタデータ） (2023-10-30T14:29:41Z)
• Editing Personality for Large Language Models [73.59001811199823]
  本稿では,Large Language Models (LLMs) の性格特性の編集に焦点をあてた革新的なタスクを紹介する。 このタスクに対処する新しいベンチマークデータセットであるPersonalityEditを構築します。
  論文  参考訳（メタデータ） (2023-10-03T16:02:36Z)
• Personality Trait Detection Using Bagged SVM over BERT Word Embedding Ensembles [10.425280599592865]
  本稿では,テキストからの人格自動検出のための新しい深層学習手法を提案する。 我々は、自然言語理解における最先端技術、すなわちBERT言語モデルを活用して、文脈化された単語埋め込みを抽出する。 我々のモデルは、従来の最先端技術よりも1.04%優れており、同時に、トレーニングの計算効率も大幅に向上している。
  論文  参考訳（メタデータ） (2020-10-03T09:25:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。