論文の概要: Neuron-based Personality Trait Induction in Large Language Models

• arxiv url: http://arxiv.org/abs/2410.12327v1
• Date: Wed, 16 Oct 2024 07:47:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-17 13:42:48.582529
• Title: Neuron-based Personality Trait Induction in Large Language Models
• Title（参考訳）: 大規模言語モデルにおけるニューロンに基づくパーソナリティ・トラクションの誘導
• Authors: Jia Deng, Tianyi Tang, Yanbin Yin, Wenhao Yang, Wayne Xin Zhao, Ji-Rong Wen,
• Abstract要約: 大規模言語モデル (LLM) は、様々な性格特性をシミュレートする能力が増している。 LLMにおけるパーソナリティ特性誘導のためのニューロンに基づくアプローチを提案する。
• 参考スコア（独自算出の注目度）: 115.08894603023712
• License:
• Abstract: Large language models (LLMs) have become increasingly proficient at simulating various personality traits, an important capability for supporting related applications (e.g., role-playing). To further improve this capacity, in this paper, we present a neuron-based approach for personality trait induction in LLMs, with three major technical contributions. First, we construct PersonalityBench, a large-scale dataset for identifying and evaluating personality traits in LLMs. This dataset is grounded in the Big Five personality traits from psychology and is designed to assess the generative capabilities of LLMs towards specific personality traits. Second, by leveraging PersonalityBench, we propose an efficient method for identifying personality-related neurons within LLMs by examining the opposite aspects of a given trait. Third, we develop a simple yet effective induction method that manipulates the values of these identified personality-related neurons. This method enables fine-grained control over the traits exhibited by LLMs without training and modifying model parameters. Extensive experiments validate the efficacy of our neuron identification and trait induction methods. Notably, our approach achieves comparable performance as fine-tuned models, offering a more efficient and flexible solution for personality trait induction in LLMs. We provide access to all the mentioned resources at https://github.com/RUCAIBox/NPTI.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、様々な性格特性をシミュレートし、関連するアプリケーション(例えばロールプレイング)をサポートする上で重要な能力である。 本稿では、この能力をさらに向上するために、LLMにおけるパーソナリティ特性誘導のためのニューロンベースのアプローチを提案する。 まず、LLMの性格特性を特定し評価するための大規模データセットであるPersonalityBenchを構築する。 このデータセットは心理学の五大性格特性に基礎を置いており、特定の性格特性に対してLLMの生成能力を評価するように設計されている。 第二に、パーソナリティベンチを利用して、与えられた特性の反対の側面を調べることにより、LLM内のパーソナリティ関連ニューロンを同定する効率的な方法を提案する。 第三に、これらの識別されたパーソナリティ関連ニューロンの値を操作する、単純で効果的な誘導法を開発する。 この方法は、モデルパラメータのトレーニングや修正をすることなく、LLMが示す特性のきめ細かい制御を可能にする。 広範囲にわたる実験により、ニューロンの同定および形質誘導法の有効性が検証された。 特に,本手法は微調整モデルに匹敵する性能を達成し,LLMにおける人格特性誘導のためのより効率的で柔軟なソリューションを提供する。 私たちは、https://github.com/RUCAIBox/NPTI.orgで、言及されているすべてのリソースへのアクセスを提供しています。

関連論文リスト

• BIG5-CHAT: Shaping LLM Personalities Through Training on Human-Grounded Data [28.900987544062257]
  BIG5-CHATは、人間がいかに人格をテキストで表現するかのモデルを構築するために設計された10万の対話を含む大規模なデータセットである。 提案手法は,BFIやIPIP-NEOなどの人格評価に優れ,特徴相関は人的データとより密に一致している。 実験の結果,高良性,高良性,低外転,低神経障害を訓練したモデルでは,推論タスクの性能が向上することが判明した。
  論文  参考訳（メタデータ） (2024-10-21T20:32:27Z)
• Personality Alignment of Large Language Models [26.071445846818914]
  大規模言語モデル(LLM)を整列する現在の手法は、一般的に一般的な人間の価値観や振る舞いを反映することを目的としている。 パーソナリティアライメントの概念を紹介する。 このアプローチは、個々のユーザや近縁なグループの特定の嗜好に合うように、LSMの反応と決定を調整します。
  論文  参考訳（メタデータ） (2024-08-21T17:09:00Z)
• LLM-Select: Feature Selection with Large Language Models [64.5099482021597]
  大規模言語モデル(LLM)は、データサイエンスの標準ツールに匹敵するパフォーマンスで、最も予測可能な機能を選択することができる。 以上の結果から,LSMはトレーニングに最適な機能を選択するだけでなく,そもそもどの機能を収集すべきかを判断する上でも有用である可能性が示唆された。
  論文  参考訳（メタデータ） (2024-07-02T22:23:40Z)
• Quantifying AI Psychology: A Psychometrics Benchmark for Large Language Models [57.518784855080334]
  大きな言語モデル(LLM)は例外的なタスク解決能力を示しており、人間に似た役割を担っている。 本稿では,LLMにおける心理学的次元を調査するための枠組みとして,心理学的識別,評価データセットのキュレーション,結果検証による評価について述べる。 本研究では,個性,価値観,感情,心の理論,モチベーション,知性の6つの心理学的側面を網羅した総合的心理測定ベンチマークを導入する。
  論文  参考訳（メタデータ） (2024-06-25T16:09:08Z)
• LLMvsSmall Model? Large Language Model Based Text Augmentation Enhanced Personality Detection Model [58.887561071010985]
  パーソナリティ検出は、ソーシャルメディア投稿に根ざした性格特性を検出することを目的としている。 既存のほとんどのメソッドは、事前訓練された言語モデルを微調整することで、ポスト機能を直接学習する。 本稿では,大規模言語モデル (LLM) に基づくテキスト拡張強化人格検出モデルを提案する。
  論文  参考訳（メタデータ） (2024-03-12T12:10:18Z)
• Machine Mindset: An MBTI Exploration of Large Language Models [28.2342069623478]
  我々は,Mers-Briggs Type Indicator (MBTI)パーソナリティ特性を大規模言語モデル (LLM) に統合するための新しいアプローチを提案する。 提案手法は,MBTI特性をLLMに埋め込むための2相微調整と直接選好最適化(DPO)を含む。
  論文  参考訳（メタデータ） (2023-12-20T12:59:31Z)
• PsyCoT: Psychological Questionnaire as Powerful Chain-of-Thought for Personality Detection [50.66968526809069]
  PsyCoTと呼ばれる新しい人格検出手法を提案する。これは、個人がマルチターン対話方式で心理的質問を完遂する方法を模倣するものである。 実験の結果,PsyCoTは人格検出におけるGPT-3.5の性能とロバスト性を大幅に向上させることがわかった。
  論文  参考訳（メタデータ） (2023-10-31T08:23:33Z)
• Artificial Neuropsychology: Are Large Language Models Developing Executive Functions? [0.0]
  ハノイ・タワーズ・オブ・ハノイ法によるGPTの計画機能と作業記憶の評価を行った。 予備的な結果は、LLMがハノイの塔でほぼ最適解を生成することを示している。 これらの能力は、タスクが分かっていないときに、よく訓練された人間よりも非常に制限され、悪い。
  論文  参考訳（メタデータ） (2023-05-06T20:53:22Z)
• Evaluating and Inducing Personality in Pre-trained Language Models [78.19379997967191]
  人間の個性理論を機械行動研究のツールとして活用することで,心理測定研究からインスピレーションを得た。 これらの疑問に答えるために,機械の動作を研究するためのMachine Personality Inventory(MPI)ツールを紹介した。 MPIは、ビッグファイブ・パーソナリティ・ファクター(Big Five Personality Factors、ビッグファイブ・パーソナリティ・ファクター)理論とパーソナリティ評価在庫に基づく標準化されたパーソナリティ・テストに従う。 パーソナリティ・プロンプト法(P2法)を考案し、特定のパーソナリティを持つLSMを制御可能な方法で誘導する。
  論文  参考訳（メタデータ） (2022-05-20T07:32:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。