論文の概要: From Descriptive to Prescriptive: Uncover the Social Value Alignment of LLM-based Agents

• arxiv url: http://arxiv.org/abs/2605.14034v1
• Date: Wed, 13 May 2026 18:50:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-15 21:45:34.465199
• Title: From Descriptive to Prescriptive: Uncover the Social Value Alignment of LLM-based Agents
• Title（参考訳）: 記述から規範へ:LLMエージェントの社会的価値アライメントを明らかにする
• Authors: Jinxian Qu, Qingqing Gu, Teng Chen, Luo Ji,
• Abstract要約: GraphRAGを使って、原則をバリューベースの命令に変換し、エージェントが期待通りに振る舞うように操縦します。 本手法は,AIシステムにおける自己感情の出現の基盤となる。
• 参考スコア（独自算出の注目度）: 1.6296214703392398
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Wide applications of LLM-based agents require strong alignment with human social values. However, current works still exhibit deficiencies in self-cognition and dilemma decision, as well as self-emotions. To remedy this, we propose a novel value-based framework that employs GraphRAG to convert principles into value-based instructions and steer the agent to behave as expected by retrieving the suitable instruction upon a specific conversation context. To evaluate the ratio of expected behaviors, we define the expected behaviors from two famous theories, Maslow's Hierarchy of Needs and Plutchik's Wheel of Emotion. By experimenting with our method on the benchmark of DAILYDILEMMAS, our method exhibits significant performance gains compared to prompt-based baselines, including ECoT, Plan-and-Solve, and Metacognitive prompting. Our method provides a basis for the emergence of self-emotion in AI systems.
• Abstract（参考訳）: LLMをベースとしたエージェントの幅広い応用は、人間の社会的価値と強い整合性を必要とする。 しかし、現在の作品には、自己認識とジレンマ決定の欠陥や自己感情が残されている。 そこで本稿では,GraphRAGを用いた新しいバリューベースフレームワークを提案する。このフレームワークは,原則を価値ベースの命令に変換し,特定の会話コンテキスト上で適切な命令を検索することで,エージェントが期待通りに振る舞うようにする。 予測行動の比率を評価するために、我々は2つの有名な理論、Maslow's Hierarchy of NeedsとPlutchik's Wheel of Emotionから期待される行動を定義した。 提案手法をDAILYDILEMMASのベンチマークで実験することにより,ECoT,Plan-and-Solve,Metacognitive promptingなど,プロンプトベースのベースラインと比較して大きな性能向上を示した。 本手法は,AIシステムにおける自己感情の出現の基盤となる。

関連論文リスト

• Generative Psycho-Lexical Approach for Constructing Value Systems in Large Language Models [22.91793944714941]
  大規模言語モデル(LLM)は、その本質的な価値に関する懸念を提起している。 本研究は、生成心理学的アプローチ(GPLA)の導入によるギャップに対処する。 LLMに適した心理学的基礎を持つ5要素値システムを提案する。
  論文  参考訳（メタデータ） (2025-02-04T16:10:55Z)
• Benchmarks as Microscopes: A Call for Model Metrology [76.64402390208576]
  現代の言語モデル(LM)は、能力評価において新たな課題を提起する。 メトリクスに自信を持つためには、モデルミアロジの新たな規律が必要です。
  論文  参考訳（メタデータ） (2024-07-22T17:52:12Z)
• Training Socially Aligned Language Models on Simulated Social Interactions [99.39979111807388]
  AIシステムにおける社会的アライメントは、確立された社会的価値に応じてこれらのモデルが振舞うことを保証することを目的としている。 現在の言語モデル(LM)は、トレーニングコーパスを独立して厳格に複製するように訓練されている。 本研究は,シミュレートされた社会的相互作用からLMを学習することのできる,新しい学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-05-26T14:17:36Z)
• Heterogeneous Value Alignment Evaluation for Large Language Models [91.96728871418]
  大規模言語モデル(LLM)は、その価値を人間のものと整合させることを重要視している。 本研究では,LLMと不均一値の整合性を評価するため,不均一値アライメント評価(HVAE)システムを提案する。
  論文  参考訳（メタデータ） (2023-05-26T02:34:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。