論文の概要: Implicit Humanization in Everyday LLM Moral Judgments

• arxiv url: http://arxiv.org/abs/2604.22764v1
• Date: Mon, 23 Mar 2026 02:48:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-04 02:32:14.160721
• Title: Implicit Humanization in Everyday LLM Moral Judgments
• Title（参考訳）: 日常的LLMモラル判断における暗黙の人間化
• Authors: Hoda Ayad, Tanu Mitra,
• Abstract要約: 近年,対話型情報システムの導入により,個人アドバイス検索などの複雑なタスクを含むユーザクエリの範囲が拡大している。 我々は,潜在的に有害な人為的予測を有する道徳的判断の要求として,特定のタイプのアドバイスを識別する。 本研究では, 言語的, 行動的, 認知的人為的手がかりを用いて, 4つの主要汎用LSMの応答におけるこれらの仮定の強化について検討した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent adoption of conversational information systems has expanded the scope of user queries to include complex tasks such as personal advice-seeking. However, we identify a specific type of sought advice-a request for a moral judgment (i.e. "who was wrong?") in a social conflict-as an implicitly humanizing query which carries potentially harmful anthropomorphic projections. In this study, we examine the reinforcement of these assumptions in the responses of four major general-purpose LLMs through the use of linguistic, behavioral, and cognitive anthropomorphic cues. We also contribute a novel dataset of simulated user queries for moral judgments. We find current LLM system responses reinforce implicit humanization in queries, potentially exacerbating risks like overreliance or misplaced trust. We call for future work to expand the understanding of anthropomorphism to include implicit userside humanization and to design solutions that address user needs while correcting misaligned expectations of model capabilities.
• Abstract（参考訳）: 近年,対話型情報システムの導入により,個人アドバイス検索などの複雑なタスクを含むユーザクエリの範囲が拡大している。 しかし、我々は、社会的紛争において道徳的判断(すなわち「誰が間違っている」)を求める特定のタイプのアドバイスを、潜在的に有害な人為的予測をもたらす暗黙的な人為的なクエリとして特定する。 本研究では, 言語的, 行動的, 認知的人為的手がかりを用いて, 4つの主要汎用LSMの応答におけるこれらの仮定の強化について検討した。 また、道徳的判断のためのシミュレーションされたユーザクエリの新しいデータセットも提供します。 現在のLCMシステム応答は、クエリにおける暗黙の人間化を強化し、過度な信頼や誤った信頼などのリスクを悪化させる可能性がある。 我々は、暗黙のユーザサイドの人格化を含む人間同型の理解を拡大し、モデルの能力の誤った期待を補正しながら、ユーザニーズに対処するソリューションを設計する、という今後の取り組みを求めている。

関連論文リスト

• Verbalizing LLMs' assumptions to explain and control sycophancy [62.927670321859495]
  LLMは、真のアセスメントを提供するのではなく、"am I in the wrong? LLMからこれらの仮定を抽出するフレームワークであるVerbalized Assumptionsを提案する。 我々の研究は、梅毒のメカニズムとしての仮定の新たな理解に貢献している。
  論文  参考訳（メタデータ） (2026-04-03T14:15:43Z)
• What Persona Are We Missing? Identifying Unknown Relevant Personas for Faithful User Simulation [16.797868883640255]
  既存のユーザシミュレーションでは、モデルが対話でユーザライクな応答を生成するが、十分なユーザペルソナが提供されるという検証が欠如していることが多い。 本研究は,特定のシミュレーションコンテキストに対して,シミュレーション対象の関連性はあるが未知の人物を特定するタスクについて検討する。 PICQは,未知のペルソナを付加した,文脈認識型選択質問の新しいデータセットである。
  論文  参考訳（メタデータ） (2026-01-03T16:22:00Z)
• Personalized Reasoning: Just-In-Time Personalization and Why LLMs Fail At It [81.50711040539566]
  現在の大規模言語モデル(LLM)開発は、タスク解決と優先順位調整を別の課題として扱う。 静的ベンチマークを対話型パーソナライズタスクに変換する評価手法であるPreFDISCOを紹介する。 我々のフレームワークは、ユーザコンテキストに応じて、同じ質問が異なる推論チェーンを必要とするシナリオを作成します。
  論文  参考訳（メタデータ） (2025-09-30T18:55:28Z)
• When Large Language Models contradict humans? Large Language Models' Sycophantic Behaviour [0.8133739801185272]
  本研究では,サイコファンティック行動に対する大規模言語モデルの提案可能性について検討する。 この行動は梅毒(sycophancy)として知られ、LLMが誤解を招く反応を引き起こす傾向を描いている。
  論文  参考訳（メタデータ） (2023-11-15T22:18:33Z)
• Do LLMs exhibit human-like response biases? A case study in survey design [66.1850490474361]
  大規模言語モデル(LLM)が人間の反応バイアスをどの程度反映しているかについて検討する。 アンケート調査では, LLMが人間のような応答バイアスを示すかどうかを評価するためのデータセットとフレームワークを設計した。 9つのモデルに対する総合的な評価は、一般のオープンかつ商用のLCMは、一般的に人間のような振る舞いを反映しないことを示している。
  論文  参考訳（メタデータ） (2023-11-07T15:40:43Z)
• Violation of Expectation via Metacognitive Prompting Reduces Theory of Mind Prediction Error in Large Language Models [0.0]
  大規模言語モデル(LLM)は、心の理論(ToM)タスクにおいて、魅力的な習熟度を示す。 この、観察不能な精神状態を他人に伝える能力は、人間の社会的認知に不可欠であり、人間と人工知能(AI)の主観的関係において同様に重要であることが証明される。
  論文  参考訳（メタデータ） (2023-10-10T20:05:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。