論文の概要: Beyond Right and Wrong: Evaluating Second-order Social Reasoning in Large Language Models

• arxiv url: http://arxiv.org/abs/2609.05437v1
• Date: Fri, 17 Jul 2026 19:30:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.473433
• Title: Beyond Right and Wrong: Evaluating Second-order Social Reasoning in Large Language Models
• Title（参考訳）: 右と間違えを超えて:大規模言語モデルにおける2階社会的推論の評価
• Abstract要約: 本稿では,メタノルム推論を大規模言語モデルで評価するための新しいフレームワークを提案する。 我々は、規範違反のシナリオ450件のデータセットを公開し、規範違反者の性別と観察者の社会的近さにまたがる感情と行動反応を手書きした。
• 参考スコア（独自算出の注目度）: 7.382375490034197
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Previous AI alignment efforts have focused primarily on first-order social norms -- teaching models what is socially acceptable or unacceptable (e.g., `do not steal'). However, social intelligence depends not only on norm recognition, but also on anticipating who will enforce it and how (e.g., public shame or even imprisonment). These second-order expectations, known as metanorms, govern how people respond when social rules are broken. We introduce a novel framework for evaluating metanorm reasoning in Large Language Models (LLMs) along two dimensions: emotional appraisal and behavioral response, and propose new classification tasks, namely, predicting self-regulation in violators, and other-regulation in observers. We release a multi-perspective dataset, NormReact, of 450 norm violation scenarios, hand-annotated for emotions and behavioral responses across norm violators' gender and observers' social closeness. Current LLMs portray a harsher social world: across six models, they overpredict negative sanctions where humans would expect inaction, and alignment with human judgments deteriorates as social distance increases. These findings suggest that AI systems in norm-sensitive domains from conflict mediation to policy simulation, may risk producing a distorted picture of social regulation: one that over-represents punishment and under-represents the tolerance, restraint, and relational calibration that characterize actual norm enforcement in real world.
• Abstract（参考訳）: 以前のAIアライメントの取り組みは、主に一階の社会的規範 – 社会的に受け入れられない、あるいは受け入れられないもの(例:『盗むな』)を教えるモデルに焦点を合わせてきた。 しかし、社会的知性は、通常の認識だけでなく、誰がそれを強制するか、どのように(例えば、公の恥や投獄さえ)を予想することにも依存する。 メタノルムとして知られるこの2階の期待は、社会的規則が破られたときの人々の反応を左右する。 本稿では,大規模言語モデル(LLM)におけるメタノルム推論(メタノルム推論)を,感情的評価と行動応答の2つの側面に沿って評価するための新しい枠組みを提案する。 我々は,450件の規範違反シナリオのマルチパースペクティブデータセットであるNormReactをリリースした。 現行のLLMは、より厳しい社会世界を描写している:6つのモデルにおいて、人間が不作用を期待する負の制裁を過度に予測し、社会的距離が増加するにつれて、人間の判断との整合性は悪化する。 これらの結果は、紛争調停から政策シミュレーションまで、規範に敏感な領域におけるAIシステムは、社会規制の歪んだイメージを生み出すリスクがあることを示唆している。

関連論文リスト

• SCENE: Recognizing Social Norms and Sanctioning in Group Chats [0.0]
  マルチパーティチャットにおける暗黙の規範と社会的制裁に焦点を当てたソーシャルインタラクションベンチマークであるSCENEを紹介する。 SCENEは、隠された規範に従うスクリプト付きペルソナで、もっともらしい非ロールプレイシナリオを生成する。 本稿では,2つの機能適応能力に対する行動評価指標を提案する。
  論文  参考訳（メタデータ） (2026-05-08T14:53:04Z)
• Explainable Ethical Assessment on Human Behaviors by Generating Conflicting Social Norms [25.931377041506455]
  我々は,有病率予測と説明力を高めるための新しい倫理的評価手法であるtextitEthicを紹介する。 提案手法は,強いベースラインアプローチよりも優れており,人的評価により,生成した社会的規範が妥当な説明を提供することを確認した。
  論文  参考訳（メタデータ） (2025-12-16T09:04:42Z)
• EgoNormia: Benchmarking Physical Social Norm Understanding [52.87904722234434]
  EGONORMIAは、安全性、プライバシ、プロキシ、丁寧さ、協力性、コーディネーション/プロアクティビティ、コミュニケーション/レポータビリティの7つの標準カテゴリにまたがる。 我々の研究は、現在の最先端のビジョン言語モデル(VLM)は、堅固な標準理解が欠如していることを示し、EGONORMIAでは最大54%、EGONORMIAでは65%と評価された。
  論文  参考訳（メタデータ） (2025-02-27T19:54:16Z)
• Training Socially Aligned Language Models on Simulated Social Interactions [99.39979111807388]
  AIシステムにおける社会的アライメントは、確立された社会的価値に応じてこれらのモデルが振舞うことを保証することを目的としている。 現在の言語モデル(LM)は、トレーニングコーパスを独立して厳格に複製するように訓練されている。 本研究は,シミュレートされた社会的相互作用からLMを学習することのできる,新しい学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-05-26T14:17:36Z)
• Aligning to Social Norms and Values in Interactive Narratives [89.82264844526333]
  我々は、インタラクティブな物語やテキストベースのゲームにおいて、社会的に有益な規範や価値観に沿って行動するエージェントを作成することに注力する。 我々は、特別な訓練を受けた言語モデルに存在する社会的コモンセンス知識を用いて、社会的に有益な値に整合した行動にのみ、その行動空間を文脈的に制限するGAALADエージェントを紹介した。
  論文  参考訳（メタデータ） (2022-05-04T09:54:33Z)
• Noe: Norms Emergence and Robustness Based on Emotions in Multiagent Systems [0.0]
  本稿では,モデリング感情が社会規範の出現と堅牢性に与える影響について,社会シミュレーション実験を通じて検討する。 標準満足度と違反の結果に対する感情的反応をエージェントが考慮できる能力は、規範遵守を促進する。
  論文  参考訳（メタデータ） (2021-04-30T14:42:22Z)
• Moral Stories: Situated Reasoning about Norms, Intents, Actions, and their Consequences [36.884156839960184]
  現代のNLGモデルが社会環境にデプロイされたシステムの行動優先度として機能するかどうかを検討する。 本研究では,「モラルストーリー」という,階層的,分枝的なナラティブのクラウドソーシングデータセットを導入し,基礎的,目標指向の社会推論の研究を行う。
  論文  参考訳（メタデータ） (2020-12-31T17:28:01Z)
• Social Chemistry 101: Learning to Reason about Social and Moral Norms [73.23298385380636]
  我々は、人々の日常的な社会的規範と道徳的判断を研究するための新しい概念的形式主義である社会化学を提示する。 Social-Chem-101は大規模なコーパスで292Kのルールをカタログ化している。 モデルフレームワークであるNeural Norm Transformerは、Social-Chem-101を学習し、一般化し、これまで見つからなかった状況の推論に成功した。
  論文  参考訳（メタデータ） (2020-11-01T20:16:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。