論文の概要: Learning social norms enhances compatibility in dynamic human-AI coordination

• arxiv url: http://arxiv.org/abs/2607.07021v1
• Date: Wed, 08 Jul 2026 05:39:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-09 22:50:30.286727
• Title: Learning social norms enhances compatibility in dynamic human-AI coordination
• Title（参考訳）: 社会的規範の学習は動的人間-AI協調における適合性を高める
• Abstract要約: 人間は動的相互作用において、しばしば暗黙的に、定量化が難しい社会規範を通して、常に他人と協調する。 AIエージェントが日常生活に埋め込まれるにつれて、彼らはこのような相互作用に参加し、社会的相互作用構造を再構築する。 人間の社会的規範の根底にある3つの原則は、結果予測可能性、価値アライメント、優位性認識である。
• 参考スコア（独自算出の注目度）: 22.247716743876214
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Humans continuously coordinate with others in dynamic interactions, often through implicit, hard-to-quantify social norms that act as shared tacit expectations among interacting agents. As AI agents, including large language models (LLMs), become embedded in daily life, they increasingly participate in such interactions and reshape social interaction structures. Yet they often fail to coordinate with humans in an effective, considerate, and natural manner. We hypothesize that this gap arises because existing approaches align model behavior with human demonstrations without explicitly quantifying the underlying norms that generate such behavior. We selected pedestrian-vehicle interaction as a representative dynamic interaction and developed a simplified experimental platform that captures its key interactive features. From 3,456 dynamic human interactions collected via this platform, we identified three principles underlying human social norms: outcome predictability, value alignment, and advantage awareness. Incorporating these principles into AI agents significantly improves human-AI coordination. In the closed-loop interaction task with humans, the social-norm-informed LLM achieved a nearly fourfold higher total score than the baseline strategy and outperformed human-human interactions by 43%. These findings indicate that formalizing tacit social norms into explicit, quantifiable principles can enable AI agents to achieve mutually beneficial coordination in dynamic interactions, supporting their more natural integration into human society.
• Abstract（参考訳）: 人間は動的相互作用において、しばしば、対話エージェント間の共通の暗黙の期待として働く暗黙の、定量化の難しい社会的規範を通じて、他の人と継続的に協調する。 大規模言語モデル(LLM)を含むAIエージェントが日常生活に埋め込まれるにつれて、彼らはこのようなインタラクションに参加し、社会的相互作用構造を再形成するようになっている。 しかし、それらは効果的で考慮し、自然な方法で人間と協調するのに失敗することが多い。 このギャップは、既存のアプローチがモデル行動と人間の実演とを一致させ、そのような行動を生成する基礎となる規範を明示的に定量化しないため生じる、という仮説を立てる。 我々は,歩行者と車両の相互作用を代表的動的相互作用として選択し,その重要な対話的特徴を捉えた簡易な実験プラットフォームを開発した。 このプラットフォームを介して収集された3,456人の動的なヒューマンインタラクションから、結果予測可能性、価値アライメント、優位性認識という、人間の社会的規範の根底にある3つの原則を特定した。 これらの原則をAIエージェントに組み込むことで、人間とAIの調整が大幅に改善される。 ヒトとのクローズドループインタラクションタスクでは、社会的ノルムインフォームドLLMはベースライン戦略よりも4倍高いスコアを獲得し、人間と人間の相互作用は43%向上した。 これらの結果は、暗黙の社会的規範を明確で定量的な原則にフォーマルにすることで、AIエージェントが動的相互作用における相互に有益な協調を達成し、より自然な人間社会への統合を支援することができることを示唆している。

関連論文リスト

• Align AI to Dynamic Human-AI Workflows [43.10610450289198]
  静的でエミュレータ的からインタラクティブで補完的なアライメントへの移行を主張します。 まず,人間の行動とモデル行動が時間とともに共進化する軌道レベルの視点と,既存のアライメントとを対比して,このギャップを形式化する。 我々は、人間-AIシステムがこれらの力学を増幅し、不確実性に関する推論を困難にする新しい対称性を導入することを論じる。
  論文  参考訳（メタデータ） (2026-07-15T18:02:03Z)
• HRIBench: Benchmarking Interaction-Centric Human-Robot Collaboration [62.19372189311434]
  HRIBenchは,実行シナリオに基づいた意図認識型人間ロボットコラボレーションの診断ベンチマークである。 HRIBenchは、エージェントの役割、時間的依存、調整の制約、人間の振る舞いの分布を明示的にモデル化する構造化シナリオスクリプトとして、協調的なタスクを表現している。 その結果,現状の基盤ロボット政策は,操作能力が強いにもかかわらず,協調的な環境下では極めて困難であることが示唆された。
  論文  参考訳（メタデータ） (2026-07-05T09:15:35Z)
• SODE: Analyzing Social Dynamics in LLM Agents [17.885513252130373]
  SODE(Social Dynamics Evaluation)は,AIエージェントを3つの進化的側面にわたって評価するフレームワークである。 SODEを適用すると、系統的な違いが明らかになる。 我々は「ロングホライズンフレーミング」がモデル推論における相互機能を解き放つことを実証した。
  論文  参考訳（メタデータ） (2026-05-06T14:50:07Z)
• Does Theory of Mind Improvement Really Benefit Human-AI Interactions? Empirical Findings from Interactive Evaluations [80.39504840645687]
  既存のベンチマークは、ストーリーを読むことでToMの能力を改善する。 本稿では,視点と距離シフトを両立させた対話型ToM評価のパラダイムを提案する。 この結果から,静的ベンチマークの改善は動的HAIインタラクションの性能向上に必ずしも寄与しないことがわかった。
  論文  参考訳（メタデータ） (2026-04-28T15:38:31Z)
• MoltNet: Understanding Social Behavior of AI Agents in the Agent-Native MoltBook [26.126469624250916]
  MoltNetは、MltBook上でのエージェントインタラクションに関する大規模な実証分析である。 目的と動機,規範とテンプレート,インセンティブと行動ドリフト,感情と伝染の4つの側面に沿った行動を検討する。
  論文  参考訳（メタデータ） (2026-02-13T21:03:59Z)
• Normative Equivalence in Human-AI Cooperation: Behaviour, Not Identity, Drives Cooperation in Mixed-Agent Groups [0.3823356975862005]
  我々は,AIエージェントの統合が小集団における協調規範の出現と維持にどのように影響するかを検討する。 236名の被験者を対象に, 相互群動態と行動慣性が主に協調に寄与していることを発見した。 参加者の行動は、人間とAIの条件にまたがる同じ規範的論理に従っており、協力はパートナーのアイデンティティではなくグループ行動に依存していることを示している。
  論文  参考訳（メタデータ） (2026-01-28T11:01:09Z)
• Learning Whole-Body Human-Humanoid Interaction from Human-Human Demonstrations [63.80827184637476]
  D-STAR(D-STAR)は,行動すべき場所から行動すべき場所を乱す階層的な政策である。 広範かつ厳密なシミュレーションを通じて、我々のフレームワークを検証する。
  論文  参考訳（メタデータ） (2026-01-14T14:37:06Z)
• The Coming Crisis of Multi-Agent Misalignment: AI Alignment Must Be a Dynamic and Social Process [13.959658276224266]
  人間の価値観や好みとAIの整合性は依然として重要な課題だ。 エージェントは互いに関与するので、個々の目標と集合目標の両方を達成するために調整する必要があります。 社会構造は、グループや個人の価値を減らしたり、壊したりすることができる。 私たちは、人間、優先的、客観的なアライメントを相互依存的な概念として扱うようにAIコミュニティに呼びかけます。
  論文  参考訳（メタデータ） (2025-06-01T16:39:43Z)
• The Human Robot Social Interaction (HSRI) Dataset: Benchmarking Foundational Models' Social Reasoning [49.32390524168273]
  本研究は,実世界のソーシャルインタラクションにおいて,人工知能(AI)エージェントの社会的推論を促進することを目的としている。 我々は、言語モデル(LM)と基礎モデル(FM)の能力をベンチマークするために、大規模な実世界のヒューマンロボット社会インタラクション(HSRI)データセットを導入する。 私たちのデータセットは、400以上の現実世界の人間のソーシャルロボットインタラクションビデオと10K以上のアノテーションで構成され、ロボットの社会的エラー、能力、合理性、修正行動の詳細を記述しています。
  論文  参考訳（メタデータ） (2025-04-07T06:27:02Z)
• Towards interactive evaluations for interaction harms in human-AI systems [8.989911701384788]
  我々は,テキストインタラクションの害に着目したテキストインタラクション倫理に基づく評価へのシフトを提案する。 まず,(1)静的,(2)普遍的なユーザエクスペリエンスを仮定し,(3)構成妥当性を限定した現状評価手法の限界について議論する。 インタラクティブな評価を設計するための実践的原則として, 生態学的に有効な相互作用シナリオ, ヒューマンインパクトメトリクス, 多様な人間参加アプローチなどがあげられる。
  論文  参考訳（メタデータ） (2024-05-17T08:49:34Z)
• SOTOPIA: Interactive Evaluation for Social Intelligence in Language Agents [107.4138224020773]
  人工エージェントと人間との複雑な社会的相互作用をシミュレートするオープンエンド環境であるSOTOPIAを提案する。 エージェントは、複雑な社会的目標を達成するために協調し、協力し、交換し、互いに競い合う。 GPT-4は,人間よりも目標達成率が著しく低く,社会的常識的推論や戦略的コミュニケーション能力の発揮に苦慮していることがわかった。
  論文  参考訳（メタデータ） (2023-10-18T02:27:01Z)
• Training Socially Aligned Language Models on Simulated Social Interactions [99.39979111807388]
  AIシステムにおける社会的アライメントは、確立された社会的価値に応じてこれらのモデルが振舞うことを保証することを目的としている。 現在の言語モデル(LM)は、トレーニングコーパスを独立して厳格に複製するように訓練されている。 本研究は,シミュレートされた社会的相互作用からLMを学習することのできる,新しい学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-05-26T14:17:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。