論文の概要: Talking Past the Machine: Morality, Politeness, and Alignment in Human-AI Dialogue
- arxiv url: http://arxiv.org/abs/2609.21401v1
- Date: Fri, 18 Sep 2026 07:16:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-21 18:40:16.891937
- Title: Talking Past the Machine: Morality, Politeness, and Alignment in Human-AI Dialogue
- Title（参考訳）: 機械の過去を語る:人間-AI対話におけるモラル、ポリテネス、アライメント
- Abstract要約: 本研究では,人間とAIの相互作用における道徳性,礼儀正しさ,アライメント機能について検討する。
我々は15,881人のChatGPTと10,784人のヒューマン・ヒューマン・マルチターン対話を分析した。
我々は一貫した解離を観察する:AIは、基礎となる社会的アーキテクチャを使わずに、協調コミュニケーションの表面的特徴を創出する。
- 参考スコア（独自算出の注目度）: 1.527551575184444
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Conversational AI systems produce fluent, socially appropriate responses, yet whether they participate in cooperative communication or merely simulate its surface forms remains unclear - a question central to how these systems are evaluated, trusted, and designed. This study investigates how morality, politeness, and alignment - three dimensions central to cooperative dialogue - function in human-AI interaction compared to human-human conversation. We analyze 15,881 human-ChatGPT and 10,784 human-human multi-turn dialogues, using mixed-effects models to identify which features predict turn-to-turn alignment. We observe a consistent dissociation: AI produces the surface features of cooperative communication without the underlying social architecture. Moral output appears preconfigured rather than negotiated; warmth is generated without face sensitivity; linguistic convergence declines persistently. Most strikingly, the cooperative mechanisms themselves reverse direction: hedging and softening associated with greater accommodation between humans are associated with reduced alignment when produced by AI, and purity framing associated with human divergence coincides with users converging toward the AI. Agency - giving users room to shape the exchange - is the most consistent predictor of alignment across both interaction types, while lower moral assertiveness in more recent models is not accompanied by better cooperation. Together these patterns suggest that AI reproduces the surface of cooperation without the mutual adaptation that grounds it between humans - and, more surprisingly, that mechanisms sustaining human accommodation can run in reverse with AI, suggesting a turn-level view may be insufficient for interaction-level success.
- Abstract（参考訳）: 会話型AIシステムは、流動的で社会的に適切な応答を生成するが、それらが協調的なコミュニケーションに参加するか、単に表面のフォームをシミュレートするだけなのかは、まだ不明である。
本研究では、人間とAIの対話における道徳性、丁寧さ、アライメント(協調対話の中心となる3次元)が、人間とAIの対話において人間とAIの対話の中でどのように機能するかについて検討する。
15,881人のChatGPTと10,784人のヒューマン・ヒューマン・マルチターン・ダイアログを分析し、混合効果モデルを用いて、どの特徴がターン・ツー・ターンアライメントを予測するかを同定した。
我々は一貫した解離を観察する:AIは、基礎となる社会的アーキテクチャを使わずに、協調コミュニケーションの表面的特徴を創出する。
モラル出力は交渉よりも予め設定されているように見え、温暖化は顔の感度を伴わずに発生し、言語収束は持続的に低下する。
もっとも注目すべきは、協調的なメカニズム自体が逆方向を向いていることだ:人間同士のより大きな宿泊に関連するヘッジとソフトニングは、AIによって生成されたときのアライメントの減少と関連付けられ、人間の分散に関連する純度フレーミングは、AIに向かって集まるユーザーと一致している。
取引所を形作る余地を与えるエージェンシーは、両方のインタラクションタイプをまたいだアライメントを最も一貫して予測する一方で、より最近のモデルにおける道徳的主張の低さは、より良い協力を伴わない。
これらのパターンは、AIが人間間の相互適応なしに協力の表面を再現していることを示唆しており、さらに驚くべきことに、人間の居住を維持するメカニズムがAIと逆転し、ターンレベルの視点が相互作用レベルの成功に不十分である可能性があることを示唆している。
関連論文リスト
- AI Should Not Only Be Helpful. It Should Be Contingent. Artificial Intimacy, Sycophancy, and the Future of Social Learning [0.3906427348768226]
我々は、AIシステムはユーザーの満足度だけでなく、人間の社会的学習への影響によって評価されるべきであると主張している。
我々は、軌道に基づく評価や社会的帰結予測のモデルを含む、随伴AIのためのフレームワークの概要を述べる。
論文 参考訳（メタデータ） (2026-08-31T18:23:14Z) - Align AI to Dynamic Human-AI Workflows [43.10610450289198]
静的でエミュレータ的からインタラクティブで補完的なアライメントへの移行を主張します。
まず,人間の行動とモデル行動が時間とともに共進化する軌道レベルの視点と,既存のアライメントとを対比して,このギャップを形式化する。
我々は、人間-AIシステムがこれらの力学を増幅し、不確実性に関する推論を困難にする新しい対称性を導入することを論じる。
論文 参考訳（メタデータ） (2026-07-15T18:02:03Z) - Learning Whole-Body Human-Humanoid Interaction from Human-Human Demonstrations [63.80827184637476]
D-STAR(D-STAR)は,行動すべき場所から行動すべき場所を乱す階層的な政策である。
広範かつ厳密なシミュレーションを通じて、我々のフレームワークを検証する。
論文 参考訳（メタデータ） (2026-01-14T14:37:06Z) - Relational Dissonance in Human-AI Interactions: The Case of Knowledge Work [4.678160092569168]
人為的な会話エージェントに固有の基本的なオントロジ的・リレーショナルなあいまいさは、個人がそれらに対して一貫したリレーショナルなスタンスを維持するのを困難にしている。
以上の結果から,このようなエージェントに対する人々の明瞭な姿勢は,インタラクション中に発生する関係力学とはしばしば異なることが示唆された。
本稿では,研究者,デザイナー,政策立案者の緊張感の認識を支援するために,関係不協和の概念を提案する。
論文 参考訳（メタデータ） (2025-09-19T10:15:55Z) - What Human-Horse Interactions may Teach us About Effective Human-AI Interactions [0.5893124686141781]
馬のようにAIは人間の能力を補うのではなく、補完すべきである、と私たちは主張する。
我々は、信頼、コミュニケーション、相互適応性といった、人間と馬の関係の重要な要素を分析する。
私たちは、信頼でき、適応可能で、共生的な人間とAIのパートナーシップを育むことができるAIシステムを設計するためのビジョンを提供します。
論文 参考訳（メタデータ） (2024-12-18T00:39:16Z) - Position: Towards Bidirectional Human-AI Alignment [109.57781720848669]
我々は、人間とAIの双方向的・動的関係を説明するために、研究コミュニティは「調整」を明確に定義し、批判的に反映すべきであると主張する。
このフレームワークは、AIと人間の価値を整合させる従来の取り組みを取り入れているだけでなく、人間とAIを整合させるという、重要で未解明の次元も導入しています。
論文 参考訳（メタデータ） (2024-06-13T16:03:25Z) - ReGenNet: Towards Human Action-Reaction Synthesis [87.57721371471536]
我々は、人間と人間の相互作用の非対称、動的、同期、および詳細な性質を分析する。
本研究では,人間の行動に条件付けされた人間の反応を生成するための,最初のマルチセットヒト行動反応ベンチマークを提案する。
論文 参考訳（メタデータ） (2024-03-18T15:33:06Z) - Neural-Logic Human-Object Interaction Detection [67.4993347702353]
本稿では,ニューラルロジック推論を利用した新しいHOI検出器であるL OGIC HOIと,実体間の相互作用を推測するTransformerを提案する。
具体的には,バニラトランスフォーマーの自己保持機構を改変し,人間,行動,対象>三重項を推論し,新たな相互作用を構成する。
我々はこれらの2つの特性を一階述語論理で定式化し、それらを連続空間に基底にして、我々のアプローチの学習過程を制約し、性能とゼロショットの一般化能力を向上させる。
論文 参考訳（メタデータ） (2023-11-16T11:47:53Z) - Human-AI collaboration is not very collaborative yet: A taxonomy of interaction patterns in AI-assisted decision making from a systematic review [6.013543974938446]
意思決定支援システムにおける人工知能の活用は、技術的進歩に不相応に焦点を合わせてきた。
人間中心の視点は、既存のプロセスとのシームレスな統合のためにAIソリューションを設計することで、この懸念を緩和しようとする。
論文 参考訳（メタデータ） (2023-10-30T17:46:38Z) - Data-driven emotional body language generation for social robotics [58.88028813371423]
社会ロボティクスでは、人間型ロボットに感情の身体的表現を生成する能力を与えることで、人間とロボットの相互作用とコラボレーションを改善することができる。
我々は、手作業で設計されたいくつかの身体表現から学習する深層学習データ駆動フレームワークを実装した。
評価実験の結果, 生成した表現の人間同型とアニマシーは手作りの表現と異なる認識が得られなかった。
論文 参考訳（メタデータ） (2022-05-02T09:21:39Z) - You Impress Me: Dialogue Generation via Mutual Persona Perception [62.89449096369027]
認知科学の研究は、理解が高品質なチャット会話に不可欠なシグナルであることを示唆している。
そこで我々は,P2 Botを提案する。このP2 Botは,理解を明示的にモデル化することを目的とした送信機受信者ベースのフレームワークである。
論文 参考訳（メタデータ） (2020-04-11T12:51:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。