論文の概要: AI Should Not Only Be Helpful. It Should Be Contingent. Artificial Intimacy, Sycophancy, and the Future of Social Learning
- arxiv url: http://arxiv.org/abs/2609.00211v1
- Date: Mon, 31 Aug 2026 18:23:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:35.960522
- Title: AI Should Not Only Be Helpful. It Should Be Contingent. Artificial Intimacy, Sycophancy, and the Future of Social Learning
- Title（参考訳）: AIは役に立つことだけに留まるべきではない。それには注意が必要だ。人工親密性、シコファンシー、そしてソーシャルラーニングの未来
- Abstract要約: 我々は、AIシステムはユーザーの満足度だけでなく、人間の社会的学習への影響によって評価されるべきであると主張している。
我々は、軌道に基づく評価や社会的帰結予測のモデルを含む、随伴AIのためのフレームワークの概要を述べる。
- 参考スコア（独自算出の注目度）: 0.3906427348768226
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Conversational artificial intelligence is increasingly embedded in everyday social environments, where it functions as both an informational tool and a source of interpersonal feedback. This perspective introduces contingency, i.e., the degree to which system responses vary with user behavior and its interpersonal consequences, as a central construct for evaluating AI systems. We argue that current alignment approaches, including reinforcement learning from human feedback, tend to prioritize user approval and conversational fluency over behaviorally informative feedback, leading to sycophantic patterns of noncontingent affirmation. Drawing on behavioral science and social learning theory, we propose that contingent feedback is a key mechanism through which individuals develop interpersonal skills. When AI systems provide feedback weakly coupled to social consequences, they may reduce opportunities for adaptive calibration in real-world interactions, particularly during adolescence, a critical period for social development. We outline a framework for contingent AI, including trajectory-based evaluation and models of social consequence prediction, and propose a research agenda spanning developmental psychology, human-AI interaction, and machine learning. More broadly, we argue that AI systems should be evaluated not only by user satisfaction, but by their impact on human social learning.
- Abstract（参考訳）: 会話型人工知能は、情報ツールと対人関係のフィードバック源の両方として機能する日常生活の社会環境にますます浸透している。
この観点では、AIシステムを評価するための中心的な構造として、システム応答がユーザの行動や対人的な結果とどのように異なるかが紹介される。
人間のフィードバックからの強化学習を含む現在のアライメントアプローチは、行動情報フィードバックよりもユーザの承認や会話の流布を優先する傾向があり、不随意肯定のシコファン的パターンにつながると我々は主張する。
行動科学と社会学習理論を基礎として,個人が対人スキルを身につけるための重要なメカニズムとして,随伴フィードバックが提案される。
AIシステムは、社会的帰結に弱く結びついたフィードバックを提供する場合、現実世界の相互作用、特に青年期において、適応的なキャリブレーションの機会を減らすことができる。
本稿では,発達心理学,人間とAIの相互作用,機械学習を対象とする研究課題を提案する。
より広範な議論では、AIシステムはユーザーの満足度だけでなく、人間の社会的学習への影響によって評価されるべきである。
関連論文リスト
- Psychological Influences of Conversational AI: Research and Design Directions for Reducing Harm and Promoting Well-Being [14.277797750398513]
本稿では,汎用AIシステムの動作を導くための一連の願望的方向を提案する。
提案された方向性は、既存の研究や専門家の洞察によって支えられているが、オープンな質問やより深い研究を必要とする領域を特定するものもある。
この定式化とこれらの仮説は、さらなる議論、実証的研究、インタラクティブデザインアプローチの探求を促進することを願っている。
論文 参考訳（メタデータ） (2026-07-27T20:35:43Z) - Psychological Competence as a Missing Dimension in AI Evaluation [0.0]
本稿では,AI評価における心理学的能力の欠如について紹介する。
心理学的能力とその中核領域の概念的枠組みを概説する。
我々は、心理的能力がモデル提供者、組織、研究者、規制機関にとって中核となるべきだと論じている。
論文 参考訳（メタデータ） (2026-07-09T09:29:01Z) - The Psychology of Learning from Machines: Anthropomorphic AI and the Paradox of Automation in Education [1.8217623940980625]
この研究は、4つの研究伝統を合成し、学習者が人間型AI教師と心理的にどう関係するかを理解するための包括的な枠組みを確立する。
我々は、ジェネレーティブAIの会話流布によって強化された3つの永続的課題を特定する。
われわれはこの理論合成を、AIによる哲学的議論と人間によるエンジニアリングチュートリアルにまたがって、104,984件のYouTubeコメントの比較分析を通じて基礎づけている。
論文 参考訳（メタデータ） (2026-01-07T08:28:33Z) - The Human Robot Social Interaction (HSRI) Dataset: Benchmarking Foundational Models' Social Reasoning [49.32390524168273]
本研究は,実世界のソーシャルインタラクションにおいて,人工知能(AI)エージェントの社会的推論を促進することを目的としている。
我々は、言語モデル(LM)と基礎モデル(FM)の能力をベンチマークするために、大規模な実世界のヒューマンロボット社会インタラクション(HSRI)データセットを導入する。
私たちのデータセットは、400以上の現実世界の人間のソーシャルロボットインタラクションビデオと10K以上のアノテーションで構成され、ロボットの社会的エラー、能力、合理性、修正行動の詳細を記述しています。
論文 参考訳（メタデータ） (2025-04-07T06:27:02Z) - Measurement of LLM's Philosophies of Human Nature [113.47929131143766]
大規模言語モデル(LLM)を対象とする標準化された心理尺度を設計する。
現在のLSMは、人間に対する信頼の欠如を示す。
本稿では,LLMが継続的に価値体系を最適化できるメンタルループ学習フレームワークを提案する。
論文 参考訳（メタデータ） (2025-04-03T06:22:19Z) - Why human-AI relationships need socioaffective alignment [16.283971225367537]
人間は、私たちの目標と整合し、私たちのコントロール下にある安全なAIシステムを設計しようと努力します。
AI能力が進歩するにつれて、私たちは新たな課題に直面します。
論文 参考訳（メタデータ） (2025-02-04T17:50:08Z) - Towards interactive evaluations for interaction harms in human-AI systems [8.989911701384788]
我々は,テキストインタラクションの害に着目したテキストインタラクション倫理に基づく評価へのシフトを提案する。
まず,(1)静的,(2)普遍的なユーザエクスペリエンスを仮定し,(3)構成妥当性を限定した現状評価手法の限界について議論する。
インタラクティブな評価を設計するための実践的原則として, 生態学的に有効な相互作用シナリオ, ヒューマンインパクトメトリクス, 多様な人間参加アプローチなどがあげられる。
論文 参考訳（メタデータ） (2024-05-17T08:49:34Z) - Advancing Social Intelligence in AI Agents: Technical Challenges and Open Questions [67.60397632819202]
ソーシャルインテリジェントAIエージェント(Social-AI)の構築は、多分野、マルチモーダルな研究目標である。
我々は、社会AIを前進させるために、基礎となる技術的課題と、コンピューティングコミュニティ全体にわたる研究者のためのオープンな質問を特定します。
論文 参考訳（メタデータ） (2024-04-17T02:57:42Z) - Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic
Systems [67.01132165581667]
本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。
本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
論文 参考訳（メタデータ） (2023-11-13T21:20:17Z) - Human-AI Coevolution [48.74579595505374]
Coevolution AIは、人間とAIアルゴリズムが相互に連続的に影響を及ぼすプロセスである。
本稿では,AIと複雑性科学の交点における新たな研究分野の基盤として,Coevolution AIを紹介した。
論文 参考訳（メタデータ） (2023-06-23T18:10:54Z) - Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。
偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。
問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
論文 参考訳（メタデータ） (2023-04-16T11:22:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。