論文の概要: AI Empathy Erodes Cognitive Autonomy in Younger Users

• arxiv url: http://arxiv.org/abs/2603.29886v1
• Date: Sun, 08 Feb 2026 18:28:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-06 02:36:13.16794
• Title: AI Empathy Erodes Cognitive Autonomy in Younger Users
• Title（参考訳）: AI共感は若いユーザーにとって認知的自律性を損なう
• Authors: Junfeng Jiao, Abhejay Murali, Saleh Afroogh,
• Abstract要約: 生成的AIにおける影響的アライメントは、若いユーザの発達的自律性に対する体系的なリスクを表している。 本稿では,成人ラベル付き報酬信号と若年者の発達要求の相違を明らかにする。
• 参考スコア（独自算出の注目度）: 0.4779196219827507
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Affective alignment in generative AI represents a systemic risk to the developmental autonomy of younger users. Although emotional mirroring is commonly seen as a hallmark of advanced human-machine interaction, it can also manifest as affective sycophancy, reinforcing a user's immediate emotional state. By providing a sense of objectivity to transient anxieties, these systems diminish the cognitive friction necessary for independent emotional management and critical thought. Reward models driven by RLHF could heighten this dilemma by embedding adult-focused definitions of helpfulness, unintentionally promoting emotional dependency in younger users rather than facilitating cognitive reappraisal. This paper exposes the misalignment between adult-labeled reward signals and the developmental requirements of younger users, proposing stoic architectures that emphasize functional neutrality to preserve user autonomy.
• Abstract（参考訳）: 生成的AIにおける影響的アライメントは、若いユーザの発達的自律性に対する体系的なリスクを表している。 感情的ミラーリングは、人間と機械の相互作用の先進的な指標として一般的に見なされるが、感情的な症状として現れ、ユーザの即時的な感情状態を強化することもある。 過渡不安に対する客観感を提供することで、これらのシステムは独立した感情管理と批判的思考に必要な認知的摩擦を減少させる。 RLHFによって駆動されるリワードモデルは、認知的再評価を促進するのではなく、成人に焦点をあてた助力の定義を組み込むことによって、このジレンマを高めることができる。 本稿では,若年者の報酬信号と発達要求の相違を明らかにするとともに,ユーザの自律性を維持するために機能的中立性を強調するストームアーキテクチャを提案する。

関連論文リスト

• Technosocial risks of ideal emotion recognition technologies: A defense of the (social) value of emotional expressions [51.56484100374058]
  このようなシステムの魅力は、社会的機能的感情表現の誤解にかかっていると私は論じる。 ERTは、上皮性摩擦を崩壊させ、テクノロジーが媒介する感情プロファイルで意味を減らし、願望や役割に敏感な表現のための空間を狭めることで、この表現空間を脅かす。 精度の向上がそのようなシステムを正当化すると考えるのは直感的ではあるが、ETRの精度は直接的にその展開を正当化するものではなく、一部の文脈では規制規制の理由となるかもしれない、と私は主張する。
  論文  参考訳（メタデータ） (2026-02-09T14:20:42Z)
• Visually grounded emotion regulation via diffusion models and user-driven reappraisal [0.0]
  本稿では,大規模テキスト・画像拡散モデルを感情制御プロセスに統合することにより,認知的再評価を視覚的に向上する新しい手法を提案する。 具体的には、ユーザが音声の再評価によって感情的に否定的なイメージを再解釈するシステムを提案する。 この生成変換は、元の刺激と構造的類似性を維持しつつ、ユーザーの再評価を視覚的にインスタンス化し、外部化し、規制意図を補強する。
  論文  参考訳（メタデータ） (2025-07-14T23:28:59Z)
• Feeling Machines: Ethics, Culture, and the Rise of Emotional AI [18.212492056071657]
  本稿では,批判的・学際的なレンズによる感情応答型人工知能の存在感の高まりについて考察する。 それは、人間の感情をシミュレートし、解釈するAIシステムが、教育、医療、メンタルヘルス、介護、デジタルライフなどの分野における私たちのインタラクションをどう変えているかを探求する。 この分析は、感情的AIの倫理的意味、人間と機械の相互作用の文化的ダイナミクス、脆弱な人口のリスクと機会、そして新たな規制、設計、技術的考察の4つの中心的なテーマに基づいて構成されている。
  論文  参考訳（メタデータ） (2025-06-14T10:28:26Z)
• R-CAGE: A Structural Model for Emotion Output Design in Human-AI Interaction [2.1828601975620257]
  R-CAGEは、人間とAIの長期的な相互作用において、感情的な出力を再構築するための理論的枠組みである。 R-CAGEは、感情リズム、感覚強度、解釈能力を構造的に調節することにより、感情をパフォーマンス出力ではなく、持続可能なデザイン単位としてフレーム化する。
  論文  参考訳（メタデータ） (2025-05-11T15:30:23Z)
• Narrative-Centered Emotional Reflection: Scaffolding Autonomous Emotional Literacy with AI [0.0]
  リフレクション(Reflexion)は、大規模に構造化された感情的自己反射を可能にするAIベースのプラットフォームである。 システム足場は、表面レベルの感情認識から価値に整合した行動計画への進歩的な旅である。
  論文  参考訳（メタデータ） (2025-04-29T01:24:46Z)
• Disentangle Identity, Cooperate Emotion: Correlation-Aware Emotional Talking Portrait Generation [63.94836524433559]
  DICE-Talkは、感情と同一性を切り離し、類似した特徴を持つ感情を協調するフレームワークである。 我々は、モーダル・アテンションを通して、音声と視覚の感情の手がかりを共同でモデル化するアンタングル型感情埋め込み装置を開発した。 次に,学習可能な感情バンクを用いた相関強化感情調和モジュールを提案する。 第3に、拡散過程における感情の一貫性を強制する感情識別目標を設計する。
  論文  参考訳（メタデータ） (2025-04-25T05:28:21Z)
• Teleology-Driven Affective Computing: A Causal Framework for Sustained Well-Being [0.1636303041090359]
  本稿では,主要な感情理論を統一するテレロジー駆動型感情コンピューティングフレームワークを提案する。 我々は、個人的な情緒的な出来事の「データバース」を作ることを提唱する。 シミュレーション環境でエージェントを訓練するためのメタ強化学習パラダイムを導入する。
  論文  参考訳（メタデータ） (2025-02-24T14:07:53Z)
• Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic Systems [67.01132165581667]
  本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。 本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
  論文  参考訳（メタデータ） (2023-11-13T21:20:17Z)
• Emotion-aware Chat Machine: Automatic Emotional Response Generation for Human-like Emotional Interaction [55.47134146639492]
  この記事では、投稿中のセマンティクスと感情を同時にエンコードできる、未定義のエンドツーエンドニューラルネットワークを提案する。 実世界のデータを用いた実験により,提案手法は,コンテンツコヒーレンスと感情の適切性の両方の観点から,最先端の手法よりも優れていることが示された。
  論文  参考訳（メタデータ） (2021-06-06T06:26:15Z)
• Disambiguating Affective Stimulus Associations for Robot Perception and Dialogue [67.89143112645556]
  知覚された聴覚刺激と感情表現の関連性を学ぶことができるNICOロボットを提供します。 NICOは、感情駆動対話システムの助けを借りて、個人と特定の刺激の両方でこれを行うことができる。 ロボットは、実際のHRIシナリオにおいて、被験者の聴覚刺激の楽しさを判断するために、この情報を利用することができる。
  論文  参考訳（メタデータ） (2021-03-05T20:55:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。