論文の概要: Responsible Personalisation: The Double-Edged Sword of Personalisation in Human-Robot Interaction
- arxiv url: http://arxiv.org/abs/2607.06344v1
- Date: Tue, 07 Jul 2026 14:40:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-08 21:24:51.557025
- Title: Responsible Personalisation: The Double-Edged Sword of Personalisation in Human-Robot Interaction
- Title（参考訳）: 責任あるパーソナライゼーション:人間とロボットのインタラクションにおけるパーソナライズのためのダブルエッジソード
- Abstract要約: 本稿では,HRIを個人化するためのライフサイクルベースでコンテキストに敏感なフレームワークを提案する。
我々は、自律的侵食、偏りのあるユーザーモデリング、操作、非人間化、プライバシー侵害など、主要な倫理的リスクを総合的に分析する。
この研究は、パーソナライズされたロボット行動に対するより体系的で透明で倫理的に根ざしたアプローチの基礎を提供する。
- 参考スコア（独自算出の注目度）: 2.1875243525685946
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While personalisation is becoming a defining capability in human-robot interaction (HRI), the existing literature on responsible personalisation remains fragmented, offering isolated accounts of ethical risks without a structured understanding of how they emerge across interaction contexts. This gap is particularly critical in HRI, where robots' embodiment and social presence can amplify and reshape such risks or generate new types of risks. We present a lifecycle-based and context-sensitive framework for personalised HRI, grounded in an embodiment-aware perspective. The framework combines stages of the personalisation process with interaction characteristics (short-term vs. long-term, open-domain vs. closed-domain), enabling systematic analysis of how risks arise and evolve. Building on this, we conduct an integrative analysis of key ethical risks, including autonomy erosion, biased user modelling, manipulation, dehumanisation, and privacy violations, and examine how they manifest across contexts. We translate these insights into actionable design recommendations and outline open research challenges. By structuring both the design space and risk landscape of personalised HRI, this work provides a foundation for more systematic, transparent, and ethically grounded approaches to personalised robot behaviour.
- Abstract（参考訳）: パーソナライゼーションは人間とロボットの相互作用(HRI)において決定的な能力となっているが、責任あるパーソナライゼーションに関する既存の文献は断片化され続けており、相互作用のコンテキスト間でどのように出現するかを構造化されていない倫理的リスクの独立した説明を提供する。
このギャップは、ロボットの体現と社会的存在がそのようなリスクを増幅し、再形成したり、新しいタイプのリスクを生み出すことができるHRIにおいて特に重要である。
本稿では,HRIを個人化するためのライフサイクルベースでコンテキストに敏感なフレームワークを提案する。
このフレームワークは、パーソナライゼーションプロセスの段階と相互作用特性(短期対、長期対、オープン・ドメイン対、クローズド・ドメイン)を組み合わせることで、リスクの発生と進化の体系的な分析を可能にする。
これに基づいて、自律的侵食、偏りのあるユーザモデリング、操作、非人間化、プライバシー侵害などを含む主要な倫理的リスクを総合的に分析し、それらが文脈によってどのように現れるかを調べる。
これらの知見を実践可能な設計レコメンデーションに変換し、オープンな研究課題を概説する。
パーソナライズされたHRIの設計空間とリスクランドスケープの両方を構造化することにより、この研究は、パーソナライズされたロボット行動に対するより体系的で透明で倫理的に根ざしたアプローチの基礎を提供する。
関連論文リスト
- Beyond Her: Safety Dynamics in Role-play AI Companions [31.494321104359642]
ロールプレイ型AIコンパニオン(RAC)における安全性のダイナミクスについて,2段階の混合手法による検討を行った。
我々は,ユーザの内在的問題,RACが採用する役割的性格,リスク相互作用パターンが共同で安全ダイナミクスを形成することを発見した。
本研究は, 静的な特性ではなく, 動的プロセスとしての安全性をモデル化することの重要性を強調した。
論文 参考訳（メタデータ） (2026-06-27T15:11:35Z) - Personalization Meets Safety:Mechanisms,Risks,and Mitigations in Personalized LLMs [41.73369165148906]
大規模言語モデル(LLM)は、ユーザの好み、文脈、長期履歴に適応することで、よりパーソナライズされた対話を可能にしている。
既存のレビューは、一般的にパーソナライズか安全に重点を置いており、その交差点はほとんど探索されていない。
パーソナライズされたLDMの総合的、安全に配慮したレビューを初めて紹介する。
論文 参考訳（メタデータ） (2026-06-08T05:10:05Z) - SocialMirror: Reconstructing 3D Human Interaction Behaviors from Monocular Videos with Semantic and Geometric Guidance [49.69016078147708]
密接な相互作用シナリオにおける人間の行動の正確な再構築は、拡張現実における現実的な仮想インタラクションの実現に不可欠である。
本稿では,これらの問題に効果的に対処するための意味的および幾何学的手がかりを統合する拡散ベースのフレームワークであるSocialMirrorを提案する。
SocialMirrorはインタラクティブなヒューマンメッシュを再構築する上で,最先端のパフォーマンスを実現している。
論文 参考訳（メタデータ） (2026-04-15T07:41:52Z) - Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses [168.50301366360344]
Embodied AI (Embodied AI) は、知覚、認知、計画、相互作用を、安全クリティカルな環境で機能するエージェントに統合する。
デジタルAIシステムとは異なり、エンボディエージェントは不確実な検知、不完全な知識、動的な人間とロボットの相互作用の下で行動しなければならない。
この調査は、エンボディされたAIにおける安全性研究の包括的なレビューを提供し、完全なエンボディされたパイプラインにわたる攻撃と防御を調査している。
論文 参考訳（メタデータ） (2026-03-28T13:21:44Z) - Towards Emotionally Intelligent and Responsible Reinforcement Learning [0.40719854602160227]
本稿では,感情的・文脈的理解と倫理的考察を統合したレスポンシブル強化学習フレームワークを提案する。
本稿では,短期的行動参加と長期的ユーザの幸福感のバランスをとる多目的報酬関数を提案する。
本稿では, 行動保健, 教育, デジタル治療など人間中心の領域におけるこのアプローチの意義について論じる。
論文 参考訳（メタデータ） (2025-11-13T18:09:37Z) - Context-Aware Risk Estimation in Home Environments: A Probabilistic Framework for Service Robots [2.5695499302569327]
本稿では,サービスロボットにおけるリアルタイムのリスク認識向上を目的とした,日常の屋内シーンにおける事故発生地域を推定するための新しい枠組みを提案する。
提案手法は,セマンティックグラフに基づく伝搬アルゴリズムを用いて,オブジェクトレベルのリスクとコンテキストをモデル化する。
提案手法は,人間に注釈を付けたリスク領域を持つデータセット上で検証され,リスク検出精度は75%である。
論文 参考訳（メタデータ） (2025-08-27T11:14:05Z) - Towards Immersive Human-X Interaction: A Real-Time Framework for Physically Plausible Motion Synthesis [51.95817740348585]
Human-Xは、様々な実体をまたいだ没入的で物理的に妥当なヒューマンインタラクションを可能にするために設計された、新しいフレームワークである。
本手法は, 自己回帰型反応拡散プランナを用いて, リアルタイムに反応と反応を同時予測する。
我々のフレームワークは、人間とロボットのインタラクションのための仮想現実インターフェースを含む、現実世界のアプリケーションで検証されている。
論文 参考訳（メタデータ） (2025-08-04T06:35:48Z) - Whom to Respond To? A Transformer-Based Model for Multi-Party Social Robot Interaction [4.276453870301421]
社会ロボットの意思決定プロセスを改善するために,トランスフォーマーを用いたマルチタスク学習フレームワークを提案する。
我々は、視線ずれなどの現実世界の複雑さを捉えた、新しい多人数HRIデータセットを構築した。
本研究は,自然とコンテキストを意識した多人数インタラクションを実現できる社会知能型社会ロボットの開発に寄与する。
論文 参考訳（メタデータ） (2025-07-15T03:42:14Z) - Situationally-Aware Dynamics Learning [57.698553219660376]
隠れ状態表現のオンライン学習のための新しいフレームワークを提案する。
提案手法は、非観測パラメータが遷移力学と報酬構造の両方に与える影響を明示的にモデル化する。
シミュレーションと実世界の両方の実験は、データ効率、ポリシー性能、安全で適応的なナビゲーション戦略の出現を著しく改善した。
論文 参考訳（メタデータ） (2025-05-26T06:40:11Z) - Proceeding of the 1st Workshop on Social Robots Personalisation At the
crossroads between engineering and humanities (CONCATENATE) [37.838596863193565]
本ワークショップは,ロボット工学におけるパーソナライゼーションに関する学際的な議論を提起することを目的としている。
異なる分野の研究者を集結させ、パーソナライズのためのガイドラインを提案することを目的としている。
論文 参考訳（メタデータ） (2023-07-10T11:11:24Z) - Data-driven emotional body language generation for social robotics [58.88028813371423]
社会ロボティクスでは、人間型ロボットに感情の身体的表現を生成する能力を与えることで、人間とロボットの相互作用とコラボレーションを改善することができる。
我々は、手作業で設計されたいくつかの身体表現から学習する深層学習データ駆動フレームワークを実装した。
評価実験の結果, 生成した表現の人間同型とアニマシーは手作りの表現と異なる認識が得られなかった。
論文 参考訳（メタデータ） (2022-05-02T09:21:39Z) - Risk-Sensitive Sequential Action Control with Multi-Modal Human
Trajectory Forecasting for Safe Crowd-Robot Interaction [55.569050872780224]
本稿では,リスクに敏感な最適制御に基づく安全な群集ロボットインタラクションのためのオンラインフレームワークを提案し,そのリスクをエントロピーリスク尺度でモデル化する。
私たちのモジュラーアプローチは、クラウドとロボットの相互作用を学習ベースの予測とモデルベースの制御に分離します。
シミュレーション研究と実世界の実験により、このフレームワークは、現場にいる50人以上の人間との衝突を避けながら、安全で効率的なナビゲーションを実現することができることが示された。
論文 参考訳（メタデータ） (2020-09-12T02:02:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。