論文の概要: RobotValues: Evaluating Household Robots When Human Values Conflict

• arxiv url: http://arxiv.org/abs/2606.03312v1
• Date: Tue, 02 Jun 2026 08:25:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-03 22:00:04.864664
• Title: RobotValues: Evaluating Household Robots When Human Values Conflict
• Title（参考訳）: ロボット価値:人間の価値が衝突したときの家庭内ロボットの評価
• Authors: Jongwook Han, Hyeongjin Kim, Yohan Jo,
• Abstract要約: 我々は,家庭用ロボットプランナを価値相反シナリオで評価するためのベンチマークであるRobotValuesを紹介した。 モデルには、プライバシ優先のアクションを減らしながら、安全や宿泊などのデフォルト値の好みが示されることが分かりました。
• 参考スコア（独自算出の注目度）: 15.894362518923986
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: While household robots are often evaluated based on task completion, everyday domestic environments involve value-conflicting situations in which robots are expected to choose actions that prioritize other values than task success, such as human autonomy, efficiency, or social appropriateness. Yet, there are no benchmarks for evaluating robots' value preferences in such scenarios. We introduce RobotValues, a benchmark to evaluate household robot planners in 10K value-conflict scenarios. Each instance consists of a realistic household image with multiple plausible robot actions that prioritize different human values. We construct RobotValues through LLM-assisted scenario generation, stakeholder-grounded value extraction, image generation and automatic quality control. Using RobotValues we evaluate VLMs used in robotics and find that models exhibit default value preferences, including safety and accommodation, while underselecting privacy-prioritizing actions. When the models are instructed to prioritize specific values that conflict with their own preferences, they often fail to override their default actions, choosing incorrect actions for 80% of the time. These findings suggest that household robot evaluation should measure not only task completion or safety compliance, but also whether robots can choose among plausible actions when human values conflict.
• Abstract（参考訳）: 家庭内ロボットはタスク完了に基づいて評価されることが多いが、日常的な家庭環境は、人間の自律性、効率性、社会的適切性など、タスク成功よりも他の価値を優先する行動を選択することをロボットが期待する、価値の衝突を伴う。 しかし、そのようなシナリオでは、ロボットの価値選好を評価するためのベンチマークは存在しない。 我々は,10Kのバリューコンフリクトシナリオで家庭用ロボットプランナを評価するベンチマークであるRobotValuesを紹介した。 それぞれのインスタンスは、さまざまな人間の価値を優先順位付けする複数の可愛らしいロボットアクションを備えた、現実的な家庭用イメージで構成されている。 我々は, LLM支援シナリオ生成, ステークホルダ基底値抽出, 画像生成, 自動品質制御により, ロボットバリューを構築する。 RobotValuesを使用することで、ロボット工学で使用されるVLMを評価し、モデルがプライバシ優先のアクションを過小評価しながら、安全や宿泊などのデフォルト値の好みを示すことを発見した。 モデルが自身の好みと矛盾する特定の値を優先順位付けするように指示されると、デフォルトのアクションを無効にし、80%の時間の誤ったアクションを選択することがしばしば失敗する。 これらの結果から,家庭内ロボット評価は,作業完了や安全コンプライアンスだけでなく,人的価値の相違時にロボットが妥当な行動を選択することができるかどうかを測るべきであることが示唆された。

関連論文リスト

• MiVLA: Towards Generalizable Vision-Language-Action Model with Human-Robot Mutual Imitation Pre-training [102.850162490626]
  人間のロボットによる相互模倣事前学習による視覚-言語-行動モデルであるMiVLAを提案する。 MiVLAは、最先端のVLAよりも優れた、強力な改良された一般化能力を実現する。
  論文  参考訳（メタデータ） (2025-12-17T12:59:41Z)
• Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics [68.36528819227641]
  本稿では,ビジョン・ランゲージ・アクション(VLA)モデルのロバスト性を体系的に評価する。 本研究では,ロボット行動の不安定化に空間的基盤を活用する2つの未目標攻撃目標と,ロボット軌道を操作する目標攻撃目標を導入する。 我々は、カメラの視野に小さなカラフルなパッチを配置し、デジタルと物理の両方の環境で効果的に攻撃を実行する逆パッチ生成アプローチを設計する。
  論文  参考訳（メタデータ） (2024-11-18T01:52:20Z)
• Know your limits! Optimize the robot's behavior through self-awareness [11.021217430606042]
  最近の人間ロボット模倣アルゴリズムは、高精度な人間の動きを追従することに焦点を当てている。 本稿では,ロボットが参照を模倣する際の動作を予測できるディープラーニングモデルを提案する。 我々のSAW(Self-AWare Model)は、転倒確率、基準運動への固執、滑らかさといった様々な基準に基づいて、潜在的なロボットの挙動をランク付けする。
  論文  参考訳（メタデータ） (2024-09-16T14:14:58Z)
• What Matters to You? Towards Visual Representation Alignment for Robot Learning [81.30964736676103]
  人のために運用する場合、ロボットはエンドユーザーの好みに合わせて報酬を最適化する必要がある。 本稿では、視覚的表現アライメント問題を解決するためのRAPL(Representation-Aligned Preference-based Learning)を提案する。
  論文  参考訳（メタデータ） (2023-10-11T23:04:07Z)
• Proceeding of the 1st Workshop on Social Robots Personalisation At the crossroads between engineering and humanities (CONCATENATE) [37.838596863193565]
  本ワークショップは,ロボット工学におけるパーソナライゼーションに関する学際的な議論を提起することを目的としている。 異なる分野の研究者を集結させ、パーソナライズのためのガイドラインを提案することを目的としている。
  論文  参考訳（メタデータ） (2023-07-10T11:11:24Z)
• Robust Robot Planning for Human-Robot Collaboration [11.609195090422514]
  人間とロボットのコラボレーションにおいて、人間の目的はしばしばロボットに未知である。 本研究では,各目的関数に対して不確実な人間行動(ポリシー)を自動的に生成する手法を提案する。 また,上記の不確実性に対して頑健なロボット計画アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-02-27T16:02:48Z)
• AAAI SSS-22 Symposium on Closing the Assessment Loop: Communicating Proficiency and Intent in Human-Robot Teaming [4.787322716745613]
  ロボットは新しいタスクで予測能力を伝えるにはどうすればいいのか? ロボットは人間の意図や価値観に基づいて、その習熟度基準をどう順応すべきか? 熟練度と意図に基づく相互作用を評価するための基準については合意されていない。
  論文  参考訳（メタデータ） (2022-04-05T18:28:01Z)
• Supportive Actions for Manipulation in Human-Robot Coworker Teams [15.978389978586414]
  我々は、将来の干渉を減らすことで相互作用を支援する行動を、支援ロボット行動と表現する。 1)タスク指向: ロボットは自身のタスク目標をさらに進めるためにのみ行動を取るし、(2)支援的: ロボットはタスク指向のタスクよりも支援的行動を好む。 シミュレーション実験では, 人体モデルを用いて, エージェント間の干渉を軽減し, 作業の完了に要する時間が長いことを明らかにした。
  論文  参考訳（メタデータ） (2020-05-02T09:37:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。