論文の概要: Risk-Aware Preference Learning for Stochastic Outcomes

• arxiv url: http://arxiv.org/abs/2607.15483v1
• Date: Thu, 16 Jul 2026 21:59:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-20 17:56:52.713023
• Title: Risk-Aware Preference Learning for Stochastic Outcomes
• Title（参考訳）: 確率的結果に対するリスク認識型予測学習
• Abstract要約: 本研究では,社会ロボットナビゲーションにおけるミスマッチの結果について検討する。 本研究は,ロボットの成果よりも好みから報酬を学習する際に,人間のリスク感度をモデル化することの重要性を強調した。
• 参考スコア（独自算出の注目度）: 42.156317447346815
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Learning reward functions from human preferences is a widely used approach for aligning robot behavior with user expectations in human-robot interaction. Most existing approaches assume that humans evaluate uncertain outcomes using expected utility (EU), aggregating outcome utilities linearly with their probabilities. However, behavioral evidence shows that humans are systematically risk-sensitive, overweighting rare negative events and exhibiting loss aversion. We study the consequences of this mismatch in social robot navigation, where safety-critical outcomes (e.g., collisions) are rare but highly consequential. We compare EU with Cumulative Prospect Theory (CPT), a nonlinear model of human decision-making, within a Bradley-Terry preference learning framework. Our preliminary experiments show that when preferences are generated by risk-sensitive users, CPT-based learners recover reward functions with substantially lower regret compared to EU-based learners. Our results highlight the importance of modeling human risk sensitivity when learning rewards from preferences over stochastic robot outcomes.
• Abstract（参考訳）: 人間の好みから報酬関数を学習することは、人間とロボットの相互作用において、ロボットの振る舞いとユーザの期待を一致させるために広く使われているアプローチである。 既存のほとんどのアプローチでは、人間が予測ユーティリティ(EU)を使用して不確実な結果を評価し、その確率を線形に集約する。 しかしながら、行動的な証拠は、人間が体系的に危険に敏感であり、稀な負の事象を過度に重くし、損失の回避を示すことを示している。 社会ロボットナビゲーションにおけるこのミスマッチの結果について検討する。 我々は、Bradley-Terry選好学習フレームワークにおいて、人間の意思決定の非線形モデルである累積プロスペクト理論(CPT)とEUを比較した。 予備実験では、リスクに敏感なユーザによって好みが生成されると、CPTベースの学習者は、EUベースの学習者に比べてかなり少ない後悔で報酬関数を回復することを示した。 本研究は,確率的ロボット結果よりも好みから報酬を学習する際に,人間のリスク感度をモデル化することの重要性を強調した。

関連論文リスト

• Rethinking the Implications of Human Feedback for Preference Learning in Human-Robot Collaboration [2.8952292379640636]
  人間-ロボットインタラクションでは、ロボットの行動に対する人間の嗜好を表す報酬モデルを学ぶための標準的なアプローチは、3つのステップから構成される。 まず、ロボットは人間のフィードバック(正あるいは負のバイナリフィードバックなど)から限られた直接的証拠を収集する。 第二に、ロボットは直接証拠を利用して、固定的な含意規則を用いて、受け入れられたラベルや拒否されたラベルを推測する。 第3に、ロボットは報酬モデルを更新し、直接証拠と導出証拠の両方を更新する。
  論文  参考訳（メタデータ） (2026-09-12T14:54:54Z)
• Few-Shot Inference of Human Perceptions of Robot Performance in Social Navigation Scenarios [1.5415050466360671]
  本稿では,大規模言語モデルによる数発の学習機能を活用し,ロボットがユーザのパフォーマンスに対する認識をいかに正確に予測できるかを改善することを提案する。 この作業は、ユーザ中心のフィードバックを通じて、スケーラブルな方法でロボットの動作を改善するための道を開く。
  論文  参考訳（メタデータ） (2025-12-17T23:06:36Z)
• Prospect Theory in Physical Human-Robot Interaction: A Pilot Study of Probability Perception [2.675153459461615]
  不確実性に対するヒトの反応を理解することは、安全で効果的な物理的ロボット相互作用(pHRI)の設計に重要である 本研究は、ロボットが支援や障害を系統的に変化させる物理的に結合された目標取得タスクを実装した。 被験者の力の入力と意思決定戦略の分析により,2つの異なる行動クラスターが明らかになった。 これらの結果は、pHRIにおけるヒトの意思決定が高度に個別化され、確率の知覚がその真の価値と異なる可能性があるという実証的な証拠を提供する。
  論文  参考訳（メタデータ） (2025-12-09T10:55:58Z)
• Can Risk-taking AI-Assistants suitably represent entities [0.0]
  本研究では,言語モデル(LM)におけるリスク回避の操作性について検討する。 性別固有の態度、不確実性、役割に基づく意思決定、リスク回避の操作性に焦点を当てている。 結果は、人間とAIのリスク選好をより良く整合させるために、AI設計を洗練するための方向性を示唆している。
  論文  参考訳（メタデータ） (2025-10-09T11:55:31Z)
• Rethinking Missing Data: Aleatoric Uncertainty-Aware Recommendation [59.500347564280204]
  本稿では, Aleatoric Uncertainty-aware Recommendation (AUR) フレームワークを提案する。 AURは、新しい不確実性推定器と通常のレコメンデータモデルで構成されている。 誤ラベルの可能性がペアの可能性を反映しているため、AURは不確実性に応じてレコメンデーションを行う。
  論文  参考訳（メタデータ） (2022-09-22T04:32:51Z)
• Empirical Estimates on Hand Manipulation are Recoverable: A Step Towards Individualized and Explainable Robotic Support in Everyday Activities [80.37857025201036]
  ロボットシステムの鍵となる課題は、他のエージェントの振る舞いを理解することである。 正しい推論の処理は、(衝突)因子が実験的に制御されない場合、特に困難である。 人に関する観察研究を行うために必要なツールをロボットに装備することを提案する。
  論文  参考訳（メタデータ） (2022-01-27T22:15:56Z)
• Two steps to risk sensitivity [4.974890682815778]
  条件付きバリュー・アット・リスク(CVaR)は、人間と動物の計画のモデル化のためのリスク尺度である。 CVaRに対する従来の分布的アプローチを逐次的に導入し、人間の意思決定者の選択を再分析する。 次に,リスク感度,すなわち時間的整合性,さらに重要な特性について考察し,CVaRの代替案を示す。
  論文  参考訳（メタデータ） (2021-11-12T16:27:47Z)
• Probabilistic Human Motion Prediction via A Bayesian Neural Network [71.16277790708529]
  本稿では,人間の動作予測のための確率モデルを提案する。 我々のモデルは、観測された動きシーケンスが与えられたときに、いくつかの将来の動きを生成することができる。 我々は、大規模ベンチマークデータセットHuman3.6mに対して、我々のアプローチを広範囲に検証した。
  論文  参考訳（メタデータ） (2021-07-14T09:05:33Z)
• Risk-Sensitive Sequential Action Control with Multi-Modal Human Trajectory Forecasting for Safe Crowd-Robot Interaction [55.569050872780224]
  本稿では,リスクに敏感な最適制御に基づく安全な群集ロボットインタラクションのためのオンラインフレームワークを提案し,そのリスクをエントロピーリスク尺度でモデル化する。 私たちのモジュラーアプローチは、クラウドとロボットの相互作用を学習ベースの予測とモデルベースの制御に分離します。 シミュレーション研究と実世界の実験により、このフレームワークは、現場にいる50人以上の人間との衝突を避けながら、安全で効率的なナビゲーションを実現することができることが示された。
  論文  参考訳（メタデータ） (2020-09-12T02:02:52Z)
• Bounded Risk-Sensitive Markov Games: Forward Policy Design and Inverse Reward Learning with Iterative Reasoning and Cumulative Prospect Theory [33.57592649823294]
  本稿では,リスクに敏感なマルコフゲーム(BRSMG)とその逆報酬学習問題について検討する。 我々は,BRSMGにおいて,人間は知能を制限し,リスクに敏感なユーティリティを最大化することを示した。 その結果, エージェントの行動は, リスク・リバース特性とリスク・サーキング特性の両方を示すことがわかった。
  論文  参考訳（メタデータ） (2020-09-03T07:32:32Z)
• Learning Bounds for Risk-sensitive Learning [86.50262971918276]
  リスクに敏感な学習では、損失のリスク・アバース(またはリスク・シーキング)を最小化する仮説を見つけることを目的としている。 最適化された確実性等価性によって最適性を記述するリスク感応学習スキームの一般化特性について検討する。
  論文  参考訳（メタデータ） (2020-06-15T05:25:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。