論文の概要: Active Trust Management for Successful Human-Robot Teaming: Moving from a Trust Repair to a Trust Satisficing Perspective
- arxiv url: http://arxiv.org/abs/2607.13595v1
- Date: Wed, 15 Jul 2026 08:38:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-16 16:39:12.710614
- Title: Active Trust Management for Successful Human-Robot Teaming: Moving from a Trust Repair to a Trust Satisficing Perspective
- Title（参考訳）: 有能なロボットチームのためのアクティブトラストマネジメント--トラスト修復からトラスト満足化へ
- Abstract要約: 我々は、人間ロボットチームが成功するためには、アクティブな信頼管理が重要な前提条件であると主張している。
我々は,信頼と信頼要件の変動的,多面的,文脈に依存した性質を考慮し,考慮しようとする信頼を満足する視点を提示する。
- 参考スコア（独自算出の注目度）: 0.4640835690336653
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Integrating mobile robots into human teams promises significant capability improvements for tasks such as searching hazardous environments. Unlike existing teleoperated robots, future robot systems will increasingly be endowed with some level of artificial intelligence (AI), giving them a degree of autonomy in how they pursue mission goals. This autonomy could make a human-agent (robot) team more effective but also put inter-agent trust under strain if robots make a mistake, or (appear to) pursue task priorities that conflict with the team's best interest. During a mission, agents' trust states are anticipated to vary according to the situation as understood by each teammate (trustor). If component-level (agent) or system-level trust falls below sufficient levels for cooperative tasks to be completed, it could critically affect mission success . We argue that active trust management will be an important precondition for the success of human-robot teams (HRTs, a subcategory of human-agent teams with embodied agents), especially in dynamic, high-risk environments. We present a trust satisficing perspective which acknowledges and attempts to account for the fluctuating, multi-faceted, and context-dependent nature of trust and trust requirements even under normal operating conditions. Our outline of a trust management framework for human-robot teaming includes online measurement of proxy metrics for trust, closed-loop adaptation of robot behavior, and variable autonomy to give space for human responsibility in situations requiring value judgements. We refer to a recent experimental exploration of 'swift trust' and a novel behavioral trust metric for HRT, and we highlight issues for further investigation.
- Abstract（参考訳）: モバイルロボットを人間チームに統合することで、有害な環境の探索などのタスクにおいて、大幅な能力向上が期待できる。
既存の遠隔操作ロボットとは異なり、将来のロボットシステムには人工知能(AI)のレベルが与えられ、ミッション目標の追求にある程度の自主性を与えることになる。
この自律性は、人間エージェントチーム(ロボット)をより効果的にしますが、ロボットがミスをした場合は、エージェント間信頼を緊張させます。
ミッション中は、各チームメイト(監督者)が理解した状況に応じてエージェントの信頼状態が変わることが期待される。
コンポーネントレベル(エージェント)やシステムレベルの信頼が、協調作業が完了するのに十分なレベルを下回る場合、これはミッションの成功に重大な影響を与える可能性がある。
我々は,人間ロボットチーム(HRT,Human-agent teams with embodied agent)の成功の前提条件として,特にダイナミックでハイリスクな環境でのアクティブな信頼管理が重要であると論じている。
通常の運用条件下においても,信頼・信頼要件の変動的・多面的・文脈依存的な性質を認識し,考慮しようとする信頼充足的視点を提示する。
人ロボットチームのための信頼管理フレームワークの概要は、信頼のためのプロキシメトリクスのオンライン測定、ロボット行動のクローズループ適応、価値判断を必要とする状況における人間の責任のための空間を与える可変自律性などを含む。
我々は近年,HRTの「スマート信頼」と新たな行動信頼尺度を実験的に検討し,今後の研究課題を取り上げている。
関連論文リスト
- ComBodied Agents: a New Paradigm of Human-Centric Agentic AI [121.60938707072069]
我々は、人間中心のパラダイムであるCombodied Agentsを紹介し、時間とともに個々の人間状態の軌跡を知覚し、モデル化し、予測し、支援する。
パーソナルアシスタント、ヘルスエージェント、AIコンパニオン、適応型ヒューマンAIシステムをクローズドループに統合する。
論文 参考訳（メタデータ） (2026-08-11T13:35:58Z) - RoboWits: Unexpected Challenges for Robotic Creative Problem Solving [58.58727722988084]
我々は、認知的推論、創造的ツールの使用、予期しない状況に対する堅牢性を評価するために設計された、双方向のロボットベンチマークであるRoboWitsを紹介する。
このパイプラインを用いて,30種類の種タスクと208のタスクを,幾何学的,物質的,集合的推論にまたがる変異と難易度でキュレートした。
プレトレーニングされたVLAは,単一タスクの微調整後にシードタスクに予備的な成功を示すが,変異タスクの実行に苦慮している。
論文 参考訳（メタデータ） (2026-05-28T17:57:15Z) - CollabSkill: Evaluating Human-Agent Collaboration On Real-World Tasks [55.84031315625504]
CollabSkillは、現実世界の作業タスクにおける人間とエージェントのコラボレーションを評価するためのフレームワークである。
実際の人間の労働者とAIエージェントを、仕事の背景にマッチしたタスクでペアリングする。
分析の結果,実践的な経験がコラボレーションスキルの原動力として現れることが明らかとなった。
論文 参考訳（メタデータ） (2026-04-20T03:03:25Z) - Do LLMs trust AI regulation? Emerging behaviour of game-theoretic LLM agents [61.132523071109354]
本稿では、異なる規制シナリオ下での戦略選択をモデル化する、AI開発者、規制当局、ユーザ間の相互作用について検討する。
我々の研究は、純粋なゲーム理論エージェントよりも「悲観的」な姿勢を採用する傾向にある戦略的AIエージェントの出現する振る舞いを特定する。
論文 参考訳（メタデータ） (2025-04-11T15:41:21Z) - Collaborative Gym: A Framework for Enabling and Evaluating Human-Agent Collaboration [50.657070334404835]
Collaborative Gymは、エージェント、人間、タスク環境間の非同期で三分割的なインタラクションを可能にするフレームワークである。
シミュレーション条件と実環境条件の両方において,Co-Gymを3つの代表的なタスクでインスタンス化する。
その結果、協調作業員はタスクパフォーマンスにおいて、完全に自律的なエージェントよりも一貫して優れていたことが判明した。
論文 参考訳（メタデータ） (2024-12-20T09:21:15Z) - Common (good) practices measuring trust in HRI [55.2480439325792]
ロボットへの信頼は、人々の日常生活にロボットを取り入れるのに欠かせないと広く信じられている。
研究者たちは、人々がロボットをさまざまな方法で信頼する方法を模索してきた。
ほとんどのロボティクス学者は、信頼のレベルが不足すると解脱のリスクが生じることに同意する。
論文 参考訳（メタデータ） (2023-11-20T20:52:10Z) - The dynamic nature of trust: Trust in Human-Robot Interaction revisited [0.38233569758620045]
社会支援ロボット(SAR)は、現実世界の人間を支援するロボットである。
リスクは信頼の要素をもたらすので、ロボットに対する人間の信頼を理解することは必須である。
論文 参考訳（メタデータ） (2023-03-08T19:20:11Z) - Evaluation of Performance-Trust vs Moral-Trust Violation in 3D
Environment [1.4502611532302039]
本研究の目的は,探索・救助シナリオにおいて,パフォーマンストラスト違反とモラルトラスト違反がもたらす影響を調査する実験を設計することである。
同じようなロボットの障害が2つあり、1つはパフォーマンストラスト違反によるもので、もう1つはモラルトラスト違反によるもので、人間の信頼に明確な影響があるかどうかを確認したい。
論文 参考訳（メタデータ） (2022-06-30T17:27:09Z) - Trust-Aware Planning: Modeling Trust Evolution in Longitudinal
Human-Robot Interaction [21.884895329834112]
本稿では,人間-ロボット間インタラクションにおける信頼をキャプチャし,変調する計算モデルを提案する。
我々のモデルでは、ロボットは人間の信頼とロボットからの期待をその計画プロセスに統合し、相互作用の地平線に対する信頼を構築し維持する。
論文 参考訳（メタデータ） (2021-05-03T23:38:34Z) - Modeling Trust in Human-Robot Interaction: A Survey [1.4502611532302039]
ロボット協力者の適切な信頼は、人間とロボットの相互作用のパフォーマンスに影響を与える主要な要因の1つである。
HRIの信頼性校正には、まず信頼をモデル化する必要がある。
論文 参考訳（メタデータ） (2020-11-09T21:56:34Z) - Watch-And-Help: A Challenge for Social Perception and Human-AI
Collaboration [116.28433607265573]
我々は、AIエージェントでソーシャルインテリジェンスをテストするための課題であるWatch-And-Help(WAH)を紹介する。
WAHでは、AIエージェントは、人間のようなエージェントが複雑な家庭用タスクを効率的に実行するのを助ける必要がある。
マルチエージェントの家庭環境であるVirtualHome-Socialを構築し、計画と学習ベースのベースラインを含むベンチマークを提供する。
論文 参考訳（メタデータ） (2020-10-19T21:48:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。