論文の概要: Estimating Trust in Human-Robot Collaboration through Behavioral Indicators and Explainability

• arxiv url: http://arxiv.org/abs/2601.19856v1
• Date: Tue, 27 Jan 2026 18:12:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-30 05:26:29.540467
• Title: Estimating Trust in Human-Robot Collaboration through Behavioral Indicators and Explainability
• Title（参考訳）: 行動指標と説明可能性による人間-ロボット協調の信頼度の推定
• Authors: Giulio Campagna, Marta Lagomarsino, Marta Lorenzini, Dimitrios Chrysostomou, Matthias Rehm, Arash Ajoudani,
• Abstract要約: 本研究では,行動指標を用いた信頼度評価のためのデータ駆動型フレームワークを提案する。 このフレームワークは、人間のオペレーターが化学物質を混合するのをロボットが支援する化学産業シナリオでテストされた。 機械学習モデルは信頼度を80%以上と分類し、Votingアルゴリズムは84.07%、AUCROCスコアは0.90である。
• 参考スコア（独自算出の注目度）: 17.91172666743091
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Industry 5.0 focuses on human-centric collaboration between humans and robots, prioritizing safety, comfort, and trust. This study introduces a data-driven framework to assess trust using behavioral indicators. The framework employs a Preference-Based Optimization algorithm to generate trust-enhancing trajectories based on operator feedback. This feedback serves as ground truth for training machine learning models to predict trust levels from behavioral indicators. The framework was tested in a chemical industry scenario where a robot assisted a human operator in mixing chemicals. Machine learning models classified trust with over 80\% accuracy, with the Voting Classifier achieving 84.07\% accuracy and an AUC-ROC score of 0.90. These findings underscore the effectiveness of data-driven methods in assessing trust within human-robot collaboration, emphasizing the valuable role behavioral indicators play in predicting the dynamics of human trust.
• Abstract（参考訳）: 産業5.0は、人間とロボットの人間中心のコラボレーション、安全、快適、信頼の優先に焦点を当てている。 本研究では,行動指標を用いた信頼度評価のためのデータ駆動型フレームワークを提案する。 このフレームワークはPreference-Based Optimizationアルゴリズムを用いて、オペレーターのフィードバックに基づいて信頼度を高めるトラジェクトリを生成する。 このフィードバックは、行動指標から信頼レベルを予測するための機械学習モデルをトレーニングするための基礎的な真実として機能する。 このフレームワークは、人間のオペレーターが化学物質を混合するのをロボットが支援する化学産業シナリオでテストされた。 機械学習モデルは80\%以上の精度で信頼を分類し、投票分類器は84.07\%、AUC-ROCスコアは0.90である。 これらの知見は、人間とロボットのコラボレーションにおける信頼を評価するためのデータ駆動手法の有効性を浮き彫りにし、人間の信頼のダイナミクスを予測する上で、行動指標が果たす価値ある役割を強調した。

関連論文リスト

• From Accuracy to Readiness: Metrics and Benchmarks for Human-AI Decision-Making [0.5153774021264936]
  実証的な証拠は、多くの失敗が誤った信頼から生じることを示している。 本稿では,チーム準備を主眼とした人間とAIの意思決定を評価するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-19T13:35:29Z)
• How can we assess human-agent interactions? Case studies in software agent design [52.953425368394306]
  我々は,人間とエージェントの相互作用の厳密な評価に向けて,二つの大きな一歩を踏み出した。 エージェント設計のより効率的な人間中心評価のためのフレームワークであるPULSEを提案する。 私たちは、オープンソースのソフトウェアエージェントOpenHandsを中心に構築された大規模なWebプラットフォームにフレームワークをデプロイします。
  論文  参考訳（メタデータ） (2025-10-10T19:04:28Z)
• Uncertainty Aware Human-machine Collaboration in Camouflaged Object Detection [12.2304109417748]
  信頼できるCODシステムの開発に向けた重要なステップは、不確実性の推定と有効利用である。 本研究では,カモフラージュされた物体の存在を分類するための人間と機械の協調フレームワークを提案する。 提案手法は,CVモデル予測の不確実性を推定するための多視点バックボーンを導入し,この不確実性を利用して効率を向上し,信頼性の低いケースを人体評価に適用する。
  論文  参考訳（メタデータ） (2025-02-12T13:05:24Z)
• Beyond correlation: The Impact of Human Uncertainty in Measuring the Effectiveness of Automatic Evaluation and LLM-as-a-Judge [51.93909886542317]
  一つの集計相関スコアを*参照することで、人名と自動評価の基本的な違いが曖昧になることを示す。 本研究では,評価性能のより堅牢な解析を行うために,ラベルの不確実性による階層化データを提案する。
  論文  参考訳（メタデータ） (2024-10-03T03:08:29Z)
• Bi-Factorial Preference Optimization: Balancing Safety-Helpfulness in Language Models [94.39278422567955]
  人間の嗜好を微調整した大型言語モデル(LLM)は、その能力向上に成功している。 しかし、微調整中のLLMの安全性確保は依然として重要な懸念事項である。 本稿では,BFPO(Bi-Factorial Preference Optimization)と呼ばれる教師あり学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-08-27T17:31:21Z)
• More RLHF, More Trust? On The Impact of Preference Alignment On Trustworthiness [24.843692458375436]
  本研究では,5つの信頼性分野において,汎用的嗜好データに整合したモデルがどのように機能するかを検討する。 ヒトの嗜好に対するRLHFは、自動的に信頼性を保証せず、しばしば逆効果が観察される。 本稿では,RLHF設定に効率的な影響関数に基づくデータ帰属手法を適用し,個々の信頼性ベンチマークに対する微調整データの影響をよりよく理解するために提案する。
  論文  参考訳（メタデータ） (2024-04-29T17:00:53Z)
• A Factor Graph Model of Trust for a Collaborative Multi-Agent System [8.286807697708113]
  信頼とは、エージェントがシステム内の他者の情報、行動、意図、真実性、能力に依存し、信頼することである。 本稿では,エージェント間の相互依存行動と信頼性を表現するために因子グラフを利用する新しいグラフィカルアプローチを提案する。 信頼度評価手法は分散化され, 近接安全性, 一貫性, 協調といった重要な相互依存サブファクタを考察する。
  論文  参考訳（メタデータ） (2024-02-10T21:44:28Z)
• Empirical Estimates on Hand Manipulation are Recoverable: A Step Towards Individualized and Explainable Robotic Support in Everyday Activities [80.37857025201036]
  ロボットシステムの鍵となる課題は、他のエージェントの振る舞いを理解することである。 正しい推論の処理は、(衝突)因子が実験的に制御されない場合、特に困難である。 人に関する観察研究を行うために必要なツールをロボットに装備することを提案する。
  論文  参考訳（メタデータ） (2022-01-27T22:15:56Z)
• Modeling Trust in Human-Robot Interaction: A Survey [1.4502611532302039]
  ロボット協力者の適切な信頼は、人間とロボットの相互作用のパフォーマンスに影響を与える主要な要因の1つである。 HRIの信頼性校正には、まず信頼をモデル化する必要がある。
  論文  参考訳（メタデータ） (2020-11-09T21:56:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。