論文の概要: Theory of Mind for Explainable Human-Robot Interaction

• arxiv url: http://arxiv.org/abs/2512.23482v2
• Date: Wed, 31 Dec 2025 12:36:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-01 15:47:54.426833
• Title: Theory of Mind for Explainable Human-Robot Interaction
• Title（参考訳）: 説明可能な人間-ロボットインタラクションのための心の理論
• Authors: Marie S. Bauer, Julia Gachot, Matthias Kerzel, Cornelius Weber, Stefan Wermter,
• Abstract要約: Theory of Mind (ToM) は、ロボットシステムのインタフェースへのユーザフレンドリーなバックエンドとして機能することを目的としている。 XAIは、AIシステムを透明性と解釈し、人間が効果的に理解し、対話できるようにすることを目指している。
• 参考スコア（独自算出の注目度）: 11.35521581811494
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Within the context of human-robot interaction (HRI), Theory of Mind (ToM) is intended to serve as a user-friendly backend to the interface of robotic systems, enabling robots to infer and respond to human mental states. When integrated into robots, ToM allows them to adapt their internal models to users' behaviors, enhancing the interpretability and predictability of their actions. Similarly, Explainable Artificial Intelligence (XAI) aims to make AI systems transparent and interpretable, allowing humans to understand and interact with them effectively. Since ToM in HRI serves related purposes, we propose to consider ToM as a form of XAI and evaluate it through the eValuation XAI (VXAI) framework and its seven desiderata. This paper identifies a critical gap in the application of ToM within HRI, as existing methods rarely assess the extent to which explanations correspond to the robot's actual internal reasoning. To address this limitation, we propose to integrate ToM within XAI frameworks. By embedding ToM principles inside XAI, we argue for a shift in perspective, as current XAI research focuses predominantly on the AI system itself and often lacks user-centered explanations. Incorporating ToM would enable a change in focus, prioritizing the user's informational needs and perspective.
• Abstract（参考訳）: 人間-ロボット相互作用(HRI)の文脈において、心の理論(ToM)は、ロボットシステムのインタフェースへのユーザフレンドリーなバックエンドとして機能することを目的としており、ロボットが人間の精神状態の推論と応答を可能にする。 ロボットに統合されると、ToMは内部モデルをユーザの行動に適応させ、動作の解釈可能性と予測可能性を高める。 同様に、説明可能な人工知能(XAI)は、AIシステムを透過的で解釈可能なものにすることで、人間が効果的に理解し、対話できるようにすることを目指している。 HRIのToMは関連する目的を果たすため、ToMをXAIの一形態と考え、eValuation XAI(VXAI)フレームワークとその7つのデシラタを用いて評価することを提案する。 本稿では,HRI内でのToMの適用において,既存の手法がロボットの内部的推論に対応する程度を評価できないため,重要なギャップを指摘する。 この制限に対処するため、XAIフレームワークにToMを統合することを提案する。 XAIにToMの原則を組み込むことで、現在のXAI研究はAIシステム自体に重点を置いており、ユーザ中心の説明が欠けていることが多いため、視点の転換を議論する。 ToMを組み込むことで、ユーザの情報ニーズと視点を優先してフォーカスの変更が可能になる。

関連論文リスト

• Embodied AI: From LLMs to World Models [65.68972714346909]
  人工知能(AI)は、人工知能(AGI)を実現するためのインテリジェントシステムパラダイムである。 近年のLarge Language Models(LLMs)とWorld Models(WMs)のブレークスルーは、AIを具現化する上で大きな注目を集めている。
  論文  参考訳（メタデータ） (2025-09-24T11:37:48Z)
• Explanation-Driven Interventions for Artificial Intelligence Model Customization: Empowering End-Users to Tailor Black-Box AI in Rhinocytology [3.4705962607086973]
  本稿では、ブラックボックスAIモデルのための新しいエンドユーザー開発(EUD)アプローチを提案する。 提案手法はHuman-Centered AI(HCAI)を進化させ,人間と適応型ユーザカスタマイズ型AIシステムとの共生関係を促進する。
  論文  参考訳（メタデータ） (2025-04-07T08:44:48Z)
• Enhancing Explainability with Multimodal Context Representations for Smarter Robots [0.0]
  人間とロボットのインタラクションの鍵となる問題は、ロボットが音声や視覚などのマルチモーダル入力を効果的に知覚し、推論できるようにすることである。 本稿では,言語と視覚の融合を改善するために,コンテキスト表現のための汎用的で説明可能なマルチモーダルフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-02-28T13:36:47Z)
• Explaining Explaining [0.882727051273924]
  高度なAIシステムに自信を持つ人々にとって、説明は鍵となる。 マシンラーニングベースのシステムは、通常はブラックボックスであるため、説明できない。 認知エージェント開発におけるハイブリッドアプローチについて述べる。
  論文  参考訳（メタデータ） (2024-09-26T16:55:44Z)
• Proceeding of the 1st Workshop on Social Robots Personalisation At the crossroads between engineering and humanities (CONCATENATE) [37.838596863193565]
  本ワークショップは,ロボット工学におけるパーソナライゼーションに関する学際的な議論を提起することを目的としている。 異なる分野の研究者を集結させ、パーソナライズのためのガイドラインを提案することを目的としている。
  論文  参考訳（メタデータ） (2023-07-10T11:11:24Z)
• A User-Centred Framework for Explainable Artificial Intelligence in Human-Robot Interaction [70.11080854486953]
  本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。 このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
  論文  参考訳（メタデータ） (2021-09-27T09:56:23Z)
• CX-ToM: Counterfactual Explanations with Theory-of-Mind for Enhancing Human Trust in Image Recognition Models [84.32751938563426]
  我々は、深層畳み込みニューラルネットワーク(CNN)による決定を説明するための、新しい説明可能なAI(XAI)フレームワークを提案する。 単発応答として説明を生成するXAIの現在の手法とは対照的に,我々は反復的な通信プロセスとして説明を行う。 本フレームワークは,機械の心と人間の心の相違を媒介し,対話における説明文のシーケンスを生成する。
  論文  参考訳（メタデータ） (2021-09-03T09:46:20Z)
• Joint Mind Modeling for Explanation Generation in Complex Human-Robot Collaborative Tasks [83.37025218216888]
  本稿では,人間とロボットのコラボレーションにおいて,人間のようなコミュニケーションを実現するための新しい説明可能なAI(XAI)フレームワークを提案する。 ロボットは、人間のユーザの階層的なマインドモデルを構築し、コミュニケーションの一形態として自身のマインドの説明を生成する。 その結果,提案手法はロボットの協調動作性能とユーザ認識を著しく向上させることがわかった。
  論文  参考訳（メタデータ） (2020-07-24T23:35:03Z)
• Explainable Goal-Driven Agents and Robots -- A Comprehensive Review [13.94373363822037]
  論文は、目標駆動型知的エージェントとロボットの説明可能なアプローチをレビューする。 エージェントの知覚機能や認知的推論を説明・伝達する技術に重点を置いている。 効果的な目標駆動型説明可能なエージェントとロボットの実現に向けたロードマップを提案する。
  論文  参考訳（メタデータ） (2020-04-21T01:41:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。