論文の概要: What Is My Robot Thinking? Design Considerations for Transparent and Trustworthy Shared Autonomy

• arxiv url: http://arxiv.org/abs/2606.06870v1
• Date: Fri, 05 Jun 2026 03:37:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-08 14:33:29.546476
• Title: What Is My Robot Thinking? Design Considerations for Transparent and Trustworthy Shared Autonomy
• Title（参考訳）: 私のロボットは何を考えているのか? 透明で信頼できる共有自律性のための設計上の考察
• Authors: Atharv Belsare, Zohre Karimi, Connor Mattson, Rushiil Nakka, Daniel S. Brown,
• Abstract要約: 視覚に基づく共有自律システムにおいて,インターフェースレベルの透明性がどのように形成されるかを検討する。 効果的な透明性は、主に目標の正当性を通じてコーディネートを強化することが分かっています。 これらの結果に基づき、透明な共有自律システムを設計するためのガイドラインを概説する。
• 参考スコア（独自算出の注目度）: 9.092301397614307
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Assistive robots operating under shared autonomy must balance user control with autonomous assistance. Because robot actions depend on internal intent inference that is not directly observable, mismatches between inferred and intended goals can undermine coordination and trust. We investigate how interface-level transparency, including feedback modality (visual vs. auditory) and information richness (sparse vs. rich), shapes interaction in a vision-based shared autonomy system. In a user study with N=25 participants across two assistive manipulation tasks, we evaluate how these designs influence coordination and trust. Providing feedback significantly improves intent alignment and reduces corrective intervention, indicating that making the inferred goal legible accelerates convergence in shared control. Participants preferred visual over auditory feedback, while preferences for sparse versus rich information depended on task complexity. We also found that revealing the full belief distribution did not consistently improve alignment or trust. Together, these findings indicate that effective transparency enhances coordination primarily through goal legibility, while trust depends on task-appropriate information exposure rather than maximal disclosure. Based on these results, we outline guidelines for designing transparent shared autonomy systems.
• Abstract（参考訳）: 共有自律下で動作している補助ロボットは、ユーザのコントロールと自律的アシストのバランスをとる必要がある。 ロボットの行動は、直接観測できない内部意図の推論に依存するため、推論されたゴールと意図されたゴールのミスマッチは、調整と信頼を損なう可能性がある。 視覚に基づく共有自律システムにおいて、フィードバックモダリティ(視覚対聴覚)や情報豊かさ(スパース対リッチ)などのインターフェースレベルの透明性がどのように相互作用を形作るかを検討する。 N=25人の被験者による2つの補助的操作課題に対するユーザスタディにおいて、これらのデザインが協調と信頼にどのように影響するかを評価する。 フィードバックの提供は意図のアライメントを大幅に改善し、修正の介入を減らす。 参加者は視覚的フィードバックよりも視覚的フィードバックを好んだが、スパースとリッチな情報の好みはタスクの複雑さに依存していた。 また,信念の完全な分布を明らかにすることは,整合性や信頼を継続的に改善するものではないことも判明した。 これらの結果から,効果的な透明性はゴールの正当性を通じてコーディネーションを促進させるが,信頼度は最大情報開示よりもタスクに適した情報露出に依存することが示唆された。 これらの結果に基づき、透明な共有自律システムを設計するためのガイドラインを概説する。

関連論文リスト

• Preliminary Quantitative Study on Explainability and Trust in AI Systems [0.0]
  GPT-4のような大規模AIモデルは、法律、医療、金融といった重要な領域にまたがる人工知能の展開を加速している。 本研究では,定量的な実験設計を通じて,AIシステムにおける説明可能性とユーザ信頼の関係について検討する。
  論文  参考訳（メタデータ） (2025-10-17T15:59:28Z)
• Explainable AI for Maritime Autonomous Surface Ships (MASS): Adaptive Interfaces and Trustworthy Human-AI Collaboration [0.0]
  本稿では,海上自律型表面船の自動化透明性に関する100の研究を合成する。 我々は、人間の安全でない制御行動が、ハンドオーバと緊急ループに集中している場所を特定する。 センサ/SA取得と融合、HMI/eHMIプレゼンテーション、エンジニア対応プロセスの3つのレイヤにおける透明性のための設計戦略。
  論文  参考訳（メタデータ） (2025-09-19T13:18:54Z)
• Interpretability as Alignment: Making Internal Understanding a Design Principle [3.6704226968275253]
  解釈可能性(Interpretability)は、アウトプットを駆動する計算を明らかにすることによって、内部透明性への道筋を提供する。 我々は、解釈可能性、特に機械的アプローチは、補助的な診断ツールではなく、アライメントのための設計原則として扱うべきであると論じている。
  論文  参考訳（メタデータ） (2025-09-10T13:45:59Z)
• Designing and Evaluating an Educational Recommender System with Different Levels of User Control [0.6291443816903801]
  対話型教育推薦システム(ERS)の体系設計と評価について述べる。 本研究では、ERSの入力(ユーザプロファイル)、プロセス(レコメンデーションアルゴリズム)、出力(レコメンデーション)に関するユーザ制御を導入する。 以上の結果から,ERSのユーザ認知的メリットに対するユーザコントロールの肯定的な影響が示唆された。
  論文  参考訳（メタデータ） (2025-01-22T14:14:49Z)
• Self-Distilled Disentangled Learning for Counterfactual Prediction [49.84163147971955]
  我々は、SD2$として知られる自己蒸留遠絡フレームワークを提案する。 情報理論を基礎として、複雑な相互情報推定器の設計を伴わずに、理論上独立に不整合表現を鳴らす。 人工と実世界の両方のデータセットを用いて実験を行い,本手法の有効性を確認した。
  論文  参考訳（メタデータ） (2024-06-09T16:58:19Z)
• Negotiating the Shared Agency between Humans & AI in the Recommender System [1.4249472316161877]
  本研究では,ユーザエージェンシーの強化を目的とした二重制御機構を提案する。 透明性とコントロールのレベルがユーザエクスペリエンスに与える影響を評価した。
  論文  参考訳（メタデータ） (2024-03-23T19:23:08Z)
• Exploring the Trade-off between Plausibility, Change Intensity and Adversarial Power in Counterfactual Explanations using Multi-objective Optimization [73.89239820192894]
  自動対物生成は、生成した対物インスタンスのいくつかの側面を考慮すべきである。 本稿では, 対実例生成のための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2022-05-20T15:02:53Z)
• Uncertainty as a Form of Transparency: Measuring, Communicating, and Using Uncertainty [66.17147341354577]
  我々は,モデル予測に関連する不確実性を推定し,伝達することにより,相補的な透明性の形式を考えることについて議論する。 モデルの不公平性を緩和し、意思決定を強化し、信頼できるシステムを構築するために不確実性がどのように使われるかを説明する。 この研究は、機械学習、可視化/HCI、デザイン、意思決定、公平性にまたがる文学から引き出された学際的レビューを構成する。
  論文  参考訳（メタデータ） (2020-11-15T17:26:14Z)
• Learning to Communicate and Correct Pose Errors [75.03747122616605]
  本稿では、V2VNetで提案された設定について検討し、近くにある自動運転車が共同で物体検出と動き予測を協調的に行う方法を提案する。 本稿では,コミュニケーションを学習し,潜在的な誤りを推定し,それらの誤りについてコンセンサスを得るための新しいニューラルネットワーク推論フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-11-10T18:19:40Z)
• Self-Attention Attribution: Interpreting Information Interactions Inside Transformer [89.21584915290319]
  本稿では,トランスフォーマー内の情報相互作用を解釈する自己帰属属性法を提案する。 本研究は,BERT に対する非目標攻撃の実装において,その属性を敵対パターンとして用いることができることを示す。
  論文  参考訳（メタデータ） (2020-04-23T14:58:22Z)
• Mutual Information-based State-Control for Intrinsically Motivated Reinforcement Learning [102.05692309417047]
  強化学習において、エージェントは、外部報酬信号を用いて一連の目標に到達することを学習する。 自然界では、知的生物は内部の駆動から学習し、外部の信号を必要としない。 目的状態と制御可能な状態の間の相互情報として本質的な目的を定式化する。
  論文  参考訳（メタデータ） (2020-02-05T19:21:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。