論文の概要: When Should a Failing Robot Ask? Initiating Corrective Human-Robot Dialogue from Audited Sensor Evidence
- arxiv url: http://arxiv.org/abs/2609.21942v1
- Date: Fri, 18 Sep 2026 15:56:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-21 18:40:17.176258
- Title: When Should a Failing Robot Ask? Initiating Corrective Human-Robot Dialogue from Audited Sensor Evidence
- Title（参考訳）: 失敗するロボットはいつ質問すべきなのか? - 聴覚センサによる人間とロボットの会話の精度向上をめざして
- Abstract要約: タスクで失敗するロボットは、自分自身の診断で行動したり、他のセンサーに相談したり、人を中断したりするという、最初の意思決定に直面します。
私たちは、すべての障害の本当の原因がわかっているシミュレートされたベンチマークを構築します。
我々は、この選択を3つの行動決定問題として、行動し、自分のセンサーを照会するか、あるいは人間に尋ねる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A robot that fails at a task faces the first decision in corrective dialogue: act on its own diagnosis, consult another onboard sensor, or interrupt a person. Choosing well requires knowing how much the robot's sensors reveal about the cause and how reliable the robot's own diagnosis is. We build a simulated benchmark in which every failure's true cause is known, because we injected it, and measure what each sensor reveals, with explicit checks against data leakage. Some failures are diagnosable from camera images; others only from the robot's force data (0.99 from force data, no image method above 0.55). We then test six open vision-language models. Their behavior tracks the surface of the prompt, not the evidence: moving the refusal option from last to first in the answer list collapses refusal rates from 78-100% to 0-6% in three of the six swept model-and-family pairs. Accuracy from frames stays at or below a majority-class baseline under every prompt variant, with or without worked examples, and stated confidence carries no information about correctness. Handing the same models the force data as ten lines of text produces the first above-baseline diagnoses, in four of the six models: much of the failure reflects missing sensor data, not missing ability. We pose the choice as a three-action decision problem, act, consult your own sensors, or ask a human, whose optimal policy follows from measured accuracy. The models do not follow it, and their ask rates ignore a fourfold change in question cost. One question to a human still lifts them from that baseline to roughly the answerer's own reliability (0.70-0.81 when they ask). The decision to ask should be tied to measured accuracy and stated costs, not to the model's confidence.
- Abstract（参考訳）: タスクで失敗するロボットは、自分自身の診断で行動したり、オンボードセンサーに相談したり、人を中断したりするという、最初の意思決定に直面します。
うまく選択するには、ロボットのセンサーが原因をどの程度明らかにし、ロボット自身の診断がどれだけ信頼できるかを知る必要がある。
私たちは、すべての障害の本当の原因が分かっているシミュレーションベンチマークを構築します。
いくつかの失敗はカメラ画像から診断可能であるが、他の失敗はロボットの力データからのみである(力データから0.99、画像法は0.55以上)。
次に、6つのオープンビジョン言語モデルをテストします。
彼らの行動は、プロンプトの表面を、証拠ではなく追跡している: 答えリストの最後に拒絶オプションを移動させることは、6つの親族モデルペアのうち3つにおいて、拒絶率を78-100%から0-6%に低下させる。
フレームからの正確性は、すべてのプロンプト変種の下で、すべてのプロンプト変種の下で、多数クラスのベースラインより下にある。
同じモデルを10行のテキストで処理すると、最初のベースライン診断が6つのモデルのうち4つで生成される。
我々は、この選択を3つの行動決定問題として、行動し、自分のセンサーを照会するか、あるいは人間に尋ねる。
モデルはそれに従わず、彼らの要求レートは、質問コストの4倍の変化を無視します。
人間の質問の1つは、そのベースラインから解答者の信頼性を概ね0.70-0.81に引き上げることである。
質問する決定は、モデルの信頼性ではなく、測定された正確さと記述されたコストに結び付けられるべきである。
関連論文リスト
- TelemetrySuffBench: Is Agent Telemetry Sufficient for Failure-Origin Diagnosis? [1.7077233340294056]
本稿では, 故障検出, 故障オリジンの局所化, 安全な停止を, 不十分な証拠で分離するベンチマークであるTelemetrySuffBenchを紹介する。
統一されたプロトコル、明示的な候補セット、無効なアウトプット会計、サブグループ分析、凍結したブラインドホールドアウトを用いて、5つのフロンティア言語モデルを評価する。
論文 参考訳（メタデータ） (2026-08-08T03:54:22Z) - Vision-language models for chest radiography do not always need the image [4.363746910191589]
医用視覚言語モデルは、強い胸部X線撮影精度を報告し、これが画像を使用する証拠としてますます読まれている。
我々は,画像に介入し,関連領域を除外し,関連のない領域を除外し,別の患者の同一ラベルスキャンに切り替える因果監査を導入する。
9つのシステムで、画像アクセスのないテキストのみのモデルは、最高のマルチモーダルの5.7の精度ポイントに到達する。
論文 参考訳（メタデータ） (2026-06-16T09:22:10Z) - Calibrated Triage, Not Autonomy: Confidence Estimation for Medical Vision-Language Models [4.0196226339562555]
ヴィジュアル言語モデルは、画像のほとんど使用しながら、医用画像に関する質問に、ゆるやかに、自信を持って答えることができる。
我々は,5つのオープンウェイトLVLMと3つの医用視覚質問応答データセットの信頼度推定器について検討した。
論文 参考訳（メタデータ） (2026-06-14T16:39:17Z) - RealityTest: How People Probe AI Identity and Whether Models Disclose It [5.4667629504496285]
質問されたAIシステムが自身のアイデンティティを開示するかどうかをテストするために、RealityTestを提示する。
49か国5か国750人の参加者から収集された3,152のアイデンティティ調査クエリの基盤となるデータセットをリリースする。
あいまいなシナリオでアイデンティティを直接問う人はわずか31%で、質問する質問はマシン生成クエリよりもはるかに多様である。
論文 参考訳（メタデータ） (2026-05-29T12:40:16Z) - Evaluating Commercial AI Chatbots as News Intermediaries [85.32040752972836]
ベストシステムは、数時間前に報告されたイベントに関する質問に対して、90%以上の多重選択精度を達成する。
すべてのモデルはヒンディー語で最小の精度を達成する。
原因ではなく検索は エラーの70%以上を 引き起こします
論文 参考訳（メタデータ） (2026-05-21T17:42:07Z) - Guardian: Detecting Robotic Planning and Execution Errors with Vision-Language Models [53.20969621498248]
本稿では,多種多様な計画および実行障害を生成するために,軌道を手続き的に乱す自動ロボット故障合成手法を提案する。
RLBench-Fail, BridgeDataV2-Fail, UR5-Failの3つの新しい故障検出ベンチマークを構築した。
次に、詳細な障害推論と検出のためのマルチビューイメージを備えたVLMであるGuardianをトレーニングします。
論文 参考訳（メタデータ） (2025-12-01T17:57:27Z) - Exploring 3D Human Pose Estimation and Forecasting from the Robot's Perspective: The HARPER Dataset [52.22758311559]
本研究では,ユーザとスポット間のダイアドインタラクションにおける3次元ポーズ推定と予測のための新しいデータセットであるHARPERを紹介する。
キーノーベルティは、ロボットの視点、すなわちロボットのセンサーが捉えたデータに焦点を当てることである。
HARPERの基盤となるシナリオには15のアクションが含まれており、そのうち10つはロボットとユーザの間の物理的接触を含んでいる。
論文 参考訳（メタデータ） (2024-03-21T14:53:50Z) - Discovering Latent Knowledge in Language Models Without Supervision [72.95136739040676]
既存の言語モデルをトレーニングするテクニックは、真実と正しく一致していない可能性がある。
本稿では,言語モデルの内部アクティベーション内部の潜伏知識を,純粋に教師なしの方法で直接見つけることを提案する。
本手法は, 教師なし, モデル出力がないにもかかわらず, 大規模言語モデルで表される多様な知識を復元できることを示す。
論文 参考訳（メタデータ） (2022-12-07T18:17:56Z) - Robots-Dont-Cry: Understanding Falsely Anthropomorphic Utterances in
Dialog Systems [64.10696852552103]
非常に人為的な反応は、ユーザーが人間と対話していると考えることを不快に、あるいは暗黙的に騙すかもしれない。
9つの異なるデータソースからサンプリングした約900の2ターンダイアログの実現可能性に関する人間の評価を収集する。
論文 参考訳（メタデータ） (2022-10-22T12:10:44Z) - Selective Question Answering under Domain Shift [90.021577320085]
モデルがドメイン外の入力に対して過度に信頼されているため、モデルのソフトマックス確率のみに基づくアテンションポリシーは不適切である。
キャリブレータをトレーニングして、QAモデルがアースする入力を識別し、エラーを予測した場合に停止する。
提案手法は,80%の精度を維持しながら56%の質問に回答するが,それに対してモデルの確率を直接使用する場合,80%の精度で48%しか回答しない。
論文 参考訳（メタデータ） (2020-06-16T19:13:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。