論文の概要: Fix the Mind, Not the Move: Interpretable AI Assistance via Knowledge-Gap Localization

• arxiv url: http://arxiv.org/abs/2606.05602v1
• Date: Thu, 04 Jun 2026 02:25:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-05 22:39:44.492175
• Title: Fix the Mind, Not the Move: Interpretable AI Assistance via Knowledge-Gap Localization
• Title（参考訳）: モブではなくマインドを固定する - 知識ギャップのローカライゼーションによる解釈可能なAIアシスト
• Authors: Ayano Hiranaka, Ya-Chuan Hsu, Stefanos Nikolaidis, Erdem Bıyık, Daniel Seita,
• Abstract要約: 本稿では,対話行動からユーザの誤解を推測するフレームワークであるSENSEIを紹介する。 我々のアプローチは、構造化された知識表現を操作することによって、行動レベルの介入や軌道レベルの介入から逸脱する。 本研究では,本手法が実際の人間の誤解を識別し,効果的なガイダンスを提供することを示す。
• 参考スコア（独自算出の注目度）: 11.210709234919237
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI assistants in human-AI collaboration often correct suboptimal human actions through behavioral feedback (e.g., alerts or steering-wheel nudges in assistive driving). Such interventions can mitigate immediate errors, but long-term improvement requires addressing the underlying misconceptions that cause repeated mistakes. We introduce SENSEI, a framework that infers user misconceptions from interaction behavior and provides targeted, minimal yet sufficient suggestions to correct them. Our approach departs from action- or trajectory-level interventions by operating over a structured knowledge representation to localize and correct the sources of erroneous behavior. Across three long-horizon tasks with diverse misconceptions and corresponding behaviors, SENSEI demonstrates zero-shot compositional generalization, disentangling multiple overlapping misconceptions despite training only on single-misconception cases. A user study further shows that our method identifies real human misconceptions and provides effective guidance that improves long-horizon task performance, successfully correcting $90\%$ of student misconceptions. Code and project page are available at https://misoshiruseijin.github.io/SENSEI/.
• Abstract（参考訳）: 人間とAIのコラボレーションにおけるAIアシスタントは、行動フィードバック(例えば、補助運転における警告やステアリングホイールナッジ)を通じて、最適な人間の行動を補正することが多い。 このような介入は即時エラーを軽減することができるが、長期的な改善には、繰り返し発生する誤解に対処する必要がある。 対話行動からユーザの誤解を推測するフレームワークであるSENSEIを導入する。 提案手法は, 構造的知識表現を操作し, 誤った行動源の局所化と修正を行うことによって, 行動レベルの介入や軌道レベルの介入から逸脱する。 SENSEIは、多様な誤解とそれに対応する行動を持つ3つの長距離タスクの中で、ゼロショット構成の一般化を示し、単一誤解の場合のみのトレーニングにもかかわらず、重複する複数の誤解を解消する。 さらに,本手法は,実人の誤解を識別し,長期タスクのパフォーマンスを向上させる効果的なガイダンスを提供することによって,学生の誤解を90 % の精度で修正できることが示唆された。 コードとプロジェクトページはhttps://misoshiruseijin.github.io/SENSEI/で公開されている。

関連論文リスト

• XMENTOR: A Rank-Aware Aggregation Approach for Human-Centered Explainable AI in Just-in-Time Software Defect Prediction [5.646457568088472]
  我々は、VS Codeプラグインとして実装された人間中心のランク対応アグリゲーションメソッドであるXMENTORを紹介した。 XMENTORは、複数のポストホックな説明を適応しきい値、ランク、サインアグリーメントを適用して単一の一貫性のあるビューに統一する。 我々の研究結果は、説明とそれらを開発者へ組み込むことによって、解釈可能性、ユーザビリティ、信頼を高める方法を示している。
  論文  参考訳（メタデータ） (2026-02-25T20:54:49Z)
• No Regrets: Investigating and Improving Regret Approximations for Curriculum Discovery [53.08822154199948]
  非教師なし環境設計(UED)手法は、エージェントがイン・オブ・アウト・ディストリビューションタスクに対して堅牢になることを約束する適応的カリキュラムとして近年注目を集めている。 本研究は,既存のUEDメソッドがいかにトレーニング環境を選択するかを検討する。 本研究では,学習性の高いシナリオを直接訓練する手法を開発した。
  論文  参考訳（メタデータ） (2024-08-27T14:31:54Z)
• Mind the Interference: Retaining Pre-trained Knowledge in Parameter Efficient Continual Learning of Vision-Language Models [79.28821338925947]
  ドメインクラスのインクリメンタル学習は現実的だが、継続的な学習シナリオである。 これらの多様なタスクに対処するために、事前訓練されたビジョンランゲージモデル(VLM)を導入し、その強力な一般化性を実現する。 事前訓練されたVLMにエンコードされた知識は、新しいタスクに適応する際に妨げられ、固有のゼロショット能力を損なう。 既存の手法では、膨大なオーバーヘッドを必要とする余分なデータセットに知識蒸留でVLMをチューニングすることで、この問題に対処している。 我々は、事前学習した知識を保持できるDIKI(Distributed-Aware Interference-free Knowledge Integration)フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-07T12:19:37Z)
• I2EDL: Interactive Instruction Error Detection and Localization [65.25839671641218]
  連続環境(IVLN-CE)における対話型VLNの新たな課題を提案する。 これにより、VLN-CEナビゲーション中にエージェントがユーザと対話し、命令エラーに関する疑念を検証できる。 我々は、事前学習したモジュールを利用して命令エラーを検出し、テキスト入力と過去の観察を相互参照することで、命令中のそれらをピンポイントする。
  論文  参考訳（メタデータ） (2024-06-07T16:52:57Z)
• Adversarial Reinforced Instruction Attacker for Robust Vision-Language Navigation [145.84123197129298]
  自然言語に基づくナビゲーションタスクでは,言語指導が重要な役割を担っている。 より堅牢なナビゲータを訓練し、長い指導から重要な要素を動的に抽出する。 具体的には,航法士が間違った目標に移動することを誤認することを学習する動的強化命令攻撃装置(DR-Attacker)を提案する。
  論文  参考訳（メタデータ） (2021-07-23T14:11:31Z)
• PEBBLE: Feedback-Efficient Interactive Reinforcement Learning via Relabeling Experience and Unsupervised Pre-training [94.87393610927812]
  我々は、フィードバックと非政治学習の両方の長所を生かした、非政治的、インタラクティブな強化学習アルゴリズムを提案する。 提案手法は,従来ヒト・イン・ザ・ループ法で検討されていたよりも複雑度の高いタスクを学習可能であることを実証する。
  論文  参考訳（メタデータ） (2021-06-09T14:10:50Z)
• Domain-Robust Visual Imitation Learning with Mutual Information Constraints [0.0]
  Disentangling Generative Adversarial Imitation Learning (DisentanGAIL)と呼ばれる新しいアルゴリズムを導入する。 本アルゴリズムは,タスクを実行する専門家の高次元観察から自律エージェントを直接学習することを可能にする。
  論文  参考訳（メタデータ） (2021-03-08T21:18:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。