論文の概要: Vision: "What Don't I Know About User's Preferences?" How Uncertainty Estimation Improves Proactive Assistant Alignment

• arxiv url: http://arxiv.org/abs/2610.15948v1
• Date: Sun, 11 Oct 2026 22:13:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.274414
• Title: Vision: "What Don't I Know About User's Preferences?" How Uncertainty Estimation Improves Proactive Assistant Alignment
• Title（参考訳）: ビジョン:「ユーザの選好について知らないことは何か?」 : 不確実性推定がアクティブアシスタントアライメントをいかに改善するか
• Abstract要約: 不確実性推定は、不足した情報を提供し、下流の振る舞いを著しく変えることができると論じる。 本稿では,人間の軌道予測などの周辺領域における不確実性推定手法を提案する。 我々は,将来の不確実性を考慮したプロアクティブアシスタントが,プロアクティブインタラクションにおける重要な課題にどう対処するかを考察する。
• 参考スコア（独自算出の注目度）: 10.309417954713153
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Proactive Smart Assistants (PSAs) increasingly use general knowledge, learned patterns from group-level data, patterns from individual user's data, and recent sensor observations to anticipate which action a user may prefer. Existing systems typically select actions from predicted user preference likelihoods, but these likelihoods alone do not reveal how reliable the prediction is, which evidence supports it, or why ambiguity remains. In this vision paper, we argue that uncertainty estimation can provide this missing information and substantially change appropriate downstream behavior. Using the example of a home assistant, we introduce the questions that uncertainty estimation aims to answer, i.e. how sure is the assistant about the predicted preference likelihood, whether the confidence come from group-level assumptions or individual's data, and whether likelihood ambiguity reflect the user's intrinsic preference variability or insufficient data for the particular situation. We further introduce uncertainty estimation applications in neighboring domains, such as human trajectory prediction, personalized activity recognition, information-collection, and model-based control. Finally, we draw on insights from neighboring domains to envision how future uncertainty-aware proactive assistants may address key challenges in proactive interaction.
• Abstract（参考訳）: プロアクティブスマートアシスタント(PSA)は、一般的な知識、グループレベルのデータからの学習パターン、個々のユーザのデータからのパターン、そして最近のセンサ観測によって、ユーザが好むアクションを予測している。 既存のシステムは通常、予測されたユーザの好みの確率からアクションを選択するが、これらの可能性だけでは、予測がどれほど信頼できるか、どのエビデンスがそれを支持するのか、なぜあいまいかは明らかにしない。 このビジョンペーパーでは、不確実性推定は、この欠落した情報を提供し、適切な下流行動を変えることができると論じている。 ホームアシスタントの例を用いて、不確実性推定は、予測された嗜好可能性、信頼度がグループレベルの仮定か個人個人のデータか、曖昧さがユーザの固有の嗜好変動や特定の状況に対する不十分なデータを反映しているか、といった疑問に答える。 さらに、人間の軌道予測、パーソナライズされた活動認識、情報収集、モデルベース制御など、近隣領域における不確実性推定の応用を導入する。 最後に、近隣のドメインからの洞察に基づいて、将来の不確実性を認識したプロアクティブアシスタントが、プロアクティブインタラクションにおける重要な課題にどのように対処するかを考察する。

関連論文リスト

• Reliable Remediation Impact Prediction for Black-Box Security Ratings [0.3044748118797888]
  そこで本稿では,修正スコアによる影響予測のためのサロゲートに基づくアプローチを提案する。 商用セキュリティ評価プラットフォームから5,188の組織構成の実際のデータセットに対するアプローチを評価した。
  論文  参考訳（メタデータ） (2026-07-17T09:58:38Z)
• Statistical Inference for Responsiveness Verification [15.571656327462142]
  本稿では,これらの特徴に対する介入に関して,予測の応答性に関する形式的検証手順を導入する。 ブラックボックスアクセスのみを用いて,モデルおよびデータセットの予測に対する応答性を推定する方法を述べる。 到達可能な点の均一なサンプルを生成することによって,これらの推定値を構成するアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2025-07-02T21:50:08Z)
• Interpreting Predictive Probabilities: Model Confidence or Human Label Variation? [27.226997687210044]
  私たちは、非常に異なる評価プロトコルを駆動する2つの主要な視点を特定します。 我々は,それらのメリットと限界について論じ,両者が信頼に値する,公平なNLPシステムにとって重要であるという立場を取る。 我々はツールを推奨し、人間のラベルに関する不確実性や不確実性について不整合表現を持つモデルへのエキサイティングな方向を示す。
  論文  参考訳（メタデータ） (2024-02-25T15:00:13Z)
• Debiasing Recommendation by Learning Identifiable Latent Confounders [49.16119112336605]
  コンバウンディングバイアスは、ユーザの露出とフィードバックの両方に影響を与える未測定変数の存在によって生じる。 既存の手法では,(1) 未測定変数について不確定な仮定を行うか,(2) 潜伏した共同創設者を直接ユーザの露出から推測する。 本稿では、上記の非識別問題の解決にプロキシ変数の集合を利用する新しい方法、すなわち、識別可能なデコノウ(iDCF)を提案する。
  論文  参考訳（メタデータ） (2023-02-10T05:10:26Z)
• What Should I Know? Using Meta-gradient Descent for Predictive Feature Discovery in a Single Stream of Experience [63.75363908696257]
  計算強化学習は、未来の感覚の予測を通じて、エージェントの世界の知覚を構築しようとする。 この一連の作業において、オープンな課題は、エージェントがどの予測が意思決定を最も支援できるかを、無限に多くの予測から決定することである。 本稿では,エージェントが何を予測するかを学習するメタ段階的な降下過程,(2)選択した予測の見積もり,3)将来の報酬を最大化するポリシーを生成する方法を紹介する。
  論文  参考訳（メタデータ） (2022-06-13T21:31:06Z)
• Learning Uncertainty For Safety-Oriented Semantic Segmentation In Autonomous Driving [77.39239190539871]
  自律運転における安全クリティカル画像セグメンテーションを実現するために、不確実性推定をどのように活用できるかを示す。 相似性関数によって測定された不一致予測に基づく新しい不確実性尺度を導入する。 本研究では,提案手法が競合手法よりも推論時間において計算集約性が低いことを示す。
  論文  参考訳（メタデータ） (2021-05-28T09:23:05Z)
• Heterogeneous-Agent Trajectory Forecasting Incorporating Class Uncertainty [54.88405167739227]
  本稿では,エージェントのクラス確率を明示的に組み込んだヘテロジニアスエージェント軌道予測手法であるHAICUを提案する。 さらに,新たな挑戦的な実世界の自動運転データセットであるpupも紹介する。 軌道予測にクラス確率を組み込むことで,不確実性に直面した性能が著しく向上することを示す。
  論文  参考訳（メタデータ） (2021-04-26T10:28:34Z)
• Uncertainty as a Form of Transparency: Measuring, Communicating, and Using Uncertainty [66.17147341354577]
  我々は,モデル予測に関連する不確実性を推定し,伝達することにより,相補的な透明性の形式を考えることについて議論する。 モデルの不公平性を緩和し、意思決定を強化し、信頼できるシステムを構築するために不確実性がどのように使われるかを説明する。 この研究は、機械学習、可視化/HCI、デザイン、意思決定、公平性にまたがる文学から引き出された学際的レビューを構成する。
  論文  参考訳（メタデータ） (2020-11-15T17:26:14Z)
• When Does Uncertainty Matter?: Understanding the Impact of Predictive Uncertainty in ML Assisted Decision Making [68.19284302320146]
  我々は,異なるレベルの専門知識を持つ人々が,異なるタイプの予測不確実性にどう反応するかを評価するために,ユーザスタディを実施している。 その結果,後続の予測分布を示すことは,MLモデルの予測との相違点が小さくなることがわかった。 このことは、後続の予測分布は、人間の分布の種類や専門性を考慮し、注意を払って使用するべき有用な決定支援として役立つ可能性があることを示唆している。
  論文  参考訳（メタデータ） (2020-11-12T02:23:53Z)
• A Bayesian Evaluation Framework for Subjectively Annotated Visual Recognition Tasks [0.0]
  予測器の内部構造から生じる不確実性を評価するための枠組みを提案する。 この枠組みは、主観的人間の判断を用いた4つの画像分類タスクにうまく適用されている。
  論文  参考訳（メタデータ） (2020-06-20T18:35:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。