論文の概要: Visualizing Uncertainty-to-Action Composition for Human Oversight

• arxiv url: http://arxiv.org/abs/2608.16428v1
• Date: Mon, 17 Aug 2026 11:28:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.661809
• Title: Visualizing Uncertainty-to-Action Composition for Human Oversight
• Title（参考訳）: 人間の監視のための不確実性対行動構成の可視化
• Abstract要約: ほとんどの不確実性可視化は、モデル出力の不確実性を符号化し、ユーザが最も適切なアクションの行を識別する。 本稿では,複数の不確実性条件を構成する不確実性結合フレームワークを単一監視応答に導入する。 また、ActionCueというプロセス・トランパレンシー・ビジュアライゼーションで、その構成を明示的にレンダリングします。
• 参考スコア（独自算出の注目度）: 0.3823356975862005
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Artificial intelligence systems often disclose uncertainty, yet they rarely make clear what response that uncertainty should trigger. Most uncertainty visualizations encode uncertainty in model outputs, leaving users to discern the most appropriate course of action. A second region of the design space--uncertainty in the decision process itself, including how multiple uncertainty conditions compose into an oversight response-- remains comparatively underexplored. We address this gap with two coupled contributions. First, we introduce an uncertainty-to-action binding framework that composes multiple uncertainty conditions into a single oversight response under a precedence policy with a contextual safety modifier. That response concerns whether and how an AI-supported decision may proceed, not the substantive domain decision itself. Second, we present ActionCue, a process-transparency visualization that renders that composition explicit. We demonstrate the approach through a three-way comparison with confidence-only and data-level uncertainty displays, using worked cases from healthcare, credit assessment, and disaster forecasting. Together, the framework specifies how uncertainty conditions are resolved into an oversight response, and the visualization makes that resolution inspectable rather than implicit.
• Abstract（参考訳）: 人工知能システムはしばしば不確実性を明らかにするが、不確実性が引き起こすべき反応を明確化することは滅多にない。 ほとんどの不確実性可視化は、モデル出力の不確実性を符号化し、ユーザが最も適切なアクションの行を識別する。 設計空間の第二の領域は、決定プロセス自体の不確実性であり、複数の不確実性条件が監視的な応答にどのように構成されるかは、比較的過小評価されている。 このギャップを2つのコントリビューションで解決します。 まず,複数の不確実性条件を1つの監視応答に構成する不確実性結合フレームワークを提案する。 この回答は、AIが支持する決定が、実質的なドメイン決定そのものではなく、どのように進行するかを懸念している。 次に、ActionCueを紹介します。 本研究では,医療,信用評価,災害予報などの作業事例を用いて,信頼度のみとデータレベルの不確実性表示との3方向比較を行った。 同時に、このフレームワークは、不確実性条件が監視応答にどのように解決されるかを定義し、可視化することで、その解決を暗黙的にではなく検査可能にする。

関連論文リスト

• Decision Making Needs Uncertainty Quantification [Lecture Notes] [35.36148913066079]
  この講義ノートは、第一原理と単一決定論的な設定の中で、目的とエージェントの知識のリンクを発達させる。 リスクニュートラルなエージェントが状態の後方分布を必要とするのに対し、リスクオーバーなエージェントは予測セットと最悪の決定ルールに最適性を損なうことなく依存できることを示す。
  論文  参考訳（メタデータ） (2026-07-15T22:50:26Z)
• Aligning LLM Uncertainty with Human Disagreement in Subjectivity Analysis [57.78407973423517]
  我々は、モデルが人間の不一致を反映した不確実性を表現しながら予測する不確実性を考慮した主観性分析を提唱する。 この視点を運用するために,二相認識と不確実性アライメントの枠組みを提案する。 3つの主観的分析課題の実験は、DPUAが人間の不一致とモデルの不確実性をよりよく整合させながら、タスク性能を保っていることを示している。
  論文  参考訳（メタデータ） (2026-05-11T11:52:58Z)
• Principle-Guided Supervision for Interpretable Uncertainty in Medical Image Segmentation [15.512833015785773]
  我々は,明らかな学習に基づく原則誘導型不確実性監視フレームワーク(PriUS)を開発した。 PriUSは競合セグメンテーション性能を維持しながら、より一貫した不確実性推定を生成する。
  論文  参考訳（メタデータ） (2026-05-09T05:17:20Z)
• Verbalizing LLM's Higher-order Uncertainty via Imprecise Probabilities [13.14855346396444]
  1次不確実性は、プロンプトに対する可能性のある応答に対する不確実性をキャプチャし、2次不確実性は、基礎となる確率モデル自体の不確定性を定量化する。 汎用的なプロンプトと後処理の手順を導入し,不確実性の両順序を直接抽出・定量化し,その効果を多種多様な設定で示す。
  論文  参考訳（メタデータ） (2026-03-11T04:21:04Z)
• Agentic Uncertainty Quantification [76.94013626702183]
  本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。 システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
  論文  参考訳（メタデータ） (2026-01-22T07:16:26Z)
• Do not Abstain! Identify and Solve the Uncertainty [25.744791822890036]
  bftextConfuseBenchは、主に文書不足、限られた能力、クエリのあいまいさの3つのタイプの不確実性に焦点を当てたベンチマークである。 実験によると、現在のLLMは不確実性の根本原因を正確に特定し、解決するのに苦労している。 まず、元のクエリの紛らわしい側面を浮き彫りにするコンテキストアウェアな問い合わせを生成します。 そして,質問の答えの特異性に基づいて不確実性の原因を判断する。
  論文  参考訳（メタデータ） (2025-06-01T02:15:17Z)
• SConU: Selective Conformal Uncertainty in Large Language Models [59.25881667640868]
  SconU(Selective Conformal Uncertainity)と呼ばれる新しいアプローチを提案する。 我々は,特定の管理可能なリスクレベルで設定されたキャリブレーションの不確実性分布から,与えられたサンプルが逸脱するかどうかを決定するのに役立つ2つの共形p値を開発する。 我々のアプローチは、単一ドメインと学際的コンテキストの両方にわたる誤発見率の厳密な管理を促進するだけでなく、予測の効率を高める。
  論文  参考訳（メタデータ） (2025-04-19T03:01:45Z)
• SAUP: Situation Awareness Uncertainty Propagation on LLM Agent [52.444674213316574]
  大規模言語モデル(LLM)は多段階エージェントシステムに統合され、様々なアプリケーションにまたがる複雑な意思決定プロセスを可能にする。 既存の不確実性推定手法は主に最終段階の出力に重点を置いており、これは多段階決定プロセスにおける累積的不確実性やエージェントとその環境間の動的相互作用を考慮できない。 LLMエージェントの推論プロセスの各ステップを通じて不確実性を伝播する新しいフレームワークであるSAUPを提案する。
  論文  参考訳（メタデータ） (2024-12-02T01:31:13Z)
• Know Where You're Uncertain When Planning with Multimodal Foundation Models: A Formal Framework [54.40508478482667]
  認識と計画生成の不確実性を解消し、定量化し、緩和する包括的枠組みを提案する。 本稿では,知覚と意思決定の独特な性質に合わせた手法を提案する。 この不確実性分散フレームワークは, 変動率を最大40%削減し, タスク成功率をベースラインに比べて5%向上させることを示した。
  論文  参考訳（メタデータ） (2024-11-03T17:32:00Z)
• Uncertainty as a Form of Transparency: Measuring, Communicating, and Using Uncertainty [66.17147341354577]
  我々は,モデル予測に関連する不確実性を推定し,伝達することにより,相補的な透明性の形式を考えることについて議論する。 モデルの不公平性を緩和し、意思決定を強化し、信頼できるシステムを構築するために不確実性がどのように使われるかを説明する。 この研究は、機械学習、可視化/HCI、デザイン、意思決定、公平性にまたがる文学から引き出された学際的レビューを構成する。
  論文  参考訳（メタデータ） (2020-11-15T17:26:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。