論文の概要: TDM: Trustworthy Decision-Making via Interpretability Enhancement
- arxiv url: http://arxiv.org/abs/2108.06080v1
- Date: Fri, 13 Aug 2021 06:22:16 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-16 13:04:11.298288
- Title: TDM: Trustworthy Decision-Making via Interpretability Enhancement
- Title（参考訳）: TDM:解釈可能性向上による信頼できる意思決定
- Authors: Daoming Lyu, Fangkai Yang, Hugh Kwon, Wen Dong, Levent Yilmaz, Bo Liu
- Abstract要約: シンボリックプランニングとシーケンシャル意思決定を統合した信頼性の高い意思決定フレームワークを提案する。
このフレームワークは、形式的に評価できる複雑な高レベルな複合タスクをもたらす解釈可能なサブタスクを学習する。
TDMに基づくアルゴリズムを導入し、記号計画と他のシーケンシャル決定アルゴリズムの統合を実証する。
- 参考スコア（独自算出の注目度）: 12.689651013553298
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Human-robot interactive decision-making is increasingly becoming ubiquitous,
and trust is an influential factor in determining the reliance on autonomy.
However, it is not reasonable to trust systems that are beyond our
comprehension, and typical machine learning and data-driven decision-making are
black-box paradigms that impede interpretability. Therefore, it is critical to
establish computational trustworthy decision-making mechanisms enhanced by
interpretability-aware strategies. To this end, we propose a Trustworthy
Decision-Making (TDM) framework, which integrates symbolic planning into
sequential decision-making. The framework learns interpretable subtasks that
result in a complex, higher-level composite task that can be formally evaluated
using the proposed trust metric. TDM enables the subtask-level interpretability
by design and converges to an optimal symbolic plan from the learned subtasks.
Moreover, a TDM-based algorithm is introduced to demonstrate the unification of
symbolic planning with other sequential-decision making algorithms, reaping the
benefits of both. Experimental results validate the effectiveness of
trust-score-based planning while improving the interpretability of subtasks.
- Abstract（参考訳）: 人間ロボットによる対話的な意思決定はますます普及しており、信頼は自律性への依存を決定する上で重要な要素である。
しかし、我々の理解を超えたシステムを信頼することは合理的ではなく、典型的な機械学習とデータ駆動意思決定は解釈可能性を妨げるブラックボックスパラダイムである。
したがって、解釈可能性認識戦略によって強化された計算的信頼度の高い意思決定機構を確立することが重要である。
そこで我々は,象徴的計画と逐次的意思決定を統合したTDM(Trustworthy Decision-Making)フレームワークを提案する。
このフレームワークは、複雑な高レベルな複合タスクをもたらす解釈可能なサブタスクを学習し、提案した信頼度を使って形式的に評価できる。
TDMは設計によるサブタスクレベルの解釈を可能にし、学習したサブタスクから最適なシンボリックプランに収束する。
さらに、TDMに基づくアルゴリズムを導入して、シンボル計画と他のシーケンシャル決定アルゴリズムとの統一性を実証し、両方の利点を享受する。
実験結果は,サブタスクの解釈性を改善しつつ,信頼スコアに基づく計画の有効性を検証する。
関連論文リスト
- Know Where You're Uncertain When Planning with Multimodal Foundation Models: A Formal Framework [54.40508478482667]
認識と計画生成の不確実性を解消し、定量化し、緩和する包括的枠組みを提案する。
本稿では,知覚と意思決定の独特な性質に合わせた手法を提案する。
この不確実性分散フレームワークは, 変動率を最大40%削減し, タスク成功率をベースラインに比べて5%向上させることを示した。
論文 参考訳（メタデータ） (2024-11-03T17:32:00Z) - Making Large Language Models Better Planners with Reasoning-Decision Alignment [70.5381163219608]
マルチモーダリティ強化LLMに基づくエンドツーエンド意思決定モデルを提案する。
ペア化されたCoTと計画結果との推論・決定アライメントの制約を提案する。
提案する大規模言語プランナをRDA-Driverとして推論・決定アライメントする。
論文 参考訳（メタデータ） (2024-08-25T16:43:47Z) - Interpretable Concept-Based Memory Reasoning [12.562474638728194]
コンセプトベースのメモリリゾナー(CMR)は、人間に理解でき、検証可能なタスク予測プロセスを提供するために設計された新しいCBMである。
CMRは、最先端のCBMに対する精度-解釈可能性のトレードオフを向上し、基礎的な真実と整合した論理規則を発見し、規則の介入を可能にし、事前デプロイ検証を可能にする。
論文 参考訳（メタデータ） (2024-07-22T10:32:48Z) - A Decision Theoretic Framework for Measuring AI Reliance [23.353778024330165]
人間はしばしば人工知能(AI)システムの助けを借りて意思決定をする。
研究者は、補完的なパフォーマンスを達成する上で重要な要素として、人間がAIに適切に依存していることを確認する。
本稿では, 統計的決定理論に基づく信頼の形式的定義を提案し, 意思決定者がAIの推奨に従う確率として信頼の概念を分離する。
論文 参考訳（メタデータ） (2024-01-27T09:13:09Z) - Mathematical Algorithm Design for Deep Learning under Societal and
Judicial Constraints: The Algorithmic Transparency Requirement [65.26723285209853]
計算モデルにおける透過的な実装が実現可能かどうかを分析するための枠組みを導出する。
以上の結果から,Blum-Shub-Smale Machinesは,逆問題に対する信頼性の高い解法を確立できる可能性が示唆された。
論文 参考訳（メタデータ） (2024-01-18T15:32:38Z) - Modeling Boundedly Rational Agents with Latent Inference Budgets [56.24971011281947]
エージェントの計算制約を明示的にモデル化する潜在推論予算モデル(L-IBM)を導入する。
L-IBMは、最適なアクターの多様な集団のデータを使ってエージェントモデルを学ぶことができる。
我々は,L-IBMが不確実性の下での意思決定のボルツマンモデルに適合しているか,あるいは上回っていることを示す。
論文 参考訳（メタデータ） (2023-12-07T03:55:51Z) - Probabilistic Constrained Reinforcement Learning with Formal Interpretability [2.990411348977783]
本稿では,これらの解釈可能性問題に対処するために,適応ワッサースタイン変分最適化(AWaVO)を提案する。
提案手法は,コンバージェンス保証の解釈可能性,透明性の訓練,本質的な決定解釈を実現するために形式的手法を用いる。
TRPO-IPO, PCPO, CRPOといった最先端ベンチマークと比較して, AWaVOがハイパフォーマンスと十分な解釈可能性の間に合理的なトレードオフをもたらすことを実証的に検証する。
論文 参考訳（メタデータ） (2023-07-13T22:52:22Z) - Reinforcement Learning with a Terminator [80.34572413850186]
我々は, TerMDP のパラメータを学習し, 推定問題の構造を活用し, 状態ワイドな信頼境界を提供する。
我々はこれらを用いて証明可能な効率のよいアルゴリズムを構築し、終端を考慮し、その後悔を抑える。
論文 参考訳（メタデータ） (2022-05-30T18:40:28Z) - Uncertainty as a Form of Transparency: Measuring, Communicating, and
Using Uncertainty [66.17147341354577]
我々は,モデル予測に関連する不確実性を推定し,伝達することにより,相補的な透明性の形式を考えることについて議論する。
モデルの不公平性を緩和し、意思決定を強化し、信頼できるシステムを構築するために不確実性がどのように使われるかを説明する。
この研究は、機械学習、可視化/HCI、デザイン、意思決定、公平性にまたがる文学から引き出された学際的レビューを構成する。
論文 参考訳（メタデータ） (2020-11-15T17:26:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。