論文の概要: "Why is 'Chicago' deceptive?" Towards Building Model-Driven Tutorials for Humans

• arxiv url: http://arxiv.org/abs/2001.05871v1
• Date: Tue, 14 Jan 2020 19:00:00 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-11 11:47:23.957386
• Title: "Why is 'Chicago' deceptive?" Towards Building Model-Driven Tutorials for Humans
• Title（参考訳）: 「なぜシカゴはだまされるのか。」 人間のためのモデル駆動チュートリアルの構築に向けて
• Authors: Vivian Lai, Han Liu, Chenhao Tan
• Abstract要約: 我々は、人間が機械の予測を理解するのを助けるためのモデル駆動チュートリアルを探索する。 チュートリアルは、リアルタイムのアシストなしで、人間のパフォーマンスを実際に改善している。 我々の研究は、人間中心のチュートリアルと、人間とAIのシナジーへの説明の今後の方向性を示唆している。
• 参考スコア（独自算出の注目度）: 19.32935518528528
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: To support human decision making with machine learning models, we often need to elucidate patterns embedded in the models that are unsalient, unknown, or counterintuitive to humans. While existing approaches focus on explaining machine predictions with real-time assistance, we explore model-driven tutorials to help humans understand these patterns in a training phase. We consider both tutorials with guidelines from scientific papers, analogous to current practices of science communication, and automatically selected examples from training data with explanations. We use deceptive review detection as a testbed and conduct large-scale, randomized human-subject experiments to examine the effectiveness of such tutorials. We find that tutorials indeed improve human performance, with and without real-time assistance. In particular, although deep learning provides superior predictive performance than simple models, tutorials and explanations from simple models are more useful to humans. Our work suggests future directions for human-centered tutorials and explanations towards a synergy between humans and AI.
• Abstract（参考訳）: 機械学習モデルによる人間の意思決定を支援するために、私たちはしばしば、人間にとって不正確で未知の、あるいは直感に反するモデルに埋め込まれたパターンを解明する必要がある。 既存のアプローチでは、リアルタイムアシストによるマシン予測の説明に重点を置いているが、トレーニングフェーズにおけるこれらのパターンの理解を支援するためのモデル駆動チュートリアルを探索する。 本稿では,科学論文のガイドラインと科学コミュニケーションの実践に類似したチュートリアルと,説明付きトレーニングデータから自動的に選択された例について考察する。 テストベッドとして偽レビュー検出を用い,大規模無作為化実験を行い,チュートリアルの有効性を検証した。 チュートリアルは、リアルタイムのアシストなしで、人間のパフォーマンスを実際に改善している。 特に、ディープラーニングは単純なモデルよりも優れた予測性能を提供するが、単純なモデルからのチュートリアルや説明は人間にとってより有用である。 我々の研究は、人間中心のチュートリアルと、人間とAIのシナジーへの説明の今後の方向性を示唆している。

関連論文リスト

• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• Understanding Your Agent: Leveraging Large Language Models for Behavior Explanation [7.647395374489533]
  本研究では,状態や行動の観察のみに基づいて,エージェントの行動に関する自然言語説明を生成する手法を提案する。 提案手法は,人間ドメインの専門家が作成したものと同じくらい役立つ説明を生成する。
  論文  参考訳（メタデータ） (2023-11-29T20:16:23Z)
• Enhancing Robot Learning through Learned Human-Attention Feature Maps [6.724036710994883]
  ロボット学習にフォーカスポイントに関する補助情報を埋め込むことで、学習プロセスの効率性と堅牢性が向上すると考えられる。 本稿では,人間の注意を近似予測モデルでモデル化し,エミュレートするための新しいアプローチを提案する。 我々は,物体検出と模倣学習という2つの学習課題にアプローチを試行する。
  論文  参考訳（メタデータ） (2023-08-29T14:23:44Z)
• Modeling Human Behavior Part I -- Learning and Belief Approaches [0.0]
  探索とフィードバックを通じて行動のモデルや方針を学ぶ手法に焦点を当てる。 次世代の自律的適応システムは、主にAIエージェントと人間がチームとして一緒に働く。
  論文  参考訳（メタデータ） (2022-05-13T07:33:49Z)
• Learning to Scaffold: Optimizing Model Explanations for Teaching [74.25464914078826]
  我々は3つの自然言語処理とコンピュータビジョンタスクのモデルを訓練する。 筆者らは,本フレームワークで抽出した説明文を学習した学生が,従来の手法よりもはるかに効果的に教師をシミュレートできることを発見した。
  論文  参考訳（メタデータ） (2022-04-22T16:43:39Z)
• Explain, Edit, and Understand: Rethinking User Study Design for Evaluating Model Explanations [97.91630330328815]
  我々はクラウドソーシング研究を行い、真偽のホテルレビューと偽のホテルレビューを区別するために訓練された詐欺検出モデルと対話する。 単語の線形バッグモデルでは、トレーニング中に特徴係数にアクセスした参加者は、非説明制御と比較して、テストフェーズにおいてモデルの信頼性が大幅に低下する可能性があることを観察する。
  論文  参考訳（メタデータ） (2021-12-17T18:29:56Z)
• Widening the Pipeline in Human-Guided Reinforcement Learning with Explanation and Context-Aware Data Augmentation [20.837228359591663]
  本研究は,人間によるループ内強化学習における視覚的説明を用いた最初の研究である。 本研究では,タスク関連機能をコンテキスト対応データ拡張を通じて符号化することをモデルに推奨するEXPANDを提案する。
  論文  参考訳（メタデータ） (2020-06-26T05:40:05Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)
• Explainable Active Learning (XAL): An Empirical Study of How Local Explanations Impact Annotator Experience [76.9910678786031]
  本稿では、最近急増している説明可能なAI(XAI)のテクニックをアクティブラーニング環境に導入することにより、説明可能なアクティブラーニング(XAL)の新たなパラダイムを提案する。 本研究は,機械教育のインタフェースとしてのAI説明の利点として,信頼度校正を支援し,リッチな形式の教示フィードバックを可能にすること,モデル判断と認知作業負荷による潜在的な欠点を克服する効果を示す。
  論文  参考訳（メタデータ） (2020-01-24T22:52:18Z)
• Learning Predictive Models From Observation and Interaction [137.77887825854768]
  世界との相互作用から予測モデルを学ぶことで、ロボットのようなエージェントが世界がどのように働くかを学ぶことができる。 しかし、複雑なスキルのダイナミクスを捉えるモデルを学ぶことは大きな課題である。 本研究では,人間などの他のエージェントの観察データを用いて,トレーニングセットを増強する手法を提案する。
  論文  参考訳（メタデータ） (2019-12-30T01:10:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。