論文の概要: Understanding the Usability Challenges of Machine Learning In
High-Stakes Decision Making
- arxiv url: http://arxiv.org/abs/2103.02071v1
- Date: Tue, 2 Mar 2021 22:50:45 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-04 14:55:36.858867
- Title: Understanding the Usability Challenges of Machine Learning In
High-Stakes Decision Making
- Title(参考訳): 高リスク意思決定における機械学習のユーザビリティ課題の理解
- Authors: Alexandra Zytek, Dongyu Liu, Rhema Vaithianathan, and Kalyan
Veeramachaneni
- Abstract要約: 機械学習(ML)は、多種多様な成長を続ける一連のドメインに適用されている。
多くの場合、MLやデータサイエンスの専門知識を持たないドメインの専門家は、ML予測を使用してハイステークな意思決定を行うように求められます。
児童福祉スクリーニングにおけるMLユーザビリティの課題について,児童福祉スクリーニング者との一連のコラボレーションを通じて検討する。
- 参考スコア(独自算出の注目度): 67.72855777115772
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Machine learning (ML) is being applied to a diverse and ever-growing set of
domains. In many cases, domain experts -- who often have no expertise in ML or
data science -- are asked to use ML predictions to make high-stakes decisions.
Multiple ML usability challenges can appear as result, such as lack of user
trust in the model, inability to reconcile human-ML disagreement, and ethical
concerns about oversimplification of complex problems to a single algorithm
output. In this paper, we investigate the ML usability challenges present in
the domain of child welfare screening through a series of collaborations with
child welfare screeners, which included field observations, interviews, and a
formal user study. Through our collaborations, we identified four key ML
challenges, and honed in on one promising ML augmentation tool to address them
(local factor contributions). We also composed a list of design considerations
to be taken into account when developing future augmentation tools for child
welfare screeners and similar domain experts.
- Abstract(参考訳): 機械学習(ML)は、多種多様な成長を続ける一連のドメインに適用されている。
多くの場合、MLやデータサイエンスの専門知識を持たないドメインの専門家は、ML予測を使用してハイステークな意思決定を行うように求められます。
モデルに対するユーザ信頼の欠如、人間-MLの不一致を解決できないこと、複雑な問題を1つのアルゴリズム出力に過度に単純化することに対する倫理的懸念など、複数のMLユーザビリティの問題が発生する可能性がある。
本稿では,児童福祉スクリーニングの分野に存在するmlユーザビリティの課題を,現場観察,インタビュー,正式なユーザ調査を含む児童福祉スクリーニング者との一連のコラボレーションを通して検討する。
コラボレーションを通じて、4つの重要なML課題を特定し、それらに対処する有望なML拡張ツール(ローカルファクターコントリビューション)に注目しました。
また,児童福祉スクリーニングと類似のドメインエキスパートのための今後の強化ツールの開発において考慮すべき設計事項の一覧を作成した。
関連論文リスト
- FAC$^2$E: Better Understanding Large Language Model Capabilities by
Dissociating Language and Cognition [57.747888532651]
大規模言語モデル(LLM)は、主に様々なテキスト理解および生成タスクにおける全体的なパフォーマンスによって評価される。
FAC$2$E, FAC$2$Eについて述べる。
論文 参考訳(メタデータ) (2024-02-29T21:05:37Z) - Competition-Level Problems are Effective LLM Evaluators [124.7648712310141]
本稿では,Codeforcesにおける最近のプログラミング問題の解決において,大規模言語モデル(LLM)の推論能力を評価することを目的とする。
まず,問題の発生時間,難易度,遭遇したエラーの種類など,様々な側面を考慮して,GPT-4の望ましくないゼロショット性能を総合的に評価する。
驚くべきことに、GPT-4のTheThoughtivedのパフォーマンスは、2021年9月以降、あらゆる困難と種類の問題に対して一貫して問題が減少するような崖を経験している。
論文 参考訳(メタデータ) (2023-12-04T18:58:57Z) - The Transformative Influence of Large Language Models on Software
Development [0.0]
Generalized Large Language Models (LLM) は様々な分野に進出している。
LLMはAIペアプログラミングアシスタントとしての役割をますます高めており、重要な課題やオープンな問題も提示している。
予備的な調査結果は、データのプライバシー、偏見、誤報に関する懸念を浮き彫りにしている。
調査で確認した12のオープンな問題を特定し、これらの領域をカバーしています。
論文 参考訳(メタデータ) (2023-11-28T02:18:54Z) - MacGyver: Are Large Language Models Creative Problem Solvers? [90.62345519188655]
本稿では,現代大言語モデル(LLM)の創造的問題解決能力について,制約のある環境で検討する。
私たちは1,600の現実世界の問題からなる自動生成されたデータセットであるMacGyverを作成します。
MacGyverはどちらのグループでも難しいが、ユニークで相補的な方法では難しい。
論文 参考訳(メタデータ) (2023-11-16T08:52:27Z) - MLCopilot: Unleashing the Power of Large Language Models in Solving
Machine Learning Tasks [31.733088105662876]
我々は、新しいフレームワークを導入することで、機械学習と人間の知識のギャップを埋めることを目指している。
本稿では、構造化された入力を理解するためのLLMの能力を拡張し、新しいMLタスクを解くための徹底的な推論を行う可能性を示す。
論文 参考訳(メタデータ) (2023-04-28T17:03:57Z) - Interpretability and accessibility of machine learning in selected food
processing, agriculture and health applications [0.0]
MLベースのシステムの解釈可能性の欠如は、これらの強力なアルゴリズムの普及の大きな障害である。
自動モデル設計によるMLアクセシビリティ向上のために、新たなテクニックが登場している。
本稿では,グローバル問題における機械学習の解釈可能性とアクセシビリティ向上に向けた取り組みについて概説する。
論文 参考訳(メタデータ) (2022-11-30T02:44:13Z) - MLPro: A System for Hosting Crowdsourced Machine Learning Challenges for
Open-Ended Research Problems [1.3254304182988286]
我々は,オープンエンドMLコーディング問題の概念とオンラインコードの自動判定プラットフォームの概念を組み合わせるシステムを開発した。
十分に制約のない複雑な問題に対して、多くの専門家が同様の解決策を提出するが、一部の専門家は「典型的な」解クラスよりも優れた独自のソリューションを提供している。
論文 参考訳(メタデータ) (2022-04-04T02:56:12Z) - Panoramic Learning with A Standardized Machine Learning Formalism [116.34627789412102]
本稿では,多様なMLアルゴリズムの統一的な理解を提供する学習目的の標準化された方程式を提案する。
また、新しいMLソリューションのメカニック設計のガイダンスも提供し、すべての経験を持つパノラマ学習に向けた有望な手段として機能する。
論文 参考訳(メタデータ) (2021-08-17T17:44:38Z) - Practical Machine Learning Safety: A Survey and Primer [81.73857913779534]
自動運転車のような安全クリティカルなアプリケーションにおける機械学習アルゴリズムのオープンワールド展開は、さまざまなML脆弱性に対処する必要がある。
一般化エラーを低減し、ドメイン適応を実現し、外乱例や敵攻撃を検出するための新しいモデルと訓練技術。
我々の組織は、MLアルゴリズムの信頼性を異なる側面から向上するために、最先端のML技術を安全戦略にマッピングする。
論文 参考訳(メタデータ) (2021-06-09T05:56:42Z) - Machine Learning Towards Intelligent Systems: Applications, Challenges,
and Opportunities [8.68311678910946]
機械学習(ML)は、人間が大量のデータを処理するためのメカニズムを提供する。
このレビューは教育、医療、ネットワークセキュリティ、銀行と金融、ソーシャルメディアといった分野と応用に焦点を当てている。
論文 参考訳(メタデータ) (2021-01-11T01:32:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。