論文の概要: Democratize with Care: The need for fairness specific features in
user-interface based open source AutoML tools
- arxiv url: http://arxiv.org/abs/2312.12460v1
- Date: Sat, 16 Dec 2023 19:54:00 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-21 18:39:48.891902
- Title: Democratize with Care: The need for fairness specific features in
user-interface based open source AutoML tools
- Title（参考訳）: ケアの民主化: ユーザインターフェースベースのオープンソースAutoMLツールにおける公平性固有の機能の必要性
- Authors: Sundaraparipurnan Narayanan
- Abstract要約: Automated Machine Learning (AutoML)は、機械学習モデル開発プロセスを効率化する。
この民主化により、多くのユーザー(非専門家を含む)が最先端の機械学習の専門知識にアクセスし利用できるようになる。
しかし、AutoMLツールはまた、これらのツールがデータを処理する方法、モデル選択、そして採用される最適化アプローチのバイアスを伝播する可能性がある。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI is increasingly playing a pivotal role in businesses and organizations,
impacting the outcomes and interests of human users. Automated Machine Learning
(AutoML) streamlines the machine learning model development process by
automating repetitive tasks and making data-driven decisions, enabling even
non-experts to construct high-quality models efficiently. This democratization
allows more users (including non-experts) to access and utilize
state-of-the-art machine-learning expertise. However, AutoML tools may also
propagate bias in the way these tools handle the data, model choices, and
optimization approaches adopted. We conducted an experimental study of
User-interface-based open source AutoML tools (DataRobot, H2O Studio, Dataiku,
and Rapidminer Studio) to examine if they had features to assist users in
developing fairness-aware machine learning models. The experiments covered the
following considerations for the evaluation of features: understanding use case
context, data representation, feature relevance and sensitivity, data bias and
preprocessing techniques, data handling capabilities, training-testing split,
hyperparameter handling, and constraints, fairness-oriented model development,
explainability and ability to download and edit models by the user. The results
revealed inadequacies in features that could support in fairness-aware model
development. Further, the results also highlight the need to establish certain
essential features for promoting fairness in AutoML tools.
- Abstract（参考訳）: AIは企業や組織においてますます重要な役割を担い、人間の成果や関心に影響を与えている。
自動機械学習(automl)は、反復的なタスクを自動化し、データ駆動の意思決定を行うことで、機械学習モデル開発プロセスを合理化する。
この民主化により、多くのユーザー(非専門家を含む)が最先端の機械学習の専門知識にアクセスし利用できるようになる。
しかし、automlツールは、これらのツールがデータを扱う方法やモデルの選択、採用される最適化アプローチにバイアスを伝播する可能性がある。
ユーザインターフェースに基づくオープンソースのautomlツール(datarobot、h2o studio、dataiku、rapidminer studio)の実験研究を行い、公正な機械学習モデルの開発を支援する機能がユーザにあるかどうかについて検討した。
ユースケースコンテキストの理解、データ表現、特徴の関連性と感度、データバイアスと前処理技術、データハンドリング機能、トレーニング-テスト分割、ハイパーパラメータハンドリングと制約、公正指向モデル開発、説明可能性とユーザによるモデルのダウンロードと編集能力。
その結果,公正なモデル開発を支援する機能に不整合が認められた。
さらに、結果はAutoMLツールの公正性を促進するために不可欠な機能を確立する必要性も強調している。
関連論文リスト
- AdaptoML-UX: An Adaptive User-centered GUI-based AutoML Toolkit for Non-AI Experts and HCI Researchers [19.602247178319992]
AdaptoML-UXは、自動機能エンジニアリング、機械学習、インクリメンタルラーニングを組み込んだアダプティブフレームワークである。
我々のツールキットは、多様な問題領域やデータセットに効率的に適応できることを示します。
インクリメンタルな学習を通じてモデルのパーソナライズをサポートし、個々のユーザの振る舞いに合わせてモデルをカスタマイズする。
論文 参考訳（メタデータ） (2024-10-22T22:52:14Z) - A Multimodal Automated Interpretability Agent [63.8551718480664]
MAIAは、ニューラルモデルを使用して、ニューラルモデル理解タスクを自動化するシステムである。
まず、画像の学習表現における(ニューロンレベルの)特徴を記述できるMAIAの能力を特徴付ける。
次に、MAIAは、刺激的な特徴に対する感度の低下と、誤分類される可能性のある入力を自動的に識別する2つの追加の解釈可能性タスクに役立てることができることを示す。
論文 参考訳（メタデータ） (2024-04-22T17:55:11Z) - The Frontier of Data Erasure: Machine Unlearning for Large Language Models [56.26002631481726]
大規模言語モデル(LLM)はAIの進歩の基礎となっている。
LLMは機密情報、偏見情報、著作権情報を記憶し、広めることによってリスクを生じさせる。
機械学習は、これらの懸念を軽減するための最先端のソリューションとして現れます。
論文 参考訳（メタデータ） (2024-03-23T09:26:15Z) - CLASSify: A Web-Based Tool for Machine Learning [0.0]
本稿では、機械学習の分類問題の自動化ツールについて、学習モデルのプロセスを簡単にし、結果を生成するとともに、データに対する情報的可視化と洞察を提供する。
CLASSifyは、機械学習の知識を必要とせずに分類問題を解決するオープンソースのツールである。
論文 参考訳（メタデータ） (2023-10-05T15:51:36Z) - Self-directed Machine Learning [86.3709575146414]
教育科学において、自己指導型学習は受動的教師指導型学習よりも効果的であることが示されている。
本稿では,自己指向機械学習(SDML)の基本概念を紹介し,SDMLのためのフレームワークを提案する。
提案したSDMLプロセスは,自己タスク選択,自己データ選択,自己モデル選択,自己最適化戦略選択,自己評価基準選択の恩恵を受ける。
論文 参考訳（メタデータ） (2022-01-04T18:32:06Z) - SOLIS -- The MLOps journey from data acquisition to actionable insights [62.997667081978825]
本稿では,基本的なクロスプラットフォームテンソルフレームワークとスクリプト言語エンジンを使用しながら,すべての要件をサポートする統合デプロイメントパイプラインとフリー・ツー・オペレートアプローチを提案する。
しかし、このアプローチは、実際のプロダクショングレードシステムに機械学習機能を実際にデプロイするために必要な手順やパイプラインを提供していない。
論文 参考訳（メタデータ） (2021-12-22T14:45:37Z) - Towards Model-informed Precision Dosing with Expert-in-the-loop Machine
Learning [0.0]
モデル学習ループに人的専門家を取り入れることで、モデル学習を加速し、解釈可能性を向上させるMLフレームワークを検討する。
本稿では,データアノテーションのコストが高い学習問題に対処することを目的とした,新たなヒューマン・イン・ザ・ループMLフレームワークを提案する。
精度測定への応用により,本手法はデータから解釈可能なルールを学習し,専門家の作業負荷を低減できる可能性が示唆された。
論文 参考訳（メタデータ） (2021-06-28T03:45:09Z) - Automated Machine Learning Techniques for Data Streams [91.3755431537592]
本稿では、最先端のオープンソースAutoMLツールを調査し、ストリームから収集したデータに適用し、時間とともにパフォーマンスがどのように変化するかを測定する。
この結果から,既製のAutoMLツールで十分な結果が得られることが示されたが,概念ドリフトや検出,適応といった手法が適用されれば,予測精度を時間とともに維持することが可能になる。
論文 参考訳（メタデータ） (2021-06-14T11:42:46Z) - Transfer Learning without Knowing: Reprogramming Black-box Machine
Learning Models with Scarce Data and Limited Resources [78.72922528736011]
そこで我々は,ブラックボックス・アタベラル・リプログラミング (BAR) という新しい手法を提案する。
ゼロオーダー最適化とマルチラベルマッピング技術を用いて、BARは入力出力応答のみに基づいてブラックボックスMLモデルをプログラムする。
BARは最先端の手法より優れ、バニラ対逆プログラミング法に匹敵する性能を得る。
論文 参考訳（メタデータ） (2020-07-17T01:52:34Z) - Trust in AutoML: Exploring Information Needs for Establishing Trust in
Automated Machine Learning Systems [30.385703521998014]
本稿では,AutoMLシステムへの信頼を確立するために,データサイエンティストの持つ情報ニーズを理解するための3つの研究結果について報告する。
モデルパフォーマンスメトリクスと視覚化が、AutoMLツールへの信頼を確立する上で、データサイエンティストにとって最も重要な情報であることに気付きました。
論文 参考訳（メタデータ） (2020-01-17T19:50:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。