論文の概要: Can Fairness be Automated? Guidelines and Opportunities for Fairness-aware AutoML

• arxiv url: http://arxiv.org/abs/2303.08485v1
• Date: Wed, 15 Mar 2023 09:40:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2023-03-16 14:07:47.082748
• Title: Can Fairness be Automated? Guidelines and Opportunities for Fairness-aware AutoML
• Title（参考訳）: フェアネスは自動化できるか? フェアネスアウェアオートmlのガイドラインと機会
• Authors: Hilde Weerts, Florian Pfisterer, Matthias Feurer, Katharina Eggensperger, Edward Bergman, Noor Awad, Joaquin Vanschoren, Mykola Pechenizkiy, Bernd Bischl, Frank Hutter
• Abstract要約: フェアネスにまつわる害を発生させる様々な方法と、それに続くフェアネスを意識したAutoMLの設計について論じる。 フェアネスは自動化できないが、フェアネスを意識したAutoMLは、ML実践者のツールボックスにおいて重要な役割を果たす可能性がある、と結論付けている。
• 参考スコア（独自算出の注目度）: 30.960166479365792
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The field of automated machine learning (AutoML) introduces techniques that automate parts of the development of machine learning (ML) systems, accelerating the process and reducing barriers for novices. However, decisions derived from ML models can reproduce, amplify, or even introduce unfairness in our societies, causing harm to (groups of) individuals. In response, researchers have started to propose AutoML systems that jointly optimize fairness and predictive performance to mitigate fairness-related harm. However, fairness is a complex and inherently interdisciplinary subject, and solely posing it as an optimization problem can have adverse side effects. With this work, we aim to raise awareness among developers of AutoML systems about such limitations of fairness-aware AutoML, while also calling attention to the potential of AutoML as a tool for fairness research. We present a comprehensive overview of different ways in which fairness-related harm can arise and the ensuing implications for the design of fairness-aware AutoML. We conclude that while fairness cannot be automated, fairness-aware AutoML can play an important role in the toolbox of an ML practitioner. We highlight several open technical challenges for future work in this direction. Additionally, we advocate for the creation of more user-centered assistive systems designed to tackle challenges encountered in fairness work.
• Abstract（参考訳）: 自動機械学習(AutoML)の分野は、機械学習(ML)システムの開発を自動化し、プロセスを加速し、初心者の障壁を減らす技術を導入している。 しかし、MLモデルから導かれる決定は、我々の社会において不公平さを再現、増幅、あるいは導入し、個人(グループの)に害を与えます。 これに対し、研究者たちは公正度と予測性能を共同で最適化し、公正度に関連する害を軽減するAutoMLシステムを提案し始めている。 しかし、公平性は複雑で本質的に学際的な主題であり、単に最適化問題として捉えるだけでは副作用がある。 本研究は、フェアネスを意識したAutoMLの限界に対する認識を高めるとともに、フェアネス研究のツールとしてのAutoMLの可能性に注意を払うことを目的としている。 本稿では,フェアネス関連害の発生方法と,それに伴うフェアネス対応オートmlの設計への影響について概観する。 フェアネスは自動化できないが、フェアネスを意識したAutoMLは、ML実践者のツールボックスにおいて重要な役割を果たす。 我々は、この方向における今後の作業に対するいくつかのオープン技術的課題を強調する。 さらに,公平な作業で直面する課題に対処するために,よりユーザ中心の支援システムの開発を提唱する。

関連論文リスト

• UniAutoML: A Human-Centered Framework for Unified Discriminative and Generative AutoML with Large Language Models [5.725785427377439]
  我々は、人間中心のAutoMLフレームワークであるUniAutoMLを紹介し、AutoMLを識別的タスクと生成的タスクの両方に統一する。 UniAutoMLの人間中心の設計は、自然言語の対話を容易にする対話型ユーザインタフェース(CUI)を革新的に特徴付けている。 この設計により、AutoMLトレーニングプロセス全体の透明性とユーザコントロールが向上し、ユーザがトレーニング対象のモデルをシームレスに分解あるいは修正できるようになる。
  論文  参考訳（メタデータ） (2024-10-09T17:33:15Z)
• Position: A Call to Action for a Human-Centered AutoML Paradigm [83.78883610871867]
  自動機械学習(AutoML)は、機械学習(ML)を自動かつ効率的に構成する基本的目的を中心に形成された。 AutoMLの完全な可能性を解き放つ鍵は、現在探索されていないAutoMLシステムとのユーザインタラクションの側面に対処することにある、と私たちは主張する。
  論文  参考訳（メタデータ） (2024-06-05T15:05:24Z)
• Towards Scalable Automated Alignment of LLMs: A Survey [54.820256625544225]
  本稿では,最近登場した自動アライメントの手法を体系的にレビューする。 既存の自動アライメント手法をアライメント信号のソースに基づいて4つの主要なカテゴリに分類する。 本稿では,アライメントの基本的役割から,自動アライメント技術の実現を可能にする重要な要因について論じる。
  論文  参考訳（メタデータ） (2024-06-03T12:10:26Z)
• The Impossibility of Fair LLMs [59.424918263776284]
  大規模言語モデル(LLM)の時代において、公正なAIの必要性はますます明確になっている。 我々は、機械学習研究者が公正性を評価するために使った技術フレームワークについてレビューする。 我々は、特定のユースケースにおける公平性を達成するためのより現実的な目標のためのガイドラインを策定する。
  論文  参考訳（メタデータ） (2024-05-28T04:36:15Z)
• A Multivocal Literature Review on the Benefits and Limitations of Automated Machine Learning Tools [9.69672653683112]
  我々は多言語文献レビューを行い、学術文献から54の資料と、AutoMLの利点と限界について報告した灰色文献から108の資料を同定した。 メリットについては、AutoMLツールがMLの中核ステップの合理化に役立つ点を強調します。 AutoMLの普及の障害となるいくつかの制限を強調します。
  論文  参考訳（メタデータ） (2024-01-21T01:39:39Z)
• AutoML in the Age of Large Language Models: Current Challenges, Future Opportunities and Risks [62.05741061393927]
  この2つの分野は、緊密な統合によって相互の境界を根本的に押し付けることができると想定している。 認識可能な相乗効果だけでなくリスクも強調することにより、AutoMLとLCMの交差点でのさらなる探索を促進することを目指している。
  論文  参考訳（メタデータ） (2023-06-13T19:51:22Z)
• Benchmarking Automated Machine Learning Methods for Price Forecasting Applications [58.720142291102135]
  自動機械学習(AutoML)ソリューションで手作業で作成したMLパイプラインを置換する可能性を示す。 CRISP-DMプロセスに基づいて,手動MLパイプラインを機械学習と非機械学習に分割した。 本稿では、価格予測の産業利用事例として、ドメイン知識とAutoMLを組み合わせることで、ML専門家への依存が弱まることを示す。
  論文  参考訳（メタデータ） (2023-04-28T10:27:38Z)
• The Roles and Modes of Human Interactions with Automated Machine Learning Systems [7.670270099306412]
  自動機械学習(AutoML)システムは、洗練とパフォーマンスの両面で進歩を続けている。 これらのフレームワーク内でのヒューマン・コンピュータ・インタラクション(HCI)の方法と理由を理解することが重要である。 このレビューは、現在のAutoMLシステムと将来のAutoMLシステムの両方におけるヒューマンインタラクションの役割とモードの促進を目的とした、重要な研究方向を特定するのに役立つ。
  論文  参考訳（メタデータ） (2022-05-09T09:28:43Z)
• Naive Automated Machine Learning -- A Late Baseline for AutoML [0.0]
  AutoML(Automated Machine Learning)は、特定のデータセット上で最高の一般化パフォーマンスを持つパイプラインを自動的に見つける問題です。 機械学習の問題に関する重要なメタ知識を利用するAutoMLの非常に単純なソリューションであるNaive AutoMLを紹介します。
  論文  参考訳（メタデータ） (2021-03-18T19:52:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。