論文の概要: Diversity in Sociotechnical Machine Learning Systems
- arxiv url: http://arxiv.org/abs/2107.09163v1
- Date: Mon, 19 Jul 2021 21:26:38 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-21 20:59:47.576620
- Title: Diversity in Sociotechnical Machine Learning Systems
- Title（参考訳）: 社会技術機械学習システムの多様性
- Authors: Sina Fazelpour, Maria De-Arteaga
- Abstract要約: 近年,機械学習(ML)研究における社会文化的多様性への関心が高まっている。
我々は、科学哲学と異なる多様性概念の分類を示し、これらの概念の根底にある明確な根拠を解明する。
多様性がグループパフォーマンスに寄与するメカニズムの概要を提供する。
- 参考スコア（独自算出の注目度）: 2.9973947110286163
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: There has been a surge of recent interest in sociocultural diversity in
machine learning (ML) research, with researchers (i) examining the benefits of
diversity as an organizational solution for alleviating problems with
algorithmic bias, and (ii) proposing measures and methods for implementing
diversity as a design desideratum in the construction of predictive algorithms.
Currently, however, there is a gap between discussions of measures and benefits
of diversity in ML, on the one hand, and the broader research on the underlying
concepts of diversity and the precise mechanisms of its functional benefits, on
the other. This gap is problematic because diversity is not a monolithic
concept. Rather, different concepts of diversity are based on distinct
rationales that should inform how we measure diversity in a given context.
Similarly, the lack of specificity about the precise mechanisms underpinning
diversity's potential benefits can result in uninformative generalities,
invalid experimental designs, and illicit interpretations of findings. In this
work, we draw on research in philosophy, psychology, and social and
organizational sciences to make three contributions: First, we introduce a
taxonomy of different diversity concepts from philosophy of science, and
explicate the distinct epistemic and political rationales underlying these
concepts. Second, we provide an overview of mechanisms by which diversity can
benefit group performance. Third, we situate these taxonomies--of concepts and
mechanisms--in the lifecycle of sociotechnical ML systems and make a case for
their usefulness in fair and accountable ML. We do so by illustrating how they
clarify the discourse around diversity in the context of ML systems, promote
the formulation of more precise research questions about diversity's impact,
and provide conceptual tools to further advance research and practice.
- Abstract（参考訳）: 機械学習(ML)研究における社会文化的多様性への近年の関心が高まっている。
(i)アルゴリズムバイアスによる問題解決のための組織的ソリューションとしての多様性のメリットの検討
(ii)予測アルゴリズムの構築において,設計デシデラタムとして多様性を実現するための手段と手法の提案。
しかし、現在、mlにおける測度と多様性の利点の議論と、その根底にある多様性の概念とその機能的利益の正確なメカニズムに関する広範な研究の間にはギャップがある。
なぜなら多様性はモノリシックな概念ではないからです。
むしろ、多様性の異なる概念は、与えられた文脈で多様性を計測する方法を知らせるべき明確な理性に基づいている。
同様に、多様性の潜在的な利益を支える正確なメカニズムに関する特異性の欠如は、非形式的な一般性、無効な実験設計、そして発見の不正な解釈をもたらす。
本研究は、哲学、心理学、社会・組織科学の研究に基づいて、3つの貢献を行う: まず、科学哲学から異なる多様性概念の分類を導入し、これらの概念の根底にある異なる疫学・政治的根拠を解明する。
第2に,多様性がグループパフォーマンスに寄与するメカニズムの概要を提供する。
第3に,社会工学的MLシステムのライフサイクルにおける概念とメカニズムの分類を定め,公平かつ説明可能なMLにおけるそれらの有用性について論じる。
私たちは、mlシステムのコンテキストにおける多様性に関する談話の明確化、多様性の影響に関するより正確な研究質問の定式化、さらに研究と実践を進めるための概念的ツールの提供を図示した。
関連論文リスト
- Diversity of What? On the Different Conceptualizations of Diversity in Recommender Systems [0.29127054707887967]
3つの異なる公共サービスメディア組織における実践者が、推奨システムの範囲内で多様性を概念化する方法について検討する。
この制限された領域においても多様性の概念化は大きく異なり、標準化された概念化が達成される可能性は低い。
論文 参考訳（メタデータ） (2024-05-03T11:58:03Z) - System Neural Diversity: Measuring Behavioral Heterogeneity in Multi-Agent Learning [8.280943341629161]
マルチエージェントシステムにおける振る舞いの不均一性の尺度であるシステムニューラルダイバーシティ(SND)を紹介する。
SNDはエージェントが取得した潜時レジリエンスのスキルを計測できるが、タスクパフォーマンス(リワード)などの他のプロキシは失敗する。
我々は、このパラダイムが探索フェーズのブートストラップにどのように使用できるかを示し、最適なポリシーを高速に見つける。
論文 参考訳（メタデータ） (2023-05-03T13:58:13Z) - Interpretable Diversity Analysis: Visualizing Feature Representations In
Low-Cost Ensembles [0.0]
本稿では,多様性を定性的に分析できるいくつかの解釈可能性手法を提案する。
2つの低コストアンサンブルアルゴリズムを用いて,子ネットワーク間の特徴表現の多様性を比較することによって,これらの手法を実証する。
論文 参考訳（メタデータ） (2023-02-12T00:32:03Z) - Social Diversity Reduces the Complexity and Cost of Fostering Fairness [63.70639083665108]
不完全な情報や公平性の柔軟な基準を前提とした干渉機構の効果について検討する。
多様性の役割を定量化し、情報収集の必要性を減らす方法を示す。
この結果から,多様性が変化し,公正性向上を目指す機関に新たなメカニズムが開放されることが示唆された。
論文 参考訳（メタデータ） (2022-11-18T21:58:35Z) - Foundations and Recent Trends in Multimodal Machine Learning:
Principles, Challenges, and Open Questions [68.6358773622615]
本稿では,マルチモーダル機械学習の計算的基礎と理論的基礎について概説する。
本稿では,表現,アライメント,推論,生成,伝達,定量化という,6つの技術課題の分類法を提案する。
最近の技術的成果は、この分類のレンズを通して示され、研究者は新しいアプローチの類似点と相違点を理解することができる。
論文 参考訳（メタデータ） (2022-09-07T19:21:19Z) - Exploring Diversity in Back Translation for Low-Resource Machine
Translation [85.03257601325183]
バックトランスフォーメーションは、ニューラルマシントランスフォーメーションシステムの性能を改善するために最も広く使われている手法の1つである。
近年の研究では、生成された翻訳の「多様性」を増大させることにより、この手法の有効性を高めることを目指している。
この研究は、トレーニングデータの多様性を理解し、それを語彙的多様性と構文的多様性に分割する、より微妙なフレームワークを推し進めている。
論文 参考訳（メタデータ） (2022-06-01T15:21:16Z) - What can phylogenetic metrics tell us about useful diversity in
evolutionary algorithms? [62.997667081978825]
系統的多様性指標(英: Phylogenetic diversity metrics)は、生物学で広く用いられる指標の分類である。
ほとんどの場合、系統学的指標は他の多様性指標と有意に異なる振る舞いをする。
論文 参考訳（メタデータ） (2021-08-28T06:49:14Z) - The zoo of Fairness metrics in Machine Learning [62.997667081978825]
近年,機械学習(ML)と自動意思決定における公平性の問題が注目されている。
MLにおける公平性の定義の多様さが提案され、人口の個人に影響を与える状況において「公正な決定」とは何かという異なる概念が検討されている。
本研究では、この定義の動物園からある程度の順序付けを試みる。
論文 参考訳（メタデータ） (2021-06-01T13:19:30Z) - Simultaneous Relevance and Diversity: A New Recommendation Inference
Approach [81.44167398308979]
本稿では,新しいCF推論手法である負対陽性を導入することにより,一般協調フィルタリング(CF)を拡張した新しい手法を提案する。
我々のアプローチは、様々な高度なレベルでの幅広い推奨シナリオ/ユースケースに適用できる。
公開データセットと実世界の生産データに関する分析と実験により、我々のアプローチは、関連性および多様性に関する既存の手法を同時に上回ることを示した。
論文 参考訳（メタデータ） (2020-09-27T22:20:12Z) - Evaluating the Evaluation of Diversity in Natural Language Generation [43.05127848086264]
本稿では,自然言語生成システムにおける多様性指標を評価するためのフレームワークを提案する。
当社のフレームワークは,NLGシステムの改善に向けた重要なステップである,さまざまな多様性指標の理解を促進することができる。
論文 参考訳（メタデータ） (2020-04-06T20:44:10Z) - Measuring Diversity of Artificial Intelligence Conferences [0.0]
我々は,AI科学イベントの多様性指標(インデックス)の小さなセットを提案する。
これらの指標は、AIフィールドの多様性を定量化し、その進化を監視するように設計されている。
提案したインデックスを,最近の主要なAIカンファレンスのセットとして評価し,その価値と限界について議論する。
論文 参考訳（メタデータ） (2020-01-20T10:09:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。