論文の概要: The Curious Case of Arbitrariness in Machine Learning
- arxiv url: http://arxiv.org/abs/2501.14959v1
- Date: Fri, 24 Jan 2025 22:45:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-28 13:58:53.890597
- Title: The Curious Case of Arbitrariness in Machine Learning
- Title(参考訳): 機械学習におけるorbitrarinessの実践例
- Authors: Prakhar Ganesh, Afaf Taik, Golnoosh Farnadi,
- Abstract要約: アルゴリズムモデリングは、目に見えないシナリオの結果を外挿するためにデータ内の限られた情報に依存し、しばしばその決定に任意の要素を埋め込む。
最近注目されたこの仲裁性に関する一考察 -「良いモデル」の集合における仲裁性の研究-
a) モデル設計の選択に関する用語の形式化とその任意性への貢献、(b) 多重性の定義を拡張して、単に予測や説明以上の未表現の形式を取り入れ、(d) 多重性の利点と潜在的なリスクを蒸留する。
- 参考スコア(独自算出の注目度): 4.932130498861987
- License:
- Abstract: Algorithmic modelling relies on limited information in data to extrapolate outcomes for unseen scenarios, often embedding an element of arbitrariness in its decisions. A perspective on this arbitrariness that has recently gained interest is multiplicity-the study of arbitrariness across a set of "good models", i.e., those likely to be deployed in practice. In this work, we systemize the literature on multiplicity by: (a) formalizing the terminology around model design choices and their contribution to arbitrariness, (b) expanding the definition of multiplicity to incorporate underrepresented forms beyond just predictions and explanations, (c) clarifying the distinction between multiplicity and other traditional lenses of arbitrariness, i.e., uncertainty and variance, and (d) distilling the benefits and potential risks of multiplicity into overarching trends, situating it within the broader landscape of responsible AI. We conclude by identifying open research questions and highlighting emerging trends in this young but rapidly growing area of research.
- Abstract(参考訳): アルゴリズムモデリングは、目に見えないシナリオの結果を外挿するためにデータ内の限られた情報に依存し、しばしばその決定に任意の要素を埋め込む。
最近注目されたこの仲裁性についての見解は、多重性、すなわち「良いモデル」の集合における仲裁性の研究である。
本研究では, 多重性に関する文献を次のように体系化する。
(a) モデル設計の選択に関する用語とその仲裁への貢献を定式化する。
b) 多重性の定義を拡張して、単に予測や説明だけでなく、表現不足の形式を取り入れる。
(c)乗法と他の旧来の任意性レンズ、すなわち不確実性と分散の区別を明確にすること
(d) マルチプライティのメリットと潜在的なリスクを総合的なトレンドに蒸留し、責任あるAIの広い視野に配置する。
我々は、オープンな研究課題を特定し、この若いが急速に成長する研究分野の新たなトレンドを強調することで結論付ける。
関連論文リスト
- DEMAU: Decompose, Explore, Model and Analyse Uncertainties [0.8287206589886881]
DEMAUはオープンソースの教育、探索、分析ツールで、機械学習における分類モデルのいくつかのタイプの不確実性を視覚化し、探索することができる。
論文 参考訳(メタデータ) (2024-09-12T14:57:28Z) - Finding Patterns in Ambiguity: Interpretable Stress Testing in the Decision~Boundary [3.66599628097164]
本稿では,深層二元分類器の解釈可能性を高める新しい手法を提案する。
決定境界から代表サンプルを選択し,モデル後説明アルゴリズムを適用した。
私たちの研究は、信頼性の高い機械学習システムの開発と展開に寄与します。
論文 参考訳(メタデータ) (2024-08-12T17:14:41Z) - Continual Learning of Nonlinear Independent Representations [17.65617189829692]
分布数の増加に伴い,モデル識別可能性がサブスペースレベルからコンポーネントワイドレベルに向上することを示す。
本手法は,複数のオフライン分布に対して共同で学習した非線形ICA法に匹敵する性能を実現する。
論文 参考訳(メタデータ) (2024-08-11T14:33:37Z) - Diversified Batch Selection for Training Acceleration [68.67164304377732]
オンラインバッチ選択として知られる一般的な研究ラインでは、トレーニングプロセス中の情報サブセットの選択について検討している。
バニラ参照モデルフリーメソッドは、独立してデータをサンプリング的にスコア付けし、選択する。
DivBS(Diversified Batch Selection)を提案する。
論文 参考訳(メタデータ) (2024-06-07T12:12:20Z) - The Cost of Arbitrariness for Individuals: Examining the Legal and Technical Challenges of Model Multiplicity [4.514832807541816]
本稿では,乗法に起因する様々な個人的関心事について考察する。
これは、これらの懸念に関する実証的な調査と、法的な観点からの包括的な分析の両方を提供し、カナダの反差別法においてこれらの問題がどのように認識されているかに対処する。
本稿では,現行のモデル乗法における法的要件を満たすための技術的課題と,現行法とモデル選択における任意性の影響との法的ギャップについて論じる。
論文 参考訳(メタデータ) (2024-05-28T21:54:03Z) - Revealing Multimodal Contrastive Representation Learning through Latent
Partial Causal Models [85.67870425656368]
マルチモーダルデータに特化して設計された統一因果モデルを提案する。
マルチモーダル・コントラスト表現学習は潜在結合変数の同定に優れていることを示す。
実験では、仮定が破られたとしても、我々の発見の堅牢性を示す。
論文 参考訳(メタデータ) (2024-02-09T07:18:06Z) - Multi-Target Multiplicity: Flexibility and Fairness in Target
Specification under Resource Constraints [76.84999501420938]
対象の選択が個人の結果にどのように影響するかを評価するための概念的および計算的枠組みを導入する。
目的変数選択から生じる多重度は, 1つのターゲットのほぼ最適モデルから生じるものよりも大きいことが示される。
論文 参考訳(メタデータ) (2023-06-23T18:57:14Z) - Variational Distillation for Multi-View Learning [104.17551354374821]
我々は,多視点表現学習における2つの重要な特徴を利用するために,様々な情報ボトルネックを設計する。
厳密な理論的保証の下で,本手法は,観察とセマンティックラベルの内在的相関の把握を可能にする。
論文 参考訳(メタデータ) (2022-06-20T03:09:46Z) - Causal Reasoning Meets Visual Representation Learning: A Prospective
Study [117.08431221482638]
解釈可能性の欠如、堅牢性、分布外一般化が、既存の視覚モデルの課題となっている。
人間レベルのエージェントの強い推論能力にインスパイアされた近年では、因果推論パラダイムの開発に多大な努力が注がれている。
本稿では,この新興分野を包括的に概観し,注目し,議論を奨励し,新たな因果推論手法の開発の急激さを先導することを目的とする。
論文 参考訳(メタデータ) (2022-04-26T02:22:28Z) - Variational Inference for Deep Probabilistic Canonical Correlation
Analysis [49.36636239154184]
線形多視点層と深層生成ネットワークを観測モデルとして構成した深部確率的多視点モデルを提案する。
潜在確率多視点層の後方分布を近似した効率的な変分推論法を開発した。
任意の数のビューを持つモデルへの一般化も提案されている。
論文 参考訳(メタデータ) (2020-03-09T17:51:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。