論文の概要: Extending the Machine Learning Abstraction Boundary: A Complex Systems Approach to Incorporate Societal Context

• arxiv url: http://arxiv.org/abs/2006.09663v1
• Date: Wed, 17 Jun 2020 05:22:33 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-19 21:31:12.331616
• Title: Extending the Machine Learning Abstraction Boundary: A Complex Systems Approach to Incorporate Societal Context
• Title（参考訳）: 機械学習抽象化境界の拡張: 社会コンテキストを組み込む複雑なシステムアプローチ
• Authors: Donald Martin Jr., Vinodkumar Prabhakaran, Jill Kuhlberg, Andrew Smart, William S. Isaac
• Abstract要約: 社会的文脈の理解、識別、表現を改善するための3つの新しいツールについて概説する。 まず、複雑な適応システム(CAS)に基づくモデルと社会的文脈の定義を提案する。 第2に,社会工学的枠組みを確立する上で重要な機能として,協調因果理論形成(CCTF)を導入する。
• 参考スコア（独自算出の注目度）: 2.7780221247955943
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine learning (ML) fairness research tends to focus primarily on mathematically-based interventions on often opaque algorithms or models and/or their immediate inputs and outputs. Such oversimplified mathematical models abstract away the underlying societal context where ML models are conceived, developed, and ultimately deployed. As fairness itself is a socially constructed concept that originates from that societal context along with the model inputs and the models themselves, a lack of an in-depth understanding of societal context can easily undermine the pursuit of ML fairness. In this paper, we outline three new tools to improve the comprehension, identification and representation of societal context. First, we propose a complex adaptive systems (CAS) based model and definition of societal context that will help researchers and product developers to expand the abstraction boundary of ML fairness work to include societal context. Second, we introduce collaborative causal theory formation (CCTF) as a key capability for establishing a sociotechnical frame that incorporates diverse mental models and associated causal theories in modeling the problem and solution space for ML-based products. Finally, we identify community based system dynamics (CBSD) as a powerful, transparent and rigorous approach for practicing CCTF during all phases of the ML product development process. We conclude with a discussion of how these systems theoretic approaches to understand the societal context within which sociotechnical systems are embedded can improve the development of fair and inclusive ML-based products.
• Abstract（参考訳）: 機械学習(ML)の公正性の研究は、しばしば不透明なアルゴリズムやモデル、あるいはその即時的な入力や出力に対する数学的介入に主に焦点をあてる傾向がある。 このような過度に単純化された数学的モデルは、MLモデルを考案し、開発し、最終的に展開する社会的文脈を抽象化する。 フェアネス自体が、モデル入力やモデル自体とともに、その社会的文脈から生まれた社会的に構築された概念であるため、社会的文脈の深い理解が欠如しているため、MLフェアネスの追求が容易に妨げられる。 本稿では,社会的文脈の理解,識別,表現を改善するための3つの新しいツールについて概説する。 まず、複雑な適応システム(CAS)に基づく社会文脈の定義を提案し、研究者や製品開発者がMLフェアネスワークの抽象的境界を社会文脈を含むように拡張できるようにする。 第2に,多様な精神モデルと関連する因果理論を組み込んだ社会技術枠を確立する上で,協調因果理論形成(CCTF)を導入し,MLベースの製品における問題と解決空間をモデル化する。 最後に,コミュニティベースのシステムダイナミクス(CBSD)を,ML製品開発プロセスのすべての段階において,CCTFを実践するための強力で透明で厳密なアプローチとみなす。 社会技術システムが組み込まれている社会状況を理解するためのシステム理論的アプローチが、公正で包括的なMLベースの製品の開発をいかに改善するかを論じる。

関連論文リスト

• Intelligent Computing Social Modeling and Methodological Innovations in Political Science in the Era of Large Language Models [16.293574791587247]
  本稿では,これらの問題に対処するために,知能コンピューティング社会モデリング(ICSM)手法を提案する。 アメリカ合衆国大統領選挙をシミュレートすることで、この研究はICSMの運用経路と方法論上の利点を実証的に示す。 この結果は、LCMが直接置換ではなく、統合と改善を通じて、政治科学の方法論的革新を促進することを示唆している。
  論文  参考訳（メタデータ） (2024-10-07T06:30:59Z)
• Coding for Intelligence from the Perspective of Category [66.14012258680992]
  符号化の対象はデータの圧縮と再構成、インテリジェンスである。 最近の傾向は、これらの2つの分野の潜在的均一性を示している。 本稿では,カテゴリ理論の観点から,インテリジェンスのためのコーディングの新たな問題を提案する。
  論文  参考訳（メタデータ） (2024-07-01T07:05:44Z)
• LLM-Augmented Agent-Based Modelling for Social Simulations: Challenges and Opportunities [0.0]
  大きな言語モデルとエージェントベースのシミュレーションを統合することは、複雑な社会システムを理解するための変換可能性を提供する。 LLM強化社会シミュレーションを体系的に開発するためのアーキテクチャと手法について検討する。 LLMとエージェントベースのシミュレーションを統合することは、研究者や科学者に強力なツールセットを提供すると結論付けている。
  論文  参考訳（メタデータ） (2024-05-08T08:57:54Z)
• Large Language Model-Based Interpretable Machine Learning Control in Building Energy Systems [3.0309252269809264]
  本稿では、モデルとその推論の透明性と理解を高める機械学習(ML)の分野である、解釈可能な機械学習(IML)について検討する。 共有価値の原則とLarge Language Models(LLMs)のコンテキスト内学習機能を組み合わせた革新的なフレームワークを開発する。 本稿では,仮想テストベッドにおける需要応答イベント下での予測制御に基づく事前冷却モデルの実現可能性を示すケーススタディを提案する。
  論文  参考訳（メタデータ） (2024-02-14T21:19:33Z)
• Exploring Collaboration Mechanisms for LLM Agents: A Social Psychology View [60.80731090755224]
  本稿では,理論的洞察を用いた実用実験により,現代NLPシステム間の協調機構を解明する。 我々は, LLMエージェントからなる4つの独特な社会をつくり, それぞれのエージェントは, 特定の特性(容易性, 過信性)によって特徴づけられ, 異なる思考パターン(議論, ふりかえり)と協調する。 以上の結果から, LLMエージェントは, 社会心理学理論を反映した, 適合性やコンセンサスリーディングといった人間的な社会的行動を示すことが明らかとなった。
  論文  参考訳（メタデータ） (2023-10-03T15:05:52Z)
• Machine Learning practices and infrastructures [0.0]
  本稿では、実践者と彼らが依存するツール間の相互作用と、これらの相互作用が機械学習の実践を形成する上で果たす役割に焦点を当てる。 インタラクティブなコンピューティングプラットフォームは、学習と調整のプラクティスのホストで使われています。 インタラクティブコンピューティングプラットフォームの開発とともにMLプラクティスが共進化している様子を説明します。
  論文  参考訳（メタデータ） (2023-07-13T01:43:28Z)
• Training Socially Aligned Language Models on Simulated Social Interactions [99.39979111807388]
  AIシステムにおける社会的アライメントは、確立された社会的価値に応じてこれらのモデルが振舞うことを保証することを目的としている。 現在の言語モデル(LM)は、トレーニングコーパスを独立して厳格に複製するように訓練されている。 本研究は,シミュレートされた社会的相互作用からLMを学習することのできる,新しい学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-05-26T14:17:36Z)
• Investigating Bi-Level Optimization for Learning and Vision from a Unified Perspective: A Survey and Beyond [114.39616146985001]
  機械学習やコンピュータビジョンの分野では、モチベーションやメカニズムが異なるにもかかわらず、複雑な問題の多くは、一連の密接に関連するサブプロトコルを含んでいる。 本稿では,BLO(Bi-Level Optimization)の観点から,これらの複雑な学習と視覚問題を一様に表現する。 次に、値関数に基づく単一レベル再構成を構築し、主流勾配に基づくBLO手法を理解し、定式化するための統一的なアルゴリズムフレームワークを確立する。
  論文  参考訳（メタデータ） (2021-01-27T16:20:23Z)
• Technology Readiness Levels for Machine Learning Systems [107.56979560568232]
  機械学習システムの開発とデプロイは、現代のツールで簡単に実行できますが、プロセスは一般的に急ぎ、エンドツーエンドです。 私たちは、機械学習の開発と展開のための実証済みのシステムエンジニアリングアプローチを開発しました。 当社の「機械学習技術準備レベル」フレームワークは、堅牢で信頼性が高く、責任あるシステムを確保するための原則的なプロセスを定義します。
  論文  参考訳（メタデータ） (2021-01-11T15:54:48Z)
• Self-organizing Democratized Learning: Towards Large-scale Distributed Learning Systems [71.14339738190202]
  民主化された学習(Dem-AI)は、大規模な分散および民主化された機械学習システムを構築するための基本原則を備えた全体主義的哲学を定めている。 本稿では,Dem-AI哲学にヒントを得た分散学習手法を提案する。 提案アルゴリズムは,従来のFLアルゴリズムと比較して,エージェントにおける学習モデルの一般化性能が向上することを示す。
  論文  参考訳（メタデータ） (2020-07-07T08:34:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。