論文の概要: Algorithms as Social-Ecological-Technological Systems: an Environmental
Justice Lens on Algorithmic Audits
- arxiv url: http://arxiv.org/abs/2305.05733v1
- Date: Tue, 9 May 2023 19:25:25 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-11 15:34:22.853990
- Title: Algorithms as Social-Ecological-Technological Systems: an Environmental
Justice Lens on Algorithmic Audits
- Title（参考訳）: 社会生態工学システムとしてのアルゴリズム--アルゴリズム監査に関する環境正義レンズ
- Authors: Bogdana Rakova, Roel Dobbe
- Abstract要約: 本稿では,社会・生態システムと密接に結びついているアルゴリズムシステムを再構成する。
環境正義指向型アルゴリズム監査のための第一種方法論を提案する。
- 参考スコア（独自算出の注目度）: 0.5076419064097732
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper reframes algorithmic systems as intimately connected to and part
of social and ecological systems, and proposes a first-of-its-kind methodology
for environmental justice-oriented algorithmic audits. How do we consider
environmental and climate justice dimensions of the way algorithmic systems are
designed, developed, and deployed? These impacts are inherently emergent and
can only be understood and addressed at the level of relations between an
algorithmic system and the social (including institutional) and ecological
components of the broader ecosystem it operates in. As a result, we claim that
in absence of an integral ontology for algorithmic systems, we cannot do
justice to the emergent nature of broader environmental impacts of algorithmic
systems and their underlying computational infrastructure. We propose to define
algorithmic systems as ontologically indistinct from
Social-Ecological-Technological Systems (SETS), framing emergent implications
as couplings between social, ecological, and technical components of the
broader fabric in which algorithms are integrated and operate. We draw upon
prior work on SETS analysis as well as emerging themes in the literature and
practices of Environmental Justice (EJ) to conceptualize and assess algorithmic
impact. We then offer three policy recommendations to help establish a
SETS-based EJ approach to algorithmic audits: (1) broaden the inputs and
open-up the outputs of an audit, (2) enable meaningful access to redress, and
(3) guarantee a place-based and relational approach to the process of
evaluating impact. We operationalize these as a qualitative framework of
questions for a spectrum of stakeholders. Doing so, this article aims to
inspire stronger and more frequent interactions across policymakers,
researchers, practitioners, civil society, and grassroots communities.
- Abstract（参考訳）: 本稿では,社会・生態システムと密接に結びついているアルゴリズムシステムを再構成し,環境正義指向のアルゴリズム監査のための一級方法論を提案する。
アルゴリズムシステムの設計、開発、展開の仕方について、環境と気候の正義の次元をどう考えるか?
これらの影響は本質的に創発的であり、アルゴリズムシステムと社会(制度を含む)と生態系の生態的構成要素との関係のレベルにおいてのみ理解され、対処することができる。
その結果、アルゴリズムシステムに対する積分オントロジーが存在しない場合、アルゴリズムシステムとその基礎となる計算基盤の広範な環境影響の創発的性質を正当化することはできないと主張している。
本稿では,アルゴリズムが統合・運用される幅広いファブリックの社会的,生態学的,技術的構成要素間の結合として,創発的含意を浮き彫りにする,社会生態工学システム(SETS)とは無関係なアルゴリズムシステムを定義することを提案する。
我々は、SETS分析に関する先行研究と、アルゴリズムの影響を概念化し評価するための環境正義(EJ)の文献と実践における新たなテーマについて述べる。
次に, アルゴリズム監査に対するSETSベースのEJアプローチの確立を支援するための3つの政策勧告を提案する。(1) インプットを広げ, 監査のアウトプットを開放すること,(2) レッドレスへの有意義なアクセスを可能にすること,(3) 影響評価プロセスにおける場所ベースおよびリレーショナルアプローチを保証すること。
私たちはこれらを、さまざまなステークホルダーの質問の質的枠組みとして運用します。
本稿は、政策立案者、研究者、実践者、市民社会、草の根コミュニティ間のより強く頻繁な交流を促すことを目的としている。
関連論文リスト
- Levels of AGI for Operationalizing Progress on the Path to AGI [64.59151650272477]
本稿では,人工知能(AGI)モデルとその前駆体の性能と動作を分類する枠組みを提案する。
このフレームワークは、AGIのパフォーマンス、一般性、自律性のレベルを導入し、モデルを比較し、リスクを評価し、AGIへの道筋に沿って進捗を測定する共通の言語を提供する。
論文 参考訳（メタデータ） (2023-11-04T17:44:58Z) - Predictable Artificial Intelligence [77.1127726638209]
本稿では予測可能なAIのアイデアと課題を紹介する。
それは、現在および将来のAIエコシステムの重要な妥当性指標を予測できる方法を探る。
予測可能性を達成することは、AIエコシステムの信頼、責任、コントロール、アライメント、安全性を促進するために不可欠である、と私たちは主張する。
論文 参考訳（メタデータ） (2023-10-09T21:36:21Z) - Discovering General Reinforcement Learning Algorithms with Adversarial
Environment Design [54.39859618450935]
メタ学習型更新ルールは,広範囲のRLタスクで良好に機能するアルゴリズムの発見を期待して,実現可能であることを示す。
Learned Policy Gradient (LPG)のようなアルゴリズムによる印象的な初期結果にもかかわらず、これらのアルゴリズムが目に見えない環境に適用される場合、まだギャップが残っている。
本研究では,メタ教師付き学習分布の特性が,これらのアルゴリズムの性能に与える影響について検討する。
論文 参考訳（メタデータ） (2023-10-04T12:52:56Z) - Inference and dynamic decision-making for deteriorating systems with
probabilistic dependencies through Bayesian networks and deep reinforcement
learning [0.0]
劣化する環境に露呈するエンジニアリングシステムに対して,不確実性を考慮した推論と意思決定のための効率的なアルゴリズムフレームワークを提案する。
政策最適化の観点では、深層分散型マルチエージェントアクター・クリティカル(DDMAC)強化学習アプローチを採用する。
その結果、DDMACポリシーは最先端のアプローチと比較して大きな利点をもたらすことが示された。
論文 参考訳（メタデータ） (2022-09-02T14:45:40Z) - Outsider Oversight: Designing a Third Party Audit Ecosystem for AI
Governance [3.8997087223115634]
我々は、現在のAIの状況におけるサードパーティの監視の課題について論じる。
このような監査の制度設計はモノリシックとは程遠い。
我々は,監査のみへの転換が,実際のアルゴリズム的説明責任を達成する可能性は低いと結論づける。
論文 参考訳（メタデータ） (2022-06-09T19:18:47Z) - Towards a multi-stakeholder value-based assessment framework for
algorithmic systems [76.79703106646967]
我々は、価値間の近さと緊張を可視化する価値に基づくアセスメントフレームワークを開発する。
我々は、幅広い利害関係者に評価と検討のプロセスを開放しつつ、それらの運用方法に関するガイドラインを提示する。
論文 参考訳（メタデータ） (2022-05-09T19:28:32Z) - A Sociotechnical View of Algorithmic Fairness [16.184328505946763]
アルゴリズムの公正さは、自動意思決定におけるシステム的差別を緩和する新しい技術として位置づけられている。
公平性は本質的に社会的概念であり、それゆえにアルゴリズム的公正性のための技術は社会技術的レンズを通してアプローチされるべきである、と我々は主張する。
論文 参考訳（メタデータ） (2021-09-27T21:17:16Z) - A Framework of High-Stakes Algorithmic Decision-Making for the Public
Sector Developed through a Case Study of Child-Welfare [3.739243122393041]
我々は,公共セクターに適応したアルゴリズムによる意思決定の結束的枠組みを開発する。
本研究は,児童福祉機関における日常利用におけるアルゴリズムの事例研究である。
本稿では,公共セクターにおける高精度なアルゴリズム決定ツールの設計ガイドラインを提案する。
論文 参考訳（メタデータ） (2021-07-07T21:24:35Z) - Computability, Complexity, Consistency and Controllability: A Four C's
Framework for cross-disciplinary Ethical Algorithm Research [1.8275108630751844]
倫理的アルゴリズム文学における関連する問題に関する学際的理解の促進に有用な枠組みを考案した。
アルゴリズムの研究と設計に関わる科学において,倫理学,哲学学,集団倫理学の知見がいかに関連し,翻訳可能であるかを示す。
論文 参考訳（メタデータ） (2021-01-30T17:03:22Z) - Investigating Bi-Level Optimization for Learning and Vision from a
Unified Perspective: A Survey and Beyond [114.39616146985001]
機械学習やコンピュータビジョンの分野では、モチベーションやメカニズムが異なるにもかかわらず、複雑な問題の多くは、一連の密接に関連するサブプロトコルを含んでいる。
本稿では,BLO(Bi-Level Optimization)の観点から,これらの複雑な学習と視覚問題を一様に表現する。
次に、値関数に基づく単一レベル再構成を構築し、主流勾配に基づくBLO手法を理解し、定式化するための統一的なアルゴリズムフレームワークを確立する。
論文 参考訳（メタデータ） (2021-01-27T16:20:23Z) - Towards an Interface Description Template for AI-enabled Systems [77.34726150561087]
再利用(Reuse)は、システムアーキテクチャを既存のコンポーネントでインスタンス化しようとする、一般的なシステムアーキテクチャのアプローチである。
現在、コンポーネントが当初目的としていたものと異なるシステムで運用する可搬性を評価するために必要な情報の選択をガイドするフレームワークは存在しない。
我々は、AI対応コンポーネントの主情報をキャプチャするインターフェイス記述テンプレートの確立に向けて、現在進行中の作業について述べる。
論文 参考訳（メタデータ） (2020-07-13T20:30:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。