論文の概要: Runtime Monitoring of Dynamic Fairness Properties
- arxiv url: http://arxiv.org/abs/2305.04699v1
- Date: Mon, 8 May 2023 13:32:23 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-09 14:19:27.522257
- Title: Runtime Monitoring of Dynamic Fairness Properties
- Title（参考訳）: 動的フェアネス特性のランタイムモニタリング
- Authors: Thomas A. Henzinger, Mahyar Karimi, Konstantin Kueffner, Kaushik
Mallik
- Abstract要約: 静的意思決定タスクで公平なマシン学習システムは、長期にわたる社会的影響に偏っている可能性がある。
既存の研究は、スマートシステム設計による長期バイアスの特定と緩和を目的としているが、我々は、リアルタイムに公正さを監視する技術を導入している。
私たちのゴールは、システムによって生成されるイベントの長いシーケンスを継続的に観察するモニターを構築し、デプロイすることにあります。
- 参考スコア（独自算出の注目度）: 3.372200852710289
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A machine-learned system that is fair in static decision-making tasks may
have biased societal impacts in the long-run. This may happen when the system
interacts with humans and feedback patterns emerge, reinforcing old biases in
the system and creating new biases. While existing works try to identify and
mitigate long-run biases through smart system design, we introduce techniques
for monitoring fairness in real time. Our goal is to build and deploy a monitor
that will continuously observe a long sequence of events generated by the
system in the wild, and will output, with each event, a verdict on how fair the
system is at the current point in time. The advantages of monitoring are
two-fold. Firstly, fairness is evaluated at run-time, which is important
because unfair behaviors may not be eliminated a priori, at design-time, due to
partial knowledge about the system and the environment, as well as
uncertainties and dynamic changes in the system and the environment, such as
the unpredictability of human behavior. Secondly, monitors are by design
oblivious to how the monitored system is constructed, which makes them suitable
to be used as trusted third-party fairness watchdogs. They function as
computationally lightweight statistical estimators, and their correctness
proofs rely on the rigorous analysis of the stochastic process that models the
assumptions about the underlying dynamics of the system. We show, both in
theory and experiments, how monitors can warn us (1) if a bank's credit policy
over time has created an unfair distribution of credit scores among the
population, and (2) if a resource allocator's allocation policy over time has
made unfair allocations. Our experiments demonstrate that the monitors
introduce very low overhead. We believe that runtime monitoring is an important
and mathematically rigorous new addition to the fairness toolbox.
- Abstract（参考訳）: 静的意思決定タスクで公平なマシン学習システムは、長期にわたる社会的影響に偏っている可能性がある。
これは、システムが人間と対話し、フィードバックパターンが現れ、システムの古いバイアスを強化し、新しいバイアスを生み出すときに起こりうる。
既存の作業では,スマートシステム設計による長期的バイアスの識別と軽減が試みられているが,リアルタイムにフェアネスをモニタリングする手法を導入する。
私たちのゴールは、システムによって生成されるイベントの長いシーケンスを継続的に監視し、各イベントに対して、システムが現在の時点でどの程度公正であるかの判断を出力するモニターを構築し、デプロイすることにあります。
モニタリングの利点は2つある。
第一に、不公平さは、システムと環境に関する部分的な知識や、人間の行動の予測不能のようなシステムと環境の不確実性や動的変化のために、設計時において、不公平な振る舞いを優先的に排除しないため、実行時に評価される。
第二に、モニターは監視システムの構築方法にとらわれない設計であるため、信頼できるサードパーティのフェアネスウォッチドッグとしての使用に適している。
それらは計算量的に軽量な統計推定器として機能し、その正当性証明はシステムの基盤となる力学に関する仮定をモデル化する確率過程の厳密な解析に依存する。
理論的・実験的にも,(1)銀行の信用政策が人口間で不公平な信用スコア分布を生み出した場合,(2)資源割当業者の割当政策が不公平な割当を行った場合,監視者がどのように警告するかを示す。
実験の結果,モニターのオーバーヘッドが非常に低いことがわかった。
ランタイムモニタリングは、フェアネスツールボックスに重要かつ数学的に厳格な新たな追加であると考えています。
関連論文リスト
- Fairness and Bias Mitigation in Computer Vision: A Survey [61.01658257223365]
コンピュータビジョンシステムは、高精細な現実世界のアプリケーションにますますデプロイされている。
歴史的または人為的なデータにおいて差別的な傾向を伝播または増幅しないことを確実にする必要がある。
本稿では,コンピュータビジョンの文脈における現在進行中の傾向と成功をまとめた,公平性に関する総合的な調査を行う。
論文 参考訳（メタデータ） (2024-08-05T13:44:22Z) - Designing monitoring strategies for deployed machine learning
algorithms: navigating performativity through a causal lens [6.329470650220206]
この研究の目的は、監視戦略を設計する際の比較的過小評価されている複雑さを強調することである。
MLに基づく未計画の読み出し予測のためのリスク予測アルゴリズムについて検討する。
このケーススタディの結果は、すべての監視システムが平等に作成されるわけではないという、一見単純な(そして明らかな)事実を強調します。
論文 参考訳（メタデータ） (2023-11-20T00:15:16Z) - Monitoring Algorithmic Fairness under Partial Observations [3.790015813774933]
実行時検証技術は、デプロイされたシステムのアルゴリズム的公正性を監視するために導入された。
従来の監視技術は、監視されたシステムの状態の完全な可観測性を前提としている。
我々は、部分的に観測されたマルコフ連鎖としてモデル化されたシステムにフェアネスモニタリングを拡張した。
論文 参考訳（メタデータ） (2023-08-01T07:35:54Z) - Monitoring Algorithmic Fairness [3.372200852710289]
本稿では,モデルが不明なシステムに対して,アルゴリズムフェアネスの実行時検証を行う。
我々は,多くの共通アルゴリズムフェアネス特性をモデル化できる仕様言語を導入する。
我々は、銀行が異なる社会的背景を持つ応募者にローンを貸与する上で公正であるかどうか、大学が学生の受け入れに公正であるかどうかを、どのように監視できるかを示す。
論文 参考訳（メタデータ） (2023-05-25T12:17:59Z) - Fairness in Forecasting of Observations of Linear Dynamical Systems [10.762748665074794]
本稿では, 時系列予測問題において, 公平性と即時公正性の2つの自然概念を導入する。
公平性に制約された学習問題の最適化のためのグローバル収束手法を示す。
本手法の有効性を示すために,保険申請によるバイアスデータセットとよく知られたCompASデータセットについて検討した。
論文 参考訳（メタデータ） (2022-09-12T14:32:12Z) - D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling
Algorithmic Bias [57.87117733071416]
D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。
ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。
それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
論文 参考訳（メタデータ） (2022-08-10T03:41:48Z) - Towards Partial Monitoring: It is Always too Soon to Give Up [0.0]
本稿では,監視可能性の概念を実践的観点から再考する。
監視不能なプロパティが部分的なモニタを生成するためにどのように使用できるかを示し、そのプロパティを部分的にチェックする。
論文 参考訳（メタデータ） (2021-10-25T01:55:05Z) - Multi Agent System for Machine Learning Under Uncertainty in Cyber
Physical Manufacturing System [78.60415450507706]
近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。
ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。
本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
論文 参考訳（メタデータ） (2021-07-28T10:28:05Z) - Stochastically forced ensemble dynamic mode decomposition for
forecasting and analysis of near-periodic systems [65.44033635330604]
本稿では,観測力学を強制線形系としてモデル化した新しい負荷予測手法を提案する。
固有線型力学の利用は、解釈可能性やパーシモニーの観点から、多くの望ましい性質を提供することを示す。
電力グリッドからの負荷データを用いたテストケースの結果が提示される。
論文 参考訳（メタデータ） (2020-10-08T20:25:52Z) - An Uncertainty-based Human-in-the-loop System for Industrial Tool Wear
Analysis [68.8204255655161]
人間のループシステムにおけるモンテカルロのドロップアウトに基づく不確実性対策により,システムの透明性と性能が向上することを示す。
シミュレーション研究により、不確実性に基づく「ループ内人間システム」は、様々なレベルの人間の関与に対する性能を高めることが示されている。
論文 参考訳（メタデータ） (2020-07-14T15:47:37Z) - Training-free Monocular 3D Event Detection System for Traffic
Surveillance [93.65240041833319]
既存のイベント検出システムは、主に学習ベースであり、大量のトレーニングデータが利用可能な場合、十分なパフォーマンスを実現している。
現実のシナリオでは、十分なラベル付きトレーニングデータの収集は高価であり、時には不可能である。
本稿では,交通監視のためのトレーニング不要な単眼3Dイベント検出システムを提案する。
論文 参考訳（メタデータ） (2020-02-01T04:42:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。