論文の概要: Monitoring Algorithmic Fairness under Partial Observations

• arxiv url: http://arxiv.org/abs/2308.00341v1
• Date: Tue, 1 Aug 2023 07:35:54 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-02 15:13:57.025305
• Title: Monitoring Algorithmic Fairness under Partial Observations
• Title（参考訳）: 部分観測によるアルゴリズムフェアネスのモニタリング
• Authors: Thomas A. Henzinger, Konstantin Kueffner, Kaushik Mallik
• Abstract要約: 実行時検証技術は、デプロイされたシステムのアルゴリズム的公正性を監視するために導入された。 従来の監視技術は、監視されたシステムの状態の完全な可観測性を前提としている。 我々は、部分的に観測されたマルコフ連鎖としてモデル化されたシステムにフェアネスモニタリングを拡張した。
• 参考スコア（独自算出の注目度）: 3.790015813774933
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As AI and machine-learned software are used increasingly for making decisions that affect humans, it is imperative that they remain fair and unbiased in their decisions. To complement design-time bias mitigation measures, runtime verification techniques have been introduced recently to monitor the algorithmic fairness of deployed systems. Previous monitoring techniques assume full observability of the states of the (unknown) monitored system. Moreover, they can monitor only fairness properties that are specified as arithmetic expressions over the probabilities of different events. In this work, we extend fairness monitoring to systems modeled as partially observed Markov chains (POMC), and to specifications containing arithmetic expressions over the expected values of numerical functions on event sequences. The only assumptions we make are that the underlying POMC is aperiodic and starts in the stationary distribution, with a bound on its mixing time being known. These assumptions enable us to estimate a given property for the entire distribution of possible executions of the monitored POMC, by observing only a single execution. Our monitors observe a long run of the system and, after each new observation, output updated PAC-estimates of how fair or biased the system is. The monitors are computationally lightweight and, using a prototype implementation, we demonstrate their effectiveness on several real-world examples.
• Abstract（参考訳）: AIと機械学習のソフトウェアは、人間に影響を与える決定を下すのにますます使われているので、彼らが公平で偏見を持っていなければならない。 設計時バイアス低減対策を補完するため,最近,運用システムのアルゴリズム的公正性を監視するため,実行時検証技術が導入されている。 以前の監視技術は、(未知の)監視システムの状態の完全な可観測性を前提としている。 さらに、異なるイベントの確率よりも算術式として指定された公正性のみを監視することができる。 本研究では,部分観測マルコフ連鎖(pomc)としてモデル化されたシステムと,事象列上の数値関数の期待値に算術式を含む仕様にフェアネスモニタリングを拡張した。 唯一の仮定は、基礎となる POMC が非周期的であり、定常分布から始まり、その混合時間に制限があるということである。 これらの仮定により、監視されたPOMCの実行可能な全分散に対する所定のプロパティを、単一の実行だけを観察して見積もることができる。 我々のモニターはシステムの長時間の経過を観察し、新しい観測の後、そのシステムの公平さや偏見をPACの推定値に更新する。 モニタは計算量的に軽量であり,プロトタイプ実装を用いて実世界の実例でその効果を実証する。

関連論文リスト

• Designing monitoring strategies for deployed machine learning algorithms: navigating performativity through a causal lens [6.329470650220206]
  この研究の目的は、監視戦略を設計する際の比較的過小評価されている複雑さを強調することである。 MLに基づく未計画の読み出し予測のためのリスク予測アルゴリズムについて検討する。 このケーススタディの結果は、すべての監視システムが平等に作成されるわけではないという、一見単純な(そして明らかな)事実を強調します。
  論文  参考訳（メタデータ） (2023-11-20T00:15:16Z)
• Direct Unsupervised Denoising [60.71146161035649]
  教師なしのデノイザは、MMSE推定のような単一の予測を直接生成しない。 本稿では,VAEと並んで決定論的ネットワークを訓練し,中心的な傾向を直接予測するアプローチを提案する。
  論文  参考訳（メタデータ） (2023-10-27T13:02:12Z)
• CARLA: Self-supervised Contrastive Representation Learning for Time Series Anomaly Detection [53.83593870825628]
  時系列異常検出(TSAD)の主な課題は、多くの実生活シナリオにおいてラベル付きデータの欠如である。 既存の異常検出手法の多くは、教師なしの方法で非ラベル時系列の正常な振る舞いを学習することに焦点を当てている。 本稿では,時系列異常検出のためのエンドツーエンドの自己教師型コントラアスティブ表現学習手法を提案する。
  論文  参考訳（メタデータ） (2023-08-18T04:45:56Z)
• DIVERSIFY: A General Framework for Time Series Out-of-distribution Detection and Generalization [58.704753031608625]
  時系列は、機械学習研究における最も困難なモダリティの1つである。 時系列上でのOODの検出と一般化は、その非定常性によって悩まされる傾向がある。 時系列の動的分布のOOD検出と一般化のためのフレームワークであるDIVERSIFYを提案する。
  論文  参考訳（メタデータ） (2023-08-04T12:27:11Z)
• Monitoring Algorithmic Fairness [3.372200852710289]
  本稿では,モデルが不明なシステムに対して,アルゴリズムフェアネスの実行時検証を行う。 我々は,多くの共通アルゴリズムフェアネス特性をモデル化できる仕様言語を導入する。 我々は、銀行が異なる社会的背景を持つ応募者にローンを貸与する上で公正であるかどうか、大学が学生の受け入れに公正であるかどうかを、どのように監視できるかを示す。
  論文  参考訳（メタデータ） (2023-05-25T12:17:59Z)
• Runtime Monitoring of Dynamic Fairness Properties [3.372200852710289]
  静的意思決定タスクで公平なマシン学習システムは、長期にわたる社会的影響に偏っている可能性がある。 既存の研究は、スマートシステム設計による長期バイアスの特定と緩和を目的としているが、我々は、リアルタイムに公正さを監視する技術を導入している。 私たちのゴールは、システムによって生成されるイベントの長いシーケンスを継続的に観察するモニターを構築し、デプロイすることにあります。
  論文  参考訳（メタデータ） (2023-05-08T13:32:23Z)
• Sampling-Based Robust Control of Autonomous Systems with Non-Gaussian Noise [59.47042225257565]
  雑音分布の明示的な表現に依存しない新しい計画法を提案する。 まず、連続系を離散状態モデルに抽象化し、状態間の確率的遷移によってノイズを捕捉する。 いわゆる区間マルコフ決定過程(iMDP)の遷移確率区間におけるこれらの境界を捉える。
  論文  参考訳（メタデータ） (2021-10-25T06:18:55Z)
• Towards Partial Monitoring: It is Always too Soon to Give Up [0.0]
  本稿では,監視可能性の概念を実践的観点から再考する。 監視不能なプロパティが部分的なモニタを生成するためにどのように使用できるかを示し、そのプロパティを部分的にチェックする。
  論文  参考訳（メタデータ） (2021-10-25T01:55:05Z)
• FairCanary: Rapid Continuous Explainable Fairness [8.362098382773265]
  本稿では,新しいモデルバイアス量化尺度であるQuantile Demographic Drift(QDD)を提案する。 QDDは継続的な監視シナリオに最適であり、従来のしきい値ベースのバイアスメトリクスの統計的制限に悩まされない。 QDDをFairCanaryと呼ばれる継続的モデル監視システムに組み込み、各予測毎に計算された既存の説明を再利用します。
  論文  参考訳（メタデータ） (2021-06-13T17:47:44Z)
• Stochastically forced ensemble dynamic mode decomposition for forecasting and analysis of near-periodic systems [65.44033635330604]
  本稿では,観測力学を強制線形系としてモデル化した新しい負荷予測手法を提案する。 固有線型力学の利用は、解釈可能性やパーシモニーの観点から、多くの望ましい性質を提供することを示す。 電力グリッドからの負荷データを用いたテストケースの結果が提示される。
  論文  参考訳（メタデータ） (2020-10-08T20:25:52Z)
• Foreseeing the Benefits of Incidental Supervision [83.08441990812636]
  本稿では,実験を行なわずに,特定の目標タスクに対して,様々な種類の偶発信号の利点を定量化できるかどうかを考察する。 本稿では,PABI(PAC-Bayesian motivated informativeness measure)を提案する。
  論文  参考訳（メタデータ） (2020-06-09T20:59:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。