論文の概要: Mitigating fairwashing using Two-Source Audits

• arxiv url: http://arxiv.org/abs/2305.13883v2
• Date: Tue, 10 Jun 2025 12:30:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-11 15:11:38.257762
• Title: Mitigating fairwashing using Two-Source Audits
• Title（参考訳）: 2音源監査によるフェアウォッシングの緩和
• Authors: Jade Garcia Bourrée, Erwan Le Merrer, Gilles Tredan, Benoît Rottembourg,
• Abstract要約: textitTwo-Source Audit セットアップにより,より実用的なアプローチを提案する。 APIを活用しながら、プラットフォームの監査とフェアウォッシングの試みの検出の両方を行うために、第2のデータソースのアジャクションを提唱する。
• 参考スコア（独自算出の注目度）: 2.699900017799093
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent legislation requires online platforms to provide dedicated APIs to assess the compliance of their decision-making algorithms with the law. Research has nevertheless shown that the auditors of such platforms are prone to manipulation (a practice referred to as \textit{fairwashing}). To address this salient problem, recent work has considered audits under the assumption of partial knowledge of the platform's internal mechanisms. In this paper, we propose a more pragmatic approach with the \textit{Two-Source Audit} setup: while still leveraging the API, we advocate for the adjunction of a second source of data to both perform the audit of a platform and the detection of fairwashing attempts. Our method is based on identifying discrepancies between the two data sources, using data proxies at use in the fairness literature. We formally demonstrate the conditions for success in this fairwashing mitigation task. We then validate our method empirically, demonstrating that Two-Source Audits can achieve a Pareto-optimal balance between the two objectives. We believe this paper sets the stage for reliable audits in manipulation-prone setups, under mild assumptions.
• Abstract（参考訳）: 最近の法律では、オンラインプラットフォームは、彼らの意思決定アルゴリズムと法律のコンプライアンスを評価するための専用のAPIを提供する必要がある。 それにもかかわらず、そのようなプラットフォームの監査人は操作しがちである(「textit{fairwashing}」と呼ばれる慣例)。 この健全な問題に対処するために、最近の研究は、プラットフォームの内部メカニズムの部分的知識を前提として監査を検討してきた。 本稿では,より実践的なアプローチとして,APIを活用しながら,プラットフォーム監査とフェアウォッシングの試みの検出の両方を行うための第2のデータソースのアジャクションを提唱する。 本手法は, フェアネス文献におけるデータプロキシを用いた2つのデータソース間の相違点の同定に基づく。 我々は、このフェアウォッシング緩和タスクの成功条件を正式に示す。 次に,本手法を実証的に検証し,両目標間のパレート最適バランスを達成できることを実証した。 本論文は,軽度の前提条件の下で,操作の容易なセットアップにおける信頼性のある監査の段階を定めていると信じている。

関連論文リスト

• Are You Getting What You Pay For? Auditing Model Substitution in LLM APIs [60.881609323604685]
  ブラックボックスAPIを通じてアクセスされるLarge Language Models (LLM)は、信頼の課題をもたらす。 ユーザーは、宣伝されたモデル機能に基づいたサービスの料金を支払う。 プロバイダは、運用コストを削減するために、特定のモデルを安価で低品質の代替品に隠蔽的に置き換えることができる。 この透明性の欠如は、公正性を損なうとともに、信頼を損なうとともに、信頼性の高いベンチマークを複雑にする。
  論文  参考訳（メタデータ） (2025-04-07T03:57:41Z)
• Fine Grained Insider Risk Detection [0.0]
  本稿では,支援者間での業務正当化から逸脱を検出する手法を提案する。 我々は,3千人以上の支援エージェントによる何百万もの行動の監査を支援するために,本手法を適用した。
  論文  参考訳（メタデータ） (2024-11-04T22:07:38Z)
• FIRE: Fact-checking with Iterative Retrieval and Verification [63.67320352038525]
  FIREはエビデンス検索とクレーム検証を反復的に統合する新しいフレームワークである。 大きな言語モデル(LLM)のコストを平均7.6倍、検索コストを16.5倍削減しながら、パフォーマンスが若干向上している。 これらの結果から,FIREは大規模ファクトチェック業務における適用を約束していることが明らかとなった。
  論文  参考訳（メタデータ） (2024-10-17T06:44:18Z)
• DeepREST: Automated Test Case Generation for REST APIs Exploiting Deep Reinforcement Learning [5.756036843502232]
  本稿では、REST APIを自動テストするための新しいブラックボックスアプローチであるDeepRESTを紹介します。 深い強化学習を活用して、暗黙のAPI制約、すなわちAPIドキュメントから隠された制約を明らかにする。 実験により,提案手法は高いテストカバレッジと故障検出を実現する上で極めて有効であることが示唆された。
  論文  参考訳（メタデータ） (2024-08-16T08:03:55Z)
• Trustless Audits without Revealing Data or Models [49.23322187919369]
  モデルプロバイダが(アーキテクチャではなく)モデルウェイトとデータシークレットを維持しながら、他のパーティがモデルとデータプロパティを信頼性のない監査を行うことが可能であることを示す。 私たちはZkAuditと呼ばれるプロトコルを設計し、モデルプロバイダがデータセットとモデルの重みの暗号的コミットメントを公開します。
  論文  参考訳（メタデータ） (2024-04-06T04:43:06Z)
• Under manipulations, are some AI models harder to audit? [2.699900017799093]
  本研究では,モデルが大きな能力を示す現実的な環境でのロバスト監査の実現可能性について検討する。 ウェブプラットフォームが任意のデータに適合するモデルを使用している場合、監査戦略がランダムサンプリングを上回ります。 次に、Rademacher複雑性を用いて、監査の操作可能性と対象モデルのキャパシティを関連付ける。
  論文  参考訳（メタデータ） (2024-02-14T09:38:09Z)
• On the Detection of Reviewer-Author Collusion Rings From Paper Bidding [71.43634536456844]
  衝突リングは、コンピュータサイエンスカンファレンスのピアレビューシステムに大きな脅威をもたらす。 この問題を解決する1つのアプローチは、操作された入札から衝突するレビュアーを検出することである。 衝突環の検出が可能であるという研究はまだ確立されていない。
  論文  参考訳（メタデータ） (2024-02-12T18:12:09Z)
• Exploring API Behaviours Through Generated Examples [0.768721532845575]
  本稿では,APIの動作に関する関連事例を自動的に生成するアプローチを提案する。 我々の手法は、探索中のシステムを理解するのに役立つ、小さくて関連する例を生成することができる。
  論文  参考訳（メタデータ） (2023-08-29T11:05:52Z)
• Tight Auditing of Differentially Private Machine Learning [77.38590306275877]
  プライベート機械学習では、既存の監査メカニズムは厳格である。 彼らは不確実な最悪の仮定の下でのみ厳密な見積もりを行う。 我々は、自然(逆向きではない)データセットの厳密なプライバシー推定を得られる改善された監査スキームを設計する。
  論文  参考訳（メタデータ） (2023-02-15T21:40:33Z)
• REaaS: Enabling Adversarially Robust Downstream Classifiers via Robust Encoder as a Service [67.0982378001551]
  サービスプロバイダがエンコーダを事前トレーニングして、クラウドサービスAPIとしてデプロイする方法を示します。 クライアントはクラウドサービスAPIに問い合わせて、トレーニング/テスト入力のフィーチャーベクタを取得する。 私たちは、クライアントが下流の分類器の堅牢性を証明できるように、クラウドサービスが2つのAPIを提供する必要があることを示しています。
  論文  参考訳（メタデータ） (2023-01-07T17:40:11Z)
• Having your Privacy Cake and Eating it Too: Platform-supported Auditing of Social Media Algorithms for Public Interest [70.02478301291264]
  ソーシャルメディアプラットフォームは、情報や機会へのアクセスをキュレートするので、公衆の言論を形成する上で重要な役割を果たす。 これまでの研究では、これらのアルゴリズムが偏見や差別的な結果をもたらすことを示すためにブラックボックス法が用いられてきた。 本稿では,提案法の目標を満たすプラットフォーム支援型監査手法を提案する。
  論文  参考訳（メタデータ） (2022-07-18T17:32:35Z)
• Algorithmic audits of algorithms, and the law [3.9103337761169943]
  対象アルゴリズムのユーザ側とのインタラクションによって実施される外部監査に注目した。 これらの監査が行われる法的な枠組みは、主にそれらを開発する研究者にとって曖昧である。 本稿では,アルゴリズム監査の進展する分野を構築するために,現在実施されている監査と法との関係を概説する。
  論文  参考訳（メタデータ） (2022-02-15T14:20:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。