論文の概要: Robust Decentralized Fairness Auditing

• arxiv url: http://arxiv.org/abs/2610.10199v1
• Date: Wed, 07 Oct 2026 15:00:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.982865
• Title: Robust Decentralized Fairness Auditing
• Title（参考訳）: ロバストな分散公正監査
• Abstract要約: Auditopusは、堅牢な分散公正監査のための新しいアプローチである。 理論的、実証的に、ネットワーク内の1つの敵監査者でさえ、送信するベクトルを作成すれば、この推定を導出できることが示される。 Auditopusは、防御のない平均で78%、ロバストなアグリゲーションベースラインに対して少なくとも62%の監査誤差を減少させる。
• 参考スコア（独自算出の注目度）: 2.3259700807531014
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Emerging legislation requires large language models (LLMs) to be audited for compliance with regulatory standards, particularly fairness. Such black-box audits typically assume a single auditor with access to a large, representative set of queries. In practice, it can be difficult for an auditor to obtain such a query set, but multiple auditors can together cover the relevant demographic groups by auditing the LLM collaboratively with their individual query sets. However, relying on multiple auditors raises a fundamental trust problem, as they may act on behalf of the LLM provider to portray a misleading appearance of fairness, i.e., fairwashing. We propose Auditopus, a novel approach for robust decentralized fairness auditing. In Auditopus, auditing proceeds in rounds without a central server. In each round, every auditor issues a fixed number of queries to the LLM, and sends only cumulative statistics vectors of its query results to other auditors instead of sensitive queries in clear. The fairness of the audited LLM is then estimated by aggregating all the vectors. We show theoretically and empirically that even a single adversarial auditor in the network can steer this estimate by fabricating the vectors it sends, making an unfair LLM appear fair. To address this threat, Auditopus has each honest auditor locally down-weight any auditor whose cumulative statistics vectors are statistically inconsistent with previous ones. We implement Auditopus and compare it to robust aggregation baselines on two datasets with two pre-trained LLMs. Against an attacker that optimizes the vectors it sends to make the LLM appear fair, Auditopus reduces audit error by up to 78% on average relative to no defense and at least 62% relative to the robust aggregation baselines. Even when 49% of the auditors are adversarial, Auditopus never lets a very unfair or moderately unfair LLM pass as fair.
• Abstract（参考訳）: 新たな法律では、特に公正性に関する規制基準に準拠するために、大きな言語モデル(LLM)を監査する必要がある。 このようなブラックボックス監査は通常、大きな代表的なクエリセットにアクセス可能な単一の監査者を仮定する。 実際には、監査人がそのようなクエリセットを得るのは難しい場合があるが、複数の監査者は、それぞれのクエリセットとLLMを協調的に監査することで、関連するグループをカバーすることができる。 しかし、複数の監査員を頼りにすることで、LLM提供者のために行動し、フェアウォッシング(フェアウォッシング)という誤解を招くような外観を表現できるため、基本的な信頼の問題を引き起こす。 本研究では,ロバストな分散公正監査のための新しいアプローチであるAuditopusを提案する。 Auditopusでは、監査は中央サーバーなしで行われる。 各ラウンドでは、各監査者は一定の数のクエリをLSMに発行し、クエリ結果の累積統計ベクトルのみを、センシティブなクエリをクリアにするのではなく、他の監査者に送信する。 監査されたLLMの公平さは、すべてのベクトルを集約することによって推定される。 ネットワーク内の1つの敵監査者でさえ、送信するベクトルを作れば、不公平なLLMを公平に見せることで、この推定を導出できることを理論的に実証的に示す。 この脅威に対処するため、アウディトプスは各正直な監査人に対し、累積統計ベクトルが従来のものと統計的に矛盾している任意の監査人を局所的に下降させる。 我々は、Auditopusを実装し、2つの事前学習されたLLMを持つ2つのデータセット上で、ロバストなアグリゲーションベースラインと比較する。 LLMを公平に見せるために送信されるベクターを最適化する攻撃に対して、Auditopusは、防御のない平均で78%、ロバストなアグリゲーションベースラインに対して少なくとも62%の監査エラーを削減している。 監査人の49%が敵対的であったとしても、アウディトプスは極めて不公平で穏健なLDMを公正に通過させることは決して許さない。

関連論文リスト

• Fairness Auditing: Lower Bounds on Company Manipulation [4.867679624126028]
  フェアネス監査は、雇用、貸与、自動意思決定といった高度なアプリケーションでますます義務付けられている。 最近の研究はブラックボックスフェアネス監査の基本的な不可能な結果を確立している。 有限監査資源の下では避けられない事後操作の程度を定量化する。
  論文  参考訳（メタデータ） (2026-08-01T10:11:20Z)
• Sequential Fairness Auditing with Limited Output Access [6.933020649563105]
  外部評価は、AIシステムのガバナンスの中心になりつつある。 実際には、独立監査人はデプロイされたモデルへのアクセスに制限があり、クエリベースのインタラクションに頼らなければならない。 既存のフェアネス評価手法の多くは、静的データセットと固定サンプル統計検査を前提としている。 モデル出力アクセスの制限下での耐久性を考慮した逐次仮説検定問題としてフェアネス監査を定式化する。
  論文  参考訳（メタデータ） (2026-06-29T14:17:33Z)
• Audit Me If You Can: Query-Efficient Active Fairness Auditing of Black-Box LLMs [4.673176641454931]
  大規模言語モデル(LLM)は、人口統計群にまたがる体系的なバイアスを示す。 対象の公正度測定値に対する不確実性評価として監査を概念化する。 ブラックボックスLLMのクエリ効率監査のためのバウンドアクティブフェアネスオーディタであるBAFAを紹介する。
  論文  参考訳（メタデータ） (2026-01-06T15:22:23Z)
• AuditCopilot: Leveraging LLMs for Fraud Detection in Double-Entry Bookkeeping [3.589046578266679]
  大型言語モデル (LLM) は二重エントリーの簿記において異常検知器として機能する。 合成および実世界の匿名化台帳上でのSoTA LLMのベンチマークを行い,JETと機械学習のベースラインを比較した。 結果は、ヒト監査員が金融の整合性を高めるために基礎モデルと協力する、textbfAI強化監査の可能性を強調した。
  論文  参考訳（メタデータ） (2025-12-02T13:00:57Z)
• Auditing for Bias in Ad Delivery Using Inferred Demographic Attributes [50.37313459134418]
  広告配信のブラックボックス監査において,予測誤差が偏見の監査に与える影響について検討した。 本稿では,広告配信アルゴリズムのスキュー評価において,推測誤差を軽減する手法を提案する。
  論文  参考訳（メタデータ） (2024-10-30T18:57:03Z)
• AuditWen:An Open-Source Large Language Model for Audit [20.173039073935907]
  本研究では、Qwenを微調整し、監査領域から命令データを構築するオープンソースの監査LCMであるAuditWenを紹介する。 我々は、15の監査タスクと3つのレイヤから28kの命令データセットを構築したQwenを微調整することで、AuditWenと呼ばれる監査LPMを提案する。 評価段階において、アプリケーションシナリオから派生した重要な監査タスクのセットをカバーする3k命令のベンチマークを提案した。 実験の結果,AuditWenは質問理解と回答生成の両方において優れた性能を示し,即時評価ツールとなった。
  論文  参考訳（メタデータ） (2024-10-09T02:28:55Z)
• The Decisive Power of Indecision: Low-Variance Risk-Limiting Audits and Election Contestation via Marginal Mark Recording [51.82772358241505]
  リスクリミット監査(リスクリミット監査、RLA)は、大規模な選挙の結果を検証する技術である。 我々は、効率を改善し、統計力の進歩を提供する監査の新たなファミリーを定めている。 新しい監査は、複数の可能なマーク解釈を宣言できるように、キャストボイトレコードの標準概念を再考することで実現される。
  論文  参考訳（メタデータ） (2024-02-09T16:23:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。