論文の概要: The Current State of AI Bias Bounties: An Overview of Existing Programmes and Research

• arxiv url: http://arxiv.org/abs/2510.02036v1
• Date: Thu, 02 Oct 2025 14:09:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-03 16:59:21.155957
• Title: The Current State of AI Bias Bounties: An Overview of Existing Programmes and Research
• Title（参考訳）: AIバイアスバウンティの現状:既存のプログラムと研究の概要
• Authors: Sergej Kucenko, Nathaniel Dennler, Fengxiang He,
• Abstract要約: 現在のバイアス評価手法は、AIシステムによって影響を受けるコミュニティにはほとんど関与しない。 バグ報奨金に触発されて、報酬に基づく方法としてバイアス報奨が提案されている。
• 参考スコア（独自算出の注目度）: 18.854429764918734
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Current bias evaluation methods rarely engage with communities impacted by AI systems. Inspired by bug bounties, bias bounties have been proposed as a reward-based method that involves communities in AI bias detection by asking users of AI systems to report biases they encounter when interacting with such systems. In the absence of a state-of-the-art review, this survey aimed to identify and analyse existing AI bias bounty programmes and to present academic literature on bias bounties. Google, Google Scholar, PhilPapers, and IEEE Xplore were searched, and five bias bounty programmes, as well as five research publications, were identified. All bias bounties were organised by U.S.-based organisations as time-limited contests, with public participation in four programmes and prize pools ranging from 7,000 to 24,000 USD. The five research publications included a report on the application of bug bounties to algorithmic harms, an article addressing Twitter's bias bounty, a proposal for bias bounties as an institutional mechanism to increase AI scrutiny, a workshop discussing bias bounties from queer perspectives, and an algorithmic framework for bias bounties. We argue that reducing the technical requirements to enter bounty programmes is important to include those without coding experience. Given the limited adoption of bias bounties, future efforts should explore the transferability of the best practices from bug bounties and examine how such programmes can be designed to be sensitive to underrepresented groups while lowering adoption barriers for organisations.
• Abstract（参考訳）: 現在のバイアス評価手法は、AIシステムによって影響を受けるコミュニティにはほとんど関与しない。 バグ報奨金にインスパイアされたバイアス報奨金は、AIシステムのユーザに対して、そのようなシステムと対話する際に発生するバイアスを報告することによって、AIバイアス検出のコミュニティを含む報酬ベースの方法として提案されている。 この調査は、最先端のレビューがない状態で、既存のAIバイアス報奨プログラムを特定し分析し、バイアス報奨に関する学術文献を提示することを目的としている。 Google、Google Scholar、PhilPapers、IEEE Xploreが検索され、5つのバイアス報奨プログラムと5つの研究論文が特定された。 すべてのバイアス報奨金は、時間限定のコンテストとして米国拠点の組織によって組織され、4つのプログラムと賞品プールに7000ドルから24,000ドルを公募した。 この5つの研究出版物には、アルゴリズム的な損害に対するバグ報奨金の適用に関するレポート、Twitterのバイアス報奨金に対処する記事、AIの精査を促進するための制度的なメカニズムとしてのバイアス報奨金の提案、クイアの観点からバイアス報奨を議論するワークショップ、バイアス報奨金のためのアルゴリズムフレームワークが含まれている。 我々は、コーディング経験のない人を含めることが、報奨金プログラムに参加するための技術的要件を減らすことの重要性を論じる。 バイアス報奨金の採用が限られていることを踏まえると、今後の取り組みはバグ報奨金からのベストプラクティスの転送可能性を探り、そのようなプログラムが過小評価されたグループに敏感に設計され、組織への採用障壁を低くする方法について検討する必要がある。

関連論文リスト

• Bound by the Bounty: Collaboratively Shaping Evaluation Processes for Queer AI Harms [14.872177285434999]
  我々は、クイアコミュニティに対して、彼らの立場と、監査プロセスへの欲求について尋ねる。 我々は,批判的,偏見的な報奨金に関する参加ワークショップを開催した。 我々は、報奨金のコミュニティ所有を提唱し、報奨金を参加プロセスで補完することで締めくくる。
  論文  参考訳（メタデータ） (2023-07-15T00:49:45Z)
• Fair Enough: Standardizing Evaluation and Model Selection for Fairness Research in NLP [64.45845091719002]
  現代のNLPシステムは様々なバイアスを示しており、モデル偏見に関する文献が増えている。 本稿では,その現状を解明し,公正学習における意味ある進歩の道筋を立案することを目的とする。
  論文  参考訳（メタデータ） (2023-02-11T14:54:00Z)
• Whole Page Unbiased Learning to Rank [59.52040055543542]
  アンバイアスド・ラーニング・トゥ・ランク(ULTR)アルゴリズムは、バイアスド・クリックデータを用いたアンバイアスド・ランキングモデルを学ぶために提案される。 本稿では,BALというアルゴリズムをランク付けするバイアス非依存学習を提案する。 実世界のデータセットによる実験結果から,BALの有効性が検証された。
  論文  参考訳（メタデータ） (2022-10-19T16:53:08Z)
• Pseudo AI Bias [0.0]
  Pseudo Artificial Intelligence bias (PAIB) は文学において広く普及している。 誤解、疑似機械的偏見、アルゴリズム予測の過剰な発見によるPAIBは社会的に有害である。
  論文  参考訳（メタデータ） (2022-10-14T22:53:18Z)
• The SAME score: Improved cosine based bias score for word embeddings [49.75878234192369]
  埋め込みにおけるセマンティックバイアスのための新しいバイアススコアであるPetを紹介した。 本研究は,下水道作業における意味バイアスを測定し,社会的バイアスの潜在的な原因を特定することができることを示す。
  論文  参考訳（メタデータ） (2022-03-28T09:28:13Z)
• An Algorithmic Framework for Bias Bounties [11.246046276053898]
  我々は「バイアス報奨金」のためのアルゴリズムフレームワークの提案と分析を行う。 バイアス報奨金(bias bounties)とは、トレーニングされたモデルの改善を提案するために外部参加者が招待されるイベントである。 我々のフレームワークは、参加者が任意のサブグループの改善を提出し、アルゴリズムによって更新されたモデルに組み込むことを可能にする。
  論文  参考訳（メタデータ） (2022-01-25T15:57:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。