Fugu-MT 論文翻訳(概要): humancompatible.detect: a Python Toolkit for Detecting Bias in AI Models

論文の概要: humancompatible.detect: a Python Toolkit for Detecting Bias in AI Models

arxiv url: http://arxiv.org/abs/2509.24340v1
Date: Mon, 29 Sep 2025 06:43:24 GMT
ステータス: 翻訳完了
システム内更新日: 2025-09-30 22:32:19.789496
Title: humancompatible.detect: a Python Toolkit for Detecting Bias in AI Models
Title（参考訳）: Human compatible.detect: AIモデルでバイアスを検出するPythonツールキット
Abstract要約: Human compatible.detectはバイアス検出のためのツールキットである。バイアスを検出し評価する2つの新しい手法が組み込まれている。複数の例をドキュメント化した使いやすいAPIがある。
参考スコア（独自算出の注目度）: 5.1131439843256885
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: There is a strong recent emphasis on trustworthy AI. In particular, international regulations, such as the AI Act, demand that AI practitioners measure data quality on the input and estimate bias on the output of high-risk AI systems. However, there are many challenges involved, including scalability (MMD) and computability (Wasserstein-1) issues of traditional methods for estimating distances on measure spaces. Here, we present humancompatible.detect, a toolkit for bias detection that addresses these challenges. It incorporates two newly developed methods to detect and evaluate bias: maximum subgroup discrepancy (MSD) and subsampled $\ell_\infty$ distances. It has an easy-to-use API documented with multiple examples. humancompatible.detect is licensed under the Apache License, Version 2.0.
Abstract（参考訳）: 信頼に値するAIには、最近強く重点を置いている。特に、AI法のような国際規則では、AI実践者は、入力に関するデータ品質を測定し、リスクの高いAIシステムの出力に対するバイアスを見積もることを要求している。しかし、測度空間上の距離を推定する従来の手法のスケーラビリティ(MMD)や計算可能性(Wasserstein-1)の問題など、多くの課題がある。本稿では,これらの課題に対処するバイアス検出ツールキットであるHuman compatible.detectを提案する。バイアスを検知し評価する2つの新しい手法、最大部分群差分(MSD)と$\ell_\infty$距離のサブサンプルが組み込まれている。複数の例をドキュメント化した使いやすいAPIがある。 Human compatible.detectはApache License、Version 2.0でライセンスされている。

関連論文リスト

AICD Bench: A Challenging Benchmark for AI-Generated Code Detection [91.21422299346199]
AICD Benchは、AI生成コード検出の最も包括的なベンチマークである。これは$emph2Mサンプル$、$emph77モデル$、$emph11ファミリー$、$emph9プログラミング言語$で、最近の推論モデルを含む。
論文参考訳（メタデータ） (2026-02-02T13:24:14Z)
Impatient Users Confuse AI Agents: High-fidelity Simulations of Human Traits for Testing Agents [58.00130492861884]
TraitBasisは、AIエージェントを体系的にストレステストするための軽量でモデルに依存しない方法である。 TraitBasisは、ステアブルなユーザ特性に対応するアクティベーション空間で方向を学習する。 We observed on average a 2%-30% performance degradation on $tau$-Trait across frontier model。
論文参考訳（メタデータ） (2025-10-06T05:03:57Z)
Feedback Forensics: A Toolkit to Measure AI Personality [26.46420685104593]
優れた”AIモデルを作るいくつかの特徴は、事前に説明することが難しい。我々は、人間の(またはAI)フィードバックによって奨励されたもの、そしてそのようなフィードバックに基づいてトレーニングされ評価されたAIモデルにまたがって提示されたものの両方、AIの性格変化を追跡するためのオープンソースのツールキットを紹介します。まず、(A)Arena、MultiPref、PRISMなどの一般的なフィードバックデータセットで推奨される性格特性を分析し、(B)このツールキットを用いて、人気のあるモデルがどれだけの特性を示すかを分析する。
論文参考訳（メタデータ） (2025-09-30T14:19:21Z)
$\texttt{Droid}$: A Resource Suite for AI-Generated Code Detection [75.6327970381944]
$textbf$textttDroidCollection$$は、機械生成コード検出器のトレーニングと評価のためのオープンデータスイートである。これには100万以上のコードサンプル、7つのプログラミング言語、43のコーディングモデルからの出力、3つの実世界のコーディングドメインが含まれている。また、$textttDroidCollection$$でマルチタスクでトレーニングされたエンコーダのみの検出器も開発しています。
論文参考訳（メタデータ） (2025-07-11T12:19:06Z)
Active Measurement: Efficient Estimation at Scale [25.849595292000107]
科学計測のための人間とループのAIフレームワークであるActive Measurementを紹介した。 AIモデルを使用して個々の単位の測定を予測し、それを人間のラベル付けのためにサンプリングする。新しい人間のラベルセットによって、AIモデルが改善され、総測定値の偏りのないモンテカルロ推定が洗練される。
論文参考訳（メタデータ） (2025-07-02T05:20:32Z)
RAID: A Dataset for Testing the Adversarial Robustness of AI-Generated Image Detectors [57.81012948133832]
本稿では,72kの多種多様かつ高い変換可能な対向例からなるRAID(Robust Evaluation of AI- generated Image Detectors)を提案する。提案手法は,未知の検出器に高い成功率で転送する逆画像を生成する。以上の結果から,現在最先端のAI生成画像検出器は,敵の例によって容易に認識できることが示唆された。
論文参考訳（メタデータ） (2025-06-04T14:16:00Z)
Almost AI, Almost Human: The Challenge of Detecting AI-Polished Writing [55.2480439325792]
本研究では、AI-Polished-Text Evaluationデータセットを用いて、12の最先端AIテキスト検出器を体系的に評価する。我々の発見によると、検出器は、最小限に洗練されたテキストをAI生成としてフラグ付けし、AIの関与度を区別し、古いモデルや小さなモデルに対するバイアスを示す。
論文参考訳（メタデータ） (2025-02-21T18:45:37Z)
A Comprehensive Library for Benchmarking Multi-class Visual Anomaly Detection [89.92916473403108]
本稿では,新しい手法のモジュラーフレームワークであるADerの総合的な視覚異常検出ベンチマークを提案する。このベンチマークには、産業ドメインと医療ドメインからの複数のデータセットが含まれており、15の最先端メソッドと9つの包括的なメトリクスを実装している。我々は,異なる手法の長所と短所を客観的に明らかにし,多クラス視覚異常検出の課題と今後の方向性について考察する。
論文参考訳（メタデータ） (2024-06-05T13:40:07Z)
Can Machines Imitate Humans? Integrative Turing-like tests for Language and Vision Demonstrate a Narrowing Gap [56.611702960809644]
3つの言語タスクと3つの視覚タスクで人間を模倣するAIの能力をベンチマークする。次に,人間1,916名,AI10名を対象に,72,191名のチューリング様試験を行った。模倣能力は従来のAIパフォーマンス指標と最小限の相関を示した。
論文参考訳（メタデータ） (2022-11-23T16:16:52Z)
Do We Need Another Explainable AI Method? Toward Unifying Post-hoc XAI Evaluation Methods into an Interactive and Multi-dimensional Benchmark [6.511859672210113]
我々は,xAIアルゴリズムに適用された排他的機能テスト手法を統一するベンチマークであるComparce-xAIを提案する。このベンチマークは、xAIメソッドを評価する複雑さを3つの階層的なスコアリングにカプセル化する。インタラクティブなユーザインターフェースは、xAI結果の解釈におけるエラーの軽減に役立つ。
論文参考訳（メタデータ） (2022-06-08T06:13:39Z)
Measuring the Complexity of Domains Used to Evaluate AI Systems [0.48951183832371004]
本稿では,様々な領域間の複雑性を測定するための理論を提案する。この測定の応用は、様々な状況におけるツールとしての有効性を示すために示される。本稿では,AIシステムのインテリジェンスを計算するために,このような複雑性メトリクスの今後の利用を提案する。
論文参考訳（メタデータ） (2020-09-18T21:53:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。