論文の概要: FairLint-DL: An IDE-Native Tool for Fairness Debugging of Deep Learning Software

• arxiv url: http://arxiv.org/abs/2609.16321v1
• Date: Mon, 14 Sep 2026 20:37:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 14:56:08.236972
• Title: FairLint-DL: An IDE-Native Tool for Fairness Debugging of Deep Learning Software
• Title（参考訳）: FairLint-DL - ディープラーニングソフトウェアの公平デバッグのためのIDE-Nativeツール
• Abstract要約: フェアネステストへのシフトレフトアプローチを実装したVisual Studio CodeエクステンションであるFairLint-DLを紹介します。 FairLint-DLは、プロキシモデルとしてディープニューラルネットワークをトレーニングし、情報理論の定量的個人識別メトリクスを適用している。 3つのベンチマークで評価すると、データセット間で大きく異なる公平性に関する懸念が浮かび上がっている。
• 参考スコア（独自算出の注目度）: 3.93181912653522
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Existing fairness analysis tools predominantly operate as post-training evaluation frameworks, requiring practitioners to complete the full model development lifecycle before assessing bias. We present FairLint-DL, a Visual Studio Code extension that implements a shift-left approach to fairness testing by enabling pre-training, IDE-native bias detection directly on tabular datasets. FairLint-DL trains a configurable deep neural network as a proxy model and applies information-theoretic Quantitative Individual Discrimination (QID) metrics. Grounded in Shannon and min-entropy, QID quantifies the causal influence of protected attributes on predictions. The system implements a two-phase gradient-guided search algorithm for discovering discriminatory instances, a causal debugging pipeline that localizes bias to specific network layers and neurons via sensitivity analysis, and dual explainability engines using SHAP and LIME for feature-level attribution. Evaluation on three tabular benchmarks (Adult Census Income, German Credit, and Bank Marketing) reveals fairness concerns that vary widely across datasets: on Adult, 96.0% of analyzed instances exhibit QID above the 0.1-bit significance threshold, with a mean QID of 0.619 bits and a disparate impact ratio of 0.581, violating the four-fifths legal rule. FairLint-DL produces these results within 12 seconds on cached models, demonstrating the feasibility of integrating fairness analysis into the developer workflow without significant overhead.
• Abstract（参考訳）: 既存の公正分析ツールは、主にトレーニング後の評価フレームワークとして機能し、実践者はバイアスを評価する前に完全なモデル開発ライフサイクルを完成させる必要がある。 このFairLint-DLはVisual Studio Codeの拡張機能で、事前トレーニングされたIDEネイティブなバイアス検出をタブ形式のデータセットに直接適用することで、公平性テストへのシフトレフトアプローチを実装しています。 FairLint-DLは、プロキシモデルとして設定可能なディープニューラルネットワークをトレーニングし、情報理論量的個人識別(QID)メトリクスを適用している。 シャノンとミンエントロピーに接地したQIDは、保護属性が予測に与える影響を定量化する。 本システムは、識別インスタンスを発見するための二相勾配誘導探索アルゴリズム、感度分析により特定のネットワーク層やニューロンにバイアスを局所化する因果デバッグパイプライン、特徴レベルの属性に対するSHAPとLIMEを用いた二重説明可能性エンジンを実装している。 3つの表付きベンチマーク(Adult Census Income, German Credit, and Bank Marketing)の評価では、データセット間で大きく異なる公平性に関する懸念が示されている: 成人の場合、96.0%の分析インスタンスは0.1ビットの重要度閾値を超えるQIDを示し、平均QIDは0.619ビット、異種衝突率は0.581であり、4/5の法則に違反している。 FairLint-DLはキャッシュされたモデルで12秒以内にこれらの結果を生成する。

関連論文リスト

• Sketching the Readout of Large Language Models for Scalable Data Attribution and Valuation [31.732282915190467]
  人間の認知にインスパイアされたRISE(Readout Influence Sketching Estimator)の導入 RISEは出力層における影響ホットスポットに焦点を合わせ、そこでは影響信号が集中し、勾配は分解した外部生成物の形態を許容する。 OLMo (1B-32B) と Pythia (14M-6.9B) のファミリー全体で、RISEはRapidInと比較してインデックスストレージを最大112$times$に削減する。 RISEは、ハウディバックドアデータ検出、ファイナンス・メディカルドメイン分離、Brain Rotの高品質データ選択の3つのタスクで検証する。
  論文  参考訳（メタデータ） (2026-04-17T16:07:11Z)
• OpenDataArena: A Fair and Open Arena for Benchmarking Post-Training Dataset Value [74.80873109856563]
  OpenDataArena(ODA)は、トレーニング後のデータの本質的な価値をベンチマークするために設計された、総合的でオープンなプラットフォームである。 ODAは4つの主要な柱からなる包括的なエコシステムを確立している。 (i) 多様なモデル間で公平でオープンな比較を保証する統一的なトレーニング評価パイプライン、 (ii) 異なる軸数に沿ってデータ品質をプロファイリングする多次元スコアリングフレームワーク、 (iii) データセットの系図を視覚化してコンポーネントソースを識別するインタラクティブなデータ系統探索である。
  論文  参考訳（メタデータ） (2025-12-16T03:33:24Z)
• Reliable and Reproducible Demographic Inference for Fairness in Face Analysis [63.46525489354455]
  本稿では、従来のエンドツーエンドトレーニングをモジュラートランスファー学習アプローチで置き換える、完全に再現可能なDAIパイプラインを提案する。 このパイプラインは、正確性、公正性、そしてアイデンティティ内整合性によって定義される、新たに導入された堅牢性の概念の3つの次元にわたって監査する。 以上の結果から,提案手法は特に民族性において,強い基準線を上回り,その特性はより困難であることが示唆された。
  論文  参考訳（メタデータ） (2025-10-23T12:22:02Z)
• A Fuzzy Logic-Based Framework for Explainable Machine Learning in Big Data Analytics [0.0]
  本稿では,2型ファジィ集合,粒度計算,クラスタリングを組み合わせて,ビッグデータ環境における説明可能性と公平性を高める新しいフレームワークを提案する。 UCI Air Qualityデータセットに適用した場合、このフレームワークはノイズの多いセンサデータの不確実性を効果的に管理し、言語規則を作成し、シルエットスコアとエントロピーを用いて公平さを評価する。
  論文  参考訳（メタデータ） (2025-09-29T18:02:31Z)
• Thinking Racial Bias in Fair Forgery Detection: Models, Datasets and Evaluations [63.52709761339949]
  最初に、Fair Forgery Detection(FairFD)データセットと呼ばれる専用のデータセットをコントリビュートし、SOTA(Public State-of-the-art)メソッドの人種的偏見を証明する。 我々は、偽りの結果を避けることができる平均的メトリクスと実用正規化メトリクスを含む新しいメトリクスを設計する。 また,有効で堅牢な後処理技術であるBias Pruning with Fair Activations (BPFA)も提案する。
  論文  参考訳（メタデータ） (2024-07-19T14:53:18Z)
• MAPPING: Debiasing Graph Neural Networks for Fair Node Classification with Limited Sensitive Information Leakage [1.5438758943381854]
  公正ノード分類のためのモデルに依存しない新しい脱バイアスフレームワーク MAPPing を提案する。 以上の結果から,MAPPingは実用性と公正性,および機密情報漏洩のプライバシーリスクとのトレードオフを良好に達成できることが示された。
  論文  参考訳（メタデータ） (2024-01-23T14:59:46Z)
• D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling Algorithmic Bias [57.87117733071416]
  D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。 ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。 それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
  論文  参考訳（メタデータ） (2022-08-10T03:41:48Z)
• Fairness via Representation Neutralization [60.90373932844308]
  フェアネスのための表現中立化(Representation Neutralization for Fairness, RNF)という新たな緩和手法を提案する。 RNFは、DNNモデルのタスク固有の分類ヘッダのみをデバイアスすることで、その公平性を達成する。 複数のベンチマークデータセットに対する実験結果は、DNNモデルの識別を効果的に削減するRNFフレームワークを実証している。
  論文  参考訳（メタデータ） (2021-06-23T22:26:29Z)
• Causal Feature Selection for Algorithmic Fairness [61.767399505764736]
  データ管理の統合コンポーネントにおける公平性について検討する。 本稿では,データセットの公平性を保証する特徴のサブコレクションを同定する手法を提案する。
  論文  参考訳（メタデータ） (2020-06-10T20:20:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。