論文の概要: Unraveling Machine Behavior by Multi-Level Bias Analysis and Detection: Methodology and Application to Computer Vision
- arxiv url: http://arxiv.org/abs/2607.07236v1
- Date: Wed, 08 Jul 2026 10:18:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-09 22:50:30.353757
- Title: Unraveling Machine Behavior by Multi-Level Bias Analysis and Detection: Methodology and Application to Computer Vision
- Title（参考訳）: マルチレベルバイアス解析と検出による機械挙動の解明:手法とコンピュータビジョンへの応用
- Abstract要約: 本研究では,ニューラルネットワークにおけるバイアスの存在と伝播について,包括的多段階解析を用いて検討する。
本研究では,SpaceBias,ActivationBias,WeightBiasの3つのバイアス検出手法を提案する。
提案手法は,ネットワークアーキテクチャ自体のバイアスが,異なるレベルでどのように現れるかを示す。
- 参考スコア（独自算出の注目度）: 10.595890561268735
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: This study investigates the presence and propagation of bias within Neural Networks through a comprehensive multi-level analysis spanning the learned latent space, layer activations, and the network's parameters. Based on this taxonomy, we propose three bias detection approaches: 1) SpaceBias (new method), which characterizes the latent space prior to the final classification layer using neighbor-probability distributions and quantifies bias with the two-sample Kolmogorov-Smirnov test on the per-group distributions. 2) ActivationBias (extension of the existing method InsideBias), which analyzes the activations of neural network filters and quantifies bias via a Mann-Whitney U test, based on the observed fact that underrepresented groups exhibit lower activation levels in the final convolutional layers. 3) WeightBias (extension of the existing method IFBiD), which uses a secondary neural network trained to identify biased patterns directly in the parameters of task-specific models. Unlike conventional methods, which assess neural network outcomes and treat the model as a black box, our proposed techniques provide insight into how biases manifest within the network architecture itself at different levels, offering a more nuanced and detailed understanding. Experiments are conducted on two complementary applications: gender classification in the DiveFace dataset (72,000 face images) and digit classification on a colored-MNIST benchmark with controlled bias severity. In total, more than 127,000 models with varying degrees and types of bias were trained and evaluated. The severity sweep shows that the internal disparity, and with it the detection performance, decreases smoothly as the training distribution approaches balance. The results highlight the importance of methods that provide deeper insight into the behavior of AI models.
- Abstract（参考訳）: 本研究では,学習した潜伏空間,層活性化,ネットワークパラメータを網羅した総合的多段階解析により,ニューラルネットワーク内のバイアスの存在と伝播について検討した。
この分類に基づく3つのバイアス検出手法を提案する。
1) SpaceBias(新しい方法)は、近傍確率分布を用いて最終分類層の前に潜伏空間を特徴づけ、群ごとの分布に関する2サンプルのコルモゴロフ・スミルノフ検定でバイアスを定量化する。
2) ニューラルネットワークフィルタの活性化を分析し,Mann-Whitney U テストによるバイアスを定量化する ActivationBias (既存の方法であるInsideBiasの拡張) は, 未表現群が最終畳み込み層において低い活性化レベルを示すことに基づく。
3)WeightBias(既存のIFBiDの拡張)は,タスク固有モデルのパラメータにおいて,バイアスパターンを直接識別するために訓練された二次ニューラルネットワークを使用する。
ニューラルネットワークの結果を評価し、モデルをブラックボックスとして扱う従来の方法とは異なり、提案手法は、ネットワークアーキテクチャ自体のバイアスがどのように異なるレベルで現れるのかを洞察し、より微妙で詳細な理解を提供する。
DiveFaceデータセットの性別分類(72,000の顔画像)と、制御されたバイアス重大度を持つ色付きMNISTベンチマークの数字分類の2つの補完的な応用について実験を行った。
総じて127,000種以上のモデルが訓練され、評価された。
重度スイープは、トレーニング分布がバランスに近づくにつれて内部の相違と検出性能が円滑に低下することを示している。
結果は、AIモデルの振る舞いに関する深い洞察を提供する方法の重要性を強調している。
関連論文リスト
- Implicit Hypothesis Testing and Divergence Preservation in Neural Network Representations [3.641372680589358]
二元仮説テストのレンズによる神経分類器の教師付きトレーニングダイナミクスについて検討した。
表現のクラス条件分布間のバイナリテストの集合として分類をモデル化し、実験により、訓練軌道に沿って、よく一般化されたネットワークが、ネイマン・ピアソンの最適決定規則と整合していることが示される。
論文 参考訳（メタデータ） (2026-01-28T10:46:44Z) - Feature Averaging: An Implicit Bias of Gradient Descent Leading to Non-Robustness in Neural Networks [13.983863226803336]
勾配降下によって訓練されたニューラルネットワークは、分類に平均的な特徴に依存する傾向があることを示す。
勾配降下は、各隠れニューロンの重みがクラスター中心の平均を表す特徴平均化に偏りがあることを証明した。
我々は,2層ReLUネットワークが個々の特徴を分類する訓練を行う際に,最適なロバスト性を実現することを証明した。
論文 参考訳（メタデータ） (2024-10-14T09:28:32Z) - Unleashing the power of Neural Collapse for Transferability Estimation [42.09673383041276]
よく訓練されたモデルは神経崩壊の現象を示す。
本稿では、転送可能性推定のためのFair Collapse(FaCe)と呼ばれる新しい手法を提案する。
FaCeは、画像分類、セマンティックセグメンテーション、テキスト分類など、さまざまなタスクにおける最先端のパフォーマンスを提供する。
論文 参考訳（メタデータ） (2023-10-09T14:30:10Z) - How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。
入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文 参考訳（メタデータ） (2023-06-04T08:53:27Z) - Anomaly Detection in Cybersecurity: Unsupervised, Graph-Based and
Supervised Learning Methods in Adversarial Environments [63.942632088208505]
現在の運用環境に固有ののは、敵対的機械学習の実践である。
本研究では,教師なし学習とグラフに基づく異常検出の可能性を検討する。
我々は,教師付きモデルの訓練時に,現実的な対人訓練機構を組み込んで,対人環境における強力な分類性能を実現する。
論文 参考訳（メタデータ） (2021-05-14T10:05:10Z) - Anomaly Detection on Attributed Networks via Contrastive Self-Supervised
Learning [50.24174211654775]
本論文では,アトリビュートネットワーク上の異常検出のためのコントラスト型自己監視学習フレームワークを提案する。
このフレームワークは、新しいタイプのコントラストインスタンスペアをサンプリングすることで、ネットワークデータからのローカル情報を完全に活用します。
高次元特性と局所構造から情報埋め込みを学習するグラフニューラルネットワークに基づくコントラスト学習モデルを提案する。
論文 参考訳（メタデータ） (2021-02-27T03:17:20Z) - LOGAN: Local Group Bias Detection by Clustering [86.38331353310114]
コーパスレベルでバイアスを評価することは、モデルにバイアスがどのように埋め込まれているかを理解するのに十分ではない、と我々は主張する。
クラスタリングに基づく新しいバイアス検出手法であるLOGANを提案する。
毒性分類および対象分類タスクの実験は、LOGANが局所領域のバイアスを特定することを示している。
論文 参考訳（メタデータ） (2020-10-06T16:42:51Z) - Ramifications of Approximate Posterior Inference for Bayesian Deep
Learning in Adversarial and Out-of-Distribution Settings [7.476901945542385]
ベイジアン深層学習モデルが従来のニューラルネットワークよりわずかに優れていることを示す。
予備的な調査は、初期化、アーキテクチャ、アクティベーション関数の選択によるバイアスの潜在的固有の役割を示している。
論文 参考訳（メタデータ） (2020-09-03T16:58:15Z) - Learning from Failure: Training Debiased Classifier from Biased
Classifier [76.52804102765931]
ニューラルネットワークは、所望の知識よりも学習が簡単である場合にのみ、素早い相関に依存することを学習していることを示す。
本稿では,一対のニューラルネットワークを同時にトレーニングすることで,障害に基づくデバイアス化手法を提案する。
本手法は,合成データセットと実世界のデータセットの両方において,各種バイアスに対するネットワークのトレーニングを大幅に改善する。
論文 参考訳（メタデータ） (2020-07-06T07:20:29Z) - InsideBias: Measuring Bias in Deep Networks and Application to Face
Gender Biometrics [73.85525896663371]
この研究は、ディープニューラルネットワークアーキテクチャに基づく学習プロセスのバイアスについて検討する。
一般的なディープニューラルネットワークに基づく2つの性別検出モデルを採用している。
バイアスモデルを検出する新しい手法であるInsideBiasを提案する。
論文 参考訳（メタデータ） (2020-04-14T15:20:50Z) - Implicit Bias of Gradient Descent for Wide Two-layer Neural Networks
Trained with the Logistic Loss [0.0]
勾配に基づく手法によるロジスティック(クロスエントロピー)損失を最小限に抑えるために訓練されたニューラルネットワークは、多くの教師付き分類タスクでうまく機能する。
我々は、均一な活性化を伴う無限に広い2層ニューラルネットワークのトレーニングと一般化の挙動を解析する。
論文 参考訳（メタデータ） (2020-02-11T15:42:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。