論文の概要: Shortcut Learning in Binary Classifier Black Boxes: Applications to Voice Anti-Spoofing and Biometrics

• arxiv url: http://arxiv.org/abs/2601.17782v1
• Date: Sun, 25 Jan 2026 10:47:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-27 15:23:08.332626
• Title: Shortcut Learning in Binary Classifier Black Boxes: Applications to Voice Anti-Spoofing and Biometrics
• Title（参考訳）: 二元分類ブラックボックスにおけるショートカット学習 : 音声アンチスプーフィングとバイオメトリックスへの応用
• Authors: Md Sahidullah, Hye-jin Shim, Rosa Gonzalez Hautamäki, Tomi H. Kinnunen,
• Abstract要約: 本研究では、データセットバイアスの課題に対処し、バイナリ分類器における「ショートカット学習」や「クリーバーハンス効果」を探索する。 本フレームワークは, 干渉と観測的視点を取り入れ, 線形混合効果モデルを用いてポストホック解析を行う。
• 参考スコア（独自算出の注目度）: 14.688567166793234
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: The widespread adoption of deep-learning models in data-driven applications has drawn attention to the potential risks associated with biased datasets and models. Neglected or hidden biases within datasets and models can lead to unexpected results. This study addresses the challenges of dataset bias and explores ``shortcut learning'' or ``Clever Hans effect'' in binary classifiers. We propose a novel framework for analyzing the black-box classifiers and for examining the impact of both training and test data on classifier scores. Our framework incorporates intervention and observational perspectives, employing a linear mixed-effects model for post-hoc analysis. By evaluating classifier performance beyond error rates, we aim to provide insights into biased datasets and offer a comprehensive understanding of their influence on classifier behavior. The effectiveness of our approach is demonstrated through experiments on audio anti-spoofing and speaker verification tasks using both statistical models and deep neural networks. The insights gained from this study have broader implications for tackling biases in other domains and advancing the field of explainable artificial intelligence.
• Abstract（参考訳）: データ駆動型アプリケーションにおけるディープラーニングモデルの普及は、バイアス付きデータセットやモデルに関連する潜在的なリスクに注意を向けている。 データセットやモデル内の無視あるいは隠されたバイアスは、予期しない結果につながる可能性がある。 本研究では,データセットバイアスの課題に対処し,バイナリ分類器における「ショートカット学習」や「クリーバーハンス効果」について検討する。 ブラックボックス分類器を解析し、トレーニングデータとテストデータの両方が分類器のスコアに与える影響を調べるための新しいフレームワークを提案する。 本フレームワークは, 干渉と観測的視点を取り入れ, 線形混合効果モデルを用いてポストホック解析を行う。 誤り率を超える分類器の性能を評価することにより、偏りのあるデータセットに対する洞察を提供し、分類器の挙動に対するそれらの影響を包括的に理解することを目指している。 提案手法の有効性は,統計的モデルとディープニューラルネットワークの両方を用いて,音声によるアンチスプーフィングと話者検証タスクの実験により実証された。 この研究から得られた知見は、他の領域のバイアスに対処し、説明可能な人工知能の分野を前進させる、より広範な意味を持つ。

関連論文リスト

• Learning from Neighbors: Category Extrapolation for Long-Tail Learning [62.30734737735273]
  より粒度の細かいデータセットは、データの不均衡の影響を受けにくい傾向があります。 既存のクラスと視覚的に類似したオープンセット補助クラスを導入し、頭と尾の両方の表現学習を強化することを目的とした。 補助授業の圧倒的な存在がトレーニングを混乱させるのを防ぐために,近隣のサイレンシング障害を導入する。
  論文  参考訳（メタデータ） (2024-10-21T13:06:21Z)
• Most Influential Subset Selection: Challenges, Promises, and Beyond [9.479235005673683]
  我々は,最も集団的影響の大きいトレーニングサンプルのサブセットを特定することを目的とした,MISS(Most Influential Subset Selection)問題について検討する。 我々は、MISにおける一般的なアプローチを包括的に分析し、その強みと弱点を解明する。 本稿では,これらを反復的に適用した適応バージョンが,試料間の相互作用を効果的に捕捉できることを実証する。
  論文  参考訳（メタデータ） (2024-09-25T20:00:23Z)
• Automated Deception Detection from Videos: Using End-to-End Learning Based High-Level Features and Classification Approaches [0.0]
  深層学習と識別モデルを組み合わせたマルチモーダル手法を提案する。 我々は畳み込み学習を用いて、視線、頭ポーズ、表情を解析する。 提案手法は, 経済要因による新しいローリングディース実験を含む5つのデータセットで評価される。
  論文  参考訳（メタデータ） (2023-07-13T08:45:15Z)
• Deep networks for system identification: a Survey [56.34005280792013]
  システム識別は、入力出力データから動的システムの数学的記述を学習する。 同定されたモデルの主な目的は、以前の観測から新しいデータを予測することである。 我々は、フィードフォワード、畳み込み、リカレントネットワークなどの文献で一般的に採用されているアーキテクチャについて論じる。
  論文  参考訳（メタデータ） (2023-01-30T12:38:31Z)
• Learning Bias-Invariant Representation by Cross-Sample Mutual Information Minimization [77.8735802150511]
  対象タスクが誤用したバイアス情報を除去するために,クロスサンプル対逆脱バイアス法(CSAD)を提案する。 相関測定は, 対向的偏り評価において重要な役割を担い, クロスサンプル型相互情報推定器によって行われる。 我々は,提案手法の最先端手法に対する利点を検証するために,公開データセットの徹底的な実験を行った。
  論文  参考訳（メタデータ） (2021-08-11T21:17:02Z)
• Explainable Adversarial Attacks in Deep Neural Networks Using Activation Profiles [69.9674326582747]
  本稿では,敵対的事例に基づくニューラルネットワークモデルを検討するためのビジュアルフレームワークを提案する。 これらの要素を観察することで、モデル内の悪用領域を素早く特定できることを示す。
  論文  参考訳（メタデータ） (2021-03-18T13:04:21Z)
• Ramifications of Approximate Posterior Inference for Bayesian Deep Learning in Adversarial and Out-of-Distribution Settings [7.476901945542385]
  ベイジアン深層学習モデルが従来のニューラルネットワークよりわずかに優れていることを示す。 予備的な調査は、初期化、アーキテクチャ、アクティベーション関数の選択によるバイアスの潜在的固有の役割を示している。
  論文  参考訳（メタデータ） (2020-09-03T16:58:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。