論文の概要: Calibrating WEAT Against Anisotropy: ZCA Whitening as a Geometric Pre-Processing Step for Embedding Association Tests

• arxiv url: http://arxiv.org/abs/2608.06908v1
• Date: Fri, 07 Aug 2026 07:42:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-10 16:21:25.399643
• Title: Calibrating WEAT Against Anisotropy: ZCA Whitening as a Geometric Pre-Processing Step for Embedding Association Tests
• Title（参考訳）: 異方性に対するWEATの校正:ZCA白化を応用したエンベディング・アソシエーション・テストのための幾何学的前処理ステップ
• Abstract要約: 単語埋め込みアソシエーションテスト(WEAT)のための幾何前処理ステップとしてゼロ位相成分分析(ZCA)ホワイトニングを提案する。 ZCA の白化は、埋め込み空間の共分散を元のベクトルへの摂動を最小化しながら恒等行列に変換する。 我々は,10の標準WEATテストスイートと3つのアーキテクチャファミリにまたがる7つのモデルに対するアプローチを評価し,70のモデルとタスクの組み合わせを得た。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose Zero-phase Component Analysis (ZCA) whitening as a geometric pre-processing step for the Word Embedding Association Test (WEAT). WEAT is a bias measurement method widely used in both computational social science and AI fairness research. It relies on cosine similarity as a measure of semantic association, which assumes that the embedding space is approximately isotropic. However, prior work has reported that many widely used language models do not satisfy this assumption, raising concerns about the reliability of bias measurements. ZCA whitening transforms the covariance of the embedding space into the identity matrix while minimizing perturbation to the original vectors. This transformation restores the isotropy condition on which WEAT relies. We evaluate our approach on ten standard WEAT test suites and seven models spanning three architectural families, yielding 70 model-task combinations. The results show that ZCA whitening substantially reduces the anisotropy of the embedding spaces across all models. Particularly for highly anisotropic models, we further observe improvements on standard semantic similarity benchmarks, indicating that the calibrated space better captures semantic associations. After calibration, over 30% of WEAT results change significance status, and effect sizes shift in both directions depending on bias category. These shifts suggest that uncalibrated measurements may both overestimate and underestimate the associations encoded in the embedding space. These findings indicate that previously reported bias measurements in anisotropic embedding spaces should be interpreted with caution and may benefit from re-evaluation with calibrated methods. Our approach contributes to restoring the measurement foundation of WEAT across both computational social science and AI fairness research.
• Abstract（参考訳）: 単語埋め込みアソシエーションテスト(WEAT)のための幾何学的前処理ステップとしてゼロ位相成分分析(ZCA)ホワイトニングを提案する。 WEATは、計算社会科学とAIフェアネス研究の両方で広く使われているバイアス測定手法である。 これは意味的関連の尺度としてコサイン類似性に依存し、埋め込み空間は概同型であると仮定する。 しかし、先行研究では、多くの広く使われている言語モデルがこの仮定を満たさないことが報告されており、バイアス測定の信頼性に関する懸念が提起されている。 ZCA の白化は、埋め込み空間の共分散を元のベクトルへの摂動を最小化しながら恒等行列に変換する。 この変換はWEATが依存する等方性条件を復元する。 我々は,10の標準WEATテストスイートと3つのアーキテクチャファミリにまたがる7つのモデルに対するアプローチを評価し,70のモデルとタスクの組み合わせを得た。 以上の結果から,ZCA白化はすべてのモデルにまたがる埋め込み空間の異方性を大幅に減少させることが示された。 特に、高度異方性モデルでは、標準的な意味的類似性ベンチマークの改善が観察され、校正空間が意味的関連性をよりよく捉えることが示される。 校正後、WEATの結果の30%以上が重要度を変化させ、効果の大きさは偏りのカテゴリーによって異なる。 これらのシフトは、非校正測定が埋め込み空間に符号化された関連性を過大評価し、過小評価することを示唆している。 これらの結果から, 異方性埋込空間における既報バイアス測定は, 慎重に解釈し, 校正手法による再評価の恩恵を受ける可能性が示唆された。 我々のアプローチは、計算社会科学とAIフェアネス研究の両方にわたるWEATの測定基盤の復元に寄与する。

関連論文リスト

• Aligning Network Equivariance with Data Symmetry: A Theoretical Framework and Adaptive Approach for Image Restoration [71.51826063983434]
  画像復元は本質的に逆問題である。 非厳密対称性を制約として、復元逆問題を定式化する。 最適復元演算子の等値誤差はデータ対称性誤差と離散化メッシュサイズによって厳密に制限されていることを示す。
  論文  参考訳（メタデータ） (2026-05-13T16:22:19Z)
• On Procrustes Contamination in Machine Learning Applications of Geometric Morphometrics [0.0]
  Geometric morphometrics (GMM) は形状変化の定量化に広く用いられ、最近では機械学習(ML)解析の入力として使われている。 標準のプラクティスは、データをトレーニングとテストセットに分割する前に、すべての標本を一般化プロクリスト分析(GPA)を介して整列させる。 ここでは、制御された2次元および3次元シミュレーションを用いて、GPAによる汚染の影響を正式に特徴づける。
  論文  参考訳（メタデータ） (2026-01-26T12:56:23Z)
• Calibrated Similarity for Reliable Geometric Analysis of Embedding Spaces [0.0]
  位置相関と局所安定性を保ちながら、ほぼ完璧なキャリブレーションを実現する等調変換を構築する。 我々の貢献はコサインの類似性を置き換えるのではなく、モノトンキャリブレーションによって絶対値の解釈可能性を取り戻すことである。
  論文  参考訳（メタデータ） (2026-01-23T17:14:44Z)
• Diversity by Design: Addressing Mode Collapse Improves scRNA-seq Perturbation Modeling on Well-Calibrated Metrics [1.756284691863048]
  最近のベンチマークでは、単一セルの摂動応答のモデルは、データセットの平均を単に予測することで、しばしば性能が向上することが示された。 制御参照デルタと非重み付きエラーメトリクスの報酬モードは、制御がバイアスを受けたり、生物学的信号がスパースであったりすると、崩壊する。 高感度のニッチ信号における誤差を計測する全ての摂動に対して、差分式遺伝子(DEG)対応メトリクス、重み付き平均二乗誤差(WMSE)および重み付きデルタ$R2$(R2_w(Delta)$)を導入する。
  論文  参考訳（メタデータ） (2025-06-27T21:12:46Z)
• ML-EAT: A Multilevel Embedding Association Test for Interpretable and Transparent Social Science [18.682235650233743]
  本研究はML-EAT(Multilevel Embedding Association Test)を紹介する。 ML-EATは従来のEAT測定の曖昧さと難易度の問題に対処している。 本研究は,ML-EATを用いて,埋め込み型アソシエーションテストの9つの可能性について,EATパターンの分類を定義した。
  論文  参考訳（メタデータ） (2024-08-04T09:04:44Z)
• Improving Bias Correction Standards by Quantifying its Effects on Treatment Outcomes [54.18828236350544]
  Propensity score matching (PSM) は、分析のために同等の人口を選択することで選択バイアスに対処する。 異なるマッチング手法は、すべての検証基準を満たす場合でも、同じタスクに対する平均処理効果(ATE)を著しく異なるものにすることができる。 この問題に対処するため,新しい指標A2Aを導入し,有効試合数を削減した。
  論文  参考訳（メタデータ） (2024-07-20T12:42:24Z)
• Orthogonal Causal Calibration [55.28164682911196]
  我々は、因果校正作業を標準(非因果予測モデル)の校正作業に還元する一般的なアルゴリズムを開発する。 以上の結果から,既存のキャリブレーションアルゴリズムを因果的設定に応用できることが示唆された。
  論文  参考訳（メタデータ） (2024-06-04T03:35:25Z)
• STAR Loss: Reducing Semantic Ambiguity in Facial Landmark Detection [80.04000067312428]
  本稿では,意味的あいまいさの特性を利用した自己適応型あいまいさ低減(STAR)の損失を提案する。 意味的あいまいさは異方性予測分布をもたらすことが分かり、予測分布を用いて意味的あいまいさを表現する。 また,分布の異常変化とモデルの初期収束を回避できる2種類の固有値制限法を提案する。
  論文  参考訳（メタデータ） (2023-06-05T10:33:25Z)
• Stable Anisotropic Regularization [18.52015282224059]
  I-STAR: IsoScore*-based STable Anisotropic regularization, a novel regularization method that can can be increase or reduce of isotropy in embedded space during training。 I-STARはIsoScore*を用いており、IsoScore*はアイソトロピーの最初の正確な測定値であり、ミニバッチ計算では微分可能で安定である。
  論文  参考訳（メタデータ） (2023-05-30T18:57:45Z)
• On Calibrating Semantic Segmentation Models: Analyses and An Algorithm [51.85289816613351]
  セマンティックセグメンテーションキャリブレーションの問題について検討する。 モデルキャパシティ、作物サイズ、マルチスケールテスト、予測精度はキャリブレーションに影響を及ぼす。 我々は、単純で統一的で効果的なアプローチ、すなわち選択的スケーリングを提案する。
  論文  参考訳（メタデータ） (2022-12-22T22:05:16Z)
• Learning from Aggregate Observations [82.44304647051243]
  本研究では,一組のインスタンスに監視信号が与えられる集合観察から学習する問題について検討する。 本稿では,多種多様な集合観測に適合する一般的な確率的枠組みを提案する。 単純な極大解は様々な微分可能なモデルに適用できる。
  論文  参考訳（メタデータ） (2020-04-14T06:18:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。