論文の概要: Accuracy Is Not Enough: A Cross-Architecture Audit of Demographic Bias in Deep Knowledge Tracing

• arxiv url: http://arxiv.org/abs/2609.20249v1
• Date: Tue, 28 Jul 2026 07:59:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.643507
• Title: Accuracy Is Not Enough: A Cross-Architecture Audit of Demographic Bias in Deep Knowledge Tracing
• Title（参考訳）: Deep Knowledge TracingにおけるDemographic Biasのクロスアーキテクチャ監査
• Abstract要約: 深い知識追跡モデルは、どの学生がスキルを習得したと信じているかを暗黙に決定するが、その人口統計学的公正性に関するほぼすべての証拠はベイズ的知識追跡に由来する。 我々は、人口統計メタデータを持つ2つの公開データセット、Eedi (15.9M) と OULAD (167k) に基づいて、3つの体制下で訓練された4つの深いモデル(標準、再重み付け、敵対的)を評価する。 Eedi (0.018-0.023, $p0.005$) 上の社会経済的な ABROCA を示し、経済的に不利な学生にはグループごとの AUC が低く、一方、OULAD では4つのアーキテクチャのうち3つに男女バイアスが重要である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep knowledge tracing (DKT) models implicitly decide which students an adaptive system believes have mastered a skill, yet almost all evidence on their demographic fairness comes from Bayesian knowledge tracing; the deep models that power modern systems have received no comparable cross-architecture audit. We close this gap: four architectures (DKT, DKVMN, SAKT, AKT) trained under three regimes (standard, reweighting, adversarial) on two public datasets with demographic metadata, Eedi (15.9M interactions) and OULAD (167k after preprocessing), evaluated with ABROCA, student-level bootstrap confidence intervals, and permutation tests addressing recent critiques of fairness-metric instability. Three findings emerge. (i) Bias is real but context-dependent: every architecture shows a significant socioeconomic ABROCA on Eedi (0.018-0.023, $p<0.005$), with per-group AUC lower for economically disadvantaged students, while gender bias is significant on OULAD for three of four architectures after multiplicity correction yet negligible on Eedi. (ii) The most accurate architecture is the most biased: AKT gains about 4 AUC points from item-level Rasch embeddings and shows the largest socioeconomic ABROCA, exceeding every other architecture under a paired bootstrap ($p\leq0.002$); ablating only the Rasch embeddings removes the accuracy gain and the excess bias together. (iii) Standard mitigation is unreliable: reweighting and adversarial debiasing leave ABROCA essentially unchanged in every configuration that preserves accuracy, even though the adversary is pinned at chance at full reversal strength and a weak-strength positive control rules out a dead probe.
• Abstract（参考訳）: ディープ・ナレッジ・トレーシング(DKT)モデルは、どの学生がスキルを習得したと信じているのかを暗黙的に決定するが、その人口統計学的公正性に関するほぼすべての証拠はベイズ的ナレッジ・トレーシング(英語版)によるものである。 4つのアーキテクチャ(DKT、DKVMN、SAKT、AKT)は、人口統計メタデータを持つ2つの公開データセット、Eedi (15.9Mインタラクション)とOULAD (167k前処理)、ABROCAによる評価、学生レベルのブートストラップの信頼区間、そして近年のフェアネスメトリックの不安定性の批判に対処する置換試験の3つに基づいて訓練された。 3つの発見がある。 (i) バイアスは現実的だが文脈に依存している: どのアーキテクチャもEedi上で大きな社会経済的ABROCA(0.018-0.023,$p<0.005$)を示し、経済的に不利な学生ではグループごとのAUCが低い。 AKTはアイテムレベルのRasch埋め込みから約4つのAUCポイントを獲得し、最大の社会経済的なABROCAを示し、ペアのブートストラップ(p\leq0.002$)の下で他のすべてのアーキテクチャを超える。 三 標準緩和は、信頼性の低いものであって、敵が全反抗力及び弱強正の制御規則により致命的なプローブを外したとしても、正確性を維持するあらゆる構成において、ABROCAは基本的に変化しない。

関連論文リスト

• Fair and Calibrated Toxicity Detection with Robust Training and Abstention [0.0]
  トレーニングタイムの介入やポストホックの安全メカニズムは独立して評価することはできない。 経験的リスク最小化(ERM)、インスタンスレベルの再重み付け、グループDROをこれらの軸で比較する。
  論文  参考訳（メタデータ） (2026-05-13T19:50:35Z)
• Making Bias Non-Predictive: Training Robust LLM Judges via Reinforcement Learning [91.8584139564909]
  大規模言語モデル(LLM)は、ますます自動化された審査員として機能するが、認知バイアスの影響を受けやすいままである。 本稿では,重要原則に基づく強化学習フレームワークである疫学独立訓練(EIT)を提案する。 EITはバランスの取れた競合戦略を通じてこれを運用します。
  論文  参考訳（メタデータ） (2026-02-02T01:43:48Z)
• Epistemic Context Learning: Building Trust the Right Way in LLM-Based Multi-Agent Systems [94.9141394384021]
  マルチエージェントシステムの個々のエージェントは、しばしば堅牢性を欠き、誤解を招く仲間に盲目的に適合する傾向にある。 この弱点は, 相互信頼度を評価する能力の欠如に起因していると考えられる。 まず,歴史認識参照の学習問題を定式化し,ピア間の歴史的相互作用を付加的な入力として導入する。 次に,歴史的に構築されたピアプロファイルの予測を行うための推論フレームワークであるEcestemic Context Learning (ECL) を開発した。
  論文  参考訳（メタデータ） (2026-01-29T13:59:32Z)
• CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
  検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。 エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。 CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
  論文  参考訳（メタデータ） (2025-12-22T16:34:21Z)
• When Are Learning Biases Equivalent? A Unifying Framework for Fairness, Robustness, and Distribution Shift [0.0]
  機械学習システムは、保護されたグループに対する不公平さ、刺激的な相関に対する脆さ、少数民族のサブ人口に対するパフォーマンスの低下など、さまざまな障害モードを示す。 本稿では,異なるバイアス機構がモデル性能に定量的に等価な効果をもたらすことを特徴付ける統一理論フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-11-09T20:48:09Z)
• Continual Action Quality Assessment via Adaptive Manifold-Aligned Graph Regularization [53.82400605816587]
  アクション品質アセスメント(AQA)は、ビデオにおける人間の行動を定量化し、スポーツスコアリング、リハビリテーション、スキル評価の応用を支援する。 大きな課題は、現実世界のシナリオにおける品質分布の非定常的な性質にある。 本稿では,進化する分布を扱うための連続学習機能を備えた連続AQA(Continuous AQA)を紹介する。
  論文  参考訳（メタデータ） (2025-10-08T10:09:47Z)
• FairReason: Balancing Reasoning and Social Bias in MLLMs [54.26091556079722]
  MLLM(Multimodal Large Language Models)は、様々なタスクやモダリティにおいて、最先端の成果をすでに達成している。 近年の研究では、推論能力をさらに推し進めるために、先進的なプロンプトスキームと後続の微調整を探求している。
  論文  参考訳（メタデータ） (2025-07-30T19:57:22Z)
• Disentangled Knowledge Tracing for Alleviating Cognitive Bias [7.145106976584109]
  そこで本研究では,学生の因果効果に基づいて,親しみやすい,不慣れな能力のモデル化を行うディスタングルド・ナレッジ・トラクション・モデルを提案する。 DisKTは認知バイアスを著しく軽減し、評価精度が16ベースラインを上回っている。
  論文  参考訳（メタデータ） (2025-03-04T12:04:13Z)
• Identifying and Mitigating Social Bias Knowledge in Language Models [52.52955281662332]
  個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。 FASTは最先端のベースラインを超え、デバイアス性能が優れている。 これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
  論文  参考訳（メタデータ） (2024-08-07T17:14:58Z)
• Fairness-enhancing mixed effects deep learning improves fairness on in- and out-of-distribution clustered (non-iid) data [6.596656267996196]
  フェア・ミックスド・エフェクト・ディープ・ラーニング(Fair MEDL)フレームワークを提案する。 本フレームワークは,1)不変なFEを学習するためのクラスタ逆効果,2)REのためのベイズニューラルネットワーク,3)最終的な予測のためにFEとREを組み合わせた混合関数,を通じて,クラスタ不変な固定効果(FE)とクラスタ固有ランダムエフェクト(RE)を定量化する。 公正なMEDLフレームワークは、年齢で86.4%、人種で64.9%、性で57.8%、結婚で36.2%の公正性を向上し、堅牢な予測性能を維持している。
  論文  参考訳（メタデータ） (2023-10-04T20:18:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。