論文の概要: Multi-Layer Personalized Federated Learning for Mitigating Biases in
Student Predictive Analytics
- arxiv url: http://arxiv.org/abs/2212.02985v1
- Date: Mon, 5 Dec 2022 17:27:28 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-07 16:15:28.855546
- Title: Multi-Layer Personalized Federated Learning for Mitigating Biases in
Student Predictive Analytics
- Title(参考訳): 学生予測分析におけるバイアス軽減のための多層個人化フェデレーション学習
- Authors: Yun-Wei Chu, Seyyedali Hosseinalipour, Elizabeth Tenorio, Laura Cruz,
Kerrie Douglas, Andrew Lan, Christopher Brinton
- Abstract要約: 従来の学習に基づく学生モデリングのアプローチは、データの可用性のバイアスにより、表現不足/マイノリティの学生グループにあまり一般化しない。
本稿では,学生グループ化基準の異なる層にまたがる推論精度を最適化する多層パーソナライズドフェデレーションラーニング(MLPFL)手法を提案する。
- 参考スコア(独自算出の注目度): 7.040747348755578
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Traditional learning-based approaches to student modeling (e.g., predicting
grades based on measured activities) generalize poorly to
underrepresented/minority student groups due to biases in data availability. In
this paper, we propose a Multi-Layer Personalized Federated Learning (MLPFL)
methodology which optimizes inference accuracy over different layers of student
grouping criteria, such as by course and by demographic subgroups within each
course. In our approach, personalized models for individual student subgroups
are derived from a global model, which is trained in a distributed fashion via
meta-gradient updates that account for subgroup heterogeneity while preserving
modeling commonalities that exist across the full dataset. To evaluate our
methodology, we consider case studies of two popular downstream student
modeling tasks, knowledge tracing and outcome prediction, which leverage
multiple modalities of student behavior (e.g., visits to lecture videos and
participation on forums) in model training. Experiments on three real-world
datasets from online courses demonstrate that our approach obtains substantial
improvements over existing student modeling baselines in terms of increasing
the average and decreasing the variance of prediction quality across different
student subgroups. Visual analysis of the resulting students' knowledge state
embeddings confirm that our personalization methodology extracts activity
patterns which cluster into different student subgroups, consistent with the
performance enhancements we obtain over the baselines.
- Abstract(参考訳): 従来の学習に基づく学生モデリング(例えば、測定された活動に基づいて成績を予測する)のアプローチは、データの可用性のバイアスにより、不足/マイノリティの学生グループにあまり一般化しない。
本稿では,学生グループ化基準の異なる層に対する推論精度を,コースごとに,また各コース内の人口統計学的サブグループによって最適化する多層パーソナライズド・フェデレーション・ラーニング(MLPFL)手法を提案する。
提案手法では,個別の学生サブグループのパーソナライズされたモデルは,全データセットにまたがる共通性をモデル化しながら,サブグループの不均一性を考慮したメタ段階更新を通じて,分散形式で訓練されたグローバルモデルから導かれる。
本手法を評価するために,モデルトレーニングにおける学生行動の多様性(講義ビデオの訪問やフォーラムへの参加など)を活用する2つの人気下流学生モデリングタスク,知識追跡,成果予測のケーススタディを検討する。
オンラインコースから得られた3つの実世界のデータセットを用いた実験により,提案手法は,各学生サブグループの平均値の増加と予測品質のばらつきの低減という観点から,既存の学生モデリングベースラインよりも大幅な改善が得られた。
学習結果の知識状態の視覚的解析により,学習者の行動パターンを異なるサブグループに分類し,学習結果のベースラインに対する性能向上と一致していることを確認した。
関連論文リスト
- Preview-based Category Contrastive Learning for Knowledge Distillation [53.551002781828146]
知識蒸留(PCKD)のための新しい予見型カテゴリーコントラスト学習法を提案する。
まず、インスタンスレベルの特徴対応と、インスタンスの特徴とカテゴリ中心の関係の両方の構造的知識を蒸留する。
カテゴリ表現を明示的に最適化し、インスタンスとカテゴリの表現を明確に関連付けることができる。
論文 参考訳(メタデータ) (2024-10-18T03:31:00Z) - An Active Learning Framework for Inclusive Generation by Large Language Models [32.16984263644299]
大規模言語モデル(LLM)は、多様なサブ集団を表すテキストを生成する。
本稿では,知識蒸留により強化されたクラスタリングに基づくアクティブラーニングフレームワークを提案する。
2つの新しいデータセットをモデルトレーニングと組み合わせて構築し、ベースラインモデルよりも2%-10%の性能向上を示した。
論文 参考訳(メタデータ) (2024-10-17T15:09:35Z) - Dynamic Post-Hoc Neural Ensemblers [55.15643209328513]
本研究では,ニューラルネットワークをアンサンブル手法として活用することを検討する。
低多様性のアンサンブルを学習するリスクを動機として,ベースモデル予測をランダムにドロップすることでモデルの正規化を提案する。
このアプローチはアンサンブル内の多様性を低くし、オーバーフィッティングを減らし、一般化能力を向上させる。
論文 参考訳(メタデータ) (2024-10-06T15:25:39Z) - Task Groupings Regularization: Data-Free Meta-Learning with Heterogeneous Pre-trained Models [83.02797560769285]
Data-Free Meta-Learning (DFML)は、トレーニング済みモデルのコレクションから、元のデータにアクセスせずに知識を抽出することを目的としている。
現在の手法は、事前訓練されたモデル間の不均一性を見落とし、タスクの衝突による性能低下につながることが多い。
課題群規則化(Task Groupings Regularization)は、矛盾するタスクをグループ化し整合させることにより、モデルの不均一性から恩恵を受ける新しいアプローチである。
論文 参考訳(メタデータ) (2024-05-26T13:11:55Z) - Universal Semi-supervised Model Adaptation via Collaborative Consistency
Training [92.52892510093037]
我々は、Universal Semi-supervised Model Adaptation (USMA)と呼ばれる現実的で挑戦的なドメイン適応問題を導入する。
本稿では,2つのモデル間の予測整合性を規則化する協調的整合性トレーニングフレームワークを提案する。
実験により,いくつかのベンチマークデータセットにおける本手法の有効性が示された。
論文 参考訳(メタデータ) (2023-07-07T08:19:40Z) - An Information-Theoretic Approach for Estimating Scenario Generalization
in Crowd Motion Prediction [27.10815774845461]
本稿では,ソース・クラウド・シナリオに基づいて学習したモデルの一般化を特徴付ける新しいスコアリング手法を提案する。
インタラクションコンポーネントはシナリオドメインの難易度を特徴付けることを目的としており、シナリオドメインの多様性はダイバーシティスコアで取得される。
提案手法の有効性をシミュレーションおよび実世界(ソース,ターゲット)の一般化タスクで検証した。
論文 参考訳(メタデータ) (2022-11-02T01:39:30Z) - Predicting student performance using sequence classification with
time-based windows [1.5836913530330787]
本研究では,学生の行動データから得られた逐次的パターンに基づいて,正確な予測モデルを構築することができることを示す。
本稿では,行動データの時間的側面を把握し,モデルの性能予測に与える影響を解析する手法を提案する。
改良されたシーケンス分類手法は,高レベルの精度で生徒のパフォーマンスを予測でき,コース固有のモデルでは90%に達する。
論文 参考訳(メタデータ) (2022-08-16T13:46:39Z) - Mitigating Biases in Student Performance Prediction via Attention-Based
Personalized Federated Learning [7.040747348755578]
従来の学習に基づく学生モデリングのアプローチは、データの可用性のバイアスにより、表現不足の学生グループにあまり一般化しない。
本研究では,オンライン学習活動から学生のパフォーマンスを予測する手法を提案し,人種や性別などの異なる集団を対象とした推論精度を最適化する。
論文 参考訳(メタデータ) (2022-08-02T00:22:20Z) - Zero-shot meta-learning for small-scale data from human subjects [10.320654885121346]
我々は,サンプル外テストデータに対する限られたトレーニングデータを用いて,新しい予測タスクに迅速に適応するフレームワークを開発した。
本モデルでは, 介入による遅延処理効果を学習し, 設計上はマルチタスク予測を自然に処理できる。
我々のモデルは、より広い人口への小型人間研究の一般化を向上するために重要である。
論文 参考訳(メタデータ) (2022-03-29T17:42:04Z) - Representation Matters: Assessing the Importance of Subgroup Allocations
in Training Data [85.43008636875345]
訓練データにおける多様な表現は,サブグループのパフォーマンス向上と集団レベルの目標達成の鍵である。
分析と実験は、データセット構成がパフォーマンスにどのように影響するかを説明し、既存のデータにおけるトレンドとドメイン知識を用いて、意図的かつ客観的なデータセット設計を導くのに役立つ構成結果を提供する。
論文 参考訳(メタデータ) (2021-03-05T00:27:08Z) - Adversarial Sample Enhanced Domain Adaptation: A Case Study on
Predictive Modeling with Electronic Health Records [57.75125067744978]
ドメイン適応を容易にするデータ拡張手法を提案する。
逆生成したサンプルはドメイン適応時に使用される。
その結果,本手法の有効性とタスクの一般性が確認された。
論文 参考訳(メタデータ) (2021-01-13T03:20:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。