論文の概要: Federated learning-outcome prediction with multi-layer privacy protection

• arxiv url: http://arxiv.org/abs/2312.15608v1
• Date: Mon, 25 Dec 2023 04:29:05 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-27 17:31:09.663924
• Title: Federated learning-outcome prediction with multi-layer privacy protection
• Title（参考訳）: 多層プライバシー保護によるフェデレーション学習成果予測
• Authors: Yupei Zhang, Yuxin Li, Yifei Wang, Shuangshuang Wei, Yunan Xu, and Xuequn Shang
• Abstract要約: FecMapは、ローカルクライアントのプライベートデータを保存し、グローバルな一般化モデルを通じて他の人と通信する分散グレード予測モデルである。 FecMapは、グローバル機能に対するローカル機能を明示的に学習するローカルサブスペース学習(LSL)と、プライベート機能を階層的に保護するマルチレイヤプライバシ保護(MPP)について検討している。 この研究は、学習分析タスクにおけるフェデレーション学習の利用を新たに試み、プライバシー保護によるパーソナライズされた教育の促進への道を開く可能性がある。
• 参考スコア（独自算出の注目度）: 14.282259393724125
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Learning-outcome prediction (LOP) is a long-standing and critical problem in educational routes. Many studies have contributed to developing effective models while often suffering from data shortage and low generalization to various institutions due to the privacy-protection issue. To this end, this study proposes a distributed grade prediction model, dubbed FecMap, by exploiting the federated learning (FL) framework that preserves the private data of local clients and communicates with others through a global generalized model. FecMap considers local subspace learning (LSL), which explicitly learns the local features against the global features, and multi-layer privacy protection (MPP), which hierarchically protects the private features, including model-shareable features and not-allowably shared features, to achieve client-specific classifiers of high performance on LOP per institution. FecMap is then achieved in an iteration manner with all datasets distributed on clients by training a local neural network composed of a global part, a local part, and a classification head in clients and averaging the global parts from clients on the server. To evaluate the FecMap model, we collected three higher-educational datasets of student academic records from engineering majors. Experiment results manifest that FecMap benefits from the proposed LSL and MPP and achieves steady performance on the task of LOP, compared with the state-of-the-art models. This study makes a fresh attempt at the use of federated learning in the learning-analytical task, potentially paving the way to facilitating personalized education with privacy protection.
• Abstract（参考訳）: 学習成果予測(Learning-outcome Prediction,LOP)は、教育ルートにおける長年にわたる重要な問題である。 多くの研究が効果的なモデルの開発に寄与し、プライバシー保護の問題により、データ不足や様々な機関への低一般化に苦しめられている。 そこで本研究では,地域クライアントのプライベートデータを保存し,グローバル一般化モデルを介して他者と通信するフェデレーション学習(fl)フレームワークを活用することで,fecmapと呼ばれる分散グレード予測モデルを提案する。 FecMapは、グローバル機能に対してローカル機能を明示的に学習するローカルサブスペース学習(LSL)と、モデル共有機能や未使用の機能を含むプライベート機能を階層的に保護するマルチレイヤプライバシ保護(MPP)を、各機関毎のLOPで高いパフォーマンスのクライアント固有の分類器を実現するために検討している。 FecMapは、グローバル部分、ローカル部分、クライアントの分類ヘッドで構成されるローカルニューラルネットワークをトレーニングし、サーバ上のクライアントからグローバル部分の平均化によって、クライアント上に分散されたすべてのデータセットで反復的に実行される。 FecMapモデルを評価するために,工学専攻の学生記録の高次学習データセットを3つ収集した。 実験結果から,FecMapは提案したLSLとMPPの恩恵を受け,LOPのタスクにおいて,最先端のモデルと比較して安定した性能を実現していることがわかった。 この研究は、学習分析タスクにおけるフェデレーション学習の利用を新たに試み、プライバシー保護によるパーソナライズされた教育を促進する道を開く可能性がある。

関連論文リスト

• MAP: Model Aggregation and Personalization in Federated Learning with Incomplete Classes [49.22075916259368]
  一部の実世界のアプリケーションでは、データサンプルは通常、ローカルデバイスに分散される。 本稿では,クライアントが不完全なクラスを所有する特別なI.I.D.シーンに焦点を当てる。 提案するMAPアルゴリズムは,FLにおけるアグリゲーションとパーソナライゼーションの目標を同時に達成できる。
  論文  参考訳（メタデータ） (2024-04-14T12:22:42Z)
• FedLPA: One-shot Federated Learning with Layer-Wise Posterior Aggregation [7.052566906745796]
  FedLPAは、フェデレートラーニングのための階層的な後続アグリゲーション手法である。 以上の結果から,FedLPAは最先端の手法よりも学習性能を著しく向上させることがわかった。
  論文  参考訳（メタデータ） (2023-09-30T10:51:27Z)
• Rethinking Client Drift in Federated Learning: A Logit Perspective [125.35844582366441]
  フェデレートラーニング(FL)は、複数のクライアントが分散した方法で協調的に学習し、プライバシ保護を可能にする。 その結果,局所モデルとグローバルモデルとのロジット差は,モデルが継続的に更新されるにつれて増大することがわかった。 我々はFedCSDと呼ばれる新しいアルゴリズムを提案する。FedCSDは、ローカルモデルとグローバルモデルを調整するためのフェデレーションフレームワークにおけるクラスプロトタイプの類似度蒸留である。
  論文  参考訳（メタデータ） (2023-08-20T04:41:01Z)
• Personalized Federated Learning via Amortized Bayesian Meta-Learning [21.126405589760367]
  我々は,Amortized Bayesian Meta-Learningを通じて,パーソナライズド・フェデレーション・ラーニングの新しい視点を紹介する。 具体的には,クライアント間の階層的変動推論を用いたemphFedABMLという新しいアルゴリズムを提案する。 我々の理論解析は平均一般化誤差の上限を提供し、未知のデータに対する一般化性能を保証する。
  論文  参考訳（メタデータ） (2023-07-05T11:58:58Z)
• Collaborative Chinese Text Recognition with Personalized Federated Learning [61.34060587461462]
  中国語のテキスト認識では、ある組織が類似の組織から大量のデータを収集することがしばしば必要である。 アドレスや電話番号などのテキストデータに個人情報が自然に存在するため、異なる組織はプライベートデータを共有したくない。 中国語テキスト認識タスクにパーソナライズド・フェデレーション・ラーニング(pFL)を導入し,pFedCRアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-05-09T16:51:00Z)
• Scalable Collaborative Learning via Representation Sharing [53.047460465980144]
  フェデレートラーニング(FL)とスプリットラーニング(SL)は、データを(デバイス上で)プライベートにしながら協調学習を可能にする2つのフレームワークである。 FLでは、各データ保持者がモデルをローカルにトレーニングし、集約のために中央サーバにリリースする。 SLでは、クライアントは個々のカット層アクティベーション(スマッシュされたデータ)をサーバにリリースし、そのレスポンス(推論とバックの伝搬の両方)を待つ必要があります。 本研究では, クライアントがオンライン知識蒸留を通じて, 対照的な損失を生かして協調する, プライバシ保護機械学習の新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2022-11-20T10:49:22Z)
• Personalization Improves Privacy-Accuracy Tradeoffs in Federated Optimization [57.98426940386627]
  局所的な学習とプライベートな集中学習の協調は、総合的に有用であり、精度とプライバシのトレードオフを改善していることを示す。 合成および実世界のデータセットに関する実験により理論的結果について述べる。
  論文  参考訳（メタデータ） (2022-02-10T20:44:44Z)
• Personalized Federated Learning through Local Memorization [10.925242558525683]
  フェデレーション学習により、クライアントはデータをローカルに保ちながら、統計的モデルを協調的に学習することができる。 最近のパーソナライズされた学習方法は、他のクライアントで利用可能な知識を活用しながら、各クライアントに対して別々のモデルを訓練する。 本稿では,この手法が最先端手法よりも精度と公平性を著しく向上することを示す。
  論文  参考訳（メタデータ） (2021-11-17T19:40:07Z)
• Subspace Learning for Personalized Federated Optimization [7.475183117508927]
  本稿では,AIシステムにおけるパーソナライズされた学習の問題に対処する手法を提案する。 提案手法は、パーソナライズされたクライアント評価設定と見当たらないクライアント評価設定の両方において、一貫した利得が得られることを示す。
  論文  参考訳（メタデータ） (2021-09-16T00:03:23Z)
• Decentralised Learning from Independent Multi-Domain Labels for Person Re-Identification [69.29602103582782]
  ディープラーニングは多くのコンピュータビジョンタスクで成功している。 しかし、プライバシー問題に対する意識の高まりは、特に人物の再識別(Re-ID)において、ディープラーニングに新たな課題をもたらす。 我々は,複数のプライバシ保護されたローカルモデル(ローカルクライアント)を同時に学習することにより,汎用的なグローバルモデル(中央サーバ)を構築するための,フェデレート・パーソナライゼーション(FedReID)と呼ばれる新しいパラダイムを提案する。 このクライアントサーバ共同学習プロセスは、プライバシコントロールの下で反復的に実行されるため、分散データを共有したり、収集したりすることなく、分散学習を実現することができる。
  論文  参考訳（メタデータ） (2020-06-07T13:32:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。