論文の概要: Leveraging Learning Metrics for Improved Federated Learning

• arxiv url: http://arxiv.org/abs/2309.00257v1
• Date: Fri, 1 Sep 2023 05:25:05 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-04 14:22:13.031328
• Title: Leveraging Learning Metrics for Improved Federated Learning
• Title（参考訳）: フェデレーション学習改善のための学習メトリクスの活用
• Authors: Andre Fu
• Abstract要約: textbf(1) は、最初のフェデレーション付き学習メトリックアグリゲーション法 textbf(2) は、効果的なランクがフェデレーション付き問題に適していることを示す。 citekonevcny2016federated と textbf(3) は、効果的なランクに依存した新しいウェイトアグリゲーションスキームを開発する。
• 参考スコア（独自算出の注目度）: 2.2336243882030034
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Currently in the federated setting, no learning schemes leverage the emerging research of explainable artificial intelligence (XAI) in particular the novel learning metrics that help determine how well a model is learning. One of these novel learning metrics is termed `Effective Rank' (ER) which measures the Shannon Entropy of the singular values of a matrix, thus enabling a metric determining how well a layer is mapping. By joining federated learning and the learning metric, effective rank, this work will \textbf{(1)} give the first federated learning metric aggregation method \textbf{(2)} show that effective rank is well-suited to federated problems by out-performing baseline Federated Averaging \cite{konevcny2016federated} and \textbf{(3)} develop a novel weight-aggregation scheme relying on effective rank.
• Abstract（参考訳）: 現在、連合環境では、説明可能な人工知能(xai)の新たな研究、特にモデルがいかにうまく学習しているかを決定するための新しい学習メトリクスを活用する学習スキームは存在しない。 これらの新しい学習指標の1つは「効果ランク(Effective Rank)」と呼ばれ、これは行列の特異値のシャノンエントロピーを測定することで、層がどれだけうまくマッピングされているかを測定することができる。 フェデレーション学習と学習指標である効果的なランクを結合することにより、この研究は、最初のフェデレーション学習メトリクス集約法である \textbf{(2)} を導出し、有効ランクが、有効ランクに依存する新しい重み集約スキームを開発するためのベースラインフェデレーション平均値 \cite{konevcny2016federated} と \textbf{(3)} によって、フェデレーション問題に適していることを示す。

関連論文リスト

• Fed-Sophia: A Communication-Efficient Second-Order Federated Learning Algorithm [28.505671833986067]
  フェデレーション学習(Federated Learning)は、複数のデバイスが、ローカル更新のみを共有することで、パラメータサーバの助けを借りて協調的に学習する、機械学習アプローチである。 この領域では勾配に基づく最適化手法が広く採用されているが、二階法が示す曲率情報は収束のガイドと高速化に不可欠である。 本稿では,フェデレートされた大規模モデルにおける曲率情報の導入を可能にする,スケーラブルな2次法を提案する。
  論文  参考訳（メタデータ） (2024-06-10T09:57:30Z)
• Semantic-Enhanced Relational Metric Learning for Recommender Systems [27.330164862413184]
  近年,知識グラフの翻訳機構に触発された推薦コミュニティにおいて,計量学習手法が注目されている。 本稿では,推薦システムにおける問題に対処するためのセマンティック拡張メトリックラーニングフレームワークを提案する。 具体的には、まず、豊富な特徴とパーソナライズされたユーザー嗜好を含む対象レビューから意味信号を抽出する。 次に、抽出した意味信号を利用して、新しい回帰モデルを設計し、元の関係に基づくトレーニングプロセスの識別能力を向上させる。
  論文  参考訳（メタデータ） (2024-06-07T11:54:50Z)
• FecTek: Enhancing Term Weight in Lexicon-Based Retrieval with Feature Context and Term-level Knowledge [54.61068946420894]
  FEature Context と TErm レベルの知識モジュールを導入して,革新的な手法を提案する。 項重みの特徴コンテキスト表現を効果的に強化するために、FCM(Feature Context Module)が導入された。 また,用語レベルの知識を効果的に活用し,用語重みのモデル化プロセスをインテリジェントに導くための用語レベルの知識誘導モジュール(TKGM)を開発した。
  論文  参考訳（メタデータ） (2024-04-18T12:58:36Z)
• Federated Unlearning via Active Forgetting [24.060724751342047]
  インクリメンタルラーニングに基づく新しいフェデレーション・アンラーニング・フレームワークを提案する。 我々のフレームワークは、近似的再学習やデータ影響推定に依存する既存の非学習手法とは異なる。
  論文  参考訳（メタデータ） (2023-07-07T03:07:26Z)
• FedDA: Faster Framework of Local Adaptive Gradient Methods via Restarted Dual Averaging [104.41634756395545]
  フェデレートラーニング(Federated Learning, FL)は、大規模な分散データに取り組むための新たな学習パラダイムである。 局所適応勾配法のための新しいフレームワークである textbfFedDA を提案する。 textbfFedDA-MVR は適応FLアルゴリズムとしては初めてこの速度を実現することを示す。
  論文  参考訳（メタデータ） (2023-02-13T05:10:30Z)
• Exact Penalty Method for Federated Learning [34.70820239954457]
  フェデレーテッド・ラーニング(Federated Learning)は最近、機械学習の分野で盛んになり、さまざまな研究トピックが生まれている。 本稿では,フェデレート学習を扱うための正確なペナルティ手法を展開し,フェデレーション学習における4つの重要な問題に対処するアルゴリズムであるFedEPMを提案する。 収束性があり、高い数値性能を持つことが証明されている。
  論文  参考訳（メタデータ） (2022-08-23T23:33:38Z)
• Stabilizing Q-learning with Linear Architectures for Provably Efficient Learning [53.17258888552998]
  本研究では,線形関数近似を用いた基本的な$Q$-learningプロトコルの探索変種を提案する。 このアルゴリズムの性能は,新しい近似誤差というより寛容な概念の下で,非常に優雅に低下することを示す。
  論文  参考訳（メタデータ） (2022-06-01T23:26:51Z)
• Self-Taught Metric Learning without Labels [47.832107446521626]
  教師なしメトリック学習のための新しい自己学習フレームワークを提案する。 埋め込みモデルの移動平均を通してデータ間のクラス等価関係を予測し、予測された関係を擬似ラベルとして学習する。
  論文  参考訳（メタデータ） (2022-05-04T05:48:40Z)
• Incremental Embedding Learning via Zero-Shot Translation [65.94349068508863]
  現在の最先端のインクリメンタル学習手法は、従来の分類ネットワークにおける破滅的な忘れ方問題に取り組む。 ゼロショット変換クラス増分法(ZSTCI)と呼ばれる新しい組込みネットワークのクラス増分法を提案する。 さらに、ZSTCIを既存の正規化ベースのインクリメンタル学習手法と組み合わせることで、組み込みネットワークの性能をより向上させることができる。
  論文  参考訳（メタデータ） (2020-12-31T08:21:37Z)
• Fast Few-Shot Classification by Few-Iteration Meta-Learning [173.32497326674775]
  数ショット分類のための高速な最適化に基づくメタラーニング手法を提案する。 我々の戦略はメタ学習において学習すべき基礎学習者の目的の重要な側面を可能にする。 我々は、我々のアプローチの速度と効果を実証し、総合的な実験分析を行う。
  論文  参考訳（メタデータ） (2020-10-01T15:59:31Z)
• ECML: An Ensemble Cascade Metric Learning Mechanism towards Face Verification [50.137924223702264]
  特に、階層的メートル法学習はカスケード方式で実行され、不適合を緩和する。 顔の特徴分布特性を考慮し, 閉形解を用いたロバストなマハラノビス計量学習法(RMML)を提案する。 EC-RMMLは、顔認証のための最先端のメトリック学習法よりも優れている。
  論文  参考訳（メタデータ） (2020-07-11T08:47:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。