論文の概要: PILLAR: How to make semi-private learning more effective

• arxiv url: http://arxiv.org/abs/2306.03962v1
• Date: Tue, 6 Jun 2023 18:45:05 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-08 17:27:12.926686
• Title: PILLAR: How to make semi-private learning more effective
• Title（参考訳）: PILLAR: 半私的な学習をより効果的にする方法
• Authors: Francesco Pinto, Yaxi Hu, Fanny Yang, Amartya Sanyal
• Abstract要約: Semi-Supervised Semi-Private (SP)学習では、学習者は公開されていないラベル付きデータとプライベートラベル付きデータの両方にアクセスすることができる。 そこで本研究では,実世界のデータセット上で効率よく動作可能な,プライベートラベル付きサンプルの複雑さを著しく低減する計算効率のよいアルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 12.292092677396347
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In Semi-Supervised Semi-Private (SP) learning, the learner has access to both public unlabelled and private labelled data. We propose a computationally efficient algorithm that, under mild assumptions on the data, provably achieves significantly lower private labelled sample complexity and can be efficiently run on real-world datasets. For this purpose, we leverage the features extracted by networks pre-trained on public (labelled or unlabelled) data, whose distribution can significantly differ from the one on which SP learning is performed. To validate its empirical effectiveness, we propose a wide variety of experiments under tight privacy constraints (\(\epsilon=0.1\)) and with a focus on low-data regimes. In all of these settings, our algorithm exhibits significantly improved performance over available baselines that use similar amounts of public data.
• Abstract（参考訳）: 半教師付き半個人学習(semi-supervised semi-private learning)では、学習者は公開のラベルなしデータとプライベートラベル付きデータの両方にアクセスできる。 本研究では,データに対する穏やかな仮定の下で,プライベートラベル付きサンプル複雑性を著しく低減し,実世界のデータセット上で効率的に実行できる計算効率の高いアルゴリズムを提案する。 そこで本研究では,sp学習を行うネットワークと分布が大きく異なるパブリック(ラベル付き,未ラベル)データで事前学習したネットワークから抽出した特徴を活用した。 その実証的有効性を検証するために,厳密なプライバシー制約(\(\epsilon=0.1\))の下で,低データレジームに焦点をあてた多種多様な実験を提案する。 これらすべての設定において、我々のアルゴリズムは、同様の量の公開データを使用する利用可能なベースラインよりも大幅に改善された性能を示す。

関連論文リスト

• Locally Differentially Private Gradient Tracking for Distributed Online Learning over Directed Graphs [2.1271873498506038]
  本稿では,局所的に個人差分な勾配追跡に基づく分散オンライン学習アルゴリズムを提案する。 提案アルゴリズムは,厳密な局所差分プライバシーを確保しつつ,平均二乗を最適解に収束させることを証明した。
  論文  参考訳（メタデータ） (2023-10-24T18:15:25Z)
• Exploring the Boundaries of Semi-Supervised Facial Expression Recognition: Learning from In-Distribution, Out-of-Distribution, and Unconstrained Data [19.442685015494316]
  表情認識(FER)における最新の半教師あり手法11について検討する。 本研究は,非流通,アウト・オブ・ディストリビューション,制約のない,非常に小さなデータからの半教師付き学習を対象とする。 以上の結果から,FixMatchは非分散データに対して常に優れたパフォーマンスを実現していることを示す一方,ReMixMatchは非分散データ,非制約データ,希少データシナリオにおいて,すべてのメソッドにおいて際立っている。
  論文  参考訳（メタデータ） (2023-06-02T01:40:08Z)
• Decentralized Learning with Multi-Headed Distillation [12.90857834791378]
  プライベートデータによる分散学習は、機械学習の中心的な問題である。 本研究では, 個別の非IDデータを持つ複数のエージェントが相互に学習できる, 蒸留に基づく分散学習手法を提案する。
  論文  参考訳（メタデータ） (2022-11-28T21:01:43Z)
• Prompt-driven efficient Open-set Semi-supervised Learning [52.30303262499391]
  オープンセット半教師付き学習(OSSL)は関心を集めており、未ラベルデータにのみOOD(Out-of-distribution)サンプルが組み込まれているというより実践的なシナリオを調査している。 我々はOpenPromptと呼ばれる,プロンプト駆動の効率的なOSSLフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-09-28T16:25:08Z)
• How unfair is private learning ? [13.815080318918833]
  我々は、データが長い尾構造を持つ場合、プライベートかつ公正な正確な学習アルゴリズムを構築することはできないことを示した。 全体としての正確さの緩和は、厳格なプライバシー要件があっても、良好な公正性をもたらす可能性があることを示す。
  論文  参考訳（メタデータ） (2022-06-08T16:03:44Z)
• Personalization Improves Privacy-Accuracy Tradeoffs in Federated Optimization [57.98426940386627]
  局所的な学習とプライベートな集中学習の協調は、総合的に有用であり、精度とプライバシのトレードオフを改善していることを示す。 合成および実世界のデータセットに関する実験により理論的結果について述べる。
  論文  参考訳（メタデータ） (2022-02-10T20:44:44Z)
• Local Learning Matters: Rethinking Data Heterogeneity in Federated Learning [61.488646649045215]
  フェデレートラーニング(FL)は、クライアントのネットワーク(エッジデバイス)でプライバシ保護、分散ラーニングを行うための有望な戦略である。
  論文  参考訳（メタデータ） (2021-11-28T19:03:39Z)
• On Deep Learning with Label Differential Privacy [54.45348348861426]
  ラベルは機密性があり、保護されるべきであるとするマルチクラス分類について検討する。 本稿では,ラベル差分プライバシを用いたディープニューラルネットワークのトレーニングアルゴリズムを提案し,いくつかのデータセットで評価を行う。
  論文  参考訳（メタデータ） (2021-02-11T15:09:06Z)
• Learning to Count in the Crowd from Limited Labeled Data [109.2954525909007]
  我々は,限られた数のラベル付きサンプルから参加者を数えることを学ぶことで,アノテーションの努力を減らすことに重点を置いている。 具体的には,未ラベルデータに対する擬似地下真理推定を含むガウス過程に基づく反復学習機構を提案する。
  論文  参考訳（メタデータ） (2020-07-07T04:17:01Z)
• Omni-supervised Facial Expression Recognition via Distilled Data [120.11782405714234]
  ネットワークトレーニングにおいて,信頼度の高いサンプルを多量のラベルのないデータで活用するためのオムニ教師付き学習を提案する。 我々は,新しいデータセットが学習したFERモデルの能力を大幅に向上させることができることを実験的に検証した。 そこで本研究では,生成したデータセットを複数のクラスワイド画像に圧縮するために,データセット蒸留戦略を適用することを提案する。
  論文  参考訳（メタデータ） (2020-05-18T09:36:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。