論文の概要: HE-OFT: Privacy-Preserving One-Shot Federated Fine-Tuning under Homomorphic Encryption
- arxiv url: http://arxiv.org/abs/2610.08255v1
- Date: Tue, 06 Oct 2026 12:35:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.9819
- Title: HE-OFT: Privacy-Preserving One-Shot Federated Fine-Tuning under Homomorphic Encryption
- Title(参考訳): HE-OFT: 均一暗号化下でのプライバシ保護型ワンショットファインタニング
- Abstract要約: HE-OFT(英語版)は、訓練されたモデルを受け取らない最初の暗号でセキュアなワンショット・フェデレーション・ファインチューニングプロトコルである。
4つのテキスト分類タスクでは、HE-OFTは61~79パーセントの精度に達し、クライアントのトレーニング単独では20~48パーセントである。
- 参考スコア(独自算出の注目度): 1.332713003014756
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many organizations adapt large pretrained models to their own tasks by fine-tuning on private data. Several of these parties often hold data for the same task and wish to fine-tune a model together without pooling that data. Federated learning (FL) enables joint fine-tuning, but reconstruction attacks on shared intermediate values (the model or its gradients) remain a privacy risk. A one-shot protocol that exchanges one encrypted contribution exposes no intermediate value. Such a protocol still gives the trained model to every participant, which is not permitted where the model is a regulated or proprietary asset. We present HE-OFT, the first cryptographically secure one-shot federated fine-tuning protocol in which no party receives the trained model. Each client fine-tunes a low-rank adapter and a classifier head on a frozen public backbone and keeps the adapter. The client uploads one encrypted head displacement, which the server combines under multiparty CKKS and never decrypts. A quorum of clients returns only the predicted label to the querier. On four text classification tasks and one vision task, HE-OFT reaches 61 to 79 per cent accuracy, against 20 to 48 per cent for a client training alone. HE-OFT keeps 85 to 96 per cent of the accuracy of a disclosed model. A test-time query takes 443.1 to 1713.1 s on one core, or 56.1 to 255.1 s with level restoration on a GPU. Restoring levels at the server cuts the traffic per query from up to 1.6 GiB to 13.5 MiB.
- Abstract(参考訳): 多くの組織は、プライベートデータを微調整することで、大規模な事前訓練されたモデルを自身のタスクに適応させる。
これらのパーティのいくつかは、しばしば同じタスクのためにデータを保持し、そのデータをプールすることなく、モデルを微調整したいと願っています。
フェデレートラーニング(FL)は、協調的な微調整を可能にするが、共有中間値(モデルまたはその勾配)に対する再構成攻撃は、プライバシリスクのままである。
1つの暗号化されたコントリビューションを交換するワンショットプロトコルは、中間値を公開することはない。
このようなプロトコルは、モデルが規制あるいはプロプライエタリな資産である場合に許可されない、トレーニングされたモデルをすべての参加者に与えます。
HE-OFT(英語版)は、訓練されたモデルを受け取らない最初の暗号でセキュアなワンショット・フェデレーション・ファインチューニングプロトコルである。
各クライアントは、冷凍されたパブリックバックボーンにローランクアダプタとクラシファイアヘッドを微調整し、アダプタを保持する。
クライアントは暗号化された頭部の変位を1つアップロードし、サーバはマルチパーティのCKKSの下で結合し、復号しない。
クライアントのクォーラムは、予測されたラベルのみをクエリーに返します。
4つのテキスト分類タスクと1つの視覚タスクにおいて、HE-OFTは61~79パーセントの精度に達し、クライアントトレーニング単独では20~48パーセントである。
HE-OFTは、開示されたモデルの精度の85~96パーセントを保持する。
テストタイムクエリは1コアで43.1から1713.1秒、GPUでレベル復元された56.1から255.1秒である。
サーバの復元レベルは、クエリ毎のトラフィックを1.6 GiBから13.5 MiBに削減する。
関連論文リスト
- Client-Cooperative Split Learning [22.47753142358317]
Split Learning (SL)は、プライバシ制約の下でトレーニング計算をオフロードすることで、サービスを可能にする。
CliCooperは、協調モデルトレーニングサービスに適した多サイクル協調型SLフレームワークである。
CliCooperは2つの新しいデザインを通じて、プライバシーと信頼のギャップを埋める。
論文 参考訳(メタデータ) (2026-03-09T14:17:26Z) - Decentralized Privacy-Preserving Federal Learning of Computer Vision Models on Edge Devices [0.0]
機械学習モデルの協調トレーニングには、機密データやプライベートデータを共有するリスクが伴う。
フェデレーション学習は、クライアントデータを共有することなく、単一のグローバルモデルを集合的にトレーニングする方法を提供する。
分類に用いる畳み込みニューラルネットワークの精度に及ぼす勾配圧縮と勾配雑音の負の効果を解析した。
論文 参考訳(メタデータ) (2026-01-08T13:10:33Z) - Enhancing Federated Learning Privacy with QUBO [0.0]
フェデレーテッド・ラーニング(FL)は、プライバシを保ちながらスケーラブルな方法で機械学習(ML)モデルをトレーニングするための広く使われている方法である。
本稿では,トレーニング中のクライアントによる情報漏洩と,グローバルモデルのクエリや取得が可能な敵の2つの脅威ベクトルに着目した。
20ラウンドで300のクライアントを持つMNISTデータセットの実験では、1ラウンドあたり95.2%、累積プライバシー露出が49%減少した。
論文 参考訳(メタデータ) (2025-11-04T18:06:30Z) - Protection against Source Inference Attacks in Federated Learning using Unary Encoding and Shuffling [6.260747047974035]
Federated Learning (FL)は、クライアントがローカルデータを開示することなく、ジョイントモデルをトレーニングすることを可能にする。
近年, ソース推論攻撃 (SIA) が提案され, クライアントが特定のデータレコードを所有しているかを正確に特定しようとする。
本稿では, 信頼性の高いシャフラーを用いて, 関節モデルの精度を損なうことなく, SIA に対する防御策を提案する。
論文 参考訳(メタデータ) (2024-11-10T13:17:11Z) - Boosting Communication Efficiency of Federated Learning's Secure Aggregation [22.943966056320424]
Federated Learning(FL)は、クライアントデバイスがモデルをローカルにトレーニングしてサーバに送信する分散機械学習アプローチである。
FLは、トレーニングされたモデルからセンシティブなクライアントデータを推論できる、モデル逆攻撃に対して脆弱である。
GoogleのSecure Aggregation(SecAgg)プロトコルは、各クライアントのトレーニング済みモデルを隠すことによって、このデータプライバシ問題に対処する。
このポスターでは、このオーバーヘッドを大幅に削減する通信効率の高いセキュアアグリゲーション(CESA)プロトコルを紹介している。
論文 参考訳(メタデータ) (2024-05-02T10:00:16Z) - Who Leaked the Model? Tracking IP Infringers in Accountable Federated Learning [51.26221422507554]
Federated Learning (FL) は、大規模で分散したクライアントからのデータと計算リソースを調整する効果的な協調学習フレームワークである。
このようなコラボレーションは、個々のユーザではなく、パーティー全体によって保護され、共有されるべきモデルパラメータによって表現される非自明な知的財産(IP)をもたらす。
このようなIPリークをブロックするためには、IPを共有モデルで識別し、最初にリークした匿名の侵害者を特定することが不可欠である。
本稿では,説明責任FLの要件を満たすために,Dudeable Unique Watermarking (DUW)を提案する。
論文 参考訳(メタデータ) (2023-12-06T00:47:55Z) - Client-specific Property Inference against Secure Aggregation in
Federated Learning [52.8564467292226]
フェデレートラーニングは、さまざまな参加者の間で共通のモデルを協調的に訓練するための、広く使われているパラダイムとなっている。
多くの攻撃は、メンバーシップ、資産、または参加者データの完全な再構築のような機密情報を推測することは依然として可能であることを示した。
単純な線形モデルでは、集約されたモデル更新からクライアント固有のプロパティを効果的にキャプチャできることが示される。
論文 参考訳(メタデータ) (2023-03-07T14:11:01Z) - BAFFLE: A Baseline of Backpropagation-Free Federated Learning [71.09425114547055]
フェデレートラーニング(FL)は、分散クライアントがローカルデータを共有せずにサーバモデルをまとめて訓練する一般的な原則である。
我々は、バックプロパゲーションを複数のフォワードプロセスに置き換えて勾配を推定する、BAFFLEと呼ばれる、バックプロパゲーションフリーなフェデレーション学習を開発する。
BAFFLEは、1)メモリ効率が高く、アップロード帯域幅に適しており、2)推論のみのハードウェア最適化とモデル量子化やプルーニングと互換性があり、3)信頼できる実行環境に適している。
論文 参考訳(メタデータ) (2023-01-28T13:34:36Z) - CrowdGuard: Federated Backdoor Detection in Federated Learning [39.58317527488534]
本稿では,フェデレートラーニングにおけるバックドア攻撃を効果的に軽減する新しい防御機構であるCrowdGuardを提案する。
CrowdGuardでは、サーバロケーションのスタック化されたクラスタリングスキームを使用して、クライアントからのフィードバックに対するレジリエンスを高めている。
評価結果は、CrowdGuardがさまざまなシナリオで100%正の正の正の正の負の負の負の値を達成することを示す。
論文 参考訳(メタデータ) (2022-10-14T11:27:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。