論文の概要: An Efficient and Privacy-Preserving Architecture for Cross-Institutional Collaborative RAG
- arxiv url: http://arxiv.org/abs/2605.25716v1
- Date: Mon, 25 May 2026 11:18:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-26 19:50:19.832507
- Title: An Efficient and Privacy-Preserving Architecture for Cross-Institutional Collaborative RAG
- Title(参考訳): 機関間協調型RAGのための効率的かつプライバシ保護アーキテクチャ
- Authors: Chenxin Mao, Shangyu Liu, Zhenzhe Zheng, Fan Wu, Jie Wu, Guihai Chen,
- Abstract要約: Retrieval-Augmented GenerationはLLMに外部知識を付与する。
厳格なプライバシー規制は、そのようなコラボレーションを妨げる「データサイロ」を深刻なものにする。
我々は,高スループットでプライバシ保護のフェデレートされたRAGフレームワークであるFedRAGを紹介する。
- 参考スコア(独自算出の注目度): 35.62196578084403
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Retrieval-Augmented Generation (RAG) empowers LLMs with external knowledge, making cross-institutional domain-specific knowledge base integration a highly promising deployment paradigm. Despite this potential, strict privacy regulations create severe "data silos" that obstruct such collaboration. Building federated RAG systems requires distributed inference, but the Transformer's self-attention mechanism fundamentally conflicts with this by mandating cross-node access to distributed Key-Value caches. To address this challenge, we present FedRAG, a high-throughput, privacy-preserving federated RAG framework. At its core is a novel Scrambled Distributed Attention protocol that utilizes numerically stable feature scrambling and token permutation. By dynamically delegating scrambled computations to collaborating nodes, our system successfully decouples attention execution from data localization without exposing plaintext. Crucially, our approach requires no specialized hardware or model retraining, circumventing the prohibitive latency and communication overheads of cryptographic solutions while robustly defending against intermediate state inversion attacks. Extensive evaluations demonstrate our framework preserves negligible (<0.1\%) model utility degradation and achieves up to a 62$\times$ latency reduction over existing secure baselines, sustaining practical, human-reading throughput for cross-institutional knowledge synergy.
- Abstract(参考訳): Retrieval-Augmented Generation (RAG)は、LLMに外部知識を付与し、組織横断的なドメイン固有の知識ベースの統合を、非常に有望なデプロイメントパラダイムにする。
このような可能性にもかかわらず、厳格なプライバシー規制は、そのような協力を妨げる厳格な「データサイロ」を生み出している。
フェデレートされたRAGシステムを構築するには、分散推論が必要であるが、Transformerの自己アテンションメカニズムは、分散キーバリューキャッシュへのクロスノードアクセスを強制することによって、基本的にこれと矛盾する。
この課題に対処するため、我々は高スループットでプライバシ保護の連合RAGフレームワークであるFedRAGを紹介した。
コアとなるScrambled Distributed Attentionプロトコルは、数値的に安定した機能スクランブルとトークンの置換を利用する。
協調ノードにスクランブル計算を動的に委譲することにより、平文を露出することなく、データローカライゼーションからアテンション実行を分離することに成功した。
重要なことは、当社のアプローチは特別なハードウェアやモデルの再トレーニングを必要とせず、中間状態の反転攻撃に対して堅牢に防御しながら、暗号化ソリューションの禁止的なレイテンシと通信オーバーヘッドを回避する。
大規模な評価により,我々のフレームワークは無視可能な(<0.1\%)モデルの実用性劣化を保ち,既存のセキュアなベースラインよりも62$\times$レイテンシの低減を実現し,施設間知識の相乗効果の実用的,人力的なスループットを維持できることがわかった。
関連論文リスト
- Byzantine-Robust and Differentially Private Federated Optimization under Weaker Assumptions [89.52532304099522]
フェデレートラーニング(FL)は、クライアントが生データを集中せずに共有モデルを共同でトレーニングすることを可能にし、固有のプライバシーレベルを提供する。
グラデーションとモデル更新は機密情報を漏洩する可能性があるが、悪意のあるサーバはビザンティン操作のような敵攻撃をマウントする可能性がある。
これらの脆弱性は、統合されたフレームワーク内の差分プライバシー(DP)とビザンチンの堅牢性に対処する必要性を強調している。
Byz-Clip21-SGD2Mを提案する。
論文 参考訳(メタデータ) (2026-03-24T17:39:09Z) - A Secure and Private Distributed Bayesian Federated Learning Design [56.92336577799572]
DFL(Distributed Federated Learning)は、中央パラメータサーバを持たない大規模システム間の分散モデルトレーニングを可能にする。
DFLは、3つの重要な課題に直面している: 正直な隣人からのプライバシー漏洩、中央調整の欠如による収束の遅さ、モデルの精度の低下を目指すビザンティンの敵に対する脆弱性。
本稿では,ビザンチンの堅牢性,プライバシー保護,収束促進を統合した新しいDFLフレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-23T16:12:02Z) - Reliable and Private Anonymous Routing for Satellite Constellations [1.9499120576896225]
この研究は、不安定なトポロジにおいて堅牢なセキュリティと信頼性を提供するために、Loopixmix-networkを進化させる、拡張された匿名アーキテクチャを提案する。
標準ミキシングネットワークを信頼できないような高リンクのボラティリティと断続接続に対抗するために,$(n, k)$消去符号を利用したマルチパストランスポートプロトコルを提案する。
このアーキテクチャはLEO星座の高忠実でパケットレベルのシミュレーションによって検証する。
論文 参考訳(メタデータ) (2026-02-12T09:43:55Z) - Rethinking Multi-Condition DiTs: Eliminating Redundant Attention via Position-Alignment and Keyword-Scoping [61.459927600301654]
マルチコンディション制御は従来のコンカデント・アンド・アットエンドの戦略によってボトルネックとなる。
分析の結果,これらの相互作用の多くは空間的にも意味的にも冗長であることがわかった。
本稿では,これらの冗長性を解消するための高効率なフレームワークであるPKAを提案する。
論文 参考訳(メタデータ) (2026-02-06T16:39:10Z) - Multi-Agent-Driven Cognitive Secure Communications in Satellite-Terrestrial Networks [58.70163955407538]
悪意のある盗聴者は衛星地上ネットワーク(STN)を介して個人情報に深刻な脅威をもたらす
リアルタイムセンシングによりスペクトルスケジューリングと保護を協調する複数のエージェントによって駆動される認知セキュア通信フレームワークを提案する。
我々は、生成した対向ネットワークを利用して対向行列を生成し、学習支援電力制御を用いて、実及び対向信号のパワーを保護層に設定する。
論文 参考訳(メタデータ) (2026-01-06T10:30:41Z) - Federated Attention: A Distributed Paradigm for Collaborative LLM Inference over Edge Networks [63.541114376141735]
大規模言語モデル(LLM)は、さまざまなアプリケーションシナリオにまたがってインテリジェントな機能を提供しながら、急速に普及しています。
しかし、彼らの共同シナリオにおける実践的なデプロイは、プライバシの脆弱性、通信オーバーヘッド、計算ボトルネックといった根本的な課題に直面します。
我々はフェデレート・アテンション(FedAttn)を提案し、フェデレーション・パラダイムを自己注意機構に統合する。
論文 参考訳(メタデータ) (2025-11-04T15:14:58Z) - Privacy-Preserving Federated Embedding Learning for Localized Retrieval-Augmented Generation [60.81109086640437]
我々はFedE4RAG(Federated Retrieval-Augmented Generation)と呼ばれる新しいフレームワークを提案する。
FedE4RAGはクライアント側RAG検索モデルの協調トレーニングを容易にする。
モデルパラメータの保護にフェデレート学習の準同型暗号化を適用する。
論文 参考訳(メタデータ) (2025-04-27T04:26:02Z) - LATTEO: A Framework to Support Learning Asynchronously Tempered with Trusted Execution and Obfuscation [6.691450146654845]
本稿では,ネットワークエッジにおける非同期FLアグリゲーションをセキュアにするための,勾配難読化機構とTEE(Trusted Execution Environments)を組み合わせたプライバシー保護フレームワークを提案する。
我々のメカニズムは、クライアントが暗黙的にTEEベースのアグリゲーションサービスを確認し、オンデマンドのクライアント参加を効果的に処理し、非同期接続の増加とともにシームレスにスケールできるようにする。
論文 参考訳(メタデータ) (2025-02-07T01:21:37Z) - Privacy-Preserving Distributed Learning for Residential Short-Term Load
Forecasting [11.185176107646956]
電力システムの負荷データは、住宅ユーザの日常のルーチンを不注意に明らかにし、彼らの財産のセキュリティにリスクを及ぼす可能性がある。
我々はマルコフスイッチ方式の分散学習フレームワークを導入し、その収束は厳密な理論的解析によって実証される。
実世界の電力系統負荷データを用いたケーススタディにより,提案アルゴリズムの有効性を検証した。
論文 参考訳(メタデータ) (2024-02-02T16:39:08Z) - FeDiSa: A Semi-asynchronous Federated Learning Framework for Power
System Fault and Cyberattack Discrimination [1.0621485365427565]
本稿では,電力系統故障とサイバーアタック識別のための半非同期フェデレーション学習フレームワークFeDiSaを提案する。
産業用制御システムデータセットを用いた提案フレームワークの実験により,データ機密性を維持しつつ,通信遅延やストラグラーの悪影響を最小限に抑えながら,攻撃検出精度が向上した。
論文 参考訳(メタデータ) (2023-03-28T13:34:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。