論文の概要: Towards Artificial General or Personalized Intelligence? A Survey on Foundation Models for Personalized Federated Intelligence

• arxiv url: http://arxiv.org/abs/2505.06907v1
• Date: Sun, 11 May 2025 08:57:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-13 20:21:49.105377
• Title: Towards Artificial General or Personalized Intelligence? A Survey on Foundation Models for Personalized Federated Intelligence
• Title（参考訳）: 汎用的・パーソナライズドインテリジェンスを目指して : パーソナライズド・フェデレーションインテリジェンスの基礎モデルに関する調査
• Authors: Yu Qiao, Huy Q. Le, Avi Deb Raha, Phuong-Nam Tran, Apurba Adhikary, Mengchun Zhang, Loc X. Nguyen, Eui-Nam Huh, Dusit Niyato, Choong Seon Hong,
• Abstract要約: 大規模言語モデル(LLM)の台頭は、人工知能の展望を大きく変えた。 本稿では、プライバシーと効率性を維持しつつ、ユーザの特定のニーズと嗜好を満たすためにこれらの強力なモデルを適用することに焦点を当てる。 我々は、FMのゼロショット一般化機能にフェデレート学習のプライバシー保護の利点を統合する、パーソナライズド・フェデレーション・インテリジェンス(PFI)を提案する。
• 参考スコア（独自算出の注目度）: 59.498447610998525
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The rise of large language models (LLMs), such as ChatGPT, DeepSeek, and Grok-3, has reshaped the artificial intelligence landscape. As prominent examples of foundational models (FMs) built on LLMs, these models exhibit remarkable capabilities in generating human-like content, bringing us closer to achieving artificial general intelligence (AGI). However, their large-scale nature, sensitivity to privacy concerns, and substantial computational demands present significant challenges to personalized customization for end users. To bridge this gap, this paper presents the vision of artificial personalized intelligence (API), focusing on adapting these powerful models to meet the specific needs and preferences of users while maintaining privacy and efficiency. Specifically, this paper proposes personalized federated intelligence (PFI), which integrates the privacy-preserving advantages of federated learning (FL) with the zero-shot generalization capabilities of FMs, enabling personalized, efficient, and privacy-protective deployment at the edge. We first review recent advances in both FL and FMs, and discuss the potential of leveraging FMs to enhance federated systems. We then present the key motivations behind realizing PFI and explore promising opportunities in this space, including efficient PFI, trustworthy PFI, and PFI empowered by retrieval-augmented generation (RAG). Finally, we outline key challenges and future research directions for deploying FM-powered FL systems at the edge with improved personalization, computational efficiency, and privacy guarantees. Overall, this survey aims to lay the groundwork for the development of API as a complement to AGI, with a particular focus on PFI as a key enabling technique.
• Abstract（参考訳）: ChatGPT、DeepSeek、Grok-3といった大規模言語モデル(LLM)の台頭は、人工知能の展望を形変えた。 LLM上に構築された基礎モデル(FM)の顕著な例として、これらのモデルは人間のようなコンテンツを生成する優れた能力を示し、人工知能(AGI)の実現に近づいた。 しかし、その大規模な性質、プライバシー上の懸念への敏感さ、そしてかなりの計算上の要求は、エンドユーザーにパーソナライズされたカスタマイズに重大な課題をもたらしている。 このギャップを埋めるために、プライバシーと効率を保ちながら、ユーザの特定のニーズと嗜好を満たすためにこれらの強力なモデルを適用することに焦点を当てた、人工知能(API)のビジョンを示す。 具体的には,フェデレーション学習(FL)のプライバシ保護の利点をFMのゼロショット一般化能力と統合したパーソナライズド・フェデレーション・インテリジェンス(PFI)を提案する。 本稿では、FLとFMの最近の進歩を概観し、FMをフェデレートシステムに活用する可能性について論じる。 次に、PFIの実現の背景にある重要な動機を提示し、効率的なPFI、信頼できるPFI、検索強化世代(RAG)によって強化されたPFIなど、この分野の有望な機会を探究する。 最後に、パーソナライズ、計算効率、プライバシ保証の改善により、FM方式のFLシステムをエッジに展開する上での重要な課題と今後の研究方向性について概説する。 全体として、この調査はAPI開発の基礎をAGIの補完として位置づけることを目的としており、特にPFIを重要な実現技術として重視している。

関連論文リスト

• Incentivizing Inclusive Contributions in Model Sharing Markets [47.66231950174746]
  本稿では,包括的でインセンティブの高い個人化フェデレーション学習(iPFL)を提案する。 iPFLは、データを公開せずにパーソナライズされたモデルを協調的にトレーニングするために、さまざまな目的でデータホルダーにインセンティブを与える。 11のAIタスクに関する実証研究は、iPFLが常に最高の経済効果を達成していることを示している。
  論文  参考訳（メタデータ） (2025-05-05T08:45:26Z)
• Privacy Preserving Machine Learning Model Personalization through Federated Personalized Learning [0.0]
  データプライバシを維持しながら、分散データサイロ上で機械学習(ML)モデルをトレーニングするための主要なパラダイムであるフェデレートラーニング(FL)への関心が揺れている。 本研究では,プライバシ保護機械学習によって達成されたプライバシを保護しながら,MLモデルをパーソナライズするための最先端アプローチの総合的なパフォーマンス解析を行う。 我々の分析によると、適応的パーソナライズ・クロスサイロ・フェデレーション・ラーニング・アダプティブプライバシ(APPLE+DP)は効率的な実行を提供するのに対し、アダプティブ・パーソナライズ・クロスサイロ・フェデレーション・ラーニング・アダプティブ・エン暗号化(APPLE+HE)アルゴリズムは、プライバシ保存機械学習タスクに強く利用されている。
  論文  参考訳（メタデータ） (2025-05-03T11:31:38Z)
• Privacy-Preserving Federated Embedding Learning for Localized Retrieval-Augmented Generation [60.81109086640437]
  我々はFedE4RAG(Federated Retrieval-Augmented Generation)と呼ばれる新しいフレームワークを提案する。 FedE4RAGはクライアント側RAG検索モデルの協調トレーニングを容易にする。 モデルパラメータの保護にフェデレート学習の準同型暗号化を適用する。
  論文  参考訳（メタデータ） (2025-04-27T04:26:02Z)
• Ten Challenging Problems in Federated Foundation Models [55.343738234307544]
  フェデレーション・ファンデーション・モデル(Federated Foundation Models、FedFM)は、フェデレーション・モデルの一般的な能力とフェデレーション・ラーニングのプライバシー保護能力を融合させる分散学習パラダイムである。 本稿では,FedFMに固有の10の課題について,基礎理論,プライベートデータの利用,継続学習,非学習,非IIDおよびグラフデータ,双方向知識伝達,インセンティブ機構設計,ゲーム機構設計,モデル透かし,効率を包括的に要約する。
  論文  参考訳（メタデータ） (2025-02-14T04:01:15Z)
• Advancing Personalized Federated Learning: Integrative Approaches with AI for Enhanced Privacy and Customization [0.0]
  本稿では,最先端AI技術を用いてPFLを強化する新しい手法を提案する。 本稿では、個々のクライアントモデルの性能を高め、堅牢なプライバシ保護機構を保証するモデルを提案する。 この研究は、真のパーソナライズされたプライバシを重視したAIシステムの新たな時代への道を開くものだ。
  論文  参考訳（メタデータ） (2025-01-30T07:03:29Z)
• Forging Vision Foundation Models for Autonomous Driving: Challenges, Methodologies, and Opportunities [59.02391344178202]
  ビジョンファウンデーションモデル(VFM)は、幅広いAIアプリケーションのための強力なビルディングブロックとして機能する。 総合的なトレーニングデータの不足、マルチセンサー統合の必要性、多様なタスク固有のアーキテクチャは、VFMの開発に重大な障害をもたらす。 本稿では、自動運転に特化したVFMを鍛造する上で重要な課題について述べるとともに、今後の方向性を概説する。
  論文  参考訳（メタデータ） (2024-01-16T01:57:24Z)
• Secrets of RLHF in Large Language Models Part I: PPO [81.01936993929127]
  大規模言語モデル (LLMs) は、人工知能の進歩のためのブループリントを定式化した。 人間のフィードバックによる強化学習(RLHF)がこの追求を支える重要な技術パラダイムとして出現する。 本稿では、RLHFの枠組みを解明し、PPOの内部構造を再評価し、PPOアルゴリズムを構成する部分が政策エージェントの訓練にどのように影響するかを考察する。
  論文  参考訳（メタデータ） (2023-07-11T01:55:24Z)
• Federated Foundation Models: Privacy-Preserving and Collaborative Learning for Large Models [8.184714897613166]
  我々は、FMとFederated Learning(FL)の利点を組み合わせたFFM(Federated Foundation Models)パラダイムを提案する。 我々は,FMの寿命にFLを組み込むことの潜在的なメリットと課題について論じ,事前学習,微調整,応用について論じる。 エッジでの計算能力の増大は、データソースに近い新たに生成されたプライベートデータを用いてFMを最適化する可能性を解き放つ可能性があるため、FFMにおける連続的・長期学習の可能性を探る。
  論文  参考訳（メタデータ） (2023-05-19T03:51:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。