論文の概要: DeRelayL: Sustainable Decentralized Relay Learning

• arxiv url: http://arxiv.org/abs/2605.02935v1
• Date: Thu, 30 Apr 2026 15:45:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-06 19:35:43.509119
• Title: DeRelayL: Sustainable Decentralized Relay Learning
• Title（参考訳）: DeRelayL: 持続可能な分散リレー学習
• Authors: Haihan Duan, Tengfei Ma, Yuyang Qin, Runhao Zeng, Wei Cai, Victor C. M. Leung, Xiping Hu,
• Abstract要約: 本稿では,分散リレー学習(DeRelayL)という新しい学習パラダイムを提案する。 DeRelayLは、無許可の参加者がリレー的な方法でモデルのトレーニングに貢献し、モデルを共有する、持続可能な学習システムである。 本稿では,DeRelayLのアーキテクチャとワークフローについて述べるとともに,持続可能性を確保するためのインセンティブ機構を設計し,理論解析と数値シミュレーションを行い,その有効性を実証する。
• 参考スコア（独自算出の注目度）: 53.733457724691654
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In the era of big data, large-scale machine learning models have revolutionized various fields, driving significant advancements. However, large-scale model training demands high financial and computational resources, which are only affordable by a few technological giants and well-funded institutions. In this case, common users like mobile users, the real creators of valuable data, are often excluded from fully benefiting due to the barriers, while the current methods for accessing large-scale models either limit user ownership or lack sustainability. This growing gap highlights the urgent need for a collaborative model training approach, allowing common users to train and share models. However, existing collaborative model training paradigms, especially federated learning (FL), primarily focus on data privacy and group-based model aggregation. To this end, this paper intends to address this issue by proposing a novel training paradigm named decentralized relay learning (DeRelayL), a sustainable learning system where permissionless participants can contribute to model training in a relay-like manner and share the model. In detail, this paper presents the architecture and workflow of DeRelayL, designs incentive mechanisms to ensure sustainability, and conducts theoretical analysis and numerical simulations to demonstrate its effectiveness.
• Abstract（参考訳）: ビッグデータの時代、大規模な機械学習モデルは様々な分野に革命をもたらし、大きな進歩をもたらした。 しかし、大規模なモデルトレーニングには高い資金と計算資源が必要であり、これは少数の技術巨人や資金の潤沢な機関によってのみ手頃な価格で提供される。 この場合、モバイルユーザのような一般的なユーザや、価値あるデータの本当の作者は、障壁のために完全に利益を享受できなくなり、一方、現在の大規模モデルにアクセスする方法では、ユーザの所有を制限するか、持続可能性の欠如を防ぎます。 この増大するギャップは、コラボレーティブモデルトレーニングアプローチの緊急の必要性を強調し、一般的なユーザがモデルのトレーニングと共有を可能にします。 しかし、既存のコラボレーティブモデルトレーニングパラダイム、特にフェデレートラーニング(FL)は、主にデータのプライバシとグループベースのモデルアグリゲーションに焦点を当てている。 そこで本研究では,無許可の参加者がリレー的な方法でモデルトレーニングに貢献し,モデルを共有する持続可能な学習システムである分散リレー学習(DeRelayL)という,新たなトレーニングパラダイムを提案する。 本稿では,DeRelayLのアーキテクチャとワークフローについて述べるとともに,持続可能性を確保するためのインセンティブ機構を設計し,理論解析と数値シミュレーションを行い,その有効性を実証する。

関連論文リスト

• NExT-OMNI: Towards Any-to-Any Omnimodal Foundation Models with Discrete Flow Matching [64.10695425442164]
  NExT-OMNI(英語版)は、離散フローパラダイムによる統一モデリングを実現するオープンソース・オムニモーダル・ファンデーション・モデルである。 NExT-OMNIは、大規模なインターリーブ付きテキスト、画像、ビデオ、オーディオデータに基づいて訓練され、マルチモーダル生成および理解ベンチマーク上で競合するパフォーマンスを提供する。 さらなる研究を進めるために、トレーニングの詳細、データプロトコル、およびコードとモデルチェックポイントの両方をオープンソース化する。
  論文  参考訳（メタデータ） (2025-10-15T16:25:18Z)
• Continual Learning for Generative AI: From LLMs to MLLMs and Beyond [56.29231194002407]
  本稿では,主流生成型AIモデルに対する連続学習手法の総合的な調査を行う。 これらのアプローチをアーキテクチャベース、正規化ベース、リプレイベースという3つのパラダイムに分類する。 我々は、トレーニング目標、ベンチマーク、コアバックボーンを含む、異なる生成モデルに対する連続的な学習設定を分析する。
  論文  参考訳（メタデータ） (2025-06-16T02:27:25Z)
• MSfusion: A Dynamic Model Splitting Approach for Resource-Constrained Machines to Collaboratively Train Larger Models [16.012249716875132]
  我々は,資源制約マシン上で大規模モデルを学習するための,効果的かつ効率的な協調学習フレームワークであるMSfusionを紹介する。 各トレーニングラウンドでは、各参加者は、ローカルデータをトレーニングするためにモデルパラメータのサブセットを割り当て、共通のパラメータ上の他のピアのサブモデルで集約される。 画像およびNLPタスクの実験は、大規模モデルのトレーニングにおいて、MSfusionの性能と効率において重要な利点を示す。
  論文  参考訳（メタデータ） (2024-07-04T04:06:24Z)
• PredictChain: Empowering Collaboration and Data Accessibility for AI in a Decentralized Blockchain-based Marketplace [1.4364491422470593]
  予測機械学習モデルのためのブロックチェーンベースのマーケットプレース"PredictChain"を提案する。 このマーケットプレースは、予測機械学習モデルをトレーニングするためのデータセットのアップロード、以前にアップロードされたデータセットの要求モデルトレーニング、トレーニングされたモデルへのクエリの提出を可能にする。
  論文  参考訳（メタデータ） (2023-07-27T19:56:18Z)
• Federated Pruning: Improving Neural Network Efficiency with Federated Learning [24.36174705715827]
  フェデレーテッド・プルーニング(Federated Pruning)は、フェデレーテッド・セッティングの下で縮小モデルのトレーニングを行う。 異なる刈り取り方式を探索し,提案手法の有効性の実証的証拠を提供する。
  論文  参考訳（メタデータ） (2022-09-14T00:48:37Z)
• Model Reprogramming: Resource-Efficient Cross-Domain Machine Learning [65.268245109828]
  視覚、言語、音声などのデータに富む領域では、ディープラーニングが高性能なタスク固有モデルを提供するのが一般的である。 リソース制限されたドメインでのディープラーニングは、(i)限られたデータ、(ii)制約付きモデル開発コスト、(iii)効果的な微調整のための適切な事前学習モデルの欠如など、多くの課題に直面している。 モデル再プログラミングは、ソースドメインから十分に訓練されたモデルを再利用して、モデル微調整なしでターゲットドメインのタスクを解くことで、リソース効率のよいクロスドメイン機械学習を可能にする。
  論文  参考訳（メタデータ） (2022-02-22T02:33:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。