論文の概要: Towards Decentralized and Sustainable Foundation Model Training with the Edge
- arxiv url: http://arxiv.org/abs/2507.01803v1
- Date: Wed, 02 Jul 2025 15:21:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-03 14:23:00.355325
- Title: Towards Decentralized and Sustainable Foundation Model Training with the Edge
- Title(参考訳): エッジを用いた分散・持続可能な基礎モデルトレーニングに向けて
- Authors: Leyang Xue, Meghana Madhyastha, Randal Burns, Myungjin Lee, Mahesh K. Marina,
- Abstract要約: ファンデーションモデルはAI研究の最前線にあり、膨大なデータセットから学び、多様なタスクに取り組む能力にアピールしている。
我々は、疎利用されたエッジAIデバイスの集合計算を活用する、分散的で持続可能な基盤モデルトレーニングに向けたビジョンを提唱した。
- 参考スコア(独自算出の注目度): 2.2815302415385297
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Foundation models are at the forefront of AI research, appealing for their ability to learn from vast datasets and cater to diverse tasks. Yet, their significant computational demands raise issues of environmental impact and the risk of centralized control in their development. We put forward a vision towards decentralized and sustainable foundation model training that leverages the collective compute of sparingly used connected edge AI devices. We present the rationale behind our vision, particularly in support of its sustainability benefit. We further outline a set of challenges that need to be addressed to turn this vision into reality.
- Abstract(参考訳): ファンデーションモデルはAI研究の最前線にあり、膨大なデータセットから学び、多様なタスクに取り組む能力にアピールしている。
しかし、それらの重要な計算要求は、環境への影響と開発における集中的な制御のリスクの問題を提起する。
我々は、疎利用されたエッジAIデバイスの集合計算を活用する、分散的で持続可能な基盤モデルトレーニングに向けたビジョンを提唱した。
我々はそのビジョンの背景にある理論的根拠を、特に持続可能性の利益を支持するために提示する。
我々はさらに、このビジョンを現実にするために対処する必要がある課題の集合を概説する。
関連論文リスト
- Towards Depth Foundation Model: Recent Trends in Vision-Based Depth Estimation [75.30238170051291]
深さ推定は3Dコンピュータビジョンの基本課題であり、3D再構成、自由視点レンダリング、ロボティクス、自律運転、AR/VR技術といった応用に不可欠である。
LiDARのようなハードウェアセンサーに依存する従来の方法は、しばしば高コスト、低解像度、環境感度によって制限され、現実のシナリオで適用性を制限する。
ビジョンベースの手法の最近の進歩は有望な代替手段を提供するが、低容量モデルアーキテクチャやドメイン固有の小規模データセットへの依存のため、一般化と安定性の課題に直面している。
論文 参考訳(メタデータ) (2025-07-15T17:59:59Z) - An Overview of Large Language Models for Statisticians [109.38601458831545]
大規模言語モデル(LLM)は人工知能(AI)の変換ツールとして登場した。
本稿では, 統計学者がLLMの開発に重要な貢献できる可能性について考察する。
我々は不確実性定量化、解釈可能性、公正性、プライバシー、透かし、モデル適応といった問題に焦点を当てる。
論文 参考訳(メタデータ) (2025-02-25T03:40:36Z) - Spatio-Temporal Foundation Models: Vision, Challenges, and Opportunities [48.45951497996322]
ファンデーションモデル(STFM)は、人工知能に革命をもたらし、パフォーマンスの新たなベンチマークを設定し、幅広いビジョンと言語タスクにわたる変換機能を実現する。
本稿では,STFMの今後の展望を概説し,その本質的特徴と汎用性について概説する。
我々は,STFMを効果的かつ広範に適用する目的で研究を進める可能性や方向性を探究する。
論文 参考訳(メタデータ) (2025-01-15T08:52:28Z) - Addressing the sustainable AI trilemma: a case study on LLM agents and RAG [7.6212949300713015]
大規模言語モデル(LLM)は重要な機能を示しているが、その広範なデプロイメントとより高度なアプリケーションによって、重要な持続可能性の課題が提起されている。
本稿では、持続可能なAIトリレムマの概念を提案し、AI能力、デジタルエクイティ、環境サステナビリティの緊張関係を強調する。
論文 参考訳(メタデータ) (2025-01-14T17:21:16Z) - Unleashing the Power of Continual Learning on Non-Centralized Devices: A Survey [37.07938402225207]
非連続学習(NCCL)は、分散デバイスが共同の非定常環境からストリーミングデータを処理できるようにするための新たなパラダイムとなっている。
本調査は,非集中型連続学習アルゴリズムの開発と,分散デバイスへの実環境展開に焦点を当てる。
論文 参考訳(メタデータ) (2024-12-18T13:33:28Z) - Implementation of Big AI Models for Wireless Networks with Collaborative Edge Computing [10.524645516703643]
大きなAIモデルのトレーニングは、エッジデバイスに重大な課題をもたらす。
従来のアプローチでは、トレーニングデータを集約して、集中的なトレーニングのためにリモートクラウドに送信するのが一般的だった。
我々は、信頼されたエッジデバイス群をリソースプールとしてオーケストレーションする新しいトレーニングメカニズムである協調エッジトレーニングを提案する。
論文 参考訳(メタデータ) (2024-04-27T03:09:39Z) - A Survey on Robotics with Foundation Models: toward Embodied AI [30.999414445286757]
近年のコンピュータビジョン,自然言語処理,マルチモーダリティ学習の進歩は,基礎モデルが特定のタスクに対して超人的能力を持つことを示している。
この調査は、ロボット工学の基礎モデルの包括的で最新の概要を提供し、自律的な操作に焦点を当て、高レベルの計画と低レベルの制御を包含することを目的としている。
論文 参考訳(メタデータ) (2024-02-04T07:55:01Z) - A Survey of Reasoning with Foundation Models [235.7288855108172]
推論は、交渉、医療診断、刑事捜査など、様々な現実世界の環境において重要な役割を担っている。
本稿では,推論に適応する基礎モデルを提案する。
次に、基礎モデルにおける推論能力の出現の背後にある潜在的な将来方向を掘り下げる。
論文 参考訳(メタデータ) (2023-12-17T15:16:13Z) - Exploring the Robustness of Decentralized Training for Large Language
Models [51.41850749014054]
大規模な言語モデルの分散トレーニングは、この技術を民主化するための効果的な方法として現れてきた。
本稿では,3つの主要な視点から,分散学習の堅牢性について考察する。
論文 参考訳(メタデータ) (2023-12-01T04:04:03Z) - Causal Reasoning: Charting a Revolutionary Course for Next-Generation
AI-Native Wireless Networks [63.246437631458356]
次世代無線ネットワーク(例:6G)は人工知能(AI)ネイティブである。
本稿では、新たな因果推論分野を基盤として、AIネイティブな無線ネットワークを構築するための新しいフレームワークを紹介する。
因果発見と表現によって対処できる無線ネットワークの課題をいくつか挙げる。
論文 参考訳(メタデータ) (2023-09-23T00:05:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。