論文の概要: LLeMpower: Understanding Disparities in the Control and Access of Large Language Models
- arxiv url: http://arxiv.org/abs/2404.09356v1
- Date: Sun, 14 Apr 2024 20:49:53 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-16 14:18:53.665290
- Title: LLeMpower: Understanding Disparities in the Control and Access of Large Language Models
- Title(参考訳): LLeMpower: 大規模言語モデルの制御とアクセスにおける差異を理解する
- Authors: Vishwas Sathish, Hannah Lin, Aditya K Kamath, Anish Nyayachavadi,
- Abstract要約: 大きな言語モデル(LLM)は新しい機会を生み出すために人間のスキルを増強する強力な技術である。
LLMは、訓練とサービスのために、かなりの計算資源とエネルギーを必要とする。
管理とアクセスの不平等は、少数の企業の所有と権限の集中につながった。
- 参考スコア(独自算出の注目度): 0.6749750044497731
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Models (LLMs) are a powerful technology that augment human skill to create new opportunities, akin to the development of steam engines and the internet. However, LLMs come with a high cost. They require significant computing resources and energy to train and serve. Inequity in their control and access has led to concentration of ownership and power to a small collection of corporations. In our study, we collect training and inference requirements for various LLMs. We then analyze the economic strengths of nations and organizations in the context of developing and serving these models. Additionally, we also look at whether individuals around the world can access and use this emerging technology. We compare and contrast these groups to show that these technologies are monopolized by a surprisingly few entities. We conclude with a qualitative study on the ethical implications of our findings and discuss future directions towards equity in LLM access.
- Abstract(参考訳): LLM(Large Language Models)は、蒸気エンジンやインターネットのような新しい機会を生み出すために人間のスキルを増強する強力な技術である。
しかし、LSMには高いコストが伴う。
トレーニングとサービスには、かなりのコンピューティングリソースとエネルギーが必要です。
規制とアクセスの不平等は、少数の企業の所有と権限の集中につながった。
本研究では,様々なLSMのトレーニングと推論の要件を収集する。
そして、これらのモデルの開発と提供という文脈において、国家や組織の経済的強みを分析します。
さらに、世界中の個人がこの新興技術にアクセスして利用できるかどうかも検討しています。
これらの技術が驚くほど少数のエンティティによって独占されていることを示すために、これらのグループを比較して比較する。
分析の結果の倫理的含意について質的研究を行い、LCMアクセスにおける株式に対する今後の方向性について論じる。
関連論文リスト
- Federated Large Language Models: Current Progress and Future Directions [63.68614548512534]
本稿では,LLM(FedLLM)のフェデレーション学習について調査し,最近の進歩と今後の方向性を明らかにする。
ファインチューニングと迅速な学習という2つの重要な側面に注目し、既存の作業と関連する研究課題について議論する。
論文 参考訳(メタデータ) (2024-09-24T04:14:33Z) - MAP-Neo: Highly Capable and Transparent Bilingual Large Language Model Series [86.31735321970481]
私たちはMAP-Neoをオープンソースにしました。これは、4.5Tの高品質トークン上で、スクラッチからトレーニングされた7Bパラメータを持つバイリンガル言語モデルです。
MAP-Neo は,既存の最先端 LLM と比較して性能が劣る初の完全オープンソースバイリンガル LLM である。
論文 参考訳(メタデータ) (2024-05-29T17:57:16Z) - Large Language Models for Education: A Survey [32.42330148200439]
大規模言語モデル(LLM)は、様々なアプリケーションでますます使われている。
LLMをスマート教育(LLMEdu)に利用することは、世界中の国々にとって重要な戦略的方向性である。
LLMは、教育の質の向上、教育モデルの変更、教師の役割の変更において大きな期待を示してきたが、これらの技術は依然としていくつかの課題に直面している。
論文 参考訳(メタデータ) (2024-05-12T01:50:01Z) - Large Language Models as Instruments of Power: New Regimes of Autonomous Manipulation and Control [0.0]
大規模言語モデル(LLM)は様々な修辞スタイルを再現し、幅広い感情を表現したテキストを生成する。
我々は,LSMの迅速かつ大半非規制導入によって可能となった,過小評価された社会的危害について考察する。
論文 参考訳(メタデータ) (2024-05-06T19:52:57Z) - Large Language Models for Education: A Survey and Outlook [69.02214694865229]
各視点の技術的進歩を体系的にレビューし、関連するデータセットとベンチマークを整理し、教育におけるLSMの展開に伴うリスクと課題を特定する。
本調査は、LLMの力を利用して教育実践を変革し、より効果的なパーソナライズされた学習環境を育むための、教育者、研究者、政策立案者のための総合的な技術図を提供することを目的とする。
論文 参考訳(メタデータ) (2024-03-26T21:04:29Z) - Rethinking Machine Unlearning for Large Language Models [85.92660644100582]
大規模言語モデル(LLM)の領域における機械学習の研究
このイニシアチブは、望ましくないデータの影響(機密情報や違法情報など)と関連するモデル機能を排除することを目的としている。
論文 参考訳(メタデータ) (2024-02-13T20:51:58Z) - Rethinking Interpretability in the Era of Large Language Models [76.1947554386879]
大規模言語モデル(LLM)は、幅広いタスクにまたがる顕著な機能を示している。
自然言語で説明できる能力により、LLMは人間に与えられるパターンのスケールと複雑さを拡大することができる。
これらの新しい機能は、幻覚的な説明や膨大な計算コストなど、新しい課題を提起する。
論文 参考訳(メタデータ) (2024-01-30T17:38:54Z) - BC4LLM: Trusted Artificial Intelligence When Blockchain Meets Large
Language Models [6.867309936992639]
大規模言語モデル(LLM)は、AIGC(AIGC)という形で人々にサービスを提供する。
AIGC学習データの信頼性と信頼性を保証することは困難である。
分散AIトレーニングには、プライバシ開示の危険性も隠されている。
論文 参考訳(メタデータ) (2023-10-10T03:18:26Z) - Federated Fine-Tuning of LLMs on the Very Edge: The Good, the Bad, the Ugly [62.473245910234304]
本稿では,最新のエッジコンピューティングシステムにおいて,Large Language Modelsをどのように導入できるかを,ハードウェア中心のアプローチで検討する。
マイクロレベルのハードウェアベンチマークを行い、FLOPモデルと最先端のデータセンターGPUを比較し、現実的な条件下でのネットワーク利用について検討する。
論文 参考訳(メタデータ) (2023-10-04T20:27:20Z) - Large Language Models for Telecom: Forthcoming Impact on the Industry [13.456882619578707]
汎用的な言語理解と生成を実現するAI駆動型モデルであるLarge Language Models (LLMs)が、トランスフォーメーション・フォースとして登場した。
LLMの内部動作を掘り下げて、現在の機能と制限に関する洞察を提供しています。
通信分野におけるLCMの活用という特徴的課題に対処する,本質的な研究の方向性を明らかにする。
論文 参考訳(メタデータ) (2023-08-11T08:41:00Z) - Large Language Models Humanize Technology [6.127963013089406]
大規模言語モデル(LLM)は、ここ数ヶ月、数週間で急速に進歩している。
これは、これらのモデルを人的価値と整合させること、労働市場への影響、そして規制の必要性に対する懸念を引き起こした。
LLMは、従来の技術よりも、より効果的にテクノロジーを人為化する創発的な能力を示すと我々は主張する。
論文 参考訳(メタデータ) (2023-05-09T16:05:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。