論文の概要: GradientCoin: A Peer-to-Peer Decentralized Large Language Models
- arxiv url: http://arxiv.org/abs/2308.10502v1
- Date: Mon, 21 Aug 2023 06:42:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-22 14:48:47.319992
- Title: GradientCoin: A Peer-to-Peer Decentralized Large Language Models
- Title(参考訳): GradientCoin: ピアツーピアで分散化された大規模言語モデル
- Authors: Yeqi Gao, Zhao Song, Junze Yin
- Abstract要約: 2022年以降、大きな言語モデル(LLM)は多くの実生活タスクにおいて人間よりも優れています。
我々は、Bitcoinキャッシュシステムと同様に動作する分散LDMの純粋に理論的設計を提案する。
この新しいシステムは、経済学における標準的なBitcoinシステムよりもパフォーマンスが良くない。
- 参考スコア(独自算出の注目度): 8.517077915534932
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Since 2008, after the proposal of a Bitcoin electronic cash system, Bitcoin
has fundamentally changed the economic system over the last decade. Since 2022,
large language models (LLMs) such as GPT have outperformed humans in many
real-life tasks. However, these large language models have several practical
issues. For example, the model is centralized and controlled by a specific
unit. One weakness is that if that unit decides to shut down the model, it
cannot be used anymore. The second weakness is the lack of guaranteed
discrepancy behind this model, as certain dishonest units may design their own
models and feed them unhealthy training data.
In this work, we propose a purely theoretical design of a decentralized LLM
that operates similarly to a Bitcoin cash system. However, implementing such a
system might encounter various practical difficulties. Furthermore, this new
system is unlikely to perform better than the standard Bitcoin system in
economics. Therefore, the motivation for designing such a system is limited. It
is likely that only two types of people would be interested in setting up a
practical system for it:
$\bullet$ Those who prefer to use a decentralized ChatGPT-like software.
$\bullet$ Those who believe that the purpose of carbon-based life is to
create silicon-based life, such as Optimus Prime in Transformers.
The reason the second type of people may be interested is that it is possible
that one day an AI system like this will awaken and become the next level of
intelligence on this planet.
- Abstract(参考訳): 2008年以降、Bitcoinの電子マネーシステムの提案を受けて、Bitcoinは過去10年間に経済システムを根本的に変えてきた。
2022年以降、GPTのような大規模言語モデル(LLM)は、多くの実生活タスクにおいて人間よりも優れてきた。
しかし、これらの大きな言語モデルにはいくつかの実践的な問題がある。
例えば、モデルは特定のユニットによって集中的に制御される。
1つの弱点は、そのユニットがモデルをシャットダウンすると決めた場合、もはや使用できないことである。
第二の弱点は、ある不適切なユニットが自身のモデルを設計し、不健全なトレーニングデータを供給できるため、このモデルの背後にある保証された不一致の欠如である。
本稿では,Bitcoinキャッシュシステムと同じように動作する分散LDMの純粋に理論的設計を提案する。
しかし、このようなシステムの実装には様々な困難が伴う可能性がある。
さらに、この新しいシステムは、経済学における標準的なBitcoinシステムよりもパフォーマンスが良くない。
そのため、そのようなシステムを設計する動機は限られている。
$\bullet$ 分散型のChatGPT風ソフトウェアを使いたい人には、おそらく2種類の人々が実用システムの構築に興味を持っているだろう。
カーボン系生命体の目的は、トランスフォーマーのOptimus Primeのようなシリコン系生命体を作ることだと信じている人。
第2のタイプの人々が興味を持っているのは、いつかこのようなAIシステムが目覚めて、この惑星の次のレベルの知能になる可能性があるからです。
関連論文リスト
- Hacking a surrogate model approach to XAI [49.1574468325115]
識別されたサブグループがブラックボックスADMシステムから肯定的な決定を下さない場合でも、対応するグループメンバーシップの問題は、必要に応じて低いレベルまで押し下げることができることを示す。
我々のアプローチは、他の代理モデルに容易に一般化できる。
論文 参考訳(メタデータ) (2024-06-24T13:18:02Z) - IT Strategic alignment in the decentralized finance (DeFi): CBDC and digital currencies [49.1574468325115]
分散型金融(DeFi)は、ディスラプティブベースの金融インフラである。
1) DeFiの一般的なIT要素は何か?
2) DeFi における IT 戦略の整合性には,どのような要素があるのでしょう?
論文 参考訳(メタデータ) (2024-05-17T10:19:20Z) - Towards a low carbon proof-of-work blockchain [0.0]
技術実証は、ハッシュキャッシュや他のPoW(Proof of Work)メソッドを宝くじと実証-of-VM(PoVM)エミュレーションで置き換えるためのものである。
PoVMエミュレーション(PoVM emulation)は、特定期間のVM提供と引き換えに、自律的なマイニングカーが宝くじを受け取るPoWの一種である。
論文 参考訳(メタデータ) (2024-04-06T20:48:20Z) - A UML Profile for Bitcoin Blockchain [0.18416014644193066]
本研究では,bitcoinアプリケーションドメインのメタモデルの設計と評価を行った。
提案されたメタモデルはUnified Modeling Language (UML)プロファイルとして定義され、Sparx Enterprise Architect (Sparx EA)モデリングツールで実装された。
論文 参考訳(メタデータ) (2023-06-12T12:02:12Z) - The System Model and the User Model: Exploring AI Dashboard Design [79.81291473899591]
高度なAIシステムは、他の複雑なデバイスと同じようにダッシュボードを持つべきだ、と私たちは主張する。
多くのシステムにおいて、最も重要な2つのモデルはユーザーとシステム自体のものであると推測する。
これら2つのモデルを識別し、解釈し、表示する方法を見つけることは、AIのためのインターフェース研究のコア部分であるべきです。
論文 参考訳(メタデータ) (2023-05-04T00:22:49Z) - Misspecification in Inverse Reinforcement Learning [80.91536434292328]
逆強化学習(IRL)の目的は、ポリシー$pi$から報酬関数$R$を推論することである。
IRLの背後にある主要な動機の1つは、人間の行動から人間の嗜好を推測することである。
これは、それらが誤って特定され、現実世界のデータに適用された場合、不適切な推測につながる恐れが生じることを意味する。
論文 参考訳(メタデータ) (2022-12-06T18:21:47Z) - What Language Model to Train if You Have One Million GPU Hours? [54.32062236748831]
モデリングの実践の違いがゼロショット一般化に与える影響について検討する。
また、多言語モデルの性能と、英語のみとの比較についても検討する。
私たちのモデルとコードは、https://huggingface.co/bigscience.comでオープンソース化されています。
論文 参考訳(メタデータ) (2022-10-27T13:43:27Z) - SoK: Blockchain Governance [13.95507600720467]
ブロックチェーンガバナンスのトピックは、徹底的な体系化のための肥大したドメインである。
まずは、健全なガバナンスシステムのための包括的なプロパティの配列を蒸留することから始めます。
すべての性質は、少なくとも1つのシステムによって、部分的にも満たされるが、それらの大部分を満たさない。
論文 参考訳(メタデータ) (2022-01-18T18:38:26Z) - Resource Management for Blockchain-enabled Federated Learning: A Deep
Reinforcement Learning Approach [54.29213445674221]
Federated Learning (BFL)は、機械学習モデル所有者(MLMO)が必要とするニューラルネットワークモデルを、モバイルデバイスが協調的にトレーニングすることを可能にする。
BFLの問題は、モバイルデバイスがシステムの寿命とトレーニング効率を低下させるエネルギーとCPUの制約を持っていることである。
我々は,Deep Reinforcement Learning (DRL) を用いて最適決定を導出することを提案する。
論文 参考訳(メタデータ) (2020-04-08T16:29:19Z) - Criptocurrencies, Fiat Money, Blockchains and Databases [0.0]
現状のファイトマネーの使用と2段階銀行システムの運用の特徴について論じる。
ブロックチェーンとデータベースの特徴について説明する。
論文 参考訳(メタデータ) (2020-02-04T18:04:10Z) - A Proof of Useful Work for Artificial Intelligence on the Blockchain [0.3599866690398789]
本稿では,ブロックチェーン上での機械学習モデルのトレーニングに基づく,新たな"有用な作業の保護"(PoUW)プロトコルについて述べる。
マイナーは、正直なMLトレーニングをした後、新しいコインを作る機会を得る。
我々は、有用な仕事を報い、悪意ある俳優を罰する仕組みを概説する。
論文 参考訳(メタデータ) (2020-01-25T01:10:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。