論文の概要: Opening up ChatGPT: Tracking openness, transparency, and accountability in instruction-tuned text generators

• arxiv url: http://arxiv.org/abs/2307.05532v1
• Date: Sat, 8 Jul 2023 07:08:20 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-13 16:25:54.637717
• Title: Opening up ChatGPT: Tracking openness, transparency, and accountability in instruction-tuned text generators
• Title（参考訳）: chatgptの公開: 命令調整テキストジェネレータにおけるオープン性、透明性、説明責任の追跡
• Authors: Andreas Liesenfeld, Alianda Lopez, Mark Dingemanse
• Abstract要約: コードのオープン性、トレーニングデータ、モデルウェイト、RLHFデータ、ライセンス、科学文書、アクセス方法の観点からプロジェクトを評価する。 オープンソース”と自称するプロジェクトのリストが急速に伸びているのに対して、多くのプロジェクトは、疑わしい合法性の文書化されていないデータを継承している。 オープン性の度合いは、あらゆる点で公平性と説明責任に関係している。
• 参考スコア（独自算出の注目度）: 0.11470070927586018
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models that exhibit instruction-following behaviour represent one of the biggest recent upheavals in conversational interfaces, a trend in large part fuelled by the release of OpenAI's ChatGPT, a proprietary large language model for text generation fine-tuned through reinforcement learning from human feedback (LLM+RLHF). We review the risks of relying on proprietary software and survey the first crop of open-source projects of comparable architecture and functionality. The main contribution of this paper is to show that openness is differentiated, and to offer scientific documentation of degrees of openness in this fast-moving field. We evaluate projects in terms of openness of code, training data, model weights, RLHF data, licensing, scientific documentation, and access methods. We find that while there is a fast-growing list of projects billing themselves as 'open source', many inherit undocumented data of dubious legality, few share the all-important instruction-tuning (a key site where human annotation labour is involved), and careful scientific documentation is exceedingly rare. Degrees of openness are relevant to fairness and accountability at all points, from data collection and curation to model architecture, and from training and fine-tuning to release and deployment.
• Abstract（参考訳）: 命令追従動作を示す大きな言語モデルは、ヒューマンフィードバック(LLM+RLHF)からの強化学習を通じて微調整されたテキスト生成のためのプロプライエタリな大規模言語モデルであるOpenAIのChatGPTのリリースによって、近年の会話インターフェースにおける最大の流行の1つである。 プロプライエタリなソフトウェアに依存するリスクをレビューし、同等のアーキテクチャと機能を持つオープンソースプロジェクトの最初の収穫物を調査します。 本論文の主な貢献は,オープンネスが差別化されていることを示し,この高速移動分野におけるオープンネスの度合いに関する科学的資料を提供することである。 我々は、コードのオープン性、トレーニングデータ、モデル重み付け、rlhfデータ、ライセンス、科学ドキュメント、アクセス方法の観点からプロジェクトを評価する。 オープンソース」と自称するプロジェクトが急速に増えている一方で、疑わしい合法性に関する文書化されていないデータを継承しているプロジェクトも少なくないが、重要なインストラクションチューニング(人間のアノテーション労働が関与する重要なサイト)を共有することはほとんどなく、注意深く科学的文書化することは極めて稀である。 データ収集やキュレーションからモデルアーキテクチャまで,トレーニングや微調整からリリースやデプロイメントに至るまで,あらゆる点で,オープン性の程度は公平性と説明責任に関係しています。

関連論文リスト

• OpenCoder: The Open Cookbook for Top-Tier Code Large Language Models [70.72097493954067]
  コードのための大規模言語モデル(LLM)は、コード生成、推論タスク、エージェントシステムなど、さまざまな領域で必須になっている。 オープンアクセスのコード LLM はプロプライエタリなモデルの性能レベルに近づきつつあるが、高品質なコード LLM は依然として限られている。 トップクラスのコードLLMであるOpenCoderは、主要なモデルに匹敵するパフォーマンスを達成するだけでなく、研究コミュニティの"オープンクックブック"としても機能します。
  論文  参考訳（メタデータ） (2024-11-07T17:47:25Z)
• OpenR: An Open Source Framework for Advanced Reasoning with Large Language Models [61.14336781917986]
  大規模言語モデル(LLM)の推論能力を高めるためのオープンソースのフレームワークであるOpenRを紹介する。 OpenRは、データ取得、強化学習トレーニング、非自己回帰デコーディングを凝集性ソフトウェアプラットフォームに統合する。 私たちの研究は、OpenAIのo1モデルのコア技術と強化学習を探求する、オープンソースのフレームワークを初めて提供するものです。
  論文  参考訳（メタデータ） (2024-10-12T23:42:16Z)
• In-Context Code-Text Learning for Bimodal Software Engineering [26.0027882745058]
  バイモーダルなソフトウェア分析は、大きな言語モデルの出現とともに、当初は手の届くところにあるように見えた。 コードテキストのバイモーダル性に対するコンテキスト内学習は有望な道であると仮定する。 我々は、23のソフトウェアエンジニアリングタスクを含む多様なデータセットを考察し、コンテキスト内学習フォーマットで変換する。
  論文  参考訳（メタデータ） (2024-10-08T19:42:00Z)
• Building and better understanding vision-language models: insights and future directions [8.230565679484128]
  本稿では,現在最先端の視覚言語モデルへのアプローチについて概観する。 Idefics3-8Bは従来のIdefics2-8Bを大きく上回る強力なVLMです。 トレーニング用に作成されたデータセットとともに、モデルをリリースしています。
  論文  参考訳（メタデータ） (2024-08-22T17:47:24Z)
• Query of CC: Unearthing Large Scale Domain-Specific Knowledge from Public Corpora [104.16648246740543]
  大規模言語モデルに基づく効率的なデータ収集手法を提案する。 この方法は、大きな言語モデルを通してシード情報をブートストラップし、公開コーパスから関連データを検索する。 特定のドメインに関する知識関連のデータを収集するだけでなく、潜在的な推論手順でデータを抽出する。
  論文  参考訳（メタデータ） (2024-01-26T03:38:23Z)
• SoTaNa: The Open-Source Software Development Assistant [81.86136560157266]
  SoTaNaはオープンソースのソフトウェア開発アシスタントだ。 ソフトウェア工学の分野のための高品質な命令ベースのデータを生成する。 オープンソースの基盤モデルであるLLaMAを強化するためにパラメータ効率のよい微調整アプローチを採用している。
  論文  参考訳（メタデータ） (2023-08-25T14:56:21Z)
• Generate rather than Retrieve: Large Language Models are Strong Context Generators [74.87021992611672]
  本稿では,文書検索を大規模言語モデル生成器に置き換えることで,知識集約型タスクを解く新しい視点を提案する。 我々は,提案手法をgenRead (genRead) と呼び,まず大きな言語モデルに対して,与えられた質問に基づいて文脈文書を生成し,次に生成された文書を読み出して最終回答を生成する。
  論文  参考訳（メタデータ） (2022-09-21T01:30:59Z)
• A Survey on Open Information Extraction from Rule-based Model to Large Language Model [29.017823043117144]
  オープン情報抽出(OpenIE)は、構造化されていないテキストから構造化情報を引き出すための重要なNLPタスクである。 本調査では,2007年から2024年までのOpenIE技術の概要を概説し,時系列的視点を強調した。 この記事では、OpenIEアプローチをルールベース、ニューラル、トレーニング済みの大規模言語モデルに分類し、時系列フレームワーク内でそれぞれについて議論する。
  論文  参考訳（メタデータ） (2022-08-18T08:03:45Z)
• ENT-DESC: Entity Description Generation by Exploring Knowledge Graph [53.03778194567752]
  実際には、出力記述が最も重要な知識のみをカバーするため、入力知識は十分以上である可能性がある。 我々は、KG-to-textにおけるこのような実践的なシナリオの研究を容易にするために、大規模で挑戦的なデータセットを導入する。 本稿では,元のグラフ情報をより包括的に表現できるマルチグラフ構造を提案する。
  論文  参考訳（メタデータ） (2020-04-30T14:16:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。