論文の概要: O1 Replication Journey: A Strategic Progress Report -- Part 1
- arxiv url: http://arxiv.org/abs/2410.18982v1
- Date: Tue, 08 Oct 2024 15:13:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-03 08:52:31.472145
- Title: O1 Replication Journey: A Strategic Progress Report -- Part 1
- Title（参考訳）: O1 Replication Journey: 戦略的進展レポート - Part 1
- Authors: Yiwei Qin, Xuefeng Li, Haoyang Zou, Yixiu Liu, Shijie Xia, Zhen Huang, Yixin Ye, Weizhe Yuan, Hector Liu, Yuanzhi Li, Pengfei Liu,
- Abstract要約: 本稿では,O1 Replication Journeyに具体化された人工知能研究の先駆的アプローチを紹介する。
我々の方法論は、長期化したチームベースのプロジェクトの不規則性を含む、現代のAI研究における重要な課題に対処する。
本稿では,モデルにショートカットだけでなく,完全な探索プロセスの学習を促す旅行学習パラダイムを提案する。
- 参考スコア（独自算出の注目度）: 52.062216849476776
- License:
- Abstract: This paper introduces a pioneering approach to artificial intelligence research, embodied in our O1 Replication Journey. In response to the announcement of OpenAI's groundbreaking O1 model, we embark on a transparent, real-time exploration to replicate its capabilities while reimagining the process of conducting and communicating AI research. Our methodology addresses critical challenges in modern AI research, including the insularity of prolonged team-based projects, delayed information sharing, and the lack of recognition for diverse contributions. By providing comprehensive, real-time documentation of our replication efforts, including both successes and failures, we aim to foster open science, accelerate collective advancement, and lay the groundwork for AI-driven scientific discovery. Our research progress report diverges significantly from traditional research papers, offering continuous updates, full process transparency, and active community engagement throughout the research journey. Technologically, we proposed the journey learning paradigm, which encourages models to learn not just shortcuts, but the complete exploration process, including trial and error, reflection, and backtracking. With only 327 training samples and without any additional tricks, journey learning outperformed conventional supervised learning by over 8\% on the MATH dataset, demonstrating its extremely powerful potential. We believe this to be the most crucial component of O1 technology that we have successfully decoded. We share valuable resources including technical hypotheses and insights, cognitive exploration maps, custom-developed tools, etc at https://github.com/GAIR-NLP/O1-Journey.
- Abstract（参考訳）: 本稿では,O1 Replication Journeyに具体化された人工知能研究の先駆的アプローチを紹介する。
OpenAIの画期的なO1モデルの発表に応えて、私たちは、AI研究の実施とコミュニケーションのプロセスを再考しながら、その能力を再現する透過的でリアルタイムな探索に着手しました。
我々の方法論は、長期にわたるチームベースのプロジェクトの不規則性、情報共有の遅れ、多様なコントリビューションに対する認識の欠如など、現代のAI研究における重要な課題に対処する。
成功と失敗の両方を含む、私たちのレプリケーション活動に関する包括的なリアルタイムのドキュメントを提供することで、オープンサイエンスを育み、集合的な進歩を加速し、AIによる科学的発見の基礎を築こうとしています。
研究進捗報告は従来の研究論文と大きく異なっており、継続的な更新、全プロセスの透明性、研究ジャーニーを通じて活発なコミュニティ関与を提供する。
技術的には,ショートカットだけでなく,試行錯誤,リフレクション,バックトラックなど,完全な探索プロセスの学習を促す,旅行学習パラダイムを提案した。
327のトレーニングサンプルだけで、追加のトリックがなければ、旅行学習はMATHデータセットの8倍以上の従来の教師あり学習を上回り、その非常に強力な可能性を実証した。
私たちは、このことがO1技術の最も重要なコンポーネントであると信じています。
我々は https://github.com/GAIR-NLP/O1-Journey.comで、技術仮説や洞察、認知探索マップ、カスタム開発ツールなど、貴重なリソースを共有しています。
関連論文リスト
- O1 Replication Journey -- Part 2: Surpassing O1-preview through Simple Distillation, Big Progress or Bitter Lesson? [30.87379989964516]
本稿では,OpenAIのO1モデル機能を複製する現在のアプローチについて,批判的な考察を行う。
O1のAPIからの単純な蒸留と教師付き微調整を組み合わせることで、複雑な数学的推論タスクにおいて優れた性能が得られることを示す。
論文 参考訳（メタデータ） (2024-11-25T15:31:27Z) - KOI: Accelerating Online Imitation Learning via Hybrid Key-state Guidance [51.09834120088799]
キーステートガイド付きオンライン模倣(KOI)学習手法について紹介する。
我々は視覚言語モデルを用いて、専門家の軌跡から意味的キー状態を抽出し、「何をすべきか」の目的を示す。
セマンティックキー状態間の間隔内では、動作キー状態の捕捉に光流が使用され、「どうするか」のメカニズムが理解される。
論文 参考訳（メタデータ） (2024-08-06T02:53:55Z) - Towards Data-Centric Automatic R&D [17.158255487686997]
研究者はしばしば、本を読み、実験を通して検証することで、潜在的研究の方向性を求める。
データ駆動型ブラックボックス深層学習法は、幅広い実世界のシナリオにおいて、その効果を実証している。
本稿では,実世界のデータ中心型自動R&Dベンチマーク,すなわちRD2Benchを提案する。
論文 参考訳（メタデータ） (2024-04-17T11:33:21Z) - A Closer Look at the Limitations of Instruction Tuning [52.587607091917214]
インストラクションチューニング(IT)は,大規模言語モデル(LLM)における知識やスキルの向上に失敗することを示す。
また、一般的なIT改善手法は、シンプルなLoRA微調整モデルよりも性能改善につながるものではないことも示している。
この結果から,事前学習した知識のみから生成した応答は,オープンソースデータセット上でITから新たな知識を学習するモデルによって,一貫した応答性能が向上することが判明した。
論文 参考訳（メタデータ） (2024-02-03T04:45:25Z) - Deep Active Learning for Computer Vision: Past and Future [50.19394935978135]
AIモデルの開発に欠かせない役割にもかかわらず、アクティブラーニングの研究は他の研究の方向性ほど集中的ではない。
データ自動化の課題に対処し、自動化された機械学習システムに対処することによって、アクティブな学習はAI技術の民主化を促進する。
論文 参考訳（メタデータ） (2022-11-27T13:07:14Z) - Unveiling the Tapestry: the Interplay of Generalization and Forgetting in Continual Learning [18.61040106667249]
AIでは、一般化とは、与えられたタスクに関連するアウト・オブ・ディストリビューション・データに対して、トレーニングされたデータ以外にうまく機能するモデルの能力を指す。
継続的な学習方法は、しばしば破滅的な忘れを軽減し、以前のタスクからの知識を確実に保持するメカニズムを含んでいる。
本稿では, 形状テクスチュア整合性規則化(STCR)と呼ばれる, 連続的な学習を支援する簡易かつ効果的な手法を提案する。
論文 参考訳（メタデータ） (2022-11-21T04:36:24Z) - General Intelligence Requires Rethinking Exploration [24.980249597326985]
我々は,教師付き学習を含むすべての学習システムにおいて,探索が不可欠であると主張している。
汎用的な探索は、オープンエンドの学習プロセスを維持するために必要な目的である。
論文 参考訳（メタデータ） (2022-11-15T00:46:15Z) - A curated, ontology-based, large-scale knowledge graph of artificial
intelligence tasks and benchmarks [4.04540578484476]
インテリジェンスタスクオントロジーと知識グラフ(ITO)は、人工知能タスク、ベンチマーク結果、パフォーマンスメトリクスに関する包括的なリソースである。
ITOは、人工知能タスク、ベンチマーク結果、パフォーマンスメトリクスに関する、豊富な構造化と手作業によるリソースである。
ITOの目標は、AIタスクと能力のグローバルな状況に関する、正確でネットワークベースの分析を可能にすることだ。
論文 参考訳（メタデータ） (2021-10-04T13:25:53Z) - Knowledge-Aware Procedural Text Understanding with Multi-Stage Training [110.93934567725826]
本稿では,このような文書の理解とプロセス中のエンティティの状態や場所の追跡を目的とした手続き的テキスト理解の課題に焦点をあてる。
常識的推論の難しさとデータ不足という2つの課題はまだ未解決のままである。
我々は、複数の外部知識を効果的に活用する、KnOwledge-Aware ProceduraL text understAnding (KOALA)モデルを提案する。
論文 参考訳（メタデータ） (2020-09-28T10:28:40Z) - Planning to Explore via Self-Supervised World Models [120.31359262226758]
Plan2Exploreは自己監督型強化学習エージェントである。
我々は、自己監督型探索と、新しいタスクへの迅速な適応に対する新しいアプローチを提案する。
Plan2Exploreは、訓練の監督やタスク固有の相互作用がなければ、自己監督型の探査方法よりも優れている。
論文 参考訳（メタデータ） (2020-05-12T17:59:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。