論文の概要: Library Learning Doesn't: The Curious Case of the Single-Use "Library"

• arxiv url: http://arxiv.org/abs/2410.20274v1
• Date: Sat, 26 Oct 2024 21:05:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-29 12:15:55.154442
• Title: Library Learning Doesn't: The Curious Case of the Single-Use "Library"
• Title（参考訳）: 図書館学習はそうではない: 単用「図書館」の奇抜な事例
• Authors: Ian Berlot-Attwell, Frank Rudzicz, Xujie Si,
• Abstract要約: LEGO-ProverとTroVEの2つのライブラリ学習システムについて検討した。 機能再利用は miniF2F と MATH では極めて稀である。 我々の追跡実験は、再利用よりも自己補正と自己整合が、観察されたパフォーマンス向上の主要な要因であることを示唆している。
• 参考スコア（独自算出の注目度）: 20.25809428140996
• License:
• Abstract: Advances in Large Language Models (LLMs) have spurred a wave of LLM library learning systems for mathematical reasoning. These systems aim to learn a reusable library of tools, such as formal Isabelle lemmas or Python programs that are tailored to a family of tasks. Many of these systems are inspired by the human structuring of knowledge into reusable and extendable concepts, but do current methods actually learn reusable libraries of tools? We study two library learning systems for mathematics which both reported increased accuracy: LEGO-Prover and TroVE. We find that function reuse is extremely infrequent on miniF2F and MATH. Our followup ablation experiments suggest that, rather than reuse, self-correction and self-consistency are the primary drivers of the observed performance gains. Our code and data are available at https://github.com/ikb-a/curious-case
• Abstract（参考訳）: LLM(Large Language Models)の進歩は、数学的推論のためのLLMライブラリ学習システムに拍車をかけた。 これらのシステムは、Isabelle lemmasやPythonプログラムのような、タスクのファミリーに合わせた再利用可能なツールライブラリを学習することを目的としている。 これらのシステムの多くは、再利用可能で拡張可能な概念への人間の知識構造化にインスピレーションを受けていますが、現在の手法はツールの再利用ライブラリを実際に学習していますか? LEGO-ProverとTroVEの2つのライブラリ学習システムについて検討した。 機能再利用は miniF2F と MATH では極めて稀である。 フォローアップアブレーション実験は、再利用よりも自己補正と自己整合が、観察されたパフォーマンス向上の主要な要因であることを示唆している。 私たちのコードとデータはhttps://github.com/ikb-a/curious-caseで利用可能です。

関連論文リスト

• LLMBox: A Comprehensive Library for Large Language Models [109.15654830320553]
  本稿では,大規模言語モデル (LLM) の開発, 使用, 評価を容易にするために, 包括的で統一されたライブラリ LLMBox を提案する。 このライブラリには,(1)多様なトレーニング戦略の柔軟な実装を支援する統一データインターフェース,(2)広範囲なタスクやデータセット,モデルをカバーする包括的な評価,(3)ユーザフレンドリさや効率性など,より実践的な考慮,という3つのメリットがある。
  論文  参考訳（メタデータ） (2024-07-08T02:39:33Z)
• InternLM-Math: Open Math Large Language Models Toward Verifiable Reasoning [98.53491178426492]
  InternLM2から事前学習を継続するILMs InternLM-Mathをオープンソースとして公開する。 我々は、連鎖推論、報酬モデリング、形式推論、データ拡張、コードインタプリタを、統一されたSeq2seqフォーマットで統一する。 我々の事前学習モデルは、微調整なしでMiniF2Fテストセットで30.3を達成する。
  論文  参考訳（メタデータ） (2024-02-09T11:22:08Z)
• LILO: Learning Interpretable Libraries by Compressing and Documenting Code [71.55208585024198]
  LILOは、反復的に合成、圧縮、文書化を行う、ニューロシンボリックなフレームワークである。 LILOは、LLM誘導プログラム合成と、Stitchから自動化された最近のアルゴリズムの進歩を組み合わせたものである。 LILOのシンセサイザーが学習した抽象化を解釈し、デプロイするのを手助けすることで、AutoDocがパフォーマンスを向上させることが分かりました。
  論文  参考訳（メタデータ） (2023-10-30T17:55:02Z)
• Julearn: an easy-to-use library for leakage-free evaluation and inspection of ML models [0.23301643766310373]
  我々は、Julearnの設計の背景にある理論的根拠と、その中核となる特徴を提示し、以前に公表された研究プロジェクトの3つの例を示す。 Julearnは、最も一般的なMLの落とし穴に対して、ガードを組み込んだ使いやすい環境を提供することで、機械学習の世界への参入を単純化することを目指している。
  論文  参考訳（メタデータ） (2023-10-19T08:21:12Z)
• SequeL: A Continual Learning Library in PyTorch and JAX [50.33956216274694]
  SequeLは継続学習のためのライブラリで、PyTorchとJAXフレームワークの両方をサポートする。 それは、正規化ベースのアプローチ、リプレイベースのアプローチ、ハイブリッドアプローチを含む、幅広い連続学習アルゴリズムのための統一インターフェースを提供する。 私たちはSequeLをオープンソースライブラリとしてリリースし、研究者や開発者が自身の目的で簡単にライブラリを実験し拡張することができます。
  論文  参考訳（メタデータ） (2023-04-21T10:00:22Z)
• Yggdrasil Decision Forests: A Fast and Extensible Decision Forests Library [2.45129318838789]
  イグドラジル森林(Yggdrasil Decision Forests)は、決定的森林モデルの訓練、提供、解釈のための図書館である。 C++、Python、JavaScript、Go、Google Sheetsで実装されている。
  論文  参考訳（メタデータ） (2022-12-06T12:44:27Z)
• An Empirical Study of Library Usage and Dependency in Deep Learning Frameworks [12.624032509149869]
  ピトルチ、カフェ、シキットルンはプロジェクトの18%と14%で最も頻度の高い組み合わせである。 開発者は同じプロジェクトで2つか3つのdlライブラリを使用し、同じ関数と同じファイルの両方で異なる複数のdlライブラリを使用する傾向がある。
  論文  参考訳（メタデータ） (2022-11-28T19:31:56Z)
• Do Not Take It for Granted: Comparing Open-Source Libraries for Software Development Effort Estimation [9.224578642189023]
  本稿では、ソフトウェア開発努力推定(SEE)に異なる機械学習(ML)ライブラリを使用する場合の差異に対する意識を高めることを目的とする。 各種言語(Scikit-Learn, Caret, Weka)で書かれた最も人気のあるMLオープンソースライブラリの3つで提供される決定論的機械学習について検討する。 本研究の結果,3つの図書館で提供される予測は,平均95%のケースで,合計105ケースで異なることがわかった。
  論文  参考訳（メタデータ） (2022-07-04T20:06:40Z)
• PyRelationAL: A Library for Active Learning Research and Development [0.11545092788508224]
  PyRelationALは、アクティブラーニング(AL)研究のためのオープンソースライブラリである。 既存の文献に基づいたベンチマークデータセットとALタスク設定へのアクセスを提供する。 我々は、ベンチマークデータセットのPyRelationALコレクションの実験を行い、ALが提供できる相当な経済状況を示す。
  論文  参考訳（メタデータ） (2022-05-23T08:21:21Z)
• Solo-learn: A Library of Self-supervised Methods for Visual Representation Learning [83.02597612195966]
  solo-learnは視覚表現学習のための自己指導型のメソッドのライブラリである。 Pythonで実装され、PytorchとPytorch Lightningを使用して、このライブラリは研究と業界のニーズの両方に適合する。
  論文  参考訳（メタデータ） (2021-08-03T22:19:55Z)
• Bayesian active learning for production, a systematic study and a reusable library [85.32971950095742]
  本稿では,現在のアクティブラーニング技術の主な欠点について分析する。 実世界のデータセットの最も一般的な課題が深層能動学習プロセスに与える影響について,系統的研究を行った。 部分的不確実性サンプリングやより大きいクエリサイズといった,アクティブな学習ループを高速化する2つの手法を導出する。
  論文  参考訳（メタデータ） (2020-06-17T14:51:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。