論文の概要: MAMUT: A Novel Framework for Modifying Mathematical Formulas for the Generation of Specialized Datasets for Language Model Training

• arxiv url: http://arxiv.org/abs/2502.20855v1
• Date: Fri, 28 Feb 2025 08:53:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-03 13:43:42.430248
• Title: MAMUT: A Novel Framework for Modifying Mathematical Formulas for the Generation of Specialized Datasets for Language Model Training
• Title（参考訳）: MAMUT: 言語モデル学習のための特殊データセット生成のための数学的公式の修正のための新しいフレームワーク
• Authors: Jonathan Drechsel, Anja Reusch, Steffen Herbold,
• Abstract要約: 本研究は,数学的内容のエンコーディングを強化するための専門訓練データセットの開発に焦点をあてる。 そこで我々は,与えられた数学的公式の等価かつファルシフィケートなバージョンを生成可能なフレームワークであるMath Mutator (MAMUT)を紹介した。 MAMUTに基づいて、多種多様な表記を含む4つの大きな数学的データセットを生成し、拡張された数学的埋め込みを持つ言語モデルの訓練に使用することができる。
• 参考スコア（独自算出の注目度）: 7.164697875838552
• License:
• Abstract: Mathematical formulas are a fundamental and widely used component in various scientific fields, serving as a universal language for expressing complex concepts and relationships. While state-of-the-art transformer models excel in processing and understanding natural language, they encounter challenges with mathematical notation, which involves a complex structure and diverse representations. This study focuses on the development of specialized training datasets to enhance the encoding of mathematical content. We introduce Math Mutator (MAMUT), a framework capable of generating equivalent and falsified versions of a given mathematical formula in LaTeX notation, effectively capturing the mathematical variety in notation of the same concept. Based on MAMUT, we have generated four large mathematical datasets containing diverse notation, which can be used to train language models with enhanced mathematical embeddings.
• Abstract（参考訳）: 数学的公式は、様々な科学分野において基本的で広く使われている要素であり、複雑な概念や関係を表現する普遍言語として機能する。 最先端のトランスフォーマーモデルは自然言語の処理と理解に優れているが、複雑な構造と多様な表現を含む数学的表記の課題に直面している。 本研究は,数学的内容のエンコーディングを強化するための専門訓練データセットの開発に焦点をあてる。 我々は、LaTeX表記法において、与えられた数学的公式の等価かつファルシフィケートなバージョンを生成できるフレームワークであるMath Mutator (MAMUT)を導入し、同じ概念の表記法において、数学的多様性を効果的に捉えた。 MAMUTに基づいて、多種多様な表記を含む4つの大きな数学的データセットを生成し、拡張された数学的埋め込みを持つ言語モデルの訓練に使用することができる。

関連論文リスト

• MathFimer: Enhancing Mathematical Reasoning by Expanding Reasoning Steps through Fill-in-the-Middle Task [49.355810887265925]
  数学的推論ステップ拡張のための新しいフレームワークであるMathFimerを紹介する。 我々は、慎重にキュレートしたNuminaMath-FIMデータセットに基づいて、特殊モデルMathFimer-7Bを開発した。 次に、これらのモデルを適用して、解鎖に詳細な中間ステップを挿入することで、既存の数学的推論データセットを強化する。
  論文  参考訳（メタデータ） (2025-02-17T11:22:24Z)
• LemmaHead: RAG Assisted Proof Generation Using Large Language Models [0.0]
  我々は、関連する数学的文脈でモデルにクエリを補足する知識ベースであるLemmaHeadを開発した。 数学的推論におけるモデルの性能を測定するため、我々のテストパラダイムは自動定理証明の課題に焦点を当てている。
  論文  参考訳（メタデータ） (2025-01-27T05:46:06Z)
• Data for Mathematical Copilots: Better Ways of Presenting Proofs for Machine Learning [85.635988711588]
  我々は,大規模言語モデルの能力向上には,数学的データセットの設計におけるパラダイムシフトが必要であると論じる。 1949年にG. P'olyaが導入した「動機付き証明」の概念は、より良い証明学習信号を提供するデータセットの青写真として機能する。 数学データセットに特化して設計されたアンケートでは、クリエーターにデータセットを含めるよう促します。
  論文  参考訳（メタデータ） (2024-12-19T18:55:17Z)
• STEM-POM: Evaluating Language Models Math-Symbol Reasoning in Document Parsing [2.2315518704035595]
  STEM-PoM(STEM-PoM)は,大規模言語モデルの数学記号に対する推論能力を評価するためのベンチマークデータセットである。 データセットには変数、定数、演算子、および単位記述子の主属性に分類される2K以上の数学記号が含まれている。 実験により,現状のLLMはテキスト内学習では平均20-60%,微調整では50-60%の精度が得られることがわかった。
  論文  参考訳（メタデータ） (2024-11-01T06:25:06Z)
• MultiMath: Bridging Visual and Mathematical Reasoning for Large Language Models [14.274813480249161]
  数学と視覚のギャップを埋める大きな言語モデルである textbfMultiMath-7B を導入する。 textbfMultiMath-7Bは4段階のプロセスで訓練され、視覚言語アライメント、視覚と数学の指導チューニング、プロセス教師付き強化学習に重点を置いている。 また,画像キャプションとステップワイズによるK-12レベルにまたがる新しい多モード数学的データセット,textbfMultiMath-300Kを構築した。
  論文  参考訳（メタデータ） (2024-08-30T07:37:38Z)
• Evaluating LLMs' Mathematical Reasoning in Financial Document Question Answering [53.56653281752486]
  本研究では,大言語モデルによる4つの財務質問応答データセットの数学的推論について検討する。 数理推論のステップの数が増えるにつれて、テーブルの複雑さや性能の変化に対する感度に焦点をあてる。 半構造化文書に適した新しいプロンプト技術を導入する。
  論文  参考訳（メタデータ） (2024-02-17T05:10:18Z)
• Large Language Models for Mathematicians [53.27302720305432]
  大規模言語モデル(LLM)は、汎用言語理解、特に高品質なテキストやコンピュータコードを生成する能力に多大な関心を集めている。 本稿では,プロの数学者をどの程度支援できるかについて論じる。
  論文  参考訳（メタデータ） (2023-12-07T18:59:29Z)
• Tree-Based Representation and Generation of Natural and Mathematical Language [77.34726150561087]
  科学コミュニケーションと教育シナリオにおける数学的言語は重要であるが、比較的研究されている。 数学言語に関する最近の研究は、スタンドアローンな数学的表現や、事前訓練された自然言語モデルにおける数学的推論に焦点をあてている。 テキストと数学を共同で表現・生成するために,既存の言語モデルに対する一連の修正を提案する。
  論文  参考訳（メタデータ） (2023-02-15T22:38:34Z)
• Semantic Representations of Mathematical Expressions in a Continuous Vector Space [0.0]
  この研究は連続ベクトル空間における数学的表現を表現するためのアプローチを記述する。 我々は、視覚的に異なるが数学的に等価な表現に基づいて訓練されたシーケンス・ツー・シーケンス・アーキテクチャのエンコーダを用いて、ベクトル表現を生成する。
  論文  参考訳（メタデータ） (2022-10-08T22:33:39Z)
• JiuZhang: A Chinese Pre-trained Language Model for Mathematical Problem Understanding [74.12405417718054]
  本稿では,中国初の数学的事前学習言語モデル(PLM)を提示することにより,機械の数学的知性向上を目指す。 他の標準のNLPタスクとは異なり、数学的テキストは問題文に数学的用語、記号、公式を含むため理解が難しい。 基礎課程と上級課程の両方からなる数学PLMの学習を改善するための新しいカリキュラム事前学習手法を設計する。
  論文  参考訳（メタデータ） (2022-06-13T17:03:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。