論文の概要: Numbers Already Carry Their Own Embeddings

• arxiv url: http://arxiv.org/abs/2606.14108v1
• Date: Fri, 12 Jun 2026 04:41:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-15 16:00:42.748199
• Title: Numbers Already Carry Their Own Embeddings
• Title（参考訳）: すでに自分の埋め込みを運べる数字
• Authors: Suhyun Bae, Donghun Lee,
• Abstract要約: Adelic Operation-Preserved Embeddings (AOE)を紹介する。 AOEは数値の実値とモジュラー(p進)シグネチャの両方をキャプチャする。 Weaving Patternタスクにおける最初の完全な正確性を含む、一貫性のあるゲインを提供する。
• 参考スコア（独自算出の注目度）: 6.003090616009607
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce Adelic operation-preserved embeddings (AOE), a training-free representation that captures both a number's real value and its modular (p-adic) signatures. This construction preserves additive and multiplicative structure by design, turning numerical input into embeddings that "speak in the language of mathematics." Unlike prior approaches that rely on task-specific retraining, AOE is plug-and-play and drops seamlessly into existing architectures. On algebraic combinatorics benchmarks, it delivers consistent gains including the first-ever perfect accuracy on the Weaving Pattern task-while suggesting a principled path forward for overcoming the long-standing "number problem" in AI.
• Abstract（参考訳）: 本稿では,Adelic演算保存埋め込み(AOE)について紹介する。これは実値とモジュラ(p-進)シグネチャの両方をキャプチャする学習自由表現である。 この構造は加法的および乗法的構造を設計によって保存し、数値入力を「数学の言語で話す」埋め込みに変換する。 タスク固有の再トレーニングに依存する従来のアプローチとは異なり、AOEはプラグイン・アンド・プレイであり、既存のアーキテクチャにシームレスにドロップする。 代数的コンビネータクスベンチマークでは、Weaving Patternタスクにおける最初の完全な正確性を含む一貫したゲインを提供し、AIの長年の"数値問題"を克服するための原則的なパスを示唆している。

関連論文リスト

• Value-Aware Numerical Representations for Transformer Language Models [1.2680800636608986]
  トランスフォーマーベースの言語モデルは、しばしば数学的推論ベンチマークにおいて強力な結果を得る。 中心的な制限は、数値が数値を明示的にエンコードしないシンボルトークンとして処理されることである。 本稿では,標準的なトークン化入力を専用のプレフィックストークンで拡張する値認識数値表現を提案する。
  論文  参考訳（メタデータ） (2026-01-14T18:59:14Z)
• Laying Anchors: Semantically Priming Numerals in Language Modeling [11.831883526217942]
  我々は,任意のコーパスにおいて,そのコーパス内の数値の分布に支配されるアンカーを生成することによって,意味的に素数に戦略を導入する。 学習した埋め込みの数学的基礎の大幅な改善を示す。
  論文  参考訳（メタデータ） (2024-04-02T00:02:00Z)
• Reverse That Number! Decoding Order Matters in Arithmetic Learning [49.5504492920404]
  本研究は,最少の桁から出力を優先順位付けすることで,桁順を再評価する新たな戦略を導入する。 従来のSOTA法と比較すると,通常のトレーニングで使用するトークンの3分の1しか必要とせず,精度の全体的な改善が見られた。
  論文  参考訳（メタデータ） (2024-03-09T09:04:53Z)
• A Hybrid System for Systematic Generalization in Simple Arithmetic Problems [70.91780996370326]
  本稿では,記号列に対する合成的および体系的推論を必要とする算術的問題を解くことができるハイブリッドシステムを提案する。 提案システムは,最も単純なケースを含むサブセットでのみ訓練された場合においても,ネストした数式を正確に解くことができることを示す。
  論文  参考訳（メタデータ） (2023-06-29T18:35:41Z)
• Tokenization Consistency Matters for Generative Models on Extractive NLP Tasks [54.306234256074255]
  生成モデルの訓練において一般的に無視されるトークン化の不整合の問題を特定する。 この問題は、入力と出力が無矛盾にトークン化されると、これらのタスクの抽出特性を損なう。 一貫性のあるトークン化では、ドメイン内のデータセットとドメイン外のデータセットの両方で、モデルのパフォーマンスが向上することを示す。
  論文  参考訳（メタデータ） (2022-12-19T23:33:21Z)
• ELASTIC: Numerical Reasoning with Adaptive Symbolic Compiler [5.753951795185978]
  本稿では,adapTive symbolIc Compiler (ELASTIC) モデルを用いたnumEricaL reASoningを提案する。 複雑な推論を行う場合、エラスティックは堅牢である。 実験の結果、ELASTICは68.96と65.21の精度とプログラムの精度を達成した。
  論文  参考訳（メタデータ） (2022-10-18T19:04:19Z)
• Arithmetic-Based Pretraining -- Improving Numeracy of Pretrained Language Models [67.48894919842576]
  最先端の事前訓練された言語モデルは、数式を必要とするタスクにアウト・オブ・ボックスを適用すると、その能力より劣る傾向にある。 本稿では,Arithmetic-Based Pretrainingと呼ばれる拡張事前学習手法を提案する。 本実験は,算数性の向上を必要とする3つのタスクにおいて,算術的事前学習の有効性を示す。
  論文  参考訳（メタデータ） (2022-05-13T16:10:13Z)
• Non-determinsitic algebraic rewriting as adjunction [0.0]
  我々は、通常の収束と終了の仮定を超越した書き直しのための一般的なモデル理論的意味論を開発する。 これは、多くのソート代数を拡張するモデル理論である事前順序代数に基づいている。
  論文  参考訳（メタデータ） (2022-04-26T07:55:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。