論文の概要: Enhanced and Efficient Reasoning in Large Learning Models

• arxiv url: http://arxiv.org/abs/2605.14036v1
• Date: Wed, 13 May 2026 18:56:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-15 21:45:34.466045
• Title: Enhanced and Efficient Reasoning in Large Learning Models
• Title（参考訳）: 大規模学習モデルにおける強化と効率的な推論
• Authors: Leslie G. Valiant,
• Abstract要約: そこで本研究では,大規模言語モデルに適用できるほど効率的な推論法を提案する。 リコーディングには、簡潔ながら、学習可能な時間に保持されるリレーショナルルールの中核的なサブセットを学習するタスクが、驚くべき性質を持っていることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In current Large Language Models we can trust the production of smoothly flowing prose on the basis of the principles of machine learning. However, there is no comparably principled basis to justify trust in the content of the text produced. It appears to be conventional wisdom that addressing this issue by adding more principled reasoning is not computationally affordable. Here we propose a principled method of reasoning that is efficient enough to be practical for large language models. Further, the method allows the retention of much of the currently used software and hardware base. Our method for improving the functioning of large language models consists of a first stage of preprocessing that recodes the data to a Unary Relational Integracode that is more explicit about the relationships among the objects described in the text, followed as a second stage by a standard but possibly streamlined machine learning process that then also learns to predict these relationships. The method may be viewed as realizing a world model and applying beyond natural language, to vision and actions, for example, where the multiple properties of an object referred to in an input are brought together explicitly, rather than remaining distributed in the various references to it in the input. We articulate its advantages in terms of Robust Logic, a system for performing principled chaining on learned, and hence uncertain, information. We show that this recoding has the surprising and fortuitous property that, while succinct, it makes the task of learning a core subset of relational rules that hold in the world described in the training data polynomial time learnable in a defined sense, the polynomial depending on the complexity of the rule. This gives support for sound reasoning within each single call of the learned classifier as well as between multiple calls.
• Abstract（参考訳）: 現在の大規模言語モデルでは、機械学習の原則に基づいて、滑らかに流れる散文の生成を信頼できます。 しかし、生成したテキストの内容に対する信頼を正当化する比較可能な原則的根拠は存在しない。 より原理化された推論を追加することでこの問題に対処する従来の知恵は、計算に手頃な価格ではないようだ。 そこで本研究では,大規模言語モデルに適用できるほど効率的に推論を行うための原理的手法を提案する。 さらに、この方法は、現在使われているソフトウェアやハードウェアの基盤の多くを維持できる。 大規模言語モデルの機能向上のための手法は,テキストに記述されたオブジェクト間の関係についてより明示的なUnary Relational Integracodeにデータを復号する前処理の第1段階から構成される。 この方法は、例えば、入力に参照されたオブジェクトの複数の特性が、入力に様々な参照に分散されるのではなく、明示的にまとめられるようなビジョンやアクションに対して、世界モデルを実現し、自然言語を超えて適用できると見なすことができる。 ロバスト論理(Robust Logic)は、学習した情報に基づいて原則的連鎖を行うシステムであり、したがって不確実な情報である。 この復号化は、簡潔ながら、トレーニングデータ多項式時間で記述された世界における関係ルールの中核部分集合を学習するタスクを、その規則の複雑さに応じて、定義された意味で学習可能であることを示す。 これにより、学習した分類器の各呼び出しと複数の呼び出し間のサウンド推論がサポートされる。

関連論文リスト

• Method-Based Reasoning for Large Language Models: Extraction, Reuse, and Continuous Improvement [0.3807314298073301]
  本稿では,学習内容,生成応答,ユーザインタラクションから抽出した,大規模言語モデル(LLM)を明示的かつ再利用可能な手順で拡張する手法に基づくモデルを提案する。 我々のモデルは,次の予測を超える連続的な学習,手法の再利用,論理的一貫性を実現する。
  論文  参考訳（メタデータ） (2025-08-06T10:26:52Z)
• Verified Language Processing with Hybrid Explainability: A Technical Report [0.7066382982173529]
  この問題に対処するために,ハイブリッドな説明責任を設計した新しいパイプラインを提案する。 我々の手法はグラフと論理を組み合わせて一階述語論理表現を生成し、モンタギュー文法を通して機械的・人間的可読表現を生成する。 予備的な結果は,本手法が全文類似性を捉える上での有効性を示している。
  論文  参考訳（メタデータ） (2025-07-07T14:00:05Z)
• Learning to Disentangle Latent Reasoning Rules with Language VAEs: A Systematic Study [37.52166353495979]
  本研究は,推論規則を言語モデル内に明示的に組み込んで記憶する方法について検討する。 本稿では,Transformer ベースの言語 VAE における推論規則を学習するための完全なパイプラインを提案する。
  論文  参考訳（メタデータ） (2025-06-24T08:38:03Z)
• Improving Arithmetic Reasoning Ability of Large Language Models through Relation Tuples, Verification and Dynamic Feedback [14.938401898546553]
  本稿では,大規模言語モデルの推論ステップを表現するために,半構造化形式を提案する。 具体的には、人間だけでなく、マシンフレンドリで、自然言語よりも容易に検証できる関係を使います。
  論文  参考訳（メタデータ） (2024-06-25T18:21:00Z)
• Offline RL for Natural Language Generation with Implicit Language Q Learning [87.76695816348027]
  ユーザ指定タスクの完了に関して、大きな言語モデルは矛盾する可能性がある。 本稿では,RLのフレキシブル・ユーティリティ・フレームワークと教師あり学習能力を組み合わせた新しいRL手法を提案する。 ILQLの実証的な検証に加えて、オフラインRLが自然言語生成設定で有用となるような、詳細な経験的分析状況も提示する。
  論文  参考訳（メタデータ） (2022-06-05T18:38:42Z)
• TAGPRIME: A Unified Framework for Relational Structure Extraction [71.88926365652034]
  TAGPRIMEは、与えられた条件に関する情報を入力テキストに追加するシーケンスタグ付けモデルである。 事前学習された言語モデルにおける自己認識機構により、プライミングワードは、出力された文脈化された表現に、与えられた条件に関するより多くの情報を含む。 5つの異なる言語にまたがる10のデータセットをカバーする3つのタスクに関する大規模な実験と分析は、TAGPRIMEの汎用性と有効性を示している。
  論文  参考訳（メタデータ） (2022-05-25T08:57:46Z)
• Learning Implicitly with Noisy Data in Linear Arithmetic [94.66549436482306]
  PAC-セマンティックスにおける暗黙学習を拡張し、線形算術の言語における間隔としきい値の不確実性を扱う。 最適線形プログラミング対象制約の学習に対する我々の暗黙的アプローチは、実際的な明示的アプローチよりも著しく優れていることを示す。
  論文  参考訳（メタデータ） (2020-10-23T19:08:46Z)
• Leap-Of-Thought: Teaching Pre-Trained Models to Systematically Reason Over Implicit Knowledge [96.92252296244233]
  大規模な事前学習言語モデル(LM)は推論能力を得るが、制御は困難である。 本研究では,暗黙的,事前学習された知識と明示的な自然言語文を併用して,体系的推論を確実に行うことができることを示す。 我々の研究は、シンプルな自然言語文を追加することで、モデルを簡単に修正できるユーザと対話することで、常に改善されるオープンドメインシステムへの道を開く。
  論文  参考訳（メタデータ） (2020-06-11T17:02:20Z)
• How Context Affects Language Models' Factual Predictions [134.29166998377187]
  検索システムからの情報を学習済みの言語モデルと純粋に教師なしの方法で統合する。 この方法で事前学習された言語モデルを拡張することで、性能が劇的に向上し、教師なしにもかかわらず、結果として得られるシステムは、教師なしの機械読解ベースラインと競合する、と報告する。
  論文  参考訳（メタデータ） (2020-05-10T09:28:12Z)
• A Transformer-based Approach for Source Code Summarization [86.08359401867577]
  コードトークン間のペア関係をモデル化することにより,要約のためのコード表現を学習する。 アプローチは単純であるにもかかわらず、最先端技術よりもかなりの差があることが示される。
  論文  参考訳（メタデータ） (2020-05-01T23:29:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。