論文の概要: Operads for compositional reasoning in LLMs

• arxiv url: http://arxiv.org/abs/2606.13634v1
• Date: Thu, 11 Jun 2026 17:44:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-12 15:55:27.96178
• Title: Operads for compositional reasoning in LLMs
• Title（参考訳）: LLMにおける合成推論のための演算子
• Authors: Nathaniel Bottman, Kyle Richardson,
• Abstract要約: オペランド(Operad)は、多点演算とその構成をモデル化した数学的構造である。 オペラディック整合性はQAモデルの答えが質問分解木の部分的崩壊に一致するかどうかを測定する。
• 参考スコア（独自算出の注目度）: 4.91275367005715
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Question decomposition, i.e. breaking a complex query into simpler sub-queries whose answers are composed to produce a final answer, is a widely used strategy for improving LLM reasoning, yet it currently lacks a rigorous mathematical foundation. In this paper, we propose operads, mathematical structures that model many-in, one-out operations and compositions thereof, as a natural framework for describing question decomposition. We define the questions operad $Q$, in which operations correspond to question templates and composition corresponds to substitution of sub-answers, and show how QA models can be interpreted as algebras over $Q$. Beyond reframing existing practice, this operadic perspective points toward new methods, in particular a notion of operadic consistency, which measures whether a QA model's answers agree across the partial collapses of a question decomposition tree. Empirical evaluation of operadic consistency is reported in our companion paper (Bottman, Liu, and Richardson, 2026), which finds it strongly correlated with accuracy across twelve LLMs and four multi-hop QA datasets and outperforming standard temperature-based self-consistency baselines. We argue that operads are the natural mathematical home for question decomposition, and that invariants such as operadic consistency open new directions for analyzing and improving the reliability of multi-step reasoning.
• Abstract（参考訳）: 質問分解、すなわち、答えが最終回答を生成する単純なサブクエリに複雑なクエリを分割することは、LLM推論を改善するために広く使われている戦略であるが、現在では厳密な数学的基礎が欠落している。 本稿では,問題分解を記述するための自然な枠組みとして,オペランド,マンイン,ワンアウト操作,構成をモデル化した数学的構造を提案する。 ここでは、QAモデルを$Q$上の代数として解釈する方法を示す。 このオペラティックな視点は新しい手法、特にオペラティックな一貫性の概念に向けられ、QAモデルの解答が質問分解木の部分的な崩壊に一致するかどうかを測定する。 2026年の論文(Bottman, Liu, Richardson, 2026)では,12個のLDMと4つのマルチホップQAデータセットの精度に強く相関し, 標準温度に基づく自己整合性ベースラインよりも優れていた。 オペランドは問題分解の自然な数学的拠点であり,オペランドの整合性などの不変性は,多段階推論の信頼性を解析・改善するための新たな方向を開くことを論じる。

関連論文リスト

• Deep Reasoning in General Purpose Agents via Structured Meta-Cognition [58.185853639335896]
  構造化メタ推論を用いてタスク固有の足場を構築するための推論時アプローチを提案する。 我々は、より制御された推論スレッドに複雑なタスクを分散する汎用エージェントでこのアプローチをインスタンス化する。
  論文  参考訳（メタデータ） (2026-05-12T01:21:37Z)
• Decomposition-Enhanced Training for Post-Hoc Attributions In Language Models [64.49342399229529]
  我々は、ポストホック帰属を推論問題として再編成し、回答を構成単位に分解し、それぞれ特定の文脈に結び付けることができると論じる。 DecompTuneは、モデルに中間的推論ステップとして解解分解を生成することを教えるポストトレーニング手法である。 DecompTuneは、広範な実験と改善を通じて、属性の品質を大幅に改善し、先行手法より優れ、最先端のフロンティアモデルに適合または超えている。
  論文  参考訳（メタデータ） (2025-10-29T17:58:59Z)
• An approach for systematic decomposition of complex llm tasks [23.781993440791926]
  大きな言語モデル(LLM)は、既存の分解手法がエージェントや手動分解に依存しているため、複雑なタスクに対する信頼性の問題に悩まされる。 この研究は、制約問題としてタスクをモデル化し、分解を導くための形式的な複雑さ対策を活用する、新しい体系的な分解フレームワークを導入している。
  論文  参考訳（メタデータ） (2025-10-09T04:24:47Z)
• Successive Prompting for Decomposing Complex Questions [50.00659445976735]
  最近の研究は、大規模言語モデル(LM)の機能を活用して、数ショットで複雑な質問応答を行う。 そこでは、複雑なタスクを単純なタスクに繰り返し分解し、それを解決し、最終解を得るまでプロセスを繰り返します。 我々の最良のモデル(逐次プロンプト付き)は、DROPデータセットの数ショットバージョンにおいて、5%の絶対F1の改善を実現します。
  論文  参考訳（メタデータ） (2022-12-08T06:03:38Z)
• Text Modular Networks: Learning to Decompose Tasks in the Language of Existing Models [61.480085460269514]
  本稿では,既存のモデルで解けるより単純なモデルに分解することで,複雑なタスクを解くための解釈可能なシステムを構築するためのフレームワークを提案する。 我々はこのフレームワークを用いて、ニューラルネットワークのファクトイド単一スパンQAモデルとシンボリック電卓で答えられるサブクエストに分解することで、マルチホップ推論問題に答えられるシステムであるModularQAを構築する。
  論文  参考訳（メタデータ） (2020-09-01T23:45:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。