論文の概要: CIRCE Divines LLM Task Complexity from Constraint Structure
- arxiv url: http://arxiv.org/abs/2610.41089v1
- Date: Fri, 30 Oct 2026 00:08:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.566881
- Title: CIRCE Divines LLM Task Complexity from Constraint Structure
- Title(参考訳): 制約構造からLLMタスクを分割するCIRCE
- Abstract要約: モデルがモデルルーティングを導く前に、大きな言語モデル(LLM)に問題が複雑すぎるかどうかを推定し、テスト時間計算の割り当て方法、エージェントを支援する新しいツールの必要性を提案する。
本稿では,制約グラフに決定的にコンパイルする制約中間表現を構築するために,安価なLCMを用いて問題構造を抽出するCIRCEを紹介する。
- 参考スコア(独自算出の注目度): 5.675007684604366
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Estimating whether a problem is too complex for a large language model (LLM) before the model attempts it can guide model routing, how to allocate test-time compute, and suggest the need for new tools to aid the agent. While existing estimators rely on the problem text, LLM-annotated task difficulty labels, or signals obtained after a model attempts to solve the problem, such as its hidden states, none explicitly leverage the constraint structure inherent in the problem: the variables to assign and how the constraints over them interact. We introduce CIRCE, which extracts a problem's structure by using a cheap LLM to construct a Constraint Intermediate Representation that deterministically compiles into the constraint graph. Across seven reasoning benchmarks (including SAT, logic, and math) and four LLMs, even a randomly initialized GNN encoder improves predictions of LLM response correctness, reducing negative log-likelihood from 0.465 to 0.423 and increasing AUROC from 0.691 to 0.727 relative to the strongest baseline for each metric.
- Abstract(参考訳): モデルを試みる前に、大きな言語モデル(LLM)に問題が複雑すぎるかどうかを見積もると、モデルルーティング、テスト時間計算の割り当て方法、エージェントを支援する新しいツールの必要性が示唆される。
既存の推定器は問題テキスト、LLMに注釈付けされたタスク困難ラベル、あるいはモデルが問題の解決を試みる際に得られた信号、例えば隠れ状態などに依存するが、問題に固有の制約構造(変数の割り当てとそれら上の制約の相互作用)を明示的に利用しない。
本稿では,制約グラフに決定的にコンパイルする制約中間表現を構築するために,安価なLCMを用いて問題構造を抽出するCIRCEを紹介する。
7つの推論ベンチマーク(SAT、論理学、数学を含む)と4つのLSMを含むGNNエンコーダでさえ、ランダムに初期化されたGNNエンコーダは、LSM応答の正しさの予測を改善し、負のログ類似度を0.465から0.423に減少させ、AUROCをそれぞれの測定基準に対して0.691から0.727に増加させる。
関連論文リスト
- MathConstraint: Automated Generation of Verified Combinatorial Reasoning Instances for LLMs [8.776836095441475]
我々はLLMの推論能力を評価するためのハードで適応的なベンチマークであるMathConstraintを紹介する。
MathConstraintはパラメータ化された問題タイプを使用して、任意に困難で自動検証可能なインスタンスをスケーラブルに生成する。
我々は、一般的なSAT/SMTソルバを含むサンドボックスのPython環境にアクセスせずに、12のフロンティアモデルとオープンウェイトモデルを評価する。
論文 参考訳(メタデータ) (2026-05-08T21:28:02Z) - CCTU: A Benchmark for Tool Use under Complex Constraints [66.87622847854337]
複雑な制約下での大規模言語モデル(LLM)を評価するためのベンチマークであるCCTUを紹介する。
ベンチマークは、さまざまなツール使用シナリオに対して、慎重にキュレートされ、挑戦的なテストケースが200から成っている。
ステップレベルの検証を行い、コンプライアンスを強制する実行可能な制約検証モジュールを開発する。
論文 参考訳(メタデータ) (2026-03-16T14:05:13Z) - ReLoop: Structured Modeling and Behavioral Verification for Reliable LLM-Based Optimization [6.572539312871392]
大規模言語モデル(LLM)は、自然言語を最適化コードに変換することができるが、サイレント障害は重大なリスクをもたらす。
2つの相補的な方向からサイレント障害に対処するReLoopを紹介します。
論文 参考訳(メタデータ) (2026-02-17T20:20:33Z) - LM4Opt-RA: A Multi-Candidate LLM Framework with Structured Ranking for Automating Network Resource Allocation [0.7933039558471408]
我々は,複雑な解析的および数学的推論タスクに,文脈的理解が不要であることに対処する。
既存のベンチマークデータセットは、動的な環境、変数、不均一な制約でそのような問題の複雑さに対処できない。
NL4RAは、LP、ILP、MILPとして定式化された50のリソース割り当て最適化問題からなるキュレートデータセットである。
次に,パラメータ数が異なるオープンソースのLLMの性能評価を行った。
論文 参考訳(メタデータ) (2025-11-13T23:19:43Z) - Reasoning with Confidence: Efficient Verification of LLM Reasoning Steps via Uncertainty Heads [104.9566359759396]
データ駆動の不確実性スコアに基づくステップレベルの推論検証の軽量な代替案を提案する。
本研究は, LLMの内部状態が不確実性を符号化し, 信頼性の高い検証信号として機能することが示唆された。
論文 参考訳(メタデータ) (2025-11-09T03:38:29Z) - Synthesis by Design: Controlled Data Generation via Structural Guidance [7.938713951512933]
数学的推論から生成した問題解決コードを用いて構造情報を抽出する。
提案手法は,ラベル付き中間ステップと6.1K-problemベンチマークで39Kの問題を発生させる。
ベンチマークの結果,推論長の増加に伴いモデル性能が低下することが示された。
論文 参考訳(メタデータ) (2025-06-09T11:38:23Z) - Syzygy of Thoughts: Improving LLM CoT with the Minimal Free Resolution [59.39066657300045]
CoT(Chain-of-Thought)は、問題を逐次ステップに分解することで、大きな言語モデル(LLM)の推論を促進する。
思考のシジー(Syzygy of Thoughts, SoT)は,CoTを補助的,相互関連的な推論経路を導入して拡張する新しいフレームワークである。
SoTはより深い論理的依存関係をキャプチャし、より堅牢で構造化された問題解決を可能にする。
論文 参考訳(メタデータ) (2025-04-13T13:35:41Z) - Reliable Reasoning Beyond Natural Language [0.047888359248129786]
大きな言語モデル(LLM)は、しばしば、確実に柔軟に推論する能力の限界を示す。
本稿では,問題文から全ての関連情報を論理コード文として抽出し,エンコードする手法を提案する。
次に、論理型プログラミング言語(Prolog)を用いて、明示的な推論の反復的な計算を行う。
論文 参考訳(メタデータ) (2024-07-16T04:34:18Z) - RCOT: Detecting and Rectifying Factual Inconsistency in Reasoning by
Reversing Chain-of-Thought [56.558892336235914]
Reversing Chain-of-Thought (RCoT) は、大規模言語モデルの推論能力を改善する新しい手法である。
RCoTは生成したソリューションにおける事実の不整合を自動的に検出し、修正する。
手書きのきめ細かいフィードバックがLLMの推論能力を大幅に向上させることを示す。
論文 参考訳(メタデータ) (2023-05-19T08:02:52Z) - SatLM: Satisfiability-Aided Language Models Using Declarative Prompting [68.40726892904286]
本研究では,大規模言語モデル (LLM) の推論能力を向上させるために,新しい満足度支援言語モデリング (SatLM) 手法を提案する。
我々はLLMを用いて命令型プログラムではなく宣言型タスク仕様を生成し、既製の自動定理証明器を利用して最終解を導出する。
我々はSATLMを8つの異なるデータセット上で評価し、命令パラダイムにおいてプログラム支援されたLMよりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2023-05-16T17:55:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。