論文の概要: Large Language Models Can Follow Instructions, But Not Many at Once: Phase Transitions in Compositional Constraint Satisfaction

• arxiv url: http://arxiv.org/abs/2608.12426v1
• Date: Wed, 12 Aug 2026 10:57:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-14 18:29:38.280623
• Title: Large Language Models Can Follow Instructions, But Not Many at Once: Phase Transitions in Compositional Constraint Satisfaction
• Title（参考訳）: 大規模言語モデルは指示に従うことができるが、一度に多くはない:構成制約満足度における相転移
• Abstract要約: 大規模言語モデルは、複数の明示的な制約を同時に遵守する必要のある設定に、ますます多くデプロイされている。 個々の制約は巧妙に扱われるが、構成的構造はいまだに不十分である。 並列制約の数を体系的に変化させるベンチマークであるConstraint Saturation Evaluation (CSE)を導入する。
• 参考スコア（独自算出の注目度）: 2.668746022268522
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models are increasingly deployed in settings that require simultaneous adherence to multiple explicit constraints - reasoning structure, safety boundaries, output schemas. Individual constraints are handled proficiently, but the compositional regime, where many must hold jointly, remains poorly characterized: how rapidly does performance degrade, what governs the degradation, and can the collapse be mitigated? We introduce Constraint Saturation Evaluation (CSE), a procedurally generated benchmark that systematically varies the number of simultaneous constraints (k), with every constraint scored by a deterministic, rule-based verifier and zero LLM-judge involvement: 15 models, 36 constraint types, 369,753 checks at k=1-12. Three findings emerge. First, per-constraint pass rate decays gradually and predictably, while the chance of satisfying all k constraints collapses - a model passing individual constraints at ~41% at k=8 succeeds on all eight just 5.7% of the time. Second, constraints do not degrade equally: structural constraints lose 2x more baseline capability per added constraint than lexical ones, ordered by a comprehension-maintenance gap that separates constraints requiring sustained tracking from binary decisions immune to composition. Third, failures are nearly independent, which is what makes the accumulation multiplicative; the residual coupling that does exist tracks shared output features rather than pairwise interference - a wrong sentence count fails every constraint that reads it. Reliable instruction following breaks down beyond 5-6 simultaneous constraints: probe-level success falls below 50% at 7 constraints for the strongest model, and at 3 or fewer for 12 of 15.
• Abstract（参考訳）: 大規模言語モデルは、推論構造、安全性境界、出力スキーマなど、複数の明示的な制約を同時に遵守する必要のある設定に、ますます多くデプロイされている。 個々の制約は巧妙に扱われるが、多くの者が共同で保持しなければならない構成的体制は、パフォーマンスの劣化の速さ、劣化の制御の仕方、崩壊の軽減など、悪い特徴を残している。 本稿では, 並列制約数 (k) を体系的に変更し, 決定論的, ルールベース検証, LLM-judge の関与をゼロとする, 並列制約数 (k) を体系的に変化させる, 制約飽和評価 (CSE) について紹介する。 3つの発見がある。 まず、制約ごとの通過速度は徐々に減少し、全てのk制約を満たす確率は崩壊する。k=8で個々の制約を41%通過させるモデルは、わずか5.7%の時間で成功する。 第二に、制約は等しく低下しない: 構造的制約は、語彙的制約よりも追加の制約ごとに2倍のベースライン能力を失う。 第3に、障害はほぼ独立しているため、蓄積が乗算的になる; ペアの干渉ではなく共有出力機能をトラックする残余の結合 - 間違った文数で読み取るすべての制約がフェールする。 プローブレベルの成功は、最強モデルの7つの制約で50%以下、そして15の12の制約で3以下になる。

関連論文リスト

• Constraint-Guided Enterprise Data Mapping with Large Language Models [0.25453602861405583]
  i) メタデータmc = tau_c, delta_c>, (ii) カスケード緩和による制約制約付き候補生成により, 雑音下での空でない実現可能な集合を保証し, (iii) 有界な曖昧性を持つニューラルネットワークのランク付けを行う。 方法論的には、制約はポストホックのバリデータではなく仮説空間演算子として機能し、緩和の下で制御された劣化と、監査可能な人間の誘導可能な決定を可能にする。
  論文  参考訳（メタデータ） (2026-08-25T08:23:45Z)
• Bridging Auxiliary Constraints to Resolve Instruction Following in Large Reasoning Models [52.87406450655783]
  大規模推論モデル(LRM)は多くのタスクにおいて印象的な能力を示してきたが、彼らは確実に複数の命令に従うことに苦労している。 我々はこの課題を制約整合問題(CAP)として定式化する。 本稿では,制約の構造化知識グラフとして命令を表現してCAPに対処する新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-02T13:23:28Z)
• Models Recall What They Violate: Constraint Adherence in Multi-Turn LLM Ideation [0.0]
  DriftBenchは、科学的思考における制約の順守を評価するためのベンチマークである。 繰り返し圧力は構造的複雑さを確実に増加させ、しばしば元の制約への固執を減少させる。 オープンベンチマークとして、すべてのブリーフ、プロンプト、ルックス、書き起こし、スコアをリリースします。
  論文  参考訳（メタデータ） (2026-04-30T15:46:33Z)
• Compact Constraint Encoding for LLM Code Generation: An Empirical Study of Token Economics and Constraint Compliance [0.0]
  本研究では,コンパクトで構造化された制約ヘッダーが制約コンプライアンスを低下させることなく,トークンの迅速な消費を低減できるかどうかを検討する。 コンパクトヘッダーは、3ラウンドで複製された制約ポートトークンを約71%減らし、フルプロンプトトークンを25～30%減らした。
  論文  参考訳（メタデータ） (2026-04-08T15:18:33Z)
• The Model Says Walk: How Surface Heuristics Override Implicit Constraints in LLM Reasoning [9.898274894485107]
  大きな言語モデルは、サージェントサーフェスキューが計算不可能な実行可能性制約と競合する場合に、体系的に失敗する。 診断・診断・ブリッジ・トリート・フレームワークを用いてこれを研究する。
  論文  参考訳（メタデータ） (2026-03-30T21:36:09Z)
• CCTU: A Benchmark for Tool Use under Complex Constraints [66.87622847854337]
  複雑な制約下での大規模言語モデル(LLM)を評価するためのベンチマークであるCCTUを紹介する。 ベンチマークは、さまざまなツール使用シナリオに対して、慎重にキュレートされ、挑戦的なテストケースが200から成っている。 ステップレベルの検証を行い、コンプライアンスを強制する実行可能な制約検証モジュールを開発する。
  論文  参考訳（メタデータ） (2026-03-16T14:05:13Z)
• Did You Forget What I Asked? Prospective Memory Failures in Large Language Models [0.0]
  大規模な言語モデルは、必要なタスクを同時に実行する必要があるときに、フォーマット命令を満たさないことが多い。 制御パラダイムを用いて、認知心理学から先進記憶にインスパイアされたレンズを通して、この行動を研究する。 脆弱性は型に依存しやすく、50%まで低下する一方、回避制約は比較的堅牢である。 サリエンス強化フォーマット(明示的な命令フレーミングと後続のリマインダー)は、多くの設定で性能を90-100%に回復する。
  論文  参考訳（メタデータ） (2026-03-07T05:58:19Z)
• Programming over Thinking: Efficient and Robust Multi-Constraint Planning [54.77940831026738]
  SCOPEは、クエリ固有の推論をジェネリックコード実行から切り離すフレームワークである。 SCOPEは、コストとレイテンシを下げながら最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2026-01-14T02:58:07Z)
• Adaptive Neighborhood-Constrained Q Learning for Offline Reinforcement Learning [52.03884701766989]
  オフライン強化学習(RL)アルゴリズムは、通常、アクション選択に制約を課す。 本稿では,Bellmanターゲットにおける行動選択を,データセットアクションの近傍の結合に制限する新しい地区制約を提案する。 我々は,この制約を満たす目標動作を用いてQ学習を行うための,単純で効果的なアルゴリズムであるAdaptive Neighborhood-Constrained Q Learning(ANQ)を開発した。
  論文  参考訳（メタデータ） (2025-11-04T13:42:05Z)
• A Multi-Dimensional Constraint Framework for Evaluating and Improving Instruction Following in Large Language Models [48.361839372110246]
  本研究では,制約拡張,競合検出,命令書き換えを行う自動命令生成パイプラインを開発する。 我々は、19の大規模言語モデルを評価し、制約形式間の性能のかなりの変動を明らかにする。 詳細な分析では、これらの利得は主にモデルのアテンションモジュールパラメータの変更に起因していることを示している。
  論文  参考訳（メタデータ） (2025-05-12T14:16:55Z)
• RAYEN: Imposition of Hard Convex Constraints on Neural Networks [47.494620411594624]
  RAYENは、ニューラルネットワークにハード凸制約を課すフレームワークである。 最先端のアルゴリズムの20倍から7468倍の高速化を実現している。
  論文  参考訳（メタデータ） (2023-07-17T09:12:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。