論文の概要: Constraint-Aware Training

• arxiv url: http://arxiv.org/abs/2610.02909v1
• Date: Fri, 02 Oct 2026 06:59:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.248591
• Title: Constraint-Aware Training
• Title（参考訳）: 制約意識訓練
• Abstract要約: 本稿では、この外部化デシプラタムを満たす汎用的な制約認識目的を定義する。 外部化の利点をモデルサイズとデータ効率に関する3つの具体的な定理に形式化する。 我々は、制御された合成実験を通して、定理がトレーニング力学を生き残ることを示す。
• 参考スコア（独自算出の注目度）: 9.243554780119103
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When generating programs with language models, constrained decoding can apply program analyses to exclude tokens that violate syntax, scope, or typing rules. However, there is a duplication: standard training already teaches the model to suppress the tokens rejected by these analyses. This duplication leads to the question: if we will perform some analysis to filter a set tokens out during inference anyways, can we avoid teaching the model the said analysis altogether during training, and does this externalization lead to more efficient models? This paper defines a general constraint-aware objective satisfying this externalization desideratum and formalizes the benefits of externalization into three concrete theorems about model size and data efficiency. We show, through a controlled synthetic experiment, that the theorems survive training dynamics: constraint-aware training yields lower prediction loss at a matched parameter count and data compared to ordinary cross-entropy training, motivating training objectives that incorporate the analyses used during generation.
• Abstract（参考訳）: 言語モデルでプログラムを生成する場合、制約付きデコーディングは、構文、スコープ、タイピングルールに違反したトークンを除外するためにプログラム解析を適用することができる。 しかし、重複がある: 標準的なトレーニングは、これらの分析によって拒絶されたトークンを抑えるためにモデルをすでに教えている。 いずれにせよ、推論中に設定されたトークンをフィルタリングするために何らかの分析を行うなら、トレーニング中にその分析を全面的に教えることを避けて、この外部化がより効率的なモデルをもたらすのか? 本稿では, モデルサイズとデータ効率に関する3つの具体的な定理に外部化の利点を定式化する。 制約を意識したトレーニングは、通常のクロスエントロピートレーニングと比較して、一致したパラメータ数とデータでの予測損失を低くし、世代間分析を取り入れたトレーニング目標を動機付ける。

関連論文リスト

• A Unified Framework for In-Context Learning with Causal and Masked Language Models [9.893068784551879]
  In-context Learning (ICL) は、事前訓練された言語モデルの中枢機能として登場した。 マスク付き言語モデルは、双方向のコンテキストからマスク付きトークンを復元する。 ICLの振る舞いは因果言語モデルに特有ではない。
  論文  参考訳（メタデータ） (2026-07-05T02:23:18Z)
• Inference-time Unlearning Using Conformal Prediction [13.479885316485209]
  Unlearningは、トレーニングされた機械学習モデルから、スクラッチからトレーニングすることなく、特定の情報を効率的に除去するプロセスである。 本稿では、モデルパラメータを更新することなく、検証者からのフィードバックを用いて、生成した応答の質を反復的に改善するフレームワークを提案する。 本稿では,既存の最先端手法を著しく上回り,未学習ベンチマークにおける未学習誤差を最大93%削減する。
  論文  参考訳（メタデータ） (2026-02-03T17:46:50Z)
• Provable Benefit of Curriculum in Transformer Tree-Reasoning Post-Training [76.12556589212666]
  学習後のカリキュラムは指数関数的複雑性のボトルネックを回避していることを示す。 結果のみの報酬信号の下では、強化学習の微調整は、サンプルの複雑さを高い精度で達成する。 カリキュラムを意識したクエリにより、報奨託書の呼び出しとサンプリングコストの両方を指数関数的に削減するテストタイムスケーリングの保証を確立する。
  論文  参考訳（メタデータ） (2025-11-10T18:29:54Z)
• Reinforced Context Order Recovery for Adaptive Reasoning and Planning [23.229513376337607]
  現在の因果関係と拡散モデルでは、適応的なトークン生成順序を必要とする問題で難題に遭遇する。 適応型・データ依存型トークン生成順序を抽出する強化学習ベースのフレームワークであるReinforced Context Order Recovery (ReCOR)を提案する。
  論文  参考訳（メタデータ） (2025-08-18T16:42:55Z)
• Neural Network Reprogrammability: A Unified Theme on Model Reprogramming, Prompt Tuning, and Prompt Instruction [57.19302613163439]
  モデル適応のための統一フレームワークとして,ニューラルネットワークの再プログラム可能性を導入する。 本稿では,4つの重要な側面にまたがる情報操作アプローチを分類する分類法を提案する。 残る技術的課題や倫理的考察も分析する。
  論文  参考訳（メタデータ） (2025-06-05T05:42:27Z)
• Self-Error-Instruct: Generalizing from Errors for LLMs Mathematical Reasoning [42.089912289949154]
  本稿では,モデルの弱点に対処し,より一般化された目標学習データを合成するフレームワークであるSelf-Error-Instruct(SEI)を提案する。 具体的には、2つの数学的データセット(GSM8KとMATH)のターゲットモデルを探索し、悪い事例を特定する。 次に、同定されたエラータイプ毎の世代毎にいくつかの悪いケースをサンプリングし、インストラクターモデルに入力し、追加のトレーニングデータを合成する。
  論文  参考訳（メタデータ） (2025-05-28T17:02:47Z)
• Consistency-based Abductive Reasoning over Perceptual Errors of Multiple Pre-trained Models in Novel Environments [5.5855749614100825]
  本稿では,複数の事前学習モデルを活用することで,このリコール低減を緩和できるという仮説を述べる。 我々は,一貫性に基づく推論問題として,様々なモデルからの矛盾する予測を特定し,管理することの課題を定式化する。 本研究は,複数の不完全なモデルから得られた知識を,難易度の高い新しいシナリオにおいて堅牢に統合するための効果的なメカニズムとして,一貫性に基づく誘拐の有効性を検証するものである。
  論文  参考訳（メタデータ） (2025-05-25T23:17:47Z)
• The CoT Encyclopedia: Analyzing, Predicting, and Controlling how a Reasoning Model will Think [81.38614558541772]
  本稿では,モデル推論の分析とステアリングのためのフレームワークであるCoT Encyclopediaを紹介する。 本手法はモデル生成CoTから多種多様な推論基準を自動的に抽出する。 このフレームワークは既存の手法よりも解釈可能で包括的分析が可能であることを示す。
  論文  参考訳（メタデータ） (2025-05-15T11:31:02Z)
• Avoiding Inference Heuristics in Few-shot Prompt-based Finetuning [57.4036085386653]
  文ペア分類タスクのプロンプトベースモデルでは,語彙重なりに基づく推論の一般的な落とし穴が依然として残っていることを示す。 そこで,プレトレーニングウェイトを保存する正規化を加えることは,この破壊的な微調整の傾向を緩和するのに有効であることを示す。
  論文  参考訳（メタデータ） (2021-09-09T10:10:29Z)
• Paired Examples as Indirect Supervision in Latent Decision Models [109.76417071249945]
  我々は、ペア化された例を活用して、潜在的な決定を学習するためのより強力な手がかりを提供する方法を紹介します。 DROPデータセット上のニューラルネットワークを用いた合成質問応答の改善に本手法を適用した。
  論文  参考訳（メタデータ） (2021-04-05T03:58:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。