論文の概要: No-Regret Language Generation

• arxiv url: http://arxiv.org/abs/2610.23641v1
• Date: Fri, 16 Oct 2026 15:42:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.994883
• Title: No-Regret Language Generation
• Title（参考訳）: No-Regret言語生成
• Abstract要約: 我々は、すべての実演シーケンスと互換性のある言語に対して、サブラインのミス数を均一に行うためにジェネレータを必要とするノンレグレット生成を導入する。 両方の設定に対して、有限水平ミニマックスの複雑さを正確に特徴づける木に基づく誤り強制次元を導入する。 キャラクタリゼーションにより、連続的な再スケーリングまで、すべての許容可能な非減少プロファイルは、実現可能な設定と不可知な設定の両方で達成できる。
• 参考スコア（独自算出の注目度）: 29.71858964413957
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce no-regret generation, which requires a generator to make a sublinear number of mistakes uniformly over all demonstration sequences and compatible target languages. We also formulate an agnostic variant that allows arbitrary demonstrations that may not be compatible with any languages. For both settings, we introduce tree-based mistake-forcing dimensions that exactly characterize finite-horizon minimax complexity and establish necessary and sufficient conditions for no-regret generation. Our characterizations reveal a rich spectrum of generation rates: up to constant rescaling, every admissible nondecreasing profile is attainable in both the realizable and agnostic settings. Finally, we connect generation complexity to online prediction: for language classes of finite Littlestone dimension \(d\), we obtain realizable mistake bounds of \(O(d\log(1+T/d))\) and agnostic regret bounds of \(O(\sqrt{dT\log(1+T/d)})\). The realizable bound is optimal up to universal constants.
• Abstract（参考訳）: 我々は、すべてのデモシーケンスと互換性のあるターゲット言語に対して、サブラインのミス数を均一に行うためにジェネレータを必要とするノンレグレット生成を導入する。 また、任意の言語と互換性のない任意のデモを可能にする非依存の変種を定式化します。 いずれの設定においても,有限水平ミニマックスの複雑性を正確に特徴づける木に基づく誤り強制次元を導入し,非回帰生成に必要な十分条件を確立する。 キャラクタリゼーションにより、連続的な再スケーリングまで、すべての許容可能な非減少プロファイルは、実現可能な設定と不可知な設定の両方で達成できる。 最後に、生成複雑性をオンライン予測に結びつける:有限リトルストーン次元 \(d\) の言語クラスに対しては、(O(d\log(1+T/d))\) の既約誤り境界と、(O(\sqrt{dT\log(1+T/d)})\) の無知後悔境界を得る。 実現可能な境界は普遍定数まで最適である。

関連論文リスト

• Characterizing Language Generation in the Limit: Finite Witnesses and a Separation-Width Hierarchy [39.91890433860882]
  生成は、各ターゲットを有限の正の証人に割り当てることが可能である。 未確認の履歴を検索すると、任意の成功した生成元は観測された集合のみに依存して1つに変換される。 数え切れない族はシングルトンの証人を認め、明示的な族はすべての有限の幅を認識でき、無限の共通核を持つ2つの族の統合は有限の証人を必要とする。
  論文  参考訳（メタデータ） (2026-09-09T17:54:30Z)
• Mistake-Bounded Language Generation [6.034531760235531]
  言語生成の限界における学習課題について検討する。 我々は、伝統的なラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ラスト・ 我々のフレームワークは、ノイズの多い敵に適応できるように拡張可能であることを示す。
  論文  参考訳（メタデータ） (2026-05-11T16:32:01Z)
• Self-Normalized Martingales and Uniform Regret Bounds for Linear Regression [65.82017723631897]
  自己正規化マルティンガレのスケール不変上界が可能であることを示す。 通常の正規化ペナルティを含まない自己正規化濃度不等式を導出する。
  論文  参考訳（メタデータ） (2026-05-02T22:39:00Z)
• Partial Feedback Online Learning [88.27143767009376]
  我々は、偏見フィードバックオンライン学習と呼ばれる新しい学習プロトコルについて研究する。 各インスタンスは許容できるラベルのセットを許可するが、学習者は1ラウンドごとに許容できるラベルを1つだけ観察する。
  論文  参考訳（メタデータ） (2026-01-29T09:39:11Z)
• Exploring Facets of Language Generation in the Limit [10.18252143035175]
  任意の可算言語コレクションは、その極限において非一様生成の強い特性を持つ生成子を持つことを示す。 我々は,[KM24]の生成アルゴリズムにおける妥当性と幅の緊張関係を,徹底的な生成の定義を導入して定式化する。 また,包括的生成が可能な言語コレクションの正確な特徴付けも提供する。
  論文  参考訳（メタデータ） (2024-11-22T22:13:40Z)
• Lexinvariant Language Models [84.2829117441298]
  離散語彙記号から連続ベクトルへの写像であるトークン埋め込みは、任意の言語モデル(LM)の中心にある 我々は、語彙記号に不変であり、したがって実際に固定トークン埋め込みを必要としないテクスチトレキシン変種モデルについて研究する。 十分長い文脈を条件として,レキシン変項LMは標準言語モデルに匹敵する難易度が得られることを示す。
  論文  参考訳（メタデータ） (2023-05-24T19:10:46Z)
• A Measure-Theoretic Characterization of Tight Language Models [105.16477132329416]
  病理学的には「確率質量」が無限列の集合に漏れることがある。 本稿では,言語モデリングの尺度論的扱いについて述べる。 多くのポピュラーな言語モデルファミリーが実際に密接な関係にあることを証明しています。
  論文  参考訳（メタデータ） (2022-12-20T18:17:11Z)
• Generating Sequences by Learning to Self-Correct [64.0249217590888]
  自己補正(Self-Correction)は、不完全な世代を反復的に修正する独立した修正器から不完全なベースジェネレータを分離する。 本稿では,3つの多種多様なタスクにおいて,自己補正がベースジェネレータを改善することを示す。
  論文  参考訳（メタデータ） (2022-10-31T18:09:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。