論文の概要: Nash Equilibrium Text: A Game-Theoretic Decoding Framework for Text Generation

• arxiv url: http://arxiv.org/abs/2610.05817v1
• Date: Mon, 05 Oct 2026 05:11:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 04:04:09.269167
• Title: Nash Equilibrium Text: A Game-Theoretic Decoding Framework for Text Generation
• Title（参考訳）: Nash Equilibrium Text: テキスト生成のためのゲーム理論デコーディングフレームワーク
• Abstract要約: 我々は、配列長が大きくなるにつれて、ナッシュ平衡が自己回帰出力よりも指数関数的に高い可能性を示すことにより、リビジョンを動機付けている。 我々は,大言語モデルからの条件付き確率推定を用いてナッシュ復号を行い,質問応答ベンチマークで結果の平衡性を評価する。
• 参考スコア（独自算出の注目度）: 20.11728693585654
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Text revision has become an integral component of large language models. This paper formulates revision such that it admits a Nash equilibrium: Token positions are players, vocabulary items are actions, and each player's utility is the language model's log conditional probability. We motivate the revision by showing that Nash equilibria can have exponentially higher likelihood than autoregressive outputs as the sequence length grows. We further propose Nash decoding, an algorithm that reaches an $\varepsilon$-Nash equilibrium in $O(1/\varepsilon)$ time given access to the joint probability of tokens conditioned on a prompt. In practice, we run Nash decoding using conditional probability estimates from large language models and evaluate the resulting equilibria on question-answering benchmarks. On CLAPNQ, PubMedQA, and CoQA, Nash equilibria obtained from masked language models achieve higher F1 and ROUGE scores than autoregressive models up to $18\times$ larger, without any fine-tuning or retraining, at the cost of additional test-time computation.
• Abstract（参考訳）: テキストリビジョンは、大規模言語モデルの不可欠なコンポーネントとなっている。 本論文はナッシュ均衡を許容するリビジョンを定式化する: トークンポジションはプレイヤーであり、語彙項目はアクションであり、各プレイヤーの効用は言語モデルのログ条件確率である。 我々は、配列長が大きくなるにつれて、ナッシュ平衡が自己回帰出力よりも指数関数的に高い可能性を示すことにより、リビジョンを動機付けている。 我々はさらに、プロンプト上で条件付けられたトークンの結合確率へのアクセスを与えられた時間として、$O(1/\varepsilon)$で$\varepsilon$-Nash平衡に達するアルゴリズムであるナッシュ復号を提案する。 実際に,大言語モデルからの条件付き確率推定を用いてナッシュ復号を行い,質問応答ベンチマークで結果の平衡性を評価する。 CLAPNQ、PubMedQA、CoQAでは、マスク付き言語モデルから得られるナッシュ平衡値が、追加のテスト時間計算のコストで、自動回帰モデルよりもF1とROUGEのスコアを最大18\times$で達成する。

関連論文リスト

• Robust PAC Learning of Concurrent Stochastic Games [3.2964666213105587]
  本稿では,移行不確実性を伴う汎用並列ゲーム(CSG)のための,最初の確率近似学習フレームワークを提案する。 我々のアルゴリズムは、遷移カーネル上のデータ駆動の$L1$信頼セットを維持し、ロバストなCSGを解き、社会的に最適な$varepsilon$-NEを計算する。 重要なことに、平衡の存在に関する原則的推論を可能にするナッシュマージンの特徴付けを導入する。
  論文  参考訳（メタデータ） (2026-09-03T17:58:57Z)
• Asymmetric Nash Seeking via Best Response Maps: Global Linear Convergence and Robustness to Inexact Reaction Models [0.0]
  ナッシュ均衡(Nash equilibria)は、マルチエージェントの意思決定と制御における相互作用をモデル化するための原則的なフレームワークを提供する。 この手紙は、非対称情報 2-プレーヤ制約付きゲームのクラスを分離可能な集合で研究する。
  論文  参考訳（メタデータ） (2026-03-17T18:45:56Z)
• Accelerating Nash Learning from Human Feedback via Mirror Prox [36.04055906691423]
  オンラインNLHFアルゴリズムであるNash Mirror Prox(mathtNash-MP$)を導入する。 我々の理論的解析により、ナッシュ-MPは、$beta$-regularized Nash平衡に対して、最終点の線形収束を示すことが証明された。 また,Nash-MPは,利用可能性ギャップと対数確率の半ノルムの均一性に対して,最終等級の線形収束を示すことを示した。
  論文  参考訳（メタデータ） (2025-05-26T09:17:32Z)
• Instance-Dependent Regret Bounds for Learning Two-Player Zero-Sum Games with Bandit Feedback [60.610120215789976]
  純粋な戦略 ナッシュ均衡が存在するとき、$c$ は 0 となり、最適のインスタンス依存後悔境界となることを示す。 また,本アルゴリズムは最終段階の収束性も享受し,ほぼ最適サンプルを用いて純粋な戦略ナッシュ均衡を同定することができる。
  論文  参考訳（メタデータ） (2025-02-24T20:20:06Z)
• Multi-Step Alignment as Markov Games: An Optimistic Online Gradient Descent Approach with Convergence Guarantees [91.88803125231189]
  Reinforcement Learning from Human Feedback (RLHF) は、大きな言語モデルと人間の好みを合わせることに成功している。 DPOのような一般的な手法は高い性能を示してきたが、彼らは言語モデルとの相互作用を帯域幅の問題として捉えている。 本稿では,アライメント問題を2プレイヤー定数マルコフゲームとしてモデル化することで,これらの課題に対処する。
  論文  参考訳（メタデータ） (2025-02-18T09:33:48Z)
• Games played by Exponential Weights Algorithms [0.0]
  各プレイヤーは、初期混合動作と固定学習率を特徴とする指数重み付けアルゴリズムを使用する。 厳密なナッシュ均衡が存在するときは常に、次の段階で厳密なナッシュ均衡を行う確率は、ほぼ確実に0または1に収束することを示す。
  論文  参考訳（メタデータ） (2024-07-09T08:49:51Z)
• Minimax-Optimal Multi-Agent RL in Zero-Sum Markov Games With a Generative Model [50.38446482252857]
  2人プレイのゼロサムマルコフゲームは多エージェント強化学習においておそらく最も基本的な設定である。 我々は,$$ widetildeObiggを用いて,$varepsilon$-approximate Markov NEポリシーを学習する学習アルゴリズムを開発した。 我々は、分散型量の役割を明確にするFTRLに対する洗練された後悔境界を導出する。
  論文  参考訳（メタデータ） (2022-08-22T17:24:55Z)
• Quark: Controllable Text Generation with Reinforced Unlearning [68.07749519374089]
  大規模言語モデルは、しばしばユーザの期待に合わない振る舞いを学ぶ。 本稿では,(不必要な)特性を定量化する報酬関数を最適化するアルゴリズムQuarkを紹介する。 未学習の毒性、ネガティブな感情、反復について、我々の実験はQuarkが強いベースラインと最先端の強化学習法の両方より優れていることを示している。
  論文  参考訳（メタデータ） (2022-05-26T21:11:51Z)
• Learning Stationary Nash Equilibrium Policies in $n$-Player Stochastic Games with Independent Chains [2.132096006921048]
  我々は、プレイヤーがペイオフ機能を介して結合されている間、内部の状態/行動空間を持つ、$n$プレイヤゲームのクラスを考える。 このクラスのゲームに対して、報奨関数を仮定せずに定常ナッシュ(NE)ポリシーを見つけることは、対話可能であることを示す。 我々は,2重平均化と2重ミラー降下に基づくアルゴリズムを開発し,これを$epsilon$-NEポリシーの集合に収束させる。
  論文  参考訳（メタデータ） (2022-01-28T16:27:21Z)
• Recursive Top-Down Production for Sentence Generation with Latent Trees [77.56794870399288]
  自然および合成言語に対する文脈自由文法の生成特性をモデル化する。 潜伏二分木構造にN$の葉を持つ動的プログラミングアルゴリズムを提案する。 また,Multi30kデータセットを用いたドイツ語と英語の翻訳実験を行った。
  論文  参考訳（メタデータ） (2020-10-09T17:47:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。