論文の概要: Priced Guidance: Can Language Models Generate Future Research Ideas?

• arxiv url: http://arxiv.org/abs/2610.04976v1
• Date: Sun, 04 Oct 2026 05:45:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-11 07:23:52.818604
• Title: Priced Guidance: Can Language Models Generate Future Research Ideas?
• Title（参考訳）: プライスガイダンス:言語モデルは将来の研究思想を創出できるか?
• Abstract要約: 圧縮レンズを用いて新しい研究アイデアを創出する言語モデルの能力を評価する。 我々は,言語モデルが将来の研究思想の本質を示唆することなく生み出すという,潜在的に小さな確率を低くすることを目的としている。 予測において、モデルが少なくとも K ビットのガイダンスで対象のアイデアを復元できるなら、少なくとも 2-K$ の確率でガイダンスなしでこのアイデアを生成できることを示す。
• 参考スコア（独自算出の注目度）: 64.46152947961077
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We evaluate language models' capability to generate novel research ideas through the lens of compression. We aim to lower-bound the potentially tiny probability that a language model generates the essence of a future research idea without any hints. Rather than estimate this probability through expensive repeated sampling, our Priced Guidance framework measures the compression cost: how many additional bits of information are needed to guide the model to recover the target idea. We prove that if the model can recover the target idea with at most K bits of guidance in expectation, then it can generate the idea without any guidance with probability at least $2^{-K}$. In our framework, the language model, called the generator, can pose a sequence of multiple-choice questions and specify a probability distribution over possible answers. A guide, which is a language model with access to the target idea, selects answers. If a selected answer has prior probability p, the generator pays $-\log_2 p$ bits. The generator aims to produce an idea that matches the essence of the target idea with minimal cumulative cost. This cumulative cost equals, up to an additive constant, the number of bits of information sent by the guide. Using this methodology, we evaluate five generator LLMs (Opus 5, Fable 5.1, GPT-6 Astra, GPT-5.6 Sol, and GLM 5.3) on the core ideas in 87 recent high-quality deep learning papers and we use LLM as judge to determine whether the generated idea matches the target in terms of the central research object and defining mechanism. Fable 5.1 achieves the lowest median compression cost at 69.9 bits, substantially lower than gzip's median of 5,712 bits for losslessly compressing the summary of the target idea. A uniform ensemble of Fable 5.1, Opus 5, and Astra further reduces the median compression cost to 55.8 bits and improves the generation probability lower bound by 18,000 times.
• Abstract（参考訳）: 圧縮レンズを用いて新しい研究アイデアを創出する言語モデルの能力を評価する。 我々は,言語モデルが将来の研究思想の本質を示唆することなく生み出すという,潜在的に小さな確率を低くすることを目的としている。 我々のPriced Guidanceフレームワークは、高価な繰り返しサンプリングによってこの確率を見積もるのではなく、圧縮コストを測定します。 予測において、モデルが少なくとも K ビットのガイダンスで対象のアイデアを復元できれば、少なくとも 2^{-K}$ の確率でガイダンスを伴わずにそのアイデアを生成できることを示す。 筆者らのフレームワークでは,ジェネレータと呼ばれる言語モデルを用いて,複数の質問を列挙し,可能な回答に対する確率分布を指定できる。 対象のアイデアにアクセスする言語モデルであるガイドは、回答を選択する。 選択された解が事前確率 p を持つ場合、生成元は $-\log_2 p$ bits を支払う。 ジェネレータは、ターゲットのアイデアの本質と最小の累積コストで一致するアイデアを作成することを目的としている。 この累積コストは、加算定数まで、ガイドによって送られる情報のビット数に等しい。 本手法を用いて, 87 の高次ディープラーニング論文において, 5 つのジェネレータ LLM (Opus 5, Fable 5.1, GPT-6 Astra, GPT-5.6 Sol, GLM 5.3) をコアアイデアとして評価した。 Fable 5.1は69.9ビットで最小の中央圧縮コストを達成し、目標アイデアの要約を無害に圧縮するgzipの中央値5,712ビットよりもかなり低い。 Fable 5.1、Opus 5、Astraの統一アンサンブルは、中央圧縮コストを55.8ビットに削減し、生成確率を18,000倍下げる。

関連論文リスト

• Test-Time Scaling in the Wild: Why Exploitation, Not Exploration, Is the Bottleneck [1.4991111518581999]
  テストタイムスケーリング(TTS)は、追加の推論計算を使用することで、言語モデルの出力を改善する。 5世代ベンチマークで5つのTSファミリーの計算正規化比較を行った。
  論文  参考訳（メタデータ） (2026-08-19T13:59:53Z)
• Lossless but Not Free: An Empirical Anatomy of Speculative Decoding on Consumer Hardware [0.0]
  大規模言語モデルのシングルストリーム自動回帰復号化は、メモリ帯域幅によって制限される。 小さなドラフトモデルは、自動回帰的に$K$トークンを提案し、ターゲットモデルは、これらすべてを1回のバッチパスでスコアする。 本稿では、CUDA/MPS/CPUの実装と、5つのドラフト/ターゲットバックエンド構成に関する実証的研究を紹介する。
  論文  参考訳（メタデータ） (2026-07-19T15:01:35Z)
• Introspection Fine-Tuning (IFT): Training Small LLMs to Introspect [0.0]
  本研究は,小言語モデルが内的アクティベーションを検出・報告できるかどうかを考察する。 まず,先行研究で使用される二項検出パラダイムが,質問内容に関係なく肯定的応答に偏りを示すため,小さなモデルで構築されていることを示す。 次に、モデル自身の摂動前進パスから構築した文局在化例を教師付き微調整するEmphIntrospection Fine-Tuning(IFT)を導入する。
  論文  参考訳（メタデータ） (2026-05-08T05:30:26Z)
• Learning to Predict Future-Aligned Research Proposals with Language Models [59.79457676644722]
  我々は目標から得られた17,771の論文とそれらの事前カットオフ引用の時間一貫性のあるデータセットを構築した。 モデルをトレーニングするために、ターゲットとそれらのカットオフ前の引用から17,771枚のタイム一貫性のあるデータセットを構築します。 Llama-3.1 と Qwen2.5 のモデル全体で、将来のアライメントチューニングは、非アライメントベースラインに対する将来のアライメントを改善する。
  論文  参考訳（メタデータ） (2026-03-28T05:41:15Z)
• Efficient Reasoning for LLMs through Speculative Chain-of-Thought [39.56636034410561]
  OpenAI-o1やDeepseek-R1のような大きな推論言語モデルは、タスク解決能力が優れていたため、広く注目を集めている。 効率的な推論のための既存の方法は、主にモデルパラメータの数を減らしたり、チェーンオブ思考の長さを短縮することに焦点を当てている。 本稿では,平均推論速度の高速化により推理遅延を他の視点から低減するSCoT(Speculative Chain-of-Thought)を提案する。
  論文  参考訳（メタデータ） (2025-04-27T03:56:39Z)
• Idempotent Generative Network [61.78905138698094]
  本稿では,ニューラルネットワークを等質にトレーニングした生成モデリングのための新しい手法を提案する。 一等演算子は、初期アプリケーションを超えて結果を変更せずに順次適用できる演算子である。 ターゲット分布とソース分布の両方からの入力を処理することにより、モデルがターゲット多様体に完全に破損または修正されたデータを投影することがわかった。
  論文  参考訳（メタデータ） (2023-11-02T17:59:55Z)
• Self-Evaluation Guided Beam Search for Reasoning [61.523627290397556]
  我々は,Large Language Model (LLM) の推論プロセスのガイドと校正を行うための段階的自己評価機構を導入する。 本稿では,ビームサーチによる自己評価ガイダンスを統合した復号アルゴリズムを提案する。 我々のアプローチは、GSM8K、AQuA、StrategyQAにおいて、対応するCodexバックボンドベースラインをわずかに精度6.34%、9.56%、および5.46%で上回る。
  論文  参考訳（メタデータ） (2023-05-01T02:37:59Z)
• Truncation Sampling as Language Model Desmoothing [115.28983143361681]
  ニューラルネットワークモデルからのテキストの長いサンプルは、品質が劣る可能性がある。 トランケーションサンプリングアルゴリズムは、各ステップでいくつかの単語の確率を0に設定する。 本稿では,単語をエントロピーに依存した確率閾値以下に切り詰める$eta$-samplingを導入する。
  論文  参考訳（メタデータ） (2022-10-27T05:52:35Z)
• Breaking the Sample Size Barrier in Model-Based Reinforcement Learning with a Generative Model [50.38446482252857]
  本稿では、生成モデル(シミュレータ)へのアクセスを想定して、強化学習のサンプル効率について検討する。 最初に$gamma$-discounted infinite-horizon Markov decision process (MDPs) with state space $mathcalS$ and action space $mathcalA$を考える。 対象の精度を考慮すれば,モデルに基づく計画アルゴリズムが最小限のサンプルの複雑さを実現するのに十分であることを示す。
  論文  参考訳（メタデータ） (2020-05-26T17:53:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。