論文の概要: When Should an In-Context Learner Expand Its Hypothesis Space?

• arxiv url: http://arxiv.org/abs/2610.09471v3
• Date: Mon, 12 Oct 2026 07:48:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-14 23:39:49.507351
• Title: When Should an In-Context Learner Expand Its Hypothesis Space?
• Title（参考訳）: 文脈学習者はいつ仮説空間を拡張するべきか?
• Abstract要約: 学習システムは、慣れ親しんだモデルのファミリー内で急速に適応する。 予測失敗は、構造的証拠、証拠を拡張価値、価値を行動に転換しなければならない。 環境の中で訓練されたトランスフォーマーは、ユーティリティのみからこの境界を再現する。
• 参考スコア（独自算出の注目度）: 34.07570032755647
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Learning systems adapt quickly inside a familiar family of models. The harder step comes earlier: deciding, from observations that could be noise, an exception, a change within the family or structure outside it, whether opening a richer family is worth its cost. We treat this as a costly sequential decision: prediction failure must be turned into structural evidence, evidence into a value of expansion, and value into action. The Structural Revision Environment produces matched failures from each source, varies the price of expansion and the remaining horizon independently of the evidence, and admits exact Bayesian calculations and an exact normative solution of the one-shot decision. Its solution shows that revision is a value boundary and not an evidence threshold: one history has different optimal actions under different prices, horizons and announced queries, the boundary between local repair and expansion is set by the inputs a rule predicts and a repair cannot cover, and belief in the richer family crosses long before the decision does. Transformers trained in the environment reproduce this boundary from utility alone. Language models of three post-training lineages carry a failure-sensitive signal in their predictions that is not reflected in their revision decisions, and given the gain of expanding they read it without weighing it against price and horizon. Three models allowed to reason weigh the stated gain in the reference's proportions and still do not turn the history into an estimate of what expansion would buy. Controlled post-training of the meta-trained learners moves the prior and the sharpness of predictions, and neither moves the criterion.
• Abstract（参考訳）: 学習システムは、慣れ親しんだモデルのファミリー内で急速に適応する。 ノイズ、例外、家族やその外の構造の変化など、より豊かな家族を開くことの価値があるかどうかを判断すること。 予測失敗は構造的証拠、証拠は拡張の価値、価値は行動に移さなければならない。 構造的修正環境は、各情報源から一致した失敗を発生させ、証拠とは独立に拡張の価格と残りの地平線を変動させ、ベイズ計算と一発決定の正確な規範解を認めている。 その解決策は、リビジョンは価値境界であり、エビデンスしきい値ではないことを示している: 1つの歴史は異なる価格、地平線、アナウンスされたクエリの下で異なる最適なアクションを持ち、局所的な修復と拡張の境界はルールが予測する入力によって設定され、修理はカバーできない。 環境の中で訓練されたトランスフォーマーは、ユーティリティのみからこの境界を再現する。 トレーニング後の3系統の言語モデルは、リビジョン決定に反映されない予測に障害に敏感な信号を持ち、価格や地平線を測ることなくそれを読むことができる。 推論が許される3つのモデルでは、参照の比率が示される利益を重み付けし、なおも履歴をどの拡張が購入するかの見積もりにしない。 メタ訓練を受けた学習者の制御後学習は、事前と予測の鋭さを移動させ、どちらも基準を移動させない。

関連論文リスト

• U-Space: Uncovering When and Why Uncertainty Arises in Language Models [48.66130361282914]
  不確実性は、個々の予測の信頼性を見積もることで、断線に対処しようとする。 既存の方法は、繰り返し世代または別々に訓練されたコンポーネントを必要とする。 機械的解釈可能性(Mechanistic Interpretability)は、これらの制限に対処する方法を提供する。
  論文  参考訳（メタデータ） (2026-10-06T20:40:29Z)
• Counterfactual Predictions in Scientific Emulators Without Controlled Experiments [79.60287973965639]
  ReRouteは、科学的な「何」予測をターゲットとするフレームワークである。 本研究では,ReRouteが制御された対流拡散システムにおいて,高精度な対物予測を実現することを示す。 密集した気候・気候の介入について、ReRouteはCO$の厳しい分配シフトの下で、総合的な気候誤差を18.2-31.8%削減する。
  論文  参考訳（メタデータ） (2026-09-30T19:16:07Z)
• Revelation Control [0.0]
  啓示制御(Revelation Control)は、意図された区別が連続的な決定を変更できるため、内部でのみ隠された状態を明らかにする価格設定された介入を選択する問題である。 我々はこの理論を学習システムに展開し、現在宣言されている情報に準ずる状態が将来の訓練に異なる反応をし、異なる行動を好むことができるようにした。
  論文  参考訳（メタデータ） (2026-08-24T22:07:57Z)
• Ask the World Before Acting: Environment Probing for Calibrated Agent World Models [2.571318992830046]
  長い地平線に作用する言語エージェントは、ツール状態、オブジェクト位置、グラフエッジ、サブゴール依存関係に関する信念を維持する必要がある。 我々は、構造化エージェントワールドモデルのための予算決定問題として環境探索を定式化する。 EnvProbeは、タスククリティカル性、安定化性、言語化された不確実性、依存性の役割を組み合わせた単純なスコアリングポリシーです。
  論文  参考訳（メタデータ） (2026-06-30T09:45:49Z)
• BayesBench: Evaluating LLM Belief Trajectories Under Multi-Turn Evidence Accumulation [20.375742002723765]
  大規模言語モデル(LLM)は通常、マルチターン会話にデプロイされる。 LLMの信念の更新は、マルチターン設定における合理的ベイズ論理の更新とどの程度密接に一致しているかを問う。 ベイズベンチ(BayesBench)は3つの複雑なタスクにまたがってこれを探索するシミュレーション環境である。
  論文  参考訳（メタデータ） (2026-06-29T19:30:32Z)
• The Value of Information in Resource-Constrained Pricing [17.844881458673267]
  ハードキャパシティの制約の下では、不正確な予測に作用することで、将来の期間に必要な在庫を不可逆的に減少させることができる。 本研究では,予測の不確実性が線形需要,雑音,有限容量の動的価格決定にどのように伝播するかを検討する。 すべてのアルゴリズムは、キャパシティ境界付近の価格を安定化する境界アトラクション機構に依存している。
  論文  参考訳（メタデータ） (2026-03-26T03:06:57Z)
• Rejection via Learning Density Ratios [50.91522897152437]
  拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。 そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。 私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
  論文  参考訳（メタデータ） (2024-05-29T01:32:17Z)
• Variational Causal Networks: Approximate Bayesian Inference over Causal Structures [132.74509389517203]
  離散DAG空間上の自己回帰分布をモデル化したパラメトリック変分族を導入する。 実験では,提案した変分後部が真の後部を良好に近似できることを示した。
  論文  参考訳（メタデータ） (2021-06-14T17:52:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。