論文の概要: BDH-CQ: In-Context Learning with Recurrent Latent Reasoning
- arxiv url: http://arxiv.org/abs/2608.09888v1
- Date: Mon, 10 Aug 2026 17:39:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:37.400787
- Title: BDH-CQ: In-Context Learning with Recurrent Latent Reasoning
- Title(参考訳): BDH-CQ: Recurrent Latent Reasoningによる文脈学習
- Abstract要約: 本稿では,コンテキスト内学習と逐次潜在推論を組み合わせた推論モデルであるBDH-CQを紹介する。
パブリックARC-AGI-1評価セット上でのモデルの評価を行う。
- 参考スコア(独自算出の注目度): 1.9945937331955392
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce BDH-CQ, a reasoning model that combines in-context learning with recurrent latent reasoning. Inputs presented at inference time continuously update the model's recurrent memory; the model then solves a query through iterative computation in a high-dimensional latent space, without verbalizing its intermediate reasoning. We evaluate the model on the public ARC-AGI-1 evaluation set and use controlled ARC-like interventions to study what it learns from demonstrations, how consistently it applies an inferred transformation, and which concepts remain difficult. A 150M-parameter configuration reaches 29.5% pass@2 at a computed inference cost of \$0.0007 per task. This operating point breaks through the previously reported ARC-AGI-1 cost-accuracy Pareto frontier, establishing a new state of the art in benchmark cost efficiency.
- Abstract(参考訳): 本稿では,コンテキスト内学習と逐次潜在推論を組み合わせた推論モデルであるBDH-CQを紹介する。
推論時に提示された入力はモデルの繰り返しメモリを継続的に更新し、そのモデルはその中間的推論を言葉で表すことなく、高次元の潜在空間における反復計算によってクエリを解く。
我々は、ARC-AGI-1の評価セット上でモデルを評価し、制御されたARC様の介入を用いて、実験から学んだこと、推論変換がいかに一貫して適用され、どの概念が難しいかを研究する。
150Mパラメータの設定は、タスク当たり0.0007の計算推論コストで29.5%のpass@2に達する。
この運用ポイントは、以前報告されたARC-AGI-1コスト精度のParetoフロンティアを突破し、ベンチマークコスト効率の新たな最先端技術を確立した。
関連論文リスト
- NE-R1: Enhancing Named Entity Recognition Model via Reinforcement Learning [12.75939447499315]
適応型検索拡張NERのための新しいフレームワークであるNE-R1を提案する。
NERのための「検索オンデマンド」機構を設計し、2段階のトレーニング手法によりモデルに統合する。
NE-R1は様々なベンチマークで最先端のパフォーマンスを達成し、平均的なF1スコアはドメイン内評価で2.52%、ゼロショットクロスドメイン評価で1.18%向上した。
論文 参考訳(メタデータ) (2026-09-02T09:37:16Z) - Cost-Driven Representation Learning for Linear Quadratic Gaussian Control: Part II [57.29427648134142]
部分的および潜在的に高次元観測から制御する状態表現学習の課題について検討する。
我々は、コスト駆動型状態表現学習を通じてこの問題にアプローチし、累積コストを予測して潜在状態空間の動的モデルを学習する。
論文 参考訳(メタデータ) (2026-03-08T03:20:52Z) - Tiny Recursive Models on ARC-AGI-1: Inductive Biases, Identity Conditioning, and Test-Time Compute [0.0]
我々はARC-AGI-1のARC Prize TRMチェックポイントを実験的に分析した。
テストタイムの増大と多数投票の合理化が報告された性能のかなりの部分を占めていることを示す。
また, TRMとLlama 3 8BのQLoRAファインチューンを標準ARC-AGI-1上で比較した。
論文 参考訳(メタデータ) (2025-12-04T06:20:44Z) - Boosting Accuracy and Efficiency of Budget Forcing in LLMs via Reinforcement Learning for Mathematical Reasoning [1.4348015996689416]
本稿では,Regressed Learning(RL)を統合したフレームワークを提案し,トークン効率の向上と数学的推論のための1.5Bモデルの性能向上を図る。
その結果,SFTモデルと比較してトークン使用率を40%以上削減し,全体的な精度が向上した。
論文 参考訳(メタデータ) (2025-10-24T12:39:15Z) - What Defines Good Reasoning in LLMs? Dissecting Reasoning Steps with Multi-Aspect Evaluation [67.47463575774388]
我々は推論品質を関連性と一貫性の2つの次元に分解する。
これらの側面を確実に測定するために、因果的段階評価(CaSE)を導入する。
トレーニングデータをCaSEで評価した妥当性とコヒーレンスでキュレートすることで、最終タスクのパフォーマンスが向上することを示す。
論文 参考訳(メタデータ) (2025-10-23T14:30:37Z) - Bridging Classical and Learning-based Iterative Registration through Deep Equilibrium Models [7.6061804149819885]
我々は,Deep Equilibrium Models (DEQ)に基づく新しい登録フレームワークであるDEQRegを提案する。
DeQRegは、メモリ消費を大幅に削減しつつ、競合する登録性能を実現することができることを示す。
既存のアンローリング手法の性能はまずわずかに増加し、推論ステップがトレーニング設定を超えると不可逆的に低下する。
論文 参考訳(メタデータ) (2025-07-01T09:03:06Z) - Reasoning Model Unlearning: Forgetting Traces, Not Just Answers, While Preserving Reasoning Skills [42.1825027925353]
大きな推論モデル(LRM)は、テスト時間計算を通じて強力なチェーン・オブ・シント(CoT)生成を可能にした。
従来の未学習アルゴリズムは、もともと非推論モデル用に設計されていたが、LRMには不適当であることを示す。
本稿では,意味のある推論トレースを効果的に抑制する新しい手法であるReasoning-aware Representation Misdirection for Unlearning(R2MU$)を提案する。
論文 参考訳(メタデータ) (2025-06-15T20:54:23Z) - Table-R1: Inference-Time Scaling for Table Reasoning [56.812846737424245]
推論時間スケーリングを実現するための2つのポストトレーニング戦略を開発し評価する。
蒸留では,DeepSeek-R1 が生成した推論トレースの大規模データセットを導入する。
RLVRではタスク固有の検証可能な報酬関数を提案し、GRPOアルゴリズムを適用してTable-R1-Zeroモデルを得る。
論文 参考訳(メタデータ) (2025-05-29T16:28:50Z) - Model-free Methods for Event History Analysis and Efficient Adjustment (PhD Thesis) [55.2480439325792]
この論文は、モデルフリーの観点から統一された統計学への独立した貢献のシリーズである。
第1章では、機械学習から予測技術を活用する柔軟なメソッドを定式化するために、モデルフリーの視点をどのように利用できるか、詳しく説明している。
第2章では、あるプロセスの進化が他のプロセスに直接影響されるかどうかを記述した地域独立の概念を研究している。
論文 参考訳(メタデータ) (2025-02-11T19:24:09Z) - The Surprising Effectiveness of Test-Time Training for Few-Shot Learning [59.309477460893916]
言語モデル(LM)は、トレーニングディストリビューション内のタスクにおいて印象的なパフォーマンスを示しているが、しばしば構造的に新しいタスクで苦労している。
LMの推論と少数ショット学習能力を改善するメカニズムとして,テストタイムトレーニング(TTT)の有効性を検討する。
本研究は,新しいタスクにおける文脈内学習の限界を強調し,言語モデルの適応性を高めるためのテストタイムトレーニングの可能性を示した。
論文 参考訳(メタデータ) (2024-11-11T18:59:45Z) - A Simple Approach to Case-Based Reasoning in Knowledge Bases [56.661396189466664]
我々は,古典人工知能(AI)におけるケースベース推論を想起させる,アンフノトレーニングを必要とする知識グラフ(KG)における推論に対する驚くほど単純かつ正確なアプローチを提案する。
ソースエンティティとバイナリ関係が与えられたターゲットエンティティを見つけるタスクを考えてみましょう。
我々の非パラメトリックなアプローチは、与えられた関係を通して類似したソースエンティティを接続する複数のテキストトグラフパスパターンを見つけることによって、クエリ毎にクレープな論理ルールを導出します。
論文 参考訳(メタデータ) (2020-06-25T06:28:09Z) - Logic-Guided Data Augmentation and Regularization for Consistent
Question Answering [55.05667583529711]
本稿では,比較質問に対する応答の精度と整合性を改善する問題に対処する。
提案手法は論理的および言語的知識を利用してラベル付きトレーニングデータを増強し,一貫性に基づく正規化器を用いてモデルを訓練する。
論文 参考訳(メタデータ) (2020-04-21T17:03:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。