論文の概要: Pretraining and Test-Time Training Budgets Matter for ARC: A Controlled Study of VARC and TRM

• arxiv url: http://arxiv.org/abs/2610.13660v1
• Date: Fri, 09 Oct 2026 14:33:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.6229
• Title: Pretraining and Test-Time Training Budgets Matter for ARC: A Controlled Study of VARC and TRM
• Title（参考訳）: ARCのためのプレトレーニングと試験時間トレーニング予算--VARCとTRMの制御研究-
• Abstract要約: 本研究では,視覚に触発されたVARCと再帰型TRMモデルの性能が,事前学習やテストタイムトレーニングの予算に影響されるかを検討する。 TTTのサンプル表示の増加は、両方のモデルのすべての設定において標準ARCpass@2メトリックを改善することを観察する。
• 参考スコア（独自算出の注目度）: 12.02166421125422
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The Abstraction and Reasoning Corpus (ARC) is increasingly used to evaluate whether neural networks can infer task-specific transformations from few demonstrations. Recent ARC models differ in architecture, but also in broader training and evaluation protocols, including pretraining data, data augmentation, test-time setup, and optimization budgets, making conclusions about architecture benefits debatable. In this work, we study how the performance of the vision-inspired VARC and recursion-based TRM models is affected by pretraining and test-time training (TTT) budgets under a common inductive protocol on ARC-AGI-1. We cross five pretraining budgets with four TTT budgets for each test task. Each budget specifies a task-variant count and total sample presentations, defining the controlled training budgets. We observe that increasing TTT sample presentations improves the standard ARC pass@2 metric in all settings for both models. Increasing the TTT task-variant count consistently helps only TRM, whereas VARC often performs better with fewer variants. VARC also remains competitive without pretraining, while TRM benefits much more from it. These results show that pretraining and TTT budgets affect ARC evaluation and motivate reporting at comparable budgets.
• Abstract（参考訳）: Abstraction and Reasoning Corpus (ARC)は、ニューラルネットワークが少数のデモンストレーションからタスク固有の変換を推測できるかどうかを評価するために、ますます使われている。 近年のARCモデルはアーキテクチャにおいて異なるが、事前トレーニングデータ、データ拡張、テスト時間設定、最適化予算など、より広範なトレーニングと評価のプロトコルでアーキテクチャの利点について結論を下すことができる。 本研究では,視覚に触発されたVARCと再帰型TRMモデルの性能が,ARC-AGI-1上での共通帰納的プロトコルの下での事前学習およびテストタイムトレーニング(TTT)予算の影響について検討する。 私たちは、テストタスク毎に4つのTT予算で5つの事前訓練予算を横断します。 各予算は、制御されたトレーニング予算を定義し、タスク変数のカウントと全サンプルのプレゼンテーションを指定する。 TTTのサンプル表示の増加は、両方のモデルのすべての設定において標準ARCpass@2メトリックを改善することを観察する。 TTTタスク変量の増加はTRMにのみ寄与するが、VARCはより少ない変量でよく機能する。 VARCはプレトレーニングなしでも競争力を維持するが、TRMはそれよりはるかに有利である。 これらの結果は,事前訓練とTT予算がARC評価に影響を及ぼし,同等の予算での報告を動機付けていることを示している。

関連論文リスト

• Implicit Rule Induction with Test-Time Task Embeddings in ARC-like Tasks [19.284542184857624]
  トレーニング可能な埋め込みにより、トレーニング済みのバックボーンを補完するモデルであるVision ARCにおけるテスト時間タスクの埋め込みについて検討する。 オリジナルのVARCでは、テストタイムトレーニング(TTT)がバックボーンとタスクの埋め込みに共同で適用される。 ARC-AGI-1、ConceptARC、および既知のルールを持つ2つの制御されたデータセット全体で、Embed-TTTは、常に改善されたタスク埋め込みを生成する。
  論文  参考訳（メタデータ） (2026-09-18T01:04:25Z)
• DUET: Optimize Token-Budget Allocation for Reinforcement Learning with Verifiable Rewards [37.28110997883518]
  検証可能な報酬による強化学習は、トレーニングステップ毎に数十万のトークンを生成します。 共有計算予算下での両決定を共同で調整することで,推論品質とウォールクロックトレーニング時間の両方が向上することを示す。
  論文  参考訳（メタデータ） (2026-05-08T20:03:19Z)
• KARL: Knowledge Agents via Reinforcement Learning [63.627906947205624]
  本稿では,強化学習による企業検索エージェントの訓練システムを提案する。 KARLBenchは、6つの異なる検索レギュレーションにまたがる多機能評価スイートである。 異種探索行動で訓練されたモデルは、どのベンチマークにも最適化されたモデルよりもかなりよく一般化されていることを示す。
  論文  参考訳（メタデータ） (2026-03-05T14:30:25Z)
• ARC-AGI-2 Technical Report [0.0846998909761807]
  ARC (Abstraction and Reasoning Corpus) はパターンマッチング以上の一般化を評価するために設計された。 本稿では、ニューラルネットワークと構造認識の事前処理とオンラインタスク適応を組み合わせることにより、ARC性能を向上させるトランスフォーマーベースシステムを提案する。
  論文  参考訳（メタデータ） (2026-02-04T10:03:56Z)
• Tiny Recursive Models on ARC-AGI-1: Inductive Biases, Identity Conditioning, and Test-Time Compute [0.0]
  我々はARC-AGI-1のARC Prize TRMチェックポイントを実験的に分析した。 テストタイムの増大と多数投票の合理化が報告された性能のかなりの部分を占めていることを示す。 また, TRMとLlama 3 8BのQLoRAファインチューンを標準ARC-AGI-1上で比較した。
  論文  参考訳（メタデータ） (2025-12-04T06:20:44Z)
• TaTToo: Tool-Grounded Thinking PRM for Test-Time Scaling in Tabular Reasoning [77.01182934427095]
  TaTTooは、ツールベースの検証を統合し、正確な報酬管理を提供する新しいテーブルグラウンドのPRMフレームワークである。 私たちはTTTooを2段階のパラダイムでトレーニングします。ツール使用推論パターンをキャプチャするために、コールドスタートの教師による微調整を行い、続いて強化学習を行い、私たちのモデルをテーブルベースの検証と整合させます。
  論文  参考訳（メタデータ） (2025-10-07T17:59:41Z)
• The First Few Tokens Are All You Need: An Efficient and Effective Unsupervised Prefix Fine-Tuning Method for Reasoning Models [69.798277882245]
  大規模言語モデルの推論効率を向上させるために,Unsupervised Prefix Fine-Tuning (UPFT)を導入した。 UPFTはラベル付きデータや徹底的なサンプリングの必要性を取り除く。 実験の結果,UPFTは教師付き手法の性能と一致していることがわかった。
  論文  参考訳（メタデータ） (2025-03-04T18:56:03Z)
• Towards Generalizable Trajectory Prediction Using Dual-Level Representation Learning And Adaptive Prompting [107.4034346788744]
  既存の車両軌道予測モデルは、一般化可能性、予測の不確実性、複雑な相互作用を扱う。 本研究では,(1)自己拡張(SD)とマスドレコンストラクション(MR)による二重レベル表現学習,グローバルコンテキストと細部の詳細の収集,(2)レジスタベースのクエリと事前学習の強化,クラスタリングと抑圧の必要性の排除,(3)微調整中の適応型プロンプトチューニング,メインアーキテクチャの凍結,および少数のプロンプトの最適化といった,新たなトラジェクタ予測フレームワークであるPerceiverを提案する。
  論文  参考訳（メタデータ） (2025-01-08T20:11:09Z)
• The Surprising Effectiveness of Test-Time Training for Few-Shot Learning [59.309477460893916]
  言語モデル(LM)は、トレーニングディストリビューション内のタスクにおいて印象的なパフォーマンスを示しているが、しばしば構造的に新しいタスクで苦労している。 LMの推論と少数ショット学習能力を改善するメカニズムとして,テストタイムトレーニング(TTT)の有効性を検討する。 本研究は,新しいタスクにおける文脈内学習の限界を強調し,言語モデルの適応性を高めるためのテストタイムトレーニングの可能性を示した。
  論文  参考訳（メタデータ） (2024-11-11T18:59:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。