論文の概要: Implicit Rule Induction with Test-Time Task Embeddings in ARC-like Tasks
- arxiv url: http://arxiv.org/abs/2609.21181v1
- Date: Fri, 18 Sep 2026 01:04:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-21 18:40:16.806062
- Title: Implicit Rule Induction with Test-Time Task Embeddings in ARC-like Tasks
- Title(参考訳): ARCライクなタスクにおけるテスト時間タスク埋め込みによるインプシットルールの誘導
- Abstract要約: トレーニング可能な埋め込みにより、トレーニング済みのバックボーンを補完するモデルであるVision ARCにおけるテスト時間タスクの埋め込みについて検討する。
オリジナルのVARCでは、テストタイムトレーニング(TTT)がバックボーンとタスクの埋め込みに共同で適用される。
ARC-AGI-1、ConceptARC、および既知のルールを持つ2つの制御されたデータセット全体で、Embed-TTTは、常に改善されたタスク埋め込みを生成する。
- 参考スコア(独自算出の注目度): 19.284542184857624
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Abstraction and Reasoning Corpus and related benchmarks evaluate whether AI models can solve novel reasoning tasks, but often leave unclear whether success reflects inference of the intended underlying rule or reliance on shortcuts. We address this gap by studying test-time task embeddings in Vision ARC (VARC), a model in which a pre-trained backbone is complemented by a trainable embedding representing the transformation rule. In the original VARC, test-time training (TTT) is jointly applied to the backbone and task embedding. Here we introduce a novel two-step TTT protocol: first finetune only the task embedding (Embed-TTT), then freeze it and finetune the backbone. Across ARC-AGI-1, ConceptARC, and two controlled datasets with known rules, Embed-TTT consistently yields improved task embeddings, ones that align better with underlying task rules, improve embedding-based retrieval, and enable accurate linear probing of known rules. Qualitatively, Embed-TTT identifies more semantically meaningful relations between test and train tasks on ARC-AGI-1. We also show that optimizing only task embeddings (less than 0.01% of model parameters) already solves a non-trivial fraction of ARC-AGI-1, ConceptARC, and Mini-ARC tasks, while the full two-step pipeline improves final performance. Finally, we show that Embed-TTT recovers the underlying geometric structure of parametric rules and learns compositional capabilities that enable rule-wise interpolation, but not extrapolation. These findings support a clearer separation between rule induction and rule execution in ARC-like evaluations, motivating benchmarks that better distinguish in-distribution from out-of-distribution rules.
- Abstract(参考訳): Abstraction and Reasoning Corpusと関連するベンチマークは、AIモデルが新しい推論タスクを解決できるかどうかを評価するが、成功が意図された基本ルールの推論を反映しているか、あるいはショートカットへの依存を反映しているかはよくわからない。
このギャップは、VARC(Vision ARC)におけるテスト時タスクの埋め込みを研究することで解決される。
オリジナルのVARCでは、テストタイムトレーニング(TTT)がバックボーンとタスクの埋め込みに共同で適用される。
ここでは、新しい2段階のTTプロトコルを紹介します。まず、タスク埋め込み(Embed-TTT)のみを微調整し、凍結し、バックボーンを微調整します。
ARC-AGI-1、ConceptARC、および既知のルールを持つ2つの制御されたデータセットに対して、Embed-TTTは一貫して改善されたタスク埋め込み、基礎となるタスクルールとの整合性の向上、埋め込みベースの検索の改善、既知のルールの正確な線形探索を可能にする。
定性的には、Embed-TTTはARC-AGI-1上のテストタスクとトレインタスクの間のより意味論的に意味のある関係を識別する。
また、タスク埋め込みのみを最適化する(モデルパラメータの0.01%未満)ことで、ARC-AGI-1、ConceptARC、Mini-ARCタスクの非自明な部分はすでに解決されているのに対し、完全な2ステップパイプラインは最終的なパフォーマンスを改善していることを示す。
最後に、Embed-TTTはパラメトリックな規則の基本的な幾何学的構造を復元し、規則的に補間できるが外挿はしない構成能力を学ぶ。
これらの結果は、ARCライクな評価におけるルール誘導とルール実行のより明確な分離をサポートし、アウト・オブ・ディストリビューション・ルールとイン・ディストリビューション・ルールをよりよく区別するモチベーション・ベンチマークである。
関連論文リスト
- DeliCIR: Deliberative Test-Time Evolutionary Hierarchical Multi-Agents for Composed Image Retrieval [30.843984141042828]
Composed Image Retrieval (CIR)は、参照画像の視覚的連続性を保存することと、修正テキストで指定されたセマンティック変数を忠実に実行することの両方を必要とする。
本稿では,体験自己進化とテスト時間スケーリング法(TTS)を初めてCIRに導入した,ワンストップ階層型パーセプション・ツー・ディリベレーションフレームワーク(PDF)を提案する。
本研究では、経験駆動型自己進化とTSは、ゼロショットの微細なマルチメディア検索を実現するための、非常に有望でスケーラブルな経路であることを示す。
論文 参考訳(メタデータ) (2026-05-21T13:36:38Z) - ARC-AGI-2 Technical Report [0.0846998909761807]
ARC (Abstraction and Reasoning Corpus) はパターンマッチング以上の一般化を評価するために設計された。
本稿では、ニューラルネットワークと構造認識の事前処理とオンラインタスク適応を組み合わせることにより、ARC性能を向上させるトランスフォーマーベースシステムを提案する。
論文 参考訳(メタデータ) (2026-02-04T10:03:56Z) - Tiny Recursive Models on ARC-AGI-1: Inductive Biases, Identity Conditioning, and Test-Time Compute [0.0]
我々はARC-AGI-1のARC Prize TRMチェックポイントを実験的に分析した。
テストタイムの増大と多数投票の合理化が報告された性能のかなりの部分を占めていることを示す。
また, TRMとLlama 3 8BのQLoRAファインチューンを標準ARC-AGI-1上で比較した。
論文 参考訳(メタデータ) (2025-12-04T06:20:44Z) - NeuroTTT: Bridging Pretraining-Downstream Task Misalignment in EEG Foundation Models via Test-Time Training [6.030518150035875]
本稿では,脳波基礎モデルのための2段階アライメント戦略を提案する。
まず,ドメイン固有の自己教師型微調整パラダイムであるNeuroTTTを提案する。
第2に、未ラベルのテストサンプルの自己教師型テストタイムトレーニングを行う。
我々のアプローチは、大規模なEEG基盤モデルにおけるテストタイムトレーニングとドメインチューニングされたセルフスーパービジョンを統合する最初の方法です。
論文 参考訳(メタデータ) (2025-09-30T14:14:46Z) - CKAA: Cross-subspace Knowledge Alignment and Aggregation for Robust Continual Learning [80.18781219542016]
継続的学習(CL)は、シーケンシャルなタスクストリームから継続的に学習するAIモデルに権限を与える。
近年,パラメータ効率のよい微調整(PEFT)によるCL法が注目されている。
ミスリード型タスクIDに対するロバスト性を高めるために,クロスサブスペース・ナレッジアライメント・アグリゲーション(CKAA)を提案する。
論文 参考訳(メタデータ) (2025-07-13T03:11:35Z) - Towards Learning Abductive Reasoning using VSA Distributed Representations [56.31867341825068]
本稿では,文脈認識モデルを用いた帰納的ルール学習手法を提案する。
ARLCは、誘引的推論のための、新しくより広く適用可能な訓練目標を特徴としている。
プログラムされた知識の上に実例から漸進的に学習することで,ARLCのポストプログラミングトレーニングに対する堅牢性を示す。
論文 参考訳(メタデータ) (2024-06-27T12:05:55Z) - Aligned Unsupervised Pretraining of Object Detectors with Self-training [41.03780087924593]
物体検出器の教師なし事前訓練は、近年、物体検出器訓練の重要な要素となっている。
本稿では、この問題を緩和し、3つの単純かつ重要な要素からなるフレームワークを提案する。
当社の戦略は,スクラッチ(背骨を含む)からの事前トレーニングも可能であり,COCOのような複雑な画像にも適用可能であることを示す。
論文 参考訳(メタデータ) (2023-07-28T17:46:00Z) - Semi-DETR: Semi-Supervised Object Detection with Detection Transformers [105.45018934087076]
半教師付き物体検出(SSOD)におけるDETRに基づくフレームワークの解析
本報告では,第1次変圧器を用いたエンド・ツー・エンド半教師対象検出器であるSemi-DETRについて述べる。
我々の手法は、最先端の手法をクリアマージンで上回る。
論文 参考訳(メタデータ) (2023-07-16T16:32:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。