論文の概要: Intuition vectors
- arxiv url: http://arxiv.org/abs/2609.32619v1
- Date: Sat, 26 Sep 2026 13:40:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-07 04:56:37.394185
- Title: Intuition vectors
- Title(参考訳): 直観ベクトル
- Abstract要約: 自己監督型視覚モデルは、シーンのセグメンテーションと物理的なオブジェクトの意味的分解をサポートする表現を学習する。
タスク固有の微調整を行わずに視覚的推論問題への変換を支援するのかを問う。
DINOv3, MAE, and random pixel projections on Bongard problem, ARC-AGI-1 and ARC-AGI-2, and novel ARC-GEN instance。
- 参考スコア(独自算出の注目度): 1.0742675209112622
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large self-supervised vision models learn representations that support scene segmentation and the semantic decomposition of physical objects. We ask whether their representational geometry supports transfer to visual reasoning problems without any task-specific fine-tuning. We hypothesized that relational representations may bridge perception and abstract reasoning by encoding similarities and transformations among visual inputs such that an intuitive, implicit form of reasoning may be performed via latent vector arithmetic. Specifically, we examine DINOv3, MAE, and random pixel projections on abstract and naturalistic Bongard problems, ARC-AGI-1 and ARC-AGI-2, and novel ARC-GEN instances. On both Bongard benchmarks, the accuracy of a simple nearest-centroid readout of frozen visual embeddings is within four percentage points of the task-specific baselines reported with the original benchmarks. In ARC, latent difference vectors summarizing demonstration input-output transformations, which we refer to as intuition vectors, show greater alignment with test vectors from the same task, whereas those from unrelated tasks are near orthogonal. This latent geometry is operational: transporting a query along its intuition vector consistently improves exact-output retrieval, reaching 70.7 on ARC-AGI-2 evaluation. Across 397,000 ARC-GEN instances from 794 tasks, single-pair intuition vectors identify the generating task with approximately 87\% leave-one-out accuracy. These findings suggest that latent vector arithmetic over frozen visual representations supports implicit rule inference across varied problem domains without a generative model component, indicating that inferring an abstract transformation and generating its instance-specific consequence may be separable capacities.
- Abstract(参考訳): 大規模な自己監督型視覚モデルは、シーンのセグメンテーションと物理的なオブジェクトの意味的な分解をサポートする表現を学ぶ。
タスク固有の微調整を行わずに視覚的推論問題への変換を支援するのかを問う。
視覚入力間の類似性や変換を符号化することで、関係表現が認識と抽象的推論を橋渡しし、直観的で暗黙的な推論を潜在ベクトル算術によって行うことができるという仮説を立てた。
具体的には,抽象的および自然主義的ボナード問題,ARC-AGI-1,ARC-AGI-2,新規なARC-GENインスタンスに対するDINOv3,MAE,ランダム画素投影について検討する。
両方のBongardベンチマークでは、凍結された視覚埋め込みの単純な最寄りのセントロイド読み出しの精度は、元のベンチマークで報告されたタスク固有のベースラインの4ポイント以内である。
ARCでは、実演入力出力変換を要約する潜在差分ベクトルは直観ベクトルと呼ばれ、同じタスクからのテストベクトルとよりよく一致しているが、非関係なタスクからのベクトルは直交に近い。
直観ベクトルに沿ってクエリを転送することで、ARC-AGI-2の評価で70.7に達する正確な出力検索が一貫して改善される。
794のタスクから397,000のARC-GENインスタンスに対して、単一ペアの直観ベクトルは、生成タスクを87\%の精度で識別する。
これらの結果から,凍結視覚表現上の潜在ベクトル算術は,生成モデル成分を含まない様々な問題領域における暗黙的な規則推論をサポートし,抽象的変換を推論し,インスタンス固有の結果を生成することは,分離可能な能力である可能性が示唆された。
関連論文リスト
- Reasoning Vectors: Transferring Chain-of-Thought Capabilities via Task Arithmetic [51.41777906371754]
大規模言語モデルは複雑な推論タスクをマスターするために、強化学習のようなコストのかかる最適化を必要とすることが多い。
この研究は、ひとたび学習された推論能力を、コンパクトなタスクベクトルとしてモデル間で抽出し、伝達できることを実証する。
論文 参考訳(メタデータ) (2025-09-01T11:04:51Z) - Point or Line? Using Line-based Representation for Panoptic Symbol Spotting in CAD Drawings [67.5600169375126]
ベクトルグラフィカルプリミティブからなるCAD図面におけるパノプティカルシンボルスポッティングの課題について検討する。
既存の手法は通常、画像化、グラフ構築、あるいは点ベースの表現に依存している。
本稿では,プリミティブの行ベースの表現を通じてこれらの課題に対処する新しい手法であるVecFormerを提案する。
論文 参考訳(メタデータ) (2025-05-29T12:33:11Z) - seq-JEPA: Autoregressive Predictive Learning of Invariant-Equivariant World Models [1.474723404975345]
本稿では,協調埋め込み型予測アーキテクチャにアーキテクチャバイアスを導入する世界モデリングフレームワークSeq-JEPAを提案する。
Seq-JEPA は2つのアーキテクチャ的に分離された表現を同時に学習する。
行動間の経路統合や眼球運動間の予測学習など、本質的に一連の観察を必要とするタスクに優れています。
論文 参考訳(メタデータ) (2025-05-06T04:39:11Z) - Symbolic Disentangled Representations for Images [83.88591755871734]
本稿では,ArSyD (Architecture for Disentanglement) を提案する。
我々は,dSpritesおよびCLEVRデータセットのArSyDについて検討し,学習されたシンボル不絡み表現の包括的解析を行う。
論文 参考訳(メタデータ) (2024-12-25T09:20:13Z) - Tackling the Abstraction and Reasoning Corpus with Vision Transformers: the Importance of 2D Representation, Positions, and Objects [31.926206783846144]
視覚変換器(ViT)は、タスク毎に100万のサンプルをトレーニングしても、ほとんどのARCタスクで劇的に失敗することを示す。
ARCに必要な視覚的推論能力のいくつかを解放する,ViTARC スタイルのアーキテクチャを提案する。
タスク固有のViTARCモデルは、400のパブリックARCタスクの半数以上において、100%に近い確率で解決できる。
論文 参考訳(メタデータ) (2024-10-08T22:25:34Z) - Solving ARC visual analogies with neural embeddings and vector
arithmetic: A generalized method [0.0]
アナロジカル推論は、既知の関係から情報を導き出し、この情報を類似しているが馴染みの無い状況に一般化する。
深層学習モデルが動詞の類似を解くことができる最初の一般化された方法の1つは、単語埋め込みのベクトル算術によるものであった。
本研究は,視覚的類似推論に焦点をあて,視覚領域の言語的類似を解くために用いられる初期一般化メカニズムを適用した。
論文 参考訳(メタデータ) (2023-11-14T11:10:46Z) - LLMs and the Abstraction and Reasoning Corpus: Successes, Failures, and
the Importance of Object-based Representations [50.431003245201644]
GPT-4 は 1D-ARC や単純な ARC サブセットのような非言語領域で完全に「推論」できないことを示す。
本稿では,外部ツールから得られるオブジェクトベース表現を提案する。これにより,解決されたARCタスクのパフォーマンスがほぼ倍増し,より簡単な1D-ARC上でのほぼ完璧なスコアが得られた。
論文 参考訳(メタデータ) (2023-05-26T16:32:17Z) - Causal Transportability for Visual Recognition [70.13627281087325]
画像とラベルの関連性は、設定間では転送できないため、標準分類器がフェールすることを示す。
次に、すべての共起源を摂食する因果効果が、ドメイン間で不変であることを示す。
これにより、画像分類における因果効果を推定するアルゴリズムを開発する動機付けとなる。
論文 参考訳(メタデータ) (2022-04-26T15:02:11Z) - Improving Aspect-based Sentiment Analysis with Gated Graph Convolutional
Networks and Syntax-based Regulation [89.38054401427173]
Aspect-based Sentiment Analysis (ABSA) は、特定の側面に向けて文の感情極性を予測する。
依存関係ツリーは、ABSAの最先端のパフォーマンスを生成するために、ディープラーニングモデルに統合することができる。
本稿では,この2つの課題を克服するために,グラフに基づく新しいディープラーニングモデルを提案する。
論文 参考訳(メタデータ) (2020-10-26T07:36:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。