論文の概要: Quantum Models with Multi-Stage Training for Compositional Concept Generalization
- arxiv url: http://arxiv.org/abs/2608.15601v1
- Date: Sun, 16 Aug 2026 07:58:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.360374
- Title: Quantum Models with Multi-Stage Training for Compositional Concept Generalization
- Title（参考訳）: 構成概念一般化のための多段階学習を用いた量子モデル
- Abstract要約: 我々は、関係から名詞を分離し、テンソルと変分量子回路を使ってデータでそれらを訓練する意味の合成モデルを用いた解を提供する。
テキストでは、異なるアンザッツの集合を用いて、名詞のベクトル表現と関係の高次テンソル表現を扱う。
画像に対しては、Open AIのビジョン言語ツールCLIPから派生した画像埋め込みの量子エンコーディングとコントラスト振幅エンコーディングを用いて、元の埋め込み幾何学を保存し、アングルエンコーディングにより非線形特徴変換を導入する。
- 参考スコア（独自算出の注目度）: 2.205782062842962
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Compositional Concept Generalization (CoCoGen), the ability to systematically recombine learned primitives in novel contexts, is a key challenge for multimodal learning. In this work, we provide a solution using a compositional model of meaning that separates nouns from relations and uses tensors and variational quantum circuits to train them on data. This model enables us to employ a multi stage training paradigm, one that first learns object representations from single-object image-caption pairs, then subsequently transfers these to the relational stage where object parameters are frozen and optimisation is only applied to relational components. This design explicitly enforces compositional factorisation at the circuit, ensuring that relations are learned as transformations over stable primitives. The training paradigm is tested on the CLEVR dataset developed specificially for CoCoGen. For text, we work with vector representations of nouns and higher order tensor representations of relations using a set of different ansatz. For images, we work with quantum encodings of image embeddings dervied from Open AI's Vision Language tool CLIP and contrast amplitude encoding, which preserves the original embedding geometry, with angle encoding, which introduces nonlinear feature transformations. Our results show that multi-staged training combined with structured encodings significantly improves out of distribution relational generalisation, while using orders of magnitude fewer trainable parameters than classical baselines. We find that performance gains arise from the interaction between representation and encoding, with nonlinear quantum encodings enhancing the separability of compositional structure. These findings demonstrate that structured quantum representations and staged learning provide an effective framework for compositional generalisation in multimodal quantum machine learning.
- Abstract（参考訳）: 構成概念一般化(CoCoGen)は、学習したプリミティブを新しい文脈で体系的に再結合する能力であり、マルチモーダル学習の鍵となる課題である。
本研究では,関係性から名詞を分離し,テンソルと変分量子回路を用いてデータ上で学習する意味の合成モデルを用いた解を提案する。
このモデルでは,まず単一オブジェクトのイメージキャプションペアからオブジェクト表現を学習し,その後,オブジェクトパラメータが凍結され,最適化がリレーショナルコンポーネントにのみ適用されるリレーショナルステージに転送する,多段階トレーニングパラダイムを適用できる。
この設計は、回路における構成因数分解を明示的に強制し、安定原始体に対する変換として関係が学習されることを保証する。
トレーニングパラダイムは、CoCoGen用に特別に開発されたCLEVRデータセット上でテストされる。
テキストでは、異なるアンザッツの集合を用いて、名詞のベクトル表現と関係の高次テンソル表現を扱う。
画像に対しては、Open AIのビジョン言語ツールCLIPから派生した画像埋め込みの量子エンコーディングとコントラスト振幅エンコーディングを用いて、元の埋め込み幾何学を保存し、アングルエンコーディングにより非線形特徴変換を導入する。
その結果,構造化符号化と組み合わせた多段階学習は,古典的ベースラインよりもトレーニング可能なパラメータの桁数を桁違いに減らしながら,分布関係の一般化を著しく改善することがわかった。
我々は,合成構造の分離性を高める非線形量子符号化と表現と符号化の相互作用により,性能が向上することを発見した。
これらの結果は、構造化量子表現とステージ学習が、マルチモーダル量子機械学習における合成一般化に有効な枠組みであることを示している。
関連論文リスト
- KVNN: Learnable Multi-Kernel Volterra Neural Networks [6.550684951976901]
カーネル化されたVolterra Neural Network (kVNN)
ビデオ行動認識と画像認知の2つの代表的なタスクに関する実験。
大規模な事前トレーニングを行わずに、スクラッチからトレーニングした場合でも、結果は維持される。
論文 参考訳（メタデータ） (2026-04-16T15:18:48Z) - Communication-Inspired Tokenization for Structured Image Representations [74.17163003465537]
COMiT(Communication inspired Tokenization)は、構造化された視覚トークンシーケンスを学習するためのフレームワークである。
セマンティックアライメントが基盤となる一方で、解釈可能なオブジェクト中心のトークン構造を誘導するためには、注意的なシーケンシャルトークン化が重要であることを示す。
論文 参考訳（メタデータ） (2026-02-24T09:53:50Z) - Quantum LEGO Learning: A Modular Design Principle for Hybrid Artificial Intelligence [63.39968536637762]
古典的および量子的コンポーネントを再利用可能で構成可能な学習ブロックとして扱う学習フレームワークであるQuantum LEGO Learningを紹介します。
このフレームワーク内では、トレーニング済みの古典的ニューラルネットワークがフリーズ機能ブロックとして機能し、VQCはトレーニング可能な適応モジュールとして機能する。
我々は,学習誤差を近似と推定成分に分解するブロックワイズ一般化理論を開発した。
論文 参考訳（メタデータ） (2026-01-29T14:29:21Z) - Compositional Concept Generalization with Variational Quantum Circuits [2.1533342461940608]
従来, コンポジションテンソルに基づく文意味論が課題を克服できるかどうかを検討したが, 否定的な結果となった。
量子モデルのトレーニング効率が向上すれば、これらのタスクのパフォーマンスが向上すると予想する。
我々は、ヒルベルト空間における合成テンソルモデル表現を解釈し、変分量子回路を訓練し、これらの表現を画像キャプションタスクで学習する。
論文 参考訳（メタデータ） (2025-09-11T15:34:33Z) - Directional Non-Commutative Monoidal Structures for Compositional Embeddings in Machine Learning [0.0]
指向性非可換モノイド作用素上に構築された合成埋め込みのための新しい構造を導入する。
我々の構成では、各軸 i に対して異なる合成演算子 circ_i を定義し、大域的な可換性を与えることなく、各軸に沿って連想結合を保証する。
すべての軸特異作用素は互いに可換であり、一貫した交叉軸合成を可能にする大域的交換法則を強制する。
論文 参考訳（メタデータ） (2025-05-21T13:27:14Z) - How Do Transformers Learn In-Context Beyond Simple Functions? A Case
Study on Learning with Representations [98.7450564309923]
本稿では、より複雑なシナリオにおける文脈内学習(ICL)の理解を、表現を用いた学習で研究する。
合成文内学習問題を合成構造を用いて構築し、ラベルは複雑なが固定された表現関数によって入力に依存する。
理論的には、そのようなアルゴリズムを軽度な深さと大きさでほぼ実装するトランスフォーマーの存在を示す。
論文 参考訳（メタデータ） (2023-10-16T17:40:49Z) - From Bricks to Bridges: Product of Invariances to Enhance Latent Space Communication [19.336940758147442]
異なるニューラルネットワークによって学習された表現は、モデルが同様の誘導バイアスの下で訓練されたときに構造的類似性を隠蔽することが観察されている。
我々は,不変成分の積空間を潜在表現の上に構築し,その表現に不変量の集合を直接組み込む汎用的手法を導入する。
我々は,ゼロショット縫合設定において,一貫した遅延類似性および下流性能向上を観察し,分類および再構成タスクに対するソリューションの有効性を検証した。
論文 参考訳（メタデータ） (2023-10-02T13:55:38Z) - Learning Visual Representation from Modality-Shared Contrastive
Language-Image Pre-training [88.80694147730883]
本稿では,多種多様なモダリティ共有コントラスト言語-画像事前学習(MS-CLIP)フレームワークについて検討する。
学習条件下では、視覚と言語信号のためのほとんど統一されたエンコーダが、より多くのパラメータを分離する他のすべてのバリエーションより優れていることが観察された。
我々のアプローチは、24の下流視覚タスクのコレクションに基づいて、線形探索においてバニラCLIPを1.6ポイント上回ります。
論文 参考訳（メタデータ） (2022-07-26T05:19:16Z) - Adaptive Discrete Communication Bottlenecks with Dynamic Vector
Quantization [76.68866368409216]
入力に条件付けされた離散化の厳密度を動的に選択する学習を提案する。
コミュニケーションボトルネックの動的に変化する厳密さは、視覚的推論や強化学習タスクにおけるモデル性能を向上させることができることを示す。
論文 参考訳（メタデータ） (2022-02-02T23:54:26Z) - CSformer: Bridging Convolution and Transformer for Compressive Sensing [65.22377493627687]
本稿では,CNNからの詳細な空間情報を活用するためのハイブリッドフレームワークと,表現学習の強化を目的としたトランスフォーマーが提供するグローバルコンテキストを統合することを提案する。
提案手法は、適応的なサンプリングとリカバリからなるエンドツーエンドの圧縮画像センシング手法である。
実験により, 圧縮センシングにおける専用トランスアーキテクチャの有効性が示された。
論文 参考訳（メタデータ） (2021-12-31T04:37:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。