論文の概要: UniCon: Unified Framework for Efficient Contrastive Alignment via Kernels
- arxiv url: http://arxiv.org/abs/2604.16678v1
- Date: Fri, 17 Apr 2026 20:21:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.125594
- Title: UniCon: Unified Framework for Efficient Contrastive Alignment via Kernels
- Title(参考訳): UniCon:カーネルによる効率的なコントラストアライメントのための統一フレームワーク
- Abstract要約: カーネル(UniCon)による効率的なコントラストアライメントのための統一フレームワークを提案する。
中心となるUniConは、閉形式大域解を可能にする対照的な類似度行列$S()$を導入している。
合成, 単調, ゼロショットのタスクについて実験を行い, UniConが実質的な効率向上を達成することを示す。
- 参考スコア(独自算出の注目度): 24.062948287988604
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Contrastive objectives power state-of-the-art multimodal models, but their training remains slow, relying on long stochastic optimization. We propose a Unified Framework for Efficient Contrastive Alignment via Kernels (UniCon), which spans linear and nonlinear encoders as well as one-to-one and many-to-many alignments. At its core, UniCon introduces the contrastive similarity weight matrix $S(γ)$, which enables closed-form global solutions that provably replace minibatch back-propagation with exact updates. Through the lens of reproducing kernel Hilbert spaces (RKHS), UniCon provides a kernelized perspective that unifies contrastive alignment and reveals its connection to spectral methods. To validate the theory, we conduct experiments on synthetic, unimodal, multimodal, and zero-shot tasks, demonstrating that UniCon achieves substantial efficiency gains while preserving generality and strong empirical performance.
- Abstract(参考訳): 対照的な目的は最先端のマルチモーダルモデルに力を与えるが、その訓練は長い確率的最適化に依存して遅いままである。
線形および非線形エンコーダと1対1および多対多アライメントにまたがるカーネル(UniCon)による効率的なコントラストアライメントのための統一フレームワークを提案する。
中心となるUniConは、対照的な類似度重み行列$S(γ)$を導入し、これは、コンパクトバッチバックプロパゲーションを正確な更新で確実に置き換える、クローズドフォームのグローバルソリューションを可能にする。
カーネルヒルベルト空間(RKHS)を再現するレンズを通して、UniConはコントラストアライメントを統一し、スペクトル法との関係を明らかにする、カーネル化された視点を提供する。
この理論を検証するために,UniConが一般性と強い経験的性能を維持しつつ,かなりの効率向上を達成できることを実証し,合成,単調,マルチモーダル,ゼロショットタスクの実験を行った。
関連論文リスト
- Beyond Modality Harmony: Orthogonal Purification and Topology-Guided MoE for Conflict-Aware Multimodal Recommendation [6.78317230214304]
コンフリクト対応マルチモーダルレコメンデーション(OrthoRec)のための直交浄化とトポロジー誘導型MoEを提案する。
OrthoRecがCGOP(Collaborative-Guided Orthogonal Purification)を導入
我々はOrthoRecが競争力のある最近のベースラインを一貫して上回り、モダリティノイズやアイテムのスポーシティの下で頑健さを向上させることを示した。
論文 参考訳(メタデータ) (2026-09-02T06:06:30Z) - Beyond Objective Expressivity: Geometry Preservation in Multimodal Contrastive Learning [1.2472265402088736]
我々は,エンコーダのヤコビアン条件付けを三モーダルコントラスト学習の鍵要因とみなす。
本稿では,ジャコビアンを直接正規化することで,幾何保存エンコーダ(GPE)を導入する。
論文 参考訳(メタデータ) (2026-07-20T08:25:45Z) - A Unified Framework for Gradient Aggregation in Multi-Objective Optimization [23.311857116714176]
我々はMOOにおける勾配集約のための統一フレームワークを開発する。
両錐体への射影により実現可能性を保証することを示し、収束保証を許容する手法の範囲を広げる。
本稿では、確立されたアルゴリズムを包含し、それらの理論的関係を明確化し、新しい変種の設計を可能にする勾配集約の最適化的視点を示す。
論文 参考訳(メタデータ) (2026-05-28T18:21:53Z) - Uni-Synergy: Bridging Understanding and Generation for Personalized Reasoning via Co-operative Reinforcement Learning [56.99010101756807]
我々は、パーソナライズされた理解と生成を共同で最適化する、エンドツーエンドの強化学習フレームワークSync-R1を提案する。
Sync-R1はパーソナライズされた理解を可能にしてコンテンツ生成をガイドし、生成した品質は相互に理解を洗練させる。
また,低電位トラジェクタを適応的にフィルタして勾配分散を低減し,収束を加速する動的グループスケーリング(DGS)も導入する。
実験結果から,Sync-R1は高度なクロスタスク推論とロバストなパーソナライゼーションを実現していることがわかった。
論文 参考訳(メタデータ) (2026-05-11T12:18:26Z) - Anisotropic Modality Align [91.23979617826926]
マルチモーダルな大規模言語モデルの訓練は、高品質なペア型マルチモーダルデータの不足により、長い間制限されてきた。
近年の研究では、事前訓練されたマルチモーダルコントラストモデルの共有表現空間がブリッジとして機能し、非モーダルデータを用いたマルチモーダルトレーニングを可能にすることが示されている。
中心となる障害は、共有空間の永続的なモダリティギャップにある。
論文 参考訳(メタデータ) (2026-05-08T14:53:24Z) - Spectral Disentanglement and Enhancement: A Dual-domain Contrastive Framework for Representation Learning [28.392130815615545]
SDE(Spectral Disentanglement and Enhancement)は、埋め込み空間の幾何学とスペクトル特性の間のギャップを埋める新しいフレームワークである。
SDEは一貫して表現と堅牢性を改善し、最先端の手法より優れている。
論文 参考訳(メタデータ) (2026-02-09T07:29:43Z) - Unleashing Degradation-Carrying Features in Symmetric U-Net: Simpler and Stronger Baselines for All-in-One Image Restoration [52.82397287366076]
オールインワン画像復元は、統合された枠組み内で様々な劣化(ノイズ、ぼかし、悪天候など)を扱うことを目的としている。
本研究では, 優れた特徴抽出法により, 劣化伝達情報を本質的にエンコードする, 重要な知見を明らかにする。
我々の対称設計は固有の劣化信号を頑健に保存し、スキップ接続に単純な加法融合を施す。
論文 参考訳(メタデータ) (2025-12-11T12:20:31Z) - MMaDA-Parallel: Multimodal Large Diffusion Language Models for Thinking-Aware Editing and Generation [86.82285754460491]
テキストと画像の出力モダリティの両方を評価するための新しいベンチマークを提案する。
この性能劣化は、生成した推論と最終画像との整合性に強く相関する。
本稿では,テキストと画像間の双方向の連続的相互作用を可能にする並列多モード拡散フレームワークMMaDA-Parallelを提案する。
論文 参考訳(メタデータ) (2025-11-12T18:58:21Z) - Kernel VICReg for Self-Supervised Learning in Reproducing Kernel Hilbert Space [0.15293427903448018]
Kernel VICRegは、VICRegの目的を再現するKernel Hilbert Spaceに持ち上げる自己教師型学習フレームワークである。
我々は,Kernel VICRegが表現の崩壊を避けるだけでなく,複雑なデータや小規模なデータを扱うタスクの性能を向上させることを実証した。
論文 参考訳(メタデータ) (2025-09-08T23:49:21Z) - CM$^3$: Calibrating Multimodal Recommendation [10.09576389984858]
本研究では,マルチモーダルレコメンダシステムのコンテキストにおけるアライメントと均一性について再検討する。
同様のマルチモーダル属性を持つ項目が超球面多様体内の近位表現に収束するよりニュアンスなアプローチを提案する。
また、任意の数のモジュラリティを統合するために設計された球面ブエジエ法を導入し、その結果の融合した特徴が同じ超球面多様体に制約されることを保証する。
論文 参考訳(メタデータ) (2025-08-02T06:44:59Z) - Principled Multimodal Representation Learning [99.53621521696051]
マルチモーダル表現学習は、多様なデータモダリティを統合することにより、統一された表現空間を作ろうとする。
最近の進歩は、複数のモードの同時アライメントを調査しているが、いくつかの課題が残っている。
複数モーダルの同時アライメントを実現する新しいフレームワークであるPMRL(Principled Multimodal Representation Learning)を提案する。
論文 参考訳(メタデータ) (2025-07-23T09:12:25Z) - SinSim: Sinkhorn-Regularized SimCLR [0.0]
自己教師型学習はラベル付きデータの必要性を排除して表現学習に革命をもたらした。
我々はSimCLRの新たな拡張であるSinSimを提案し、Sinkhorn正則化を最適輸送理論から統合して表現構造を強化する。
さまざまなデータセットに対する実証的な評価は、SinSimがSimCLRより優れており、VICRegやBarlow Twinsといった著名な自己管理手法と競合する性能を発揮することを示している。
論文 参考訳(メタデータ) (2025-02-13T19:49:25Z) - LInK: Learning Joint Representations of Design and Performance Spaces through Contrastive Learning for Mechanism Synthesis [15.793704096341523]
本稿では,性能と設計空間のコントラスト学習と最適化手法を統合する新しいフレームワークであるLInKを紹介する。
マルチモーダルおよび変換不変のコントラスト学習フレームワークを活用することで、LInKは複雑な物理学とメカニズムの設計表現をキャプチャする共同表現を学習する。
以上の結果から,LInKは機構設計の分野を進展させるだけでなく,他の工学分野へのコントラスト学習や最適化の適用性も拡大することが示された。
論文 参考訳(メタデータ) (2024-05-31T03:04:57Z) - Optimization-Inspired Learning with Architecture Augmentations and
Control Mechanisms for Low-Level Vision [74.9260745577362]
本稿では,GDC(Generative, Discriminative, and Corrective)の原則を集約する,最適化に着想を得た統合学習フレームワークを提案する。
フレキシブルな組み合わせで最適化モデルを効果的に解くために,3つのプロパゲーティブモジュールを構築した。
低レベル視覚タスクにおける実験は、GDCの有効性と適応性を検証する。
論文 参考訳(メタデータ) (2020-12-10T03:24:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。