論文の概要: mini-vec2vec: Scaling Universal Geometry Alignment with Linear Transformations
- arxiv url: http://arxiv.org/abs/2510.02348v1
- Date: Sat, 27 Sep 2025 12:25:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-06 16:35:52.025301
- Title: mini-vec2vec: Scaling Universal Geometry Alignment with Linear Transformations
- Title(参考訳): mini-vec2vec:線形変換によるユニバーサル幾何アライメントのスケーリング
- Authors: Guy Dar,
- Abstract要約: 我々は,テキスト埋め込み空間を並列データなしで整列する手法であるvec2vecを構築した。
計算コストを大幅に削減し,より堅牢な,シンプルで効率的な代替手段である mini-vec2vec を提案する。
本手法は, 擬並列埋め込みベクトルの仮マッチング, 変換フィッティング, 反復精製の3段階からなる。
- 参考スコア(独自算出の注目度): 3.6829420310029057
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We build upon vec2vec, a procedure designed to align text embedding spaces without parallel data. vec2vec finds a near-perfect alignment, but it is expensive and unstable. We present mini-vec2vec, a simple and efficient alternative that requires substantially lower computational cost and is highly robust. Moreover, the learned mapping is a linear transformation. Our method consists of three main stages: a tentative matching of pseudo-parallel embedding vectors, transformation fitting, and iterative refinement. Our linear alternative exceeds the original instantiation of vec2vec by orders of magnitude in efficiency, while matching or exceeding their results. The method's stability and interpretable algorithmic steps facilitate scaling and unlock new opportunities for adoption in new domains and fields.
- Abstract(参考訳): 我々は,テキスト埋め込み空間を並列データなしで整列する手法であるvec2vecを構築した。
vec2vecは、ほぼ完全なアライメントを見つけるが、高価で不安定である。
計算コストを大幅に削減し,より堅牢な,シンプルで効率的な代替手段である mini-vec2vec を提案する。
さらに、学習された写像は線形変換である。
本手法は, 擬並列埋め込みベクトルの仮マッチング, 変換フィッティング, 反復精製の3段階からなる。
我々の線形な代替案は、vec2vecの本来のインスタンス化を、その結果の一致または超えながら、一桁の効率で上回っている。
この手法の安定性と解釈可能なアルゴリズムステップは、新しい領域や分野に導入する新たな機会のスケーリングとアンロックを容易にする。
関連論文リスト
- RiemanLine: Riemannian Manifold Representation of 3D Lines for Factor Graph Optimization [49.83974390433746]
本稿では,3次元ラインの最小限の統一表現である textbfRiemanLine を紹介する。
私たちのキーとなるアイデアは、各行のランドマークをグローバルなコンポーネントとローカルなコンポーネントに分離することです。
ICL-NUIM, TartanAir, および総合ベンチマークを用いた実験により, 提案手法はより精度の高いポーズ推定とライン再構成を実現することが示された。
論文 参考訳(メタデータ) (2025-08-06T11:27:38Z) - Learning Straight Flows by Learning Curved Interpolants [19.42604535211923]
フローマッチングモデルは通常、フォワード/ノイズ加算プロセスを定義するために線形補間を用いる。
これにより、雑音と対象分布の独立結合とともに、しばしば非直線となるベクトル場が得られる。
直進ベクトル場を学習し、より高速な生成を実現するために、フレキシブルな(潜在的に湾曲した)補間子を学習することを提案する。
論文 参考訳(メタデータ) (2025-03-26T16:54:56Z) - Coordinate Linear Variance Reduction for Generalized Linear Programming [27.365677554732304]
この問題における線形構造は、効率的でスケーラブルな1次アルゴリズムの設計に利用できることを示す。
textscclvr はスペクトルノルムではなく、線形制約行列 (GLP) の最大行ノルムに依存する(GLP) に対して、より複雑な結果をもたらす。
論文 参考訳(メタデータ) (2021-11-02T18:57:23Z) - Hybrid Trilinear and Bilinear Programming for Aligning Partially
Overlapping Point Sets [85.71360365315128]
多くの応用において、部分重なり合う点集合が対応するRPMアルゴリズムに不変であるようなアルゴリズムが必要である。
まず、目的が立方体有界関数であることを示し、次に、三線型および双線型単相変換の凸エンベロープを用いて、その下界を導出する。
次に、変換変数上の分岐のみを効率よく実行するブランチ・アンド・バウンド(BnB)アルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-01-19T04:24:23Z) - Cogradient Descent for Bilinear Optimization [124.45816011848096]
双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。
一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。
本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
論文 参考訳(メタデータ) (2020-06-16T13:41:54Z) - Multi-Objective Matrix Normalization for Fine-grained Visual Recognition [153.49014114484424]
双線形プールは細粒度視覚認識(FGVC)において大きな成功を収める
近年,行列パワー正規化は双線形特徴量において2次情報を安定化させることができることが示されている。
両線形表現を同時に正規化できる効率的な多目的行列正規化法(MOMN)を提案する。
論文 参考訳(メタデータ) (2020-03-30T08:40:35Z) - Accelerating Feedforward Computation via Parallel Nonlinear Equation
Solving [106.63673243937492]
ニューラルネットワークの評価や自己回帰モデルからのサンプリングなどのフィードフォワード計算は、機械学習においてユビキタスである。
本稿では,非線形方程式の解法としてフィードフォワード計算の課題を定式化し,ジャコビ・ガウス・シーデル固定点法とハイブリッド法を用いて解を求める。
提案手法は, 並列化可能な繰り返し回数の削減(あるいは等値化)により, 元のフィードフォワード計算と全く同じ値が与えられることを保証し, 十分な並列化計算能力を付与する。
論文 参考訳(メタデータ) (2020-02-10T10:11:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。