論文の概要: Latent space configuration for neural network finetuning, fast ranking, and embedding dimensionality reduction
- arxiv url: http://arxiv.org/abs/2610.29295v1
- Date: Wed, 21 Oct 2026 06:47:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 09:50:43.233058
- Title: Latent space configuration for neural network finetuning, fast ranking, and embedding dimensionality reduction
- Title(参考訳): ニューラルネットワークの微調整,高速ランキング,埋め込み次元化のための潜時空間構成
- Abstract要約: 本稿では, NN の構造化潜在空間 (LS) に対する探索アルゴリズムを提案する。
最適化されたモデルから得られた埋め込みに提案アルゴリズムを適用すると、ベースライン網羅探索よりも数倍高速になる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Finding K most similar elements for a query in a large gallery of neural network (NN) embeddings is essential in various areas of computer science and industrial applications of artificial intelligence. This paper proposes search algorithms for structured latent spaces (LS) of NNs which allow to speed up top K item retrieval owing to O(1) complexity small candidate gallery subset search. ArcFace-pretrained IResNet50 models are finetuned using Latent Space Configuration (LSC) methodology to obtain new distribution of embeddings with desired geometric properties. Applying the proposed algorithms to embeddings obtained from finetuned models leads to several times speed-up over baseline exhaustive search. Specifically, we report up to 3 times speed-up on GPU and 40% speed-up on CPU compared to the baseline method GPU speed. These results are obtained for the original and reduced numbers of LS dimensions. The results show that LS dimensionality reduction allows to further accelerate the search and even improve rank-N metrics.
- Abstract(参考訳): ニューラルネットワークの大規模なギャラリー(NN)への埋め込みにおいて、クエリに最もよく似た要素を見つけることは、コンピュータ科学や人工知能の産業応用の様々な領域において不可欠である。
本稿では, NN の構造化潜在空間 (LS) に対する探索アルゴリズムを提案する。
ArcFace-pretrained IResNet50 model is finetuned using Latent Space Configuration (LSC) method to obtain new distribution of embeddeds with desired geometry properties。
最適化されたモデルから得られた埋め込みに提案アルゴリズムを適用すると、ベースライン網羅探索よりも数倍高速になる。
具体的には、GPUの最大3倍のスピードアップとCPUの40%のスピードアップを、GPUのベースライン方式と比較して報告する。
これらの結果はLS次元の原数と縮小数に対して得られる。
その結果,LS次元の低減により,探索をさらに加速し,ランクNの指標も改善できることがわかった。
関連論文リスト
- 2L-LSH: A Locality-Sensitive Hash Function-Based Method For Rapid Point Cloud Indexing [8.612401295996042]
提案した2L-LSHアルゴリズムは,2段階のハッシュ関数戦略を採用し,一般的なステップは点クラウドモデルのバウンディングボックスを分割し,第2ステップはテーブルベースのデータ構造を構築する。
提案アルゴリズムは,Kd-tree や Octree などのよく知られた手法と比較する。
論文 参考訳(メタデータ) (2026-04-23T09:01:08Z) - PEL-NAS: Search Space Partitioned Architecture Prompt Co-Evolutionary LLM-driven Hardware-Aware Neural Architecture Search [3.59587275290785]
ハードウェア対応ニューラルネットワークサーチ(HW-NAS)では,デバイス制約下での精度とレイテンシを共同で最適化する必要がある。
本稿では,PEL-NASを提案する。PEL-NASは探索空間を分割し,アーキテクチャプロンプトを共進化的かつLLM駆動型ニューラルアーキテクチャサーチを提案する。
論文 参考訳(メタデータ) (2025-10-01T21:29:20Z) - Efficient Sketching and Nearest Neighbor Search Algorithms for Sparse Vector Sets [16.768212375976546]
スパースANNSのための新しいデータ構造とアルゴリズム手法を提案する。
我々の貢献は、スパースベクトルに対する理論的に基底化されたスケッチアルゴリズムから、それらの有効次元を減少させるものまで様々である。
我々の最終アルゴリズムは耐震性と呼ばれ、大規模ベンチマークデータセット上で高精度でミリ秒以下のレイテンシに達する。
論文 参考訳(メタデータ) (2025-09-29T14:02:45Z) - Flexible Channel Dimensions for Differentiable Architecture Search [50.33956216274694]
本稿では,効率的な動的チャネル割当アルゴリズムを用いた新しい微分可能なニューラルアーキテクチャ探索法を提案する。
提案するフレームワークは,タスク精度と推論遅延において,従来の手法と等価なDNNアーキテクチャを見つけることができることを示す。
論文 参考訳(メタデータ) (2023-06-13T15:21:38Z) - D-DARTS: Distributed Differentiable Architecture Search [75.12821786565318]
微分可能なArchiTecture Search(DARTS)は、最も流行しているニューラルネットワークサーチ(NAS)の1つである。
セルレベルで複数のニューラルネットワークをネストすることでこの問題に対処する新しいソリューションD-DARTSを提案する。
論文 参考訳(メタデータ) (2021-08-20T09:07:01Z) - CONet: Channel Optimization for Convolutional Neural Networks [33.58529066005248]
畳み込みニューラルネットワーク(CNN)におけるチャネルサイズ最適化の検討
ネットワーク層をまたいだCNNのチャネルサイズを自動的に最適化する,効率的な動的スケーリングアルゴリズムであるConetを導入します。
CIFAR10/100およびImageNetデータセット上で実験を行い、ConetがResNet、DARTS、DARTS+空間で探索された効率的で正確なアーキテクチャを見つけることができることを示す。
論文 参考訳(メタデータ) (2021-08-15T21:48:25Z) - Towards Efficient Graph Convolutional Networks for Point Cloud Handling [181.59146413326056]
ポイントクラウド上で学習するためのグラフ畳み込みネットワーク(GCN)の計算効率の向上を目指します。
一連の実験により、最適化されたネットワークは計算複雑性を減らし、メモリ消費を減らし、推論速度を加速した。
論文 参考訳(メタデータ) (2021-04-12T17:59:16Z) - AutoSpace: Neural Architecture Search with Less Human Interference [84.42680793945007]
現在のニューラルネットワークアーキテクチャ検索(NAS)アルゴリズムは、ネットワーク構築のための検索空間を設計するための専門知識と努力を必要とします。
探索空間を最適なものに進化させる新しい微分可能な進化フレームワークであるAutoSpaceを提案する。
学習した検索空間では、最近のNASアルゴリズムの性能は、以前手作業で設計した空間に比べて大幅に改善できる。
論文 参考訳(メタデータ) (2021-03-22T13:28:56Z) - Trilevel Neural Architecture Search for Efficient Single Image
Super-Resolution [127.92235484598811]
本稿では,高効率単一画像超解像(SR)のための3レベルニューラルネットワーク探索法を提案する。
離散探索空間をモデル化するために、離散探索空間に新たな連続緩和を適用し、ネットワークパス、セル操作、カーネル幅の階層的混合を構築する。
階層型スーパーネット方式による最適化を行うため,効率的な探索アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-01-17T12:19:49Z) - ISTA-NAS: Efficient and Consistent Neural Architecture Search by Sparse
Coding [86.40042104698792]
スパース符号問題としてニューラルアーキテクチャ探索を定式化する。
実験では、CIFAR-10の2段階法では、検索にわずか0.05GPUしか必要としない。
本手法は,CIFAR-10とImageNetの両方において,評価時間のみのコストで最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2020-10-13T04:34:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。