論文の概要: KoVRE: Training an Efficient Embedding Model for Korean Visual Document Retrieval
- arxiv url: http://arxiv.org/abs/2608.01389v1
- Date: Sun, 02 Aug 2026 17:11:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.191798
- Title: KoVRE: Training an Efficient Embedding Model for Korean Visual Document Retrieval
- Title（参考訳）: KoVRE:韓国のビジュアル文書検索のための効率的な埋め込みモデルのトレーニング
- Abstract要約: KoVRE:KoVRE: Korean Visual Document Retrieval Embeddingは、韓国のビジュアルドキュメントのためのシングルベクターレトリバーである。
韓国語と英語の問合せページペア708,729で、肯定的かつ否定的なマイニングを用いてモデルをトレーニングする。
本研究は,両言語を対象とする指導と,慎重に設計した訓練戦略により,韓国の高能率VDRモデルを作成できることを実証した。
- 参考スコア（独自算出の注目度）: 2.7900391222798295
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Visual Document Retrieval (VDR) directly matches text queries against document images, preserving visual and structural information that may be lost during text extraction. However, existing VDR models and training resources remain predominantly English-centric, while many high-performing systems rely on massive backbones or storage-intensive multi-vector representations. To address these limitations, we introduce KoVRE: Korean Visual Document Retrieval Embedding, a single-vector retriever for Korean visual documents, alongside a comprehensive training recipe. We train the model on 708,729 Korean and English query-page pairs using positive-aware hard-negative mining and conduct controlled analyses of training-data composition, hard-negative treatment, and reranker-based knowledge distillation. Across Korean visual document retrieval benchmarks, our 2B model substantially improves over the base backbone model, outperforming both its 8B single-vector counterpart and a strong multi-vector baseline. These results demonstrate that targeted bilingual supervision and our carefully designed training strategies can produce a highly effective Korean VDR model across diverse document domains, without requiring a scaled-up backbone or multi-vector representations.
- Abstract（参考訳）: Visual Document Retrieval (VDR) はテキストクエリとドキュメントイメージを直接マッチングし、テキスト抽出時に失われる可能性のある視覚的および構造的な情報を保存する。
しかし、既存のVDRモデルとトレーニングリソースは主に英語中心であり、多くのハイパフォーマンスシステムは巨大なバックボーンやストレージ集約型マルチベクトル表現に依存している。
これらの制限に対処するため、KoVRE: Korean Visual Document Retrieval Embeddingは、韓国のビジュアルドキュメントの単一のベクターレトリバーであり、包括的なトレーニングレシピである。
韓国語と英語の問合せページペア708,729を,正に認識された強陰性マイニングを用いてトレーニングし,トレーニングデータ組成,強陰性処理,再ランカーによる知識蒸留の制御を行った。
韓国のビジュアル文書検索ベンチマーク全体では、我々の2Bモデルはベースバックボーンモデルよりも大幅に改善され、8Bシングルベクターモデルと強力なマルチベクターベースラインの両方を上回ります。
これらの結果から,大規模化やマルチベクター表現を必要とせず,多種多様な文書領域にまたがる高能率韓国語VDRモデルを構築できることが示唆された。
関連論文リスト
- KoViDoRe: Korean Visual Document Retrieval [3.5302061668374036]
韓国のビジュアル文書検索のベンチマークであるKoViDoReを紹介する。
データセットは、テーブルやフィギュア、マルチカラム構造など、さまざまなレイアウトを備えた、公開可能な韓国のドキュメントから構築されている。
また,韓国のビジュアルドキュメントに適した検索モデルの開発を支援するため,大規模トレーニングデータセットであるKo-VDR Train Publicをキュレートした。
論文 参考訳（メタデータ） (2026-08-21T08:03:59Z) - Beyond the Grid: Layout-Informed Multi-Vector Retrieval with Parsed Visual Document Representations [39.98860473310998]
ColParseは、ドキュメント解析モデルを利用して、レイアウトインフォームドされた小さなサブイメージの埋め込みを生成する新しいパラダイムである。
実験により,本手法はストレージ要求を95%以上削減し,同時に性能向上を図っている。
論文 参考訳（メタデータ） (2026-03-02T09:55:00Z) - Towards Khmer Scene Document Layout Detection [3.5477182055025107]
本研究は,Khmerシーンの文書レイアウト検出に関する総合的研究である。
我々は,(1)Khmerのシーンレイアウトに特化して,ロバストなトレーニングとベンチマークのデータセット,(2)リアルなシーン文書を合成してトレーニングデータをスケール可能なオープンソースドキュメント拡張ツール,(3)オブジェクト指向境界ボックス(OBB)を用いたYOLOアーキテクチャを用いたレイアウト検出ベースラインの3つの重要な要素からなる新しいフレームワークを寄贈する。
論文 参考訳（メタデータ） (2026-02-28T15:30:16Z) - CausalEmbed: Auto-Regressive Multi-Vector Generation in Latent Space for Visual Document Embedding [71.88471147281406]
マルチベクトル埋め込み構築のための自動回帰生成手法CausalEmbedを提案する。
コントラストトレーニング中に反復的マージン損失を導入することで、CausalEmbedは埋め込みモデルにコンパクトでよく構造化された表現を学ぶことを奨励する。
本手法は,数十個の視覚トークンを用いた効率的なVDR処理を実現し,トークン数を30～15倍削減する。
論文 参考訳（メタデータ） (2026-01-29T04:47:27Z) - SDS KoPub VDR: A Benchmark Dataset for Visual Document Retrieval in Korean Public Documents [10.146296597660598]
既存のビジュアル文書検索(VDR)のベンチマークは、非英語言語と公式出版物の構造的複雑さを概ね見落としている。
SDS KoPub VDRは,韓国の公文書の検索と理解のための,最初の大規模公開ベンチマークである。
ベンチマークは361の現実世界のドキュメント上に構築されており、KOGL Type 1ライセンス下の256ファイル、公式の法的ポータルからの105ファイルが含まれている。
論文 参考訳（メタデータ） (2025-11-07T01:16:07Z) - Vision-Free Retrieval: Rethinking Multimodal Search with Textual Scene Descriptions [81.33113485830711]
視覚言語モデルに対して,視覚のない単一エンコーダ検索パイプラインを導入する。
VLLM生成した構造化画像記述の助けを借りてテキストからテキストへ移行する。
提案手法は,複数検索および構成性ベンチマークにおいて,最先端のゼロショット性能を実現する。
論文 参考訳（メタデータ） (2025-09-23T16:22:27Z) - Harnessing PDF Data for Improving Japanese Large Multimodal Models [56.80385809059738]
大規模マルチモーダルモデル (LMM) は英語では高い性能を示したが、日本語では有効性は限られている。
現在の日本のLMMは、しばしば翻訳された英語のデータセットに依存しており、日本固有の文化知識を捉える能力を制限する。
我々は、事前訓練されたモデルを利用してPDFから画像とテキストのペアを抽出する完全自動パイプラインを導入する。
論文 参考訳（メタデータ） (2025-02-20T17:59:59Z) - OCRBench: On the Hidden Mystery of OCR in Large Multimodal Models [122.27878464009181]
テキスト関連視覚タスクにおいて, GPT4V や Gemini などの大規模マルチモーダルモデルの包括的評価を行った。
OCRBenchには29のデータセットがあり、最も包括的なOCR評価ベンチマークが利用できる。
論文 参考訳（メタデータ） (2023-05-13T11:28:37Z) - Reading Chinese in Natural Scenes with a Bag-of-Radicals Prior [0.0]
我々は、ラテンデータセットでよく機能する一連の古典的手法を評価し、顕著な性能低下を見出した。
中国におけるデータセットの性能向上を目的として,新しいラジカル埋め込み(RE)表現を提案する。
さらに,マルチタスクトレーニングの指導信号としてラジカルの袋を用いて,モデルのイデオロギー的構造知覚を改善する。
論文 参考訳（メタデータ） (2022-10-05T21:56:09Z) - Unsupervised Vision-and-Language Pre-training via Retrieval-based
Multi-Granular Alignment [66.77841319057299]
非並列テキストと画像のための教師なしビジョン・アンド・ランゲージ事前学習カリキュラムを提案する。
まず、検索に基づく手法を用いて、弱整列画像テキストコーパスを構築し、次に、複数粒状アライメントの事前学習タスクを適用する。
包括的なアブレーション研究は、それぞれの粒度がより強力な事前学習モデルを学ぶのに役立つことを示している。
論文 参考訳（メタデータ） (2022-03-01T05:34:01Z) - Unsupervised Vision-and-Language Pre-training Without Parallel Images
and Captions [92.47566804182338]
画像キャプションコーパスを使わずに教師なし事前学習により、強力なV&L表現モデルを学習できるかどうかを検討する。
特に,テキストのみのコーパスと画像のみのコーパスで,マスク・アンド・予測の事前学習を行うことを提案する。
4つの英語のV&Lベンチマークで、アライメントされたデータで事前訓練されたモデルに近いこのような単純なアプローチの性能が得られた。
論文 参考訳（メタデータ） (2020-10-24T08:17:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。