論文の概要: Balancing Reasoning and Hardware Constraints in RAG Pipelines for Ukrainian Multi-Domain Document Understanding
- arxiv url: http://arxiv.org/abs/2609.22124v1
- Date: Thu, 20 Aug 2026 17:15:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.721
- Title: Balancing Reasoning and Hardware Constraints in RAG Pipelines for Ukrainian Multi-Domain Document Understanding
- Title（参考訳）: ウクライナのマルチドメイン文書理解のためのRAGパイプラインにおけるバランシング推論とハードウェア制約
- Abstract要約: 本稿は,UNLP 2026共有タスクに提出されたマルチドメイン文書理解システムについて述べる。
この課題は、ウクライナのPDF文書の様々なコーパスから正確な回答、文書ID、ページ番号を抽出することであった。
タイムアウトのないパイプライン補完を保証するため,資源効率の高いハイブリッド検索・拡張パイプラインを開発した。
マルチステップ推論よりもパイプラインの安定性を優先して、当社のシステムはPrivate Scoreの0.8095を達成した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper describes the system submitted to the UNLP 2026 Shared Task on Multi-Domain Document Understanding. The challenge required extracting precise answers, document IDs, and page numbers from a diverse corpus of Ukrainian PDF documents within a strict 9-hour offline Kaggle execution limit. During evaluation on the hidden private test set, optical character recognition (OCR) of scanned documents emerged as a severe bottleneck, consuming 5-7 hours of the total time budget due to sequential single-threaded execution. This overhead strictly limited the remaining time for Large Language Model (LLM) inference to approximately two hours for 500 questions. To guarantee pipeline completion without timeouts, we developed a resource-efficient Hybrid Retrieval-Augmented Generation (RAG) pipeline utilizing BM25, BGE-M3, and Cross-Encoder reranking. Rather than deploying parameter-heavy reasoning models (e.g., DeepSeek R1) which consistently timed out, we utilized a 4-bit quantized LapaLLM 12B model via llama.cpp on dual NVIDIA T4 GPUs. Prioritizing pipeline stability over multi-step reasoning, our system achieved a Private Score of 0.8095, placing 10th out of 15 active teams.
- Abstract（参考訳）: 本稿は,UNLP 2026共有タスクに提出されたマルチドメイン文書理解システムについて述べる。
この課題は、厳格な9時間オフラインのKaggle実行制限の中で、ウクライナのPDF文書のさまざまなコーパスから正確な回答、文書ID、ページ番号を抽出することであった。
隠れたプライベートテストセットの評価において、スキャンされた文書の光学文字認識(OCR)が深刻なボトルネックとして出現し、シーケンシャルなシングルスレッド実行による総時間予算の5～7時間を消費した。
このオーバーヘッドは、500の質問に対して、LLM(Large Language Model)推論の残り時間を約2時間に制限しました。
タイムアウトのないパイプライン補完を保証するため,BM25,BGE-M3,Cross-Encoderリグレードを利用した資源効率の高いハイブリッド検索生成(RAG)パイプラインを開発した。
パラメータヘビーな推論モデル(例えばDeepSeek R1)を常にタイムアウトする代わりに、4ビットの量子化されたLapaLLM 12Bモデルを2台のNVIDIA T4 GPU上でllama.cpp経由で使用した。
マルチステップ推論よりもパイプラインの安定性を優先して、当社のシステムはPrivate Scoreの0.8095を達成した。
関連論文リスト
- PARSER: Read in Parallel, Reason in Depth for Long-Context LLM Agents [85.82624962221026]
本稿では、読みを推論から切り離すPARSERを紹介する。
単一のチャンクにバインドされた軽量サブエージェントのバンクは、ドキュメント全体を並列に読み取る。
7Kから896Kまでのコンテキストを持つマルチホップQAでは、4Bバックボーンを持つPARSERが最強のシーケンシャルメモリベースラインを上回っている。
論文 参考訳（メタデータ） (2026-09-06T16:19:01Z) - REIGN: Refurbished Embeddings with Integrated Guidance Networks for Efficient Context-Length Scaling [0.0]
REIGNは、生のトークンではなく、凍結したガイダンスネットワーク(GN)からのコンテキスト化されたチャンク埋め込みのシーケンスで動作するバイエンコーダである。
コントラストトレーニングと長期文脈における評価のための,合成長文書検索ベンチマークをリリースする。
2組の重要度試験は、特許上の1.6-4.3倍の大きさのモデルと同等であり、LoCo上の20倍大モデルの0.65 nDCG@10の範囲内に留まる。
論文 参考訳（メタデータ） (2026-08-30T16:50:38Z) - TurboT2VA: Fast Large-Scale Text-to-Video-Audio Generation via Score-Regularized Consistency Distillation [105.14745366152725]
TurboT2VAは、ジョイントテキスト・ツー・ビデオ・オーディオ生成のための蒸留および推論フレームワークである。
LTX-2では、4段階の蒸留により512$times$768の標準評価解像度でジェネレータのレイテンシを50.52sから2.51sに短縮する。
完全なスタックは、ジェネレータのレイテンシを318.74sから1つのNVIDIA H20で5.83sに短縮し、54.67$times$ジェネレータのみのスピードアップを達成した。
論文 参考訳（メタデータ） (2026-08-25T15:09:02Z) - RAG-Based Auto-Configuration for Industrial Fieldbus Devices [2.623633900557428]
工業機器のコミッショニングでは、技術者がPDFマニュアルから数百のプロトコル固有のパラメータを手作業で抽出する必要がある。
本稿では,OPC-UA,Profibus DP,CANopenのデバイス構成をエンドツーエンドで自動化する生産指向パイプラインを提案する。
論文 参考訳（メタデータ） (2026-08-09T10:07:13Z) - LongStraw: Long-Context RL Beyond 2M Tokens under a Fixed GPU Budget [23.770886960293286]
LongStrawは、GPU予算を固定した100万のRLポストトレーニングのための、客観的かつアーキテクチャを意識したシステムである。
Qwen3.6-27Bでは、LongStrawはコンパクトなGDN状態、CP8シャーディングKVページ、正確なアテンション合成、リバースブロック再生を組み合わせた。
GLM-5.2では、CPU常駐のMLA/DSA状態、IndexShare対応の選択、CP32/EP32上のネイティブトップ8 MoEリプレイを組み合わせた。
論文 参考訳（メタデータ） (2026-07-16T13:00:32Z) - An Efficient vLLM-Based Inference Pipeline for Unified Audio Understanding and Generation [63.50393485685279]
音声の理解と生成を統一する vLLM ベースの推論パイプラインを提案する。
共有直観自由誘導(CFG)のスループットを克服する。
連続バッチ内でペア条件と非条件要求を共スケジューリングすることにより、CFGの実装は、非CFGスループットの80%を維持できます。
論文 参考訳（メタデータ） (2026-07-02T12:55:11Z) - A Persistent-State Dataflow Accelerator for Memory-Bound Linear Attention Decode on FPGA [10.452946241750562]
Gated DeltaNet(GDN)は、成長するKVキャッシュを固定サイズのリカレントステートに置き換える線形アテンションメカニズムである。
このボトルネックはアルゴリズムではなくアーキテクチャであることが示され、全てのサブクワッド列モデルはデコード時に 1 FLOP/B 未満の演算強度を示す。
オンチップBRAMにおいて,フル2MBのリカレント状態を持続的に保持することにより,このボトルネックを解消するFPGAアクセラレータを提案する。
論文 参考訳（メタデータ） (2026-03-06T06:03:38Z) - Training-Free Acceleration for Document Parsing Vision-Language Model with Hierarchical Speculative Decoding [102.88996030431662]
本稿では,文書解析タスクの学習自由かつ高効率な高速化手法を提案する。
投機的復号化にインスパイアされた私たちは、将来のトークンのバッチを予測するために、ドラフトモデルとして軽量な文書解析パイプラインを使用します。
汎用OmniDocBenchに対するアプローチの有効性を示す。
論文 参考訳（メタデータ） (2026-02-13T14:22:10Z) - dParallel: Learnable Parallel Decoding for dLLMs [77.24184219948337]
拡散大言語モデル(dLLM)は並列トークン予測と低推論遅延を提供する。
既存のオープンソースモデルは、パフォーマンスを確保するためにトークン長のデコードステップをほとんど必要としています。
高速サンプリングのためにdLLMs固有の並列性を解き放つシンプルで効果的な方法であるdParallelを導入する。
論文 参考訳（メタデータ） (2025-09-30T16:32:52Z) - MonkeyOCR: Document Parsing with a Structure-Recognition-Relation Triplet Paradigm [60.14048367611333]
MonkeyOCRはドキュメント解析のためのビジョン言語モデルである。
SRR(Structure-Recognition-Relation)三重項パラダイムを活用することで、最先端の技術の進歩を図っている。
論文 参考訳（メタデータ） (2025-06-05T16:34:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。