論文の概要: Chunking Methods on Retrieval-Augmented Generation - Effectiveness Evaluation Against Computational Cost and Limitations
- arxiv url: http://arxiv.org/abs/2606.00881v1
- Date: Sat, 30 May 2026 20:32:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 00:57:58.927114
- Title: Chunking Methods on Retrieval-Augmented Generation - Effectiveness Evaluation Against Computational Cost and Limitations
- Title(参考訳): 検索型生成におけるチャンキング手法-計算コストと限界に対する有効性評価
- Abstract要約: Retrieval-Augmented Generation (RAG) は、Large Language Models (LLMs) の性能向上に大きく貢献している。
RAGシステムにおける重要なタスクの1つは、チャンキングプロセスである。
- 参考スコア(独自算出の注目度): 2.3491836314815497
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Retrieval-Augmented Generation (RAG) has demonstrated significant capabilities in enhancing the performance of Large Language Models (LLMs). One of the key tasks in RAG systems is the chunking process. Traditionally, fixed-size chunking and semantic chunking have been the standard approaches. However, interest in chunking strategies has been increasing, leading to a growing number of proposed methods that often claim improved performance over these conventional techniques. Many of these approaches are tailored to specific use cases and data types, with limited evidence of their effectiveness across diverse scenarios. As a result, it remains challenging to directly compare different techniques and assess their relative strengths. To the best of our knowledge, this study is the first to systematically evaluate the effectiveness of a wide range of chunking methods and emphasize the underlying challenges of chunking strategies in RAG systems. While chunking is commonly treated as a simple preprocessing step, we show that it introduces a range of impactful and often overlooked issues.
- Abstract(参考訳): Retrieval-Augmented Generation (RAG) は,Large Language Models (LLMs) の性能向上に大きく貢献している。
RAGシステムにおける重要なタスクの1つは、チャンキングプロセスである。
伝統的に、固定サイズのチャンキングとセマンティックチャンキングが標準的なアプローチであった。
しかし、チャンキング戦略への関心が高まり、従来の手法よりも性能の向上を主張する手法が増えている。
これらのアプローチの多くは、特定のユースケースやデータタイプに合わせており、さまざまなシナリオで有効性を示す証拠は限られている。
その結果、異なるテクニックを直接比較し、それらの相対的な強度を評価することは依然として困難である。
我々の知る限り、本研究では、幅広いチャンキング手法の有効性を体系的に評価し、RAGシステムにおけるチャンキング戦略の根本的な課題を強調した最初のものである。
チャンキングは単純な前処理のステップとして一般的に扱われるが、様々な影響があり、見落とされがちな問題を生じさせる。
関連論文リスト
- Regularisation in neural networks: a survey and empirical analysis of approaches [0.5097809301149341]
二重降下などの近代的理論を含む正則化手法を概観する。
10個の数値および画像データセットの分類タスクにおける様々な正規化手法を比較した。
その結果,正規化の有効性はデータセットに依存していることがわかった。
論文 参考訳(メタデータ) (2026-01-30T16:22:11Z) - Human-Inspired Learning for Large Language Models via Obvious Record and Maximum-Entropy Method Discovery [0.11844977816228043]
本稿では,2つの相補的なメカニズムを組み込んだヒューマンインスピレーション学習フレームワークを提案する。
第一のObvious Recordは、因果関係(または疑問解決)を象徴記憶として明示的に記憶する。
第二に、最大エントロピー法発見(Maximum-Entropy Method Discovery)は、高いセマンティックな相似性を持つメソッドを優先順位付けし、保存する。
論文 参考訳(メタデータ) (2025-12-14T09:12:09Z) - Boosting CNN-based Handwriting Recognition Systems with Learnable Relaxation Labeling [48.78361527873024]
本稿では,2つの異なる手法の強みを組み込んだ手書き文字認識手法を提案する。
本稿では,アルゴリズムの収束を加速し,システム全体の性能を向上させるスペーシフィケーション手法を提案する。
論文 参考訳(メタデータ) (2024-09-09T15:12:28Z) - ACE : Off-Policy Actor-Critic with Causality-Aware Entropy Regularization [52.5587113539404]
因果関係を考慮したエントロピー(entropy)という用語を導入し,効率的な探索を行うための潜在的影響の高いアクションを効果的に識別し,優先順位付けする。
提案アルゴリズムであるACE:Off-policy Actor-critic with Causality-aware Entropy regularizationは,29種類の連続制御タスクに対して,大幅な性能上の優位性を示す。
論文 参考訳(メタデータ) (2024-02-22T13:22:06Z) - Robust Analysis of Multi-Task Learning Efficiency: New Benchmarks on Light-Weighed Backbones and Effective Measurement of Multi-Task Learning Challenges by Feature Disentanglement [69.51496713076253]
本稿では,既存のMTL手法の効率性に焦点をあてる。
バックボーンを小さくしたメソッドの大規模な実験と,MetaGraspNetデータセットを新しいテストグラウンドとして実施する。
また,MTLにおける課題の新規かつ効率的な識別子として,特徴分散尺度を提案する。
論文 参考訳(メタデータ) (2024-02-05T22:15:55Z) - REX: Rapid Exploration and eXploitation for AI Agents [103.68453326880456]
本稿では、REXと呼ばれるAIエージェントのための高速探索およびeXploitationのための改良されたアプローチを提案する。
REXは追加の報酬層を導入し、アッパー信頼境界(UCB)スコアに似た概念を統合し、より堅牢で効率的なAIエージェントのパフォーマンスをもたらす。
論文 参考訳(メタデータ) (2023-07-18T04:26:33Z) - SkillS: Adaptive Skill Sequencing for Efficient Temporally-Extended
Exploration [21.764280583041703]
スキルの再利用は最も一般的なアプローチの1つだが、現在の手法にはかなりの制限がある。
これらの問題を緩和するための代替アプローチを導入する。
提案手法は,既存の時間的拡張スキルの探索を学習するが,生経験から直接最終方針を学習する。
論文 参考訳(メタデータ) (2022-11-24T18:05:01Z) - Efficient Few-Shot Object Detection via Knowledge Inheritance [62.36414544915032]
Few-shot Object Detection (FSOD) は、未確認のタスクに少ないトレーニングサンプルで適応できるジェネリック検出器を学習することを目的としている。
計算量の増加を伴わない効率的なプレトレイン・トランスファー・フレームワーク(PTF)のベースラインを提案する。
また,予測された新しいウェイトと事前訓練されたベースウェイトとのベクトル長の不整合を軽減するために,適応長再スケーリング(ALR)戦略を提案する。
論文 参考訳(メタデータ) (2022-03-23T06:24:31Z) - An Investigation of Replay-based Approaches for Continual Learning [79.0660895390689]
連続学習(CL)は機械学習(ML)の大きな課題であり、破滅的忘れ(CF)を伴わずに連続的に複数のタスクを学習する能力を記述する。
いくつかの解クラスが提案されており、その単純さと堅牢性から、いわゆるリプレイベースのアプローチは非常に有望であるように思われる。
連続学習におけるリプレイに基づくアプローチを実証的に検討し,応用の可能性を評価する。
論文 参考訳(メタデータ) (2021-08-15T15:05:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。