論文の概要: Cost Scales with Change, Not Corpus Size: Incrementally Maintaining an Evolving Semantic Substrate

• arxiv url: http://arxiv.org/abs/2608.16621v1
• Date: Mon, 17 Aug 2026 14:21:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.74275
• Title: Cost Scales with Change, Not Corpus Size: Incrementally Maintaining an Evolving Semantic Substrate
• Title（参考訳）: 企業規模ではなく変化を伴うコストスケール - 進化するセマンティック基板をインクリメンタルに維持する
• Abstract要約: コーパスがあらゆる質問に何を意味するかを再定義する代わりに、文書が到着すると一度だけ作業が行われ、その後単に相談される。 もう一つの方法は、一度その意味を取り込みながら、コンパクトでクエリ可能なセマンティック基質にコンパイルし、コーパスが進化するにつれてそれを維持することである。 私たちは、メンテナンスコストはコーパスサイズではなく、変化の量とともにスケールする、と実証的に主張し、示す。
• 参考スコア（独自算出の注目度）: 0.3887079592126372
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Retrieval-augmented and agentic question-answering systems increasingly re-derive the meaning of a corpus at query time. Put plainly, instead of re-deriving what a corpus means on every question, the work is done once when a document arrives and is thereafter merely consulted -- a compiler, not an interpreter, of meaning. An alternative is to compile that meaning once, at ingest time, into a compact, queryable semantic substrate and maintain it as the corpus evolves. The central objection is maintenance cost: rebuilding a truncated singular value decomposition (SVD) on every change appears prohibitive, and a change of embedding model seems to force a full re-embedding. We argue and show empirically that maintenance cost scales with the amount of change, not corpus size. On a controlled synthetic pilot (dimension 256, rank 32, a corpus grown from 3,000 to 9,000 documents over 50 update events), incremental low-rank updates were 33.7 times cheaper per update than full re-SVD and 23.8 times cheaper cumulatively, while the incremental subspace tracked the full recomputation to within floating-point precision (maximum principal-angle drift below 1e-11 degrees; recall@10 = 1.0). An orthogonal Procrustes virtual axis update recovered 0.95 mean cosine to truly re-embedded vectors by re-embedding only about 10 percent of the corpus. The results support maintaining, rather than repeatedly reconstructing, a semantic substrate.
• Abstract（参考訳）: Retrieval-augmented and agentic question-anwering systemは、クエリ時にコーパスの意味を再定義する。 正直なところ、すべての質問でコーパスが何を意味しているかを再定義する代わりに、文書が到着し、その後単に相談されるだけで、インタプリタではなくコンパイラが意味の処理を行う。 もう一つの方法は、一度その意味を取り込みながら、コンパクトでクエリ可能なセマンティック基質にコンパイルし、コーパスが進化するにつれてそれを維持することである。 切り捨てられた特異値分解(SVD)をすべての変更で再構築することは禁じられ、埋め込みモデルの変更は完全な組込みを強制するように見える。 私たちは、メンテナンスコストはコーパスサイズではなく、変化の量とともにスケールする、と実証的に主張し、示す。 制御された合成パイロット(ディメンション256、ランク32、50回の更新イベントで3,000から9,000のドキュメントから成長したコーパス)では、インクリメンタルな低ランク更新は、完全な再SVDよりも33.7倍安く、累積的なサブスペースは浮動小数点精度(最大主角が1e-11度以下、リコール@10 = 1.0)まで完全に再計算された。 直交のProcrustes仮想軸更新では、約10%のコーパスを再埋め込みすることで、真に埋め込みベクターへのコサイン平均0.95が回復した。 結果は、繰り返し再構築するのではなく、セマンティック基質の維持を支援する。

関連論文リスト

• HEAT: Faster Fully Homomorphic Inference via Approximations-Weights Co-Adaptation [56.14416807766864]
  同型暗号化により、サーバは暗号化されたユーザープロンプト上で言語モデルを直接実行することができる。 既存のアプローチでは、各サイトのエラー許容度を調整するのではなく、モデル全体のイテレーションカウントを均一に修正する。 非線形反復回数を学習可能にする微調整法であるHAT(Hymomorphic Encryption-Aware Training)を導入する。
  論文  参考訳（メタデータ） (2026-09-01T18:02:02Z)
• Fast Weight Attention for Continual Learning [75.34672054079408]
  リカレント高速記憶と選択状態空間モデルは、拡張コンテキストを固定サイズのリカレント状態に圧縮する。 正則化された二乗誤差回帰と負の内積目標の1次更新を導出する。 我々は、数値的に安定な正のデカイ再正規化とともに、繰り返し、マスクパラレル、チャンクパラレル形式を提供する。
  論文  参考訳（メタデータ） (2026-08-27T22:55:11Z)
• Shortcut Before Circuit: Document Statistics Time In-Context Conflict Resolution [0.0]
  我々は、電流と希薄度が正確に一致した合成言語でトランスフォーマーを訓練する。 私たちはこれらを最小限の因果編集で分離し、真実、トークン数、答え位置を固定しながら1つのキューを反転させます。
  論文  参考訳（メタデータ） (2026-08-25T12:09:19Z)
• SANE: State Anomaly Neutralization for Stable Extreme-Context Delta-Rule Models [53.86918766240095]
  Delta-Ruleリカレントモデルは固定サイズの状態を維持しており、$O(1)$の推論メモリが可能であるが、極端なコンテキスト外挿では不安定になる可能性がある。 我々は,チャンク内並列構造を保ちながら,チャンク境界における適応$tanh$圧縮を適用したtextbfState Anomaly Neutralization (SANE)を提案する。
  論文  参考訳（メタデータ） (2026-08-23T10:41:07Z)
• RAG Deserves an Index: Why Ingest-Time Compilation Beats Query-Time Interpretation [0.3887079592126372]
  私たちはこのパラダイムをISC(Ingest-time semantic compilation)と呼んでいる。 独自のDDL、メンテナンス契約、移行契約、コストモデルを備えたファーストクラスのデータベースオブジェクトを構築します。 収集ペイロードが32の予算単位のセルすべてに勝つと、500の放送閲覧書き起こしの保持されたサンプルで、クレームがコンパイルされた。
  論文  参考訳（メタデータ） (2026-08-21T08:08:48Z)
• Bend the Basics: Degradation-Aware Deformable Tokenization for All-in-One Image Restoration [72.64498743287601]
  オールインワン画像復元は、多様で空間的に一様でない腐敗によって劣化した画像を復元できる単一のモデルを求める。 パイプライン全体にわたる劣化認識をモデル化するフレキシブル・イメージ・トランスフォーマー(FIT)を提案する。 FITは、30.72dBの平均PSNRを5次劣化設定で32.83dBを3次劣化設定で達成し、最近の統一修復法を+0.5$sim$1.1dBで上回った。
  論文  参考訳（メタデータ） (2026-08-07T05:44:31Z)
• Structured Memory for Edge Language Models: Persistent Context and Corpus Retrieval via O(1) SSM State Injection [0.0]
  ステートスペースモデル(SSM)は、建設によるプレフィルコストを回避する。 文書コーパスをSSM隠蔽状態としてオフラインでプリエンコードする。 プリフィルレイテンシは、エッジハードウェアで$sim$27 sから$6 msに削減される。
  論文  参考訳（メタデータ） (2026-08-03T17:43:36Z)
• Stage-Replay Divergence Follows the KV Cache: Fixed-Prefix Precision Controls and Bidirectional Cache Transplantation [51.56484100374058]
  Stage-replayは中間トークンプレフィックスを再構築し、プレフィックスに最初に到達したデコーダ状態からの継続として、新しいプリフィル継続を処理する。 一致した200itemの実験では、保持されたライブキャッシュと同一の整数トークンのワンショットプリフィルを比較し、両側に正確なレプリカを配置する。
  論文  参考訳（メタデータ） (2026-07-30T16:41:40Z)
• Context-Aware Distillation and Ablation for Text2DSL [78.29352305480285]
  我々は、コンテクスト対応蒸留により、プロンプトのみの合成生成を置き換える。 教師の大きな言語モデルは、明示的に定義された構造化コンテキストの下で機能する。 これは、検証されたポルキットベンチコーパスを4,204対から10,073対にスケールする。
  論文  参考訳（メタデータ） (2026-06-21T16:27:24Z)
• SCAR: Semantic Continuity-Aware Retrieval for Efficient Context Expansion in RAG [0.0]
  SCAR(Semantic Continuity-Aware Retrieval)は、構造的連続性ペナルティに対してクエリ隣の関連性を重み付け、近隣のチャンクを拡張する適応型検索ポリシーである。 4つの多様なコーパス(RFC, 10-K レポート, Merger 契約; N=320 クエリ, 160 境界フラグメンテーション)において SCAR は,静的ウィンドウ処理 (10.16 チャンク) に比べて 22.9% 削減された。
  論文  参考訳（メタデータ） (2026-06-15T12:55:49Z)
• Benchmarking Speech-to-Speech Translation Models [55.00303727199927]
  音声音声翻訳(S2ST)は急速に進歩しているが、オフライン評価には統一されたプロトコルが欠けている。 8次元にわたる46のメトリクスを統合するベンチマークフレームワークを導入する。 FLEURSとCVSSから1,248のモデル言語構成でデプロイする。
  論文  参考訳（メタデータ） (2026-06-02T07:01:33Z)
• Semantic Entanglement in Vector-Based Retrieval: A Formal Framework and Context-Conditioned Disentanglement Pipeline for Agentic RAG Systems [0.0]
  埋め込み空間における交叉重なりのモデル相対尺度として意味的絡み合いを定式化する。 埋め込みに先立って文書を再構成する4段階の事前処理フレームワークであるセマンティック・ディスタングルメント・パイプライン(SDP)を紹介した。 約25のサブドメインにわたる2,000以上のドキュメントからなる実世界の企業医療知識ベースでSDPを評価した。
  論文  参考訳（メタデータ） (2026-04-20T00:24:34Z)
• Scale Dependent Data Duplication [29.59812821602787]
  セマンティック複製は、トレーニング中に正確に複製されるように、ますます機能します。 EmbeddingGemma-300mを使って、1億9200万のFineWeb-Edu-Dedupドキュメントを埋め込んだ。 我々は,事前学習コーパスの意味的特異性に制限があるため,実践者が期待するスケーリングから逸脱を推定できる明示的なスケーリング法を導出する。
  論文  参考訳（メタデータ） (2026-02-18T05:22:58Z)
• Prune Spatio-temporal Tokens by Semantic-aware Temporal Accumulation [89.88214896713846]
  STAスコアは、時間的冗長性と意味的重要性の2つの重要な要因を考慮に入れている。 市販のビデオトランスフォーマーとビデオウィンにSTAモジュールを適用する。 結果: Kinetics-400 と something-Something V2 は 30% のオーバーシェルフ削減を実現し,0.2% の精度低下を実現した。
  論文  参考訳（メタデータ） (2023-08-08T19:38:15Z)
• Automatic Correction of Syntactic Dependency Annotation Differences [17.244143187393078]
  本稿では,依存関係解析コーパス間のアノテーションミスマッチを自動的に検出する手法を提案する。 これら3つの手法は、新しいコーパスの見知らぬ例と既存のコーパスの同様の例を比較することに依存している。 Stanza (Qianu et al. 2020) と Parsing as Tagging (PaT) の2つの依存関係を変換および非変換データに基づいて再トレーニングすることで、これらの変換を評価する。
  論文  参考訳（メタデータ） (2022-01-15T17:17:55Z)
• Improving language models by retrieving from trillions of tokens [50.42630445476544]
  大規模コーパスから取得した文書チャンクを条件付けすることで,自動回帰言語モデルを強化する。 2兆ドルのトークンデータベースで、Retrieval-Enhanced Transformer (RETRO)は、PileのGPT-3とJurassic-1に匹敵するパフォーマンスを得る。
  論文  参考訳（メタデータ） (2021-12-08T17:32:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。