論文の概要: CUBO: Self-Contained Retrieval-Augmented Generation on Consumer Laptops 10 GB Corpora, 16 GB RAM, Single-Device Deployment
- arxiv url: http://arxiv.org/abs/2602.03731v1
- Date: Tue, 03 Feb 2026 16:50:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-04 18:37:15.586838
- Title: CUBO: Self-Contained Retrieval-Augmented Generation on Consumer Laptops 10 GB Corpora, 16 GB RAM, Single-Device Deployment
- Title(参考訳): CUBO:Consumer Laptops 10GB Corpora, 16GB RAM, シングルデバイス展開による自己完結型検索生成
- Abstract要約: 本稿では16GBの共有メモリを持つ消費者向けラップトップ向けシステム指向RAGプラットフォームCUBOについて述べる。
37,000行の検索は、C1,300ラップトップ上で185ミリ秒(p50)のレイテンシを実現する。
BEIRベンチマークの評価は、小規模から中小規模のプロ向けアーカイブの実用的デプロイ性を評価する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Organizations handling sensitive documents face a tension: cloud-based AI risks GDPR violations, while local systems typically require 18-32 GB RAM. This paper presents CUBO, a systems-oriented RAG platform for consumer laptops with 16 GB shared memory. CUBO's novelty lies in engineering integration of streaming ingestion (O(1) buffer overhead), tiered hybrid retrieval, and hardware-aware orchestration that enables competitive Recall@10 (0.48-0.97 across BEIR domains) within a hard 15.5 GB RAM ceiling. The 37,000-line codebase achieves retrieval latencies of 185 ms (p50) on C1,300 laptops while maintaining data minimization through local-only processing aligned with GDPR Art. 5(1)(c). Evaluation on BEIR benchmarks validates practical deployability for small-to-medium professional archives. The codebase is publicly available at https://github.com/PaoloAstrino/CUBO.
- Abstract(参考訳): クラウドベースのAIはGDPR違反のリスクを負うが、ローカルシステムは通常18-32GBのRAMを必要とする。
本稿では16GBの共有メモリを持つ消費者向けラップトップ向けシステム指向RAGプラットフォームCUBOについて述べる。
CUBOの斬新さは、ストリーミングの取り込み(O(1)バッファオーバーヘッド)、階層化されたハイブリッド検索、ハード15.5GBのRAM天井内で競合するRecall@10(BEIRドメインで0.48-0.97)を可能にするハードウェア対応オーケストレーションの統合にある。
37,000行のコードベースは、GDPR Art. 5(1)(c)に準拠したローカルのみの処理によるデータ最小化を維持しながら、C1,300ラップトップ上で185ms(p50)の検索レイテンシを実現する。
BEIRベンチマークの評価は、小規模から中小規模のプロ向けアーカイブの実用的デプロイ性を評価する。
コードベースはhttps://github.com/PaoloAstrino/CUBOで公開されている。
関連論文リスト
- SuperLocalMemory 4.0: The Governed Memory Operating System for AI Agents [0.0]
SuperLocalMemory 4.0は、AIエージェント用のローカルファーストメモリオペレーティングシステムである。
システムは、密接なセマンティック、BM25語彙、時間、ホップフィールド連想、拡散コンテキスト検索を組み合わせる。
ランタイムはCLI、MPP、HTTPデーモン、ダッシュボード、エディタ統合、フレームワークアダプタを通じて利用できる。
論文 参考訳(メタデータ) (2026-08-08T17:26:58Z) - GateMem: Benchmarking Memory Governance in Multi-Principal Shared-Memory Agents [61.50171793000712]
GateMemはマルチプリンシパル共有メモリエージェントのベンチマークである。
医療、事務、教育、家庭の領域にまたがる。
強力なユーティリティ、堅牢なアクセス制御、信頼性のある忘れを同時に実現する方法は存在しない。
論文 参考訳(メタデータ) (2026-06-17T09:06:15Z) - MEMTIER: Tiered Memory Architecture and Retrieval Bottleneck Analysis for Long-Running Autonomous AI Agents [6.8552591401084015]
提案するMEMTIERは,OpenClawエージェントのための三部構成メモリアーキテクチャである。
完全なLongMemEval-Sベンチマークでは、MEMTIERは6GBのGPU上でQwen2.5-7BでAcc.382, F1=.412を達成する。
DeepSeek-V4-Flashでは、シングルセッションリコールは0.686-0.714に達し、これらのカテゴリのRAG GPT-4oを上回っている。
論文 参考訳(メタデータ) (2026-05-05T12:14:10Z) - Gym-Anything: Turn any Software into an Agent Environment [67.2443447990221]
Gym-Anythingは、あらゆるソフトウェアをインタラクティブなコンピュータ利用環境に変換するためのフレームワークである。
CUA-Worldは、医学、天文学、工学、エンタープライズシステムなど、領域にまたがる10万以上の長期的タスクのコレクションである。
論文 参考訳(メタデータ) (2026-04-07T17:38:15Z) - Lightweight, Practical Encrypted Face Recognition with GPU Support [0.5598105282648399]
顔認識モデルは、クライアントがコンパクトな顔埋め込みを抽出し、サーバがテンプレートデータベース上で類似検索を行うクライアントサーバ設定で動作する。
既存のFHEベースのプロトコルは計算コストが高く、メモリオーバーヘッドが高い。
本稿では,高速かつメモリ効率の良い類似性計算を実現するアルゴリズムであるBSGS-Diagonalを紹介する。
論文 参考訳(メタデータ) (2026-04-01T06:43:36Z) - CUBE: A Standard for Unifying Agent Benchmarks [138.9831263189749]
MCPとGymをベースとしたユニバーサルプロトコル標準CUBE(Common Unified Benchmark Environments)を提案する。
CUBEは、任意の準拠プラットフォームがカスタム統合なしで、評価、RLトレーニング、データ生成のための準拠ベンチマークにアクセスできるようにする。
論文 参考訳(メタデータ) (2026-03-16T18:31:37Z) - SuperLocalMemory: Privacy-Preserving Multi-Agent Memory with Bayesian Trust Defense Against Memory Poisoning [0.0]
我々は、ASI06メモリ中毒を防御するマルチエージェントAIのためのローカルファーストメモリシステムであるSuperLocalMemoryを紹介する。
SuperLocalMemoryはオープンソース(MIT)で、Model Context Protocolを介して17以上の開発ツールと統合されている。
論文 参考訳(メタデータ) (2026-02-17T12:35:23Z) - Out of the Memory Barrier: A Highly Memory Efficient Training System for LLMs with Million-Token Contexts [68.79341332280062]
長いコンテキストでの大規模言語モデル(LLM)のトレーニングは、トレーニング時間ではなく、GPUメモリの異常なオーバーヘッドによって厳しく制限される。
この障壁に直面するメモリ効率の高いトレーニングシステムOOMBを紹介します。
本手法では,オンザフライアクティベーション・リコンピュテーションを備えたチャンク・リカレント・トレーニング・フレームワークを用いて,一定のアクティベーションメモリフットプリントを維持する。
論文 参考訳(メタデータ) (2026-02-02T13:52:40Z) - RepoGenesis: Benchmarking End-to-End Microservice Generation from Readme to Repository [52.98970048197381]
RepoGenesisは、リポジトリレベルのエンドツーエンドWebマイクロサービス生成のための、最初の多言語ベンチマークである。
18のドメインと11のフレームワークに106のリポジトリ(60のPython、46のJava)があり、1,258のAPIエンドポイントと2,335のテストケースが検証されている。
その結果、高いAC(最大73.91%)とDSR(最大100%)にもかかわらず、最高のパフォーマンスのシステムはPythonで23.67%のPass@1、Javaで21.45%しか達成していないことが明らかになった。
論文 参考訳(メタデータ) (2026-01-20T13:19:20Z) - RAGdb: A Zero-Dependency, Embeddable Architecture for Multimodal Retrieval-Augmented Generation on the Edge [0.0]
Retrieval-Augmented Generation (RAG) は、ドメイン固有の最新のデータにおいて、LLM(Large Language Models)を基盤とする標準パラダイムとして確立されている。
RAGdbは、自動マルチモーダル取り込み、ONNXベースの抽出、ハイブリッドベクトル検索を単一のポータブルコンテナに統合する。
システムは標準的なDockerベースのRAGスタックと比較してディスクフットプリントを約99.5%削減する。
論文 参考訳(メタデータ) (2025-12-09T15:12:13Z) - FuseSampleAgg: Fused Neighbor Sampling and Aggregation for Mini-batch GNNs [51.56484100374058]
FuseSampleAggは、隣人の平均アグリゲーションをGraphSAGEの1つのパスにフューズし、サンプリングする。
Operatorは決定論的であり、標準のPyTorchと統合され、CSVログからすべてのテーブルとフィギュアを再現するスクリプトが同梱されている。
論文 参考訳(メタデータ) (2025-11-17T17:57:18Z) - SmallThinker: A Family of Efficient Large Language Models Natively Trained for Local Deployment [5.141876811512978]
SmallThinkerは、ローカルデバイス向けに設計された大型言語モデル(LLM)のファミリーである。
本研究では,微細なMixture-of-Experts(MoE)とスパースフィードフォワードネットワークを組み合わせた2レベルスパース構造を提案する。
我々はSmallThinker-4B-A0.6BとSmallThinker-21B-A3Bをリリースした。
論文 参考訳(メタデータ) (2025-07-28T16:45:14Z) - Prima.cpp: Fast 30-70B LLM Inference on Heterogeneous and Low-Resource Home Clusters [43.52299612686755]
オンデバイス推論は、プライバシ、オフライン使用、即時応答を提供するが、コンシューマハードウェアは、大きな言語モデル(LLM)を低スループットと能力に制限する。
本稿では,CPU/GPUの混在,RAM/VRAMの不足,ディスクの遅い,Wi-Fiリンク,異種OSを備えた家電クラスタ上で30~70B LLMを動作させる分散オンデバイス推論システムprime.を提案する。
計算・通信とディスクI/Oの重なり合うようにパイプラインリング並列化(PRP)を導入し,mapベースのオフロードにおけるプレフェッチ・リリース競合に対処する。
論文 参考訳(メタデータ) (2025-04-07T13:46:21Z) - PIPO: Pipelined Offloading for Efficient Inference on Consumer Devices [13.786008100564185]
我々は、消費者デバイス上で効率的な推論を行うための、パイプラインオフロード(PIPO)と呼ばれる新しいフレームワークを提案する。
PIPOは、推論のための高効率なスケジューリングを実現するために、最適化されたデータ転送と計算を補完するきめ細かいオフロードパイプラインを設計する。
論文 参考訳(メタデータ) (2025-03-15T08:48:38Z) - Generative AI on the Edge: Architecture and Performance Evaluation [0.3999851878220877]
6GのAIネイティブビジョンであるアドバンストインテリジェンスをネットワークに組み込むには、エッジデバイス上のジェネレーティブAI(GenAI)モデルを体系的に評価する必要がある。
本研究では,ORANのエッジテストベッドとして機能する1つのコモディティRaspberry Pi上でのLLM(Large Language Models)推論の計算要求について検討する。
論文 参考訳(メタデータ) (2024-11-18T16:09:01Z) - BitStack: Any-Size Compression of Large Language Models in Variable Memory Environments [53.71158537264695]
大規模言語モデル(LLM)は、多くのアプリケーションに革命をもたらしたが、ローカルデバイスにおけるメモリ制限により、その展開は依然として困難である。
textbfBitStackは,メモリ使用量とモデル性能のトレードオフを可能にする,新しいトレーニング不要な重み圧縮手法である。
論文 参考訳(メタデータ) (2024-10-31T13:26:11Z) - Scaling Tractable Probabilistic Circuits: A Systems Perspective [53.76194929291088]
PyJuiceは、いくつかの点で先行技術を改善するPCの一般的な実装設計である。
大規模PCのトレーニングでは、既存のシステムよりも1~2桁高速である。
PyJuiceは2~5倍のメモリを消費するので、より大きなモデルをトレーニングすることができます。
論文 参考訳(メタデータ) (2024-06-02T14:57:00Z) - Injecting Domain Adaptation with Learning-to-hash for Effective and
Efficient Zero-shot Dense Retrieval [49.98615945702959]
我々は,TAS-B高密度検索器の下流ゼロショット検索精度を向上させるためのLTHおよびベクトル圧縮技術を評価する。
以上の結果から, 従来の研究とは異なり, LTH法はゼロショットTAS-B高密度レトリバーを平均14%のnDCG@10で過小評価できることがわかった。
論文 参考訳(メタデータ) (2022-05-23T17:53:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。