論文の概要: omni-macos: On-Device Omni-Modal Search on Apple Silicon
- arxiv url: http://arxiv.org/abs/2608.05543v2
- Date: Fri, 07 Aug 2026 18:43:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 13:55:18.66414
- Title: omni-macos: On-Device Omni-Modal Search on Apple Silicon
- Title（参考訳）: omni-macos:Apple SiliconのオンデバイスOmni-Modal検索
- Abstract要約: omni-macosは、既にファイルを保持しているMac上でエンコーダ、インデックス、およびストアを実行するため、ファイル、クエリ、ベクトルがマシンを離れることはない。
編集変更のチャンクのみを再エンコードし、ユーザが入力している間にGPUの小さなユニットを手渡し、量子化されたレプリカからのクエリに正確なリコーディングを行い、その予算を統一メモリを描画するアロケータに伝達する。
- 参考スコア（独自算出の注目度）: 5.943245848892104
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: A search engine that embeds text, code, documents, images, audio and video into the same representation space has to run its encoder and keep its index somewhere, and almost every component built for the purpose assumes a server. We present omni-macos, which runs its encoder, index and store on the Mac that already holds the files, so no file, query or vector ever leaves the machine. It keeps a background indexer and an interactive search box inside one memory budget the user sets: it re-encodes only the chunks an edit changes, hands the GPU smaller units while the user is typing, answers queries from a quantized replica with exact rescoring, and propagates that budget to the allocators that draw on unified memory. We measure every mechanism on five Macs spanning an eightfold range of accelerator width and a thirty-twofold range of memory, each one indexing its own local files.
- Abstract（参考訳）: テキスト、コード、ドキュメント、画像、オーディオ、ビデオなどを同じ表現空間に埋め込む検索エンジンは、エンコーダを実行してインデックスをどこかに保持する必要がある。
我々は、既にファイルを保持しているMac上でエンコーダ、インデックス、ストアを実行するomni-macosを提示する。
バックグラウンドインデクサと対話型検索ボックスを1つのメモリ予算内に保持し、編集変更のチャンクのみを再エンコードし、ユーザが入力している間にGPUの小さなユニットを手渡し、量子化されたレプリカからのクエリに正確なリコーディングを行い、その予算を統一メモリに描画するアロケータに伝達する。
我々は、アクセル幅の8倍、メモリ幅の32倍の5つのMac上のすべてのメカニズムを測定し、それぞれがローカルファイルをインデックス化している。
関連論文リスト
- Filesystem-Based Memory for LLM Agents: Organization, Evolution, and Sustainability [49.415740364852105]
デプロイされたエージェントは、エージェント自身がジェネリックファイルツールを通じて読み込み、書き込み、再編成するマークダウンファイルのディレクトリツリーとして、長期記憶をますます保持する。
以前のシステムではメモリ表現を設計し、それらを検索し、デフォルトの2つの動作仮定を未検証のまま残した。
LLMエージェントのためのチャンクベースメモリの最初の体系的探索を行う。
論文 参考訳（メタデータ） (2026-07-29T08:59:43Z) - MISA: Mixture of Indexer Sparse Attention for Long-Context LLM Inference [75.41426145782751]
本稿では,DSAインデクサのリプレースとして,インデクサヘッドをエキスパートの混合プールとして扱うDSAインデクサを提案する。
MISAはロングベンチの密度の高いDSAインデクサとDeepSeek-V3.2とGLM-5で一致し、それぞれ8倍と4倍のインデクサヘッドで動作している。
私たちのTileLangカーネルは、単一のNVIDIA H200 GPU上で、DSAのオリジナルのインデクサカーネルの約3.82倍のスピードアップを実現しています。
論文 参考訳（メタデータ） (2026-05-08T07:19:34Z) - A Survey of Spatial Memory Representations for Efficient Robot Navigation [4.560386676154887]
52のシステムにまたがる88の参照の空間記憶効率の問題を調査した。
M_textpeak / M_textmap$は、ピーク時メモリ(操作中に消費される全RAMまたはGPUメモリ)と保存されたマップサイズとの比率である。
論文 参考訳（メタデータ） (2026-04-13T02:12:17Z) - IndexCache: Accelerating Sparse Attention via Cross-Layer Index Reuse [68.18308357205586]
Longcontext Agenticは、大規模言語モデルの定義ユースケースとして登場した。
Sparseは、この課題を効果的に解決し、DeepSeek Sparse Attention(DSA)は、代表的なプロダクショングレードソリューションである。
我々は、レイヤを独自のインデクサを実行するフルレイヤの小さなセットと、最も近いフルレイヤのトップkインデックスを単純に再利用する共有レイヤの大多数に分割することで、層間の冗長性を利用するIndexCacheを紹介します。
論文 参考訳（メタデータ） (2026-03-12T17:27:21Z) - Multi-Vector Index Compression in Any Modality [73.7330345057813]
後期の相互作用は、テキスト、画像、ビジュアルドキュメント、ビデオにおける情報検索の主要なパラダイムとして現れてきた。
インデックス圧縮には,シーケンスリサイズ,メモリトークン,階層プール,新しいアテンション誘導クラスタリング(AGC)の4つのアプローチを導入する。
AGCは、ドキュメントの最もセマンティックな領域をクラスタセントロイドとして識別し、トークンの集合を重み付けするために注意誘導機構を使用する。
論文 参考訳（メタデータ） (2026-02-24T18:57:33Z) - Hippocampus: An Efficient and Scalable Memory Module for Agentic AI [4.508092142808317]
Hippocampusは、セマンティック検索にコンパクトなバイナリシグネチャを使用するエージェント型メモリ管理システムである。
その中核はDWM(Dynamic Wavelet Matrix)であり、超高速検索をサポートするために両方のストリームを圧縮し、共同インデックスする。
評価の結果,Hippocampusはエンドツーエンドの検索遅延を最大31$times$に削減できることがわかった。
論文 参考訳（メタデータ） (2026-02-14T04:25:20Z) - FaTRQ: Tiered Residual Quantization for LLM Vector Search in Far-Memory-Aware ANNS Systems [16.221654013698963]
FaTRQは、ストレージから完全なベクトルを取り出す必要をなくす、メモリを意識した改良システムである。
カスタムアクセラレータはCXL Type-2デバイスにデプロイされ、ローカルで低遅延リファインメントを実行する。
FaTRQは、ストレージ効率を2.4$times$で改善し、スループットをSOTA GPU ANNSシステムよりも最大9$$で改善する。
論文 参考訳（メタデータ） (2026-01-15T01:59:29Z) - FuseSampleAgg: Fused Neighbor Sampling and Aggregation for Mini-batch GNNs [51.56484100374058]
FuseSampleAggは、隣人の平均アグリゲーションをGraphSAGEの1つのパスにフューズし、サンプリングする。
Operatorは決定論的であり、標準のPyTorchと統合され、CSVログからすべてのテーブルとフィギュアを再現するスクリプトが同梱されている。
論文 参考訳（メタデータ） (2025-11-17T17:57:18Z) - Infini-gram mini: Exact n-gram Search at the Internet Scale with FM-Index [110.90283601829724]
ペタバイトレベルのテキストコーパスを検索可能にするシステムであるinfini-gram miniを提案する。
FMインデックスデータ構造に基づいて,本システムはコーパスの44%の大きさのインデックスを生成する。
ベンチマーク汚染の大規模解析において重要なユースケースが1つある。
論文 参考訳（メタデータ） (2025-06-13T21:13:57Z) - Industrial-Scale Neural Network Clone Detection with Disk-Based Similarity Search [0.24091079613649843]
コードクローンは、コピー&ペーストプログラミングからしばしば生じる類似のコードフラグメントである。
既存のニューラルネットワークベースのクローン検出スキームを拡張して、利用可能なメモリを超えるクローンを処理する。
メモリに収まる問題サイズの問題に対して、私たちのアプローチはインメモリアプローチよりも約2$times$遅いことを実証しています。
論文 参考訳（メタデータ） (2025-04-24T22:50:23Z) - Lossless Compression of Vector IDs for Approximate Nearest Neighbor Search [11.938555573590964]
インデックスのサイズを減らすために、ロスシー圧縮が広く適用されている。
逆ファイルとグラフベースのインデックスでは、ベクトルIDやリンクなどの補助データはほとんどのストレージコストを表すことができる。
いくつかのデータセットに対して、これらの手法は量子化されたベクトルコードも無害に圧縮できることを示す。
論文 参考訳（メタデータ） (2025-01-16T20:45:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。