論文の概要: On-Device Commercial Intent Retrieval Under Size, Latency, and Privacy Constraints: A 3 MiB Retrieval System with Typed Egress Boundaries
- arxiv url: http://arxiv.org/abs/2610.00170v1
- Date: Wed, 16 Sep 2026 00:34:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-05 14:48:16.388299
- Title: On-Device Commercial Intent Retrieval Under Size, Latency, and Privacy Constraints: A 3 MiB Retrieval System with Typed Egress Boundaries
- Title（参考訳）: サイズ・レイテンシ・プライバシ制約下でのオンデバイス商用インテント検索:タイプ付きエグレス境界付き3MiB検索システム
- Abstract要約: 商用インテント推論は、ユーザのデバイス上で完全に実行される。
Tier-0 p95は2台のiPhone(A14、A16)で4.431ms、3.670ms、Androidタブレットで5.080msである。
- 参考スコア（独自算出の注目度）: 2.8678936590409028
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We study commercial intent inference that runs entirely on the user's device, under three constraints frozen before the work began: the downloaded payload under 3 MiB, Tier-0 inference under 20 ms at p95, and no raw text, content embedding, or stable identifier leaving the device. Under them we build a retrieval path over a 6,020-leaf commercial taxonomy: a static embedding table distilled from a Korean sentence transformer, quantized to 4 bits, no inference runtime. Our main result is where that constraint costs accuracy. On real Korean commerce text labelled by others (22,900 AI-Hub shopping reviews), mid-category top-5 on real product names is 75.0% against an 18.4% permutation baseline, but splits on one observable: a query containing some leaf name as a substring scores 83.5%, one containing none 45.2%. A generic 196.6x larger teacher seemed to localize the gap (+20.1 pp without an anchor, +0.1 with). That null was two effects cancelling: the same teacher fine-tuned on the student's own contrastive pairs reaches 0.8586 and beats the pure-encoder student by +10.6 pp with an anchor and +20.9 pp without. The cost is not uniform, but it is not free anywhere; where the anchor is absent, task adaptation buys the teacher nothing, so what the constrained encoder lacks there is capacity. The expensive regime is detectable on-device from the ranker's own score margin: declining the least confident fifth lifts the rest to 0.8296. A second axis we first reported, a manufacturer model code, does not survive source-category fixed effects (-4.0 pp, p=0.51); the anchor does (+13.0 pp). Payload is 2,942,652 bytes, all three library links measured. Tier-0 p95 is 4.431 and 3.670 ms on two iPhones (A14, A16) and 5.080 ms on a budget Android tablet (Snapdragon 695), all slower than three server CPUs on the same code. Taxonomy supervision is mostly synthetic Korean utterances.
- Abstract（参考訳）: 3 MiB以下のダウンロードペイロード、p95で20ミリ秒未満のTier-0推論、デバイスを離れる生テキスト、コンテンツ埋め込み、安定した識別子。
韓国の文変換器から抽出した静的な埋め込みテーブルは、量子化されて4ビットになり、推論ランタイムはない。
私たちの主な成果は、その制約の正確さです。
実際の韓国の商業用テキスト(22,900のAI-Hubのショッピングレビュー)では、実際の製品名の中級カテゴリーのトップ5は18.4%の置換ベースラインに対して75.0%であるが、観測可能な1つに分割されている。
一般的な196.6倍の教師はギャップ(+20.1 pp、+0.1 with)をローカライズしたようである。
このヌルは2つの効果がキャンセルされた: 同じ教師が生徒自身の対照的なペアに微調整し、0.8586に達し、純エンコーダの学生を+10.6pp、アンカーと+20.9ppで打ち負かした。
アンカーがないところでは、タスク適応は教師に何も買わないので、制約されたエンコーダに欠けているものは容量がある。
高価なレギュレーションはランサー自身のスコアマージンからオンデバイスで検出可能で、最も自信の薄いフィフスリフティングを0.8296に下げる。
最初に報告した第2軸は、製造者モデルコードであり、ソースカテゴリの固定効果(-4.0 pp, p=0.51)を生き残らない(+13.0 pp)。
ペイロードは2,942,652バイトで、3つのライブラリリンクが計測されている。
Tier-0 p95は2台のiPhone(A14、A16)で4.431と3.670 ms、Androidタブレット(Snapdragon 695)で5.080 msであり、いずれも同じコードで3台のサーバCPUより遅い。
分類学の監督は主に韓国語の合成発話である。
関連論文リスト
- Computation Over Geometry: Meaning Identity Is Computed, Not Shipped in the Embeddings [2.1291393112295935]
両文が1つのフォワードパスを共有すると、アイデンティティが計算される。
アイデンティティは、どちらかの文ベクトルの特性ではなく、安価な演算子である。
BGE-reranker-large は 0.94 であり、MS-MARCO と Jina は 0.55-0.64 である。
論文 参考訳（メタデータ） (2026-09-23T15:36:20Z) - Harness or Model? Isolating the Harness Effect in Agentic Coding with a Contamination-Controlled Private Suite [0.0]
エージェント符号化システムは、言語モデルをハーネスに結合する。
ベンダーは独自のモデルに合わせてハーネスを出荷する。
256のリポジトリとポストカット後のコンテストタスクのプライベートな汚染制御スイート上で、ペア同モデルコントラストの仮定を計測する。
論文 参考訳（メタデータ） (2026-09-08T21:24:40Z) - The Commercial Tax: Rent-vs-Own Blind Spots in Multi-Hop Retrieval Benchmarks [0.0]
NVIDIAのNemotron-Embed-8Bは商用ライセンスで、セルフホストは無料で、アンカーと区別できない唯一の埋め込み機です。
1TBでは、埋め込みはグラフ構築より7.5x-900倍低く、1日に1万のクエリで応答する年は350倍以下である。
論文 参考訳（メタデータ） (2026-08-17T04:37:01Z) - The Recall Trap: A Recall-Maximizing Retriever Configuration Reduces Issue Resolution in Fixed-Budget Code Context [45.88028371034407]
コード修復における制御ケーススタディを報告し,新しい現象ではない。
私たちは、同じスタック上の1つのフラグ(1チャンク毎の重複)を切り替えます。
BM25(3.2pp、重要なパラダイム間相互作用)を逆転させる。
厳格な固定予算では、ファイルごとのハードダイドプリケートや、タスクに対するA/Bパッケージングポリシは、メトリックフラグを調整しないことが示されます。
論文 参考訳（メタデータ） (2026-08-14T19:22:50Z) - Explaining AI-Image Detection: What the Heatmap Actually Shows [65.01025489527173]
私たちは検出器を構築し、その証拠として属性マップを添付します。
私たちは、そのペアがコントロール下の186,527のイメージにもたらすものを測定します。
属性ランキングが存在するかどうかは、検出器が画像に反応するかどうかに依存する。
論文 参考訳（メタデータ） (2026-07-31T16:07:05Z) - JuZhou 1.0 Technical Report: The First Edge-Native Text-to-Image Foundation Model Trained Entirely on China-Developed AI Accelerators [82.160839154214]
テキスト・ツー・イメージ(T2I)拡散モデルは通常、かなりの計算資源とクラウドインフラを必要とする。
We present JuZhou 1.0, a Ultra-lightweight T2I foundation model designed for complete offline, on-device execution。
論文 参考訳（メタデータ） (2026-06-25T17:14:03Z) - Context-Aware Distillation and Ablation for Text2DSL [78.29352305480285]
我々は、コンテクスト対応蒸留により、プロンプトのみの合成生成を置き換える。
教師の大きな言語モデルは、明示的に定義された構造化コンテキストの下で機能する。
これは、検証されたポルキットベンチコーパスを4,204対から10,073対にスケールする。
論文 参考訳（メタデータ） (2026-06-21T16:27:24Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳（メタデータ） (2026-05-15T17:08:27Z) - VectraYX-Nano: A 42M-Parameter Spanish Cybersecurity Language Model with Curriculum Learning and Native Tool Use [0.0]
VectraYX-Nanoは、41.95Mパラメータのデコーダのみの言語モデルで、スクラッチから訓練されたスペイン語でサイバーセキュリティを提供する。
クラウドコンピューティングの25ドルで8VMの分散パイプラインで組み立てられた170万のスペインのコーパスは、3つのカリキュラムフェーズ(会話42M、サイバーセキュリティ118M、攻撃ツール10M)に分けられる。
SFT (loss 1.74) の後、v2 ブートストラップ-アブレーション参照は 0.775 +/ の会話ゲートを得る。
論文 参考訳（メタデータ） (2026-05-13T18:03:07Z) - ZenBrain: A Neuroscience-Inspired 7-Layer Memory Architecture for Autonomous AI Systems [51.56484100374058]
LongMemEval-500では、ZenBrainは長いコンテキストのオラクルのバイナリ・ジャッジの精度を4.5pp以内と一致させる。
ZenBrainは7層の神経科学にインスパイアされたメモリアーキテクチャである。
論文 参考訳（メタデータ） (2026-04-26T20:39:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。