論文の概要: Paging the Experts: A Reproducible Characterization of Flash-Backed MoE Inference on iPhone

• arxiv url: http://arxiv.org/abs/2609.29032v1
• Date: Thu, 24 Sep 2026 05:05:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 21:10:09.732276
• Title: Paging the Experts: A Reproducible Characterization of Flash-Backed MoE Inference on iPhone
• Title（参考訳）: iPhone上のFlashベースのMoE推論の再現可能な特徴
• Abstract要約: Routideは、ピン付き公開Qwen3.6-35B-A3B量子化されたチェックポイントのテキストパスを実行する。 キャッシュポリシー感度,数値比較境界,測定限界を特徴付ける。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Sparse activation reduces mixture-of-experts computation without eliminating the need to store all experts. We present Routide, a Swift/MLX runtime that executes the text path of a pinned public Qwen3.6-35B-A3B quantized checkpoint while keeping expert weights in iPhone storage and a byte-budgeted subset in memory. We characterize cache-policy sensitivity, numerical comparison boundaries, and measurement limits. Across five recorded 128-token workloads, fixed-route replay gives 0.00% demand hits with a 512 MiB LRU cache, 18.80% with seeded random eviction at the same budget, and 38.58% with 576 MiB LRU. The apparent capacity cliff is therefore a policy/workload interaction, not a universal memory requirement. Same-runtime Mac controls preserve generated sequences across eviction and asynchronous prefetch, including 2,560 exact token comparisons and 10,334 speculative loads. In contrast, complete resident-Python versus recorded-phone sequences disagree on all five tested cases, precluding a general numerical equivalence claim. Two separately scoped iOS 27 memory protocols observe sampled process-footprint peaks of 1.87-2.32 GiB on short prompts and 2.39-2.73 GiB on one longer prompt. We retain a thermal stopping event, negative timing comparisons, and a single qualified whole-device power estimate. These results establish bounded feasibility and identify limitations that a deployment claim must not hide.
• Abstract（参考訳）: スパースアクティベーションは、すべての専門家を保存する必要をなくすことなく、エキスパートの混合計算を減らす。 我々は,固定された公開Qwen3.6-35B-A3B量子化されたチェックポイントのテキストパスを実行するSwift/MLXランタイムであるRoutideを紹介する。 キャッシュポリシー感度,数値比較境界,測定限界を特徴付ける。 固定ルートのリプレイでは、512MiB LRUキャッシュで0.00%、同じ予算で18.80%、38.58%、576MiB LRUで0.0%の需要を達成している。 したがって、明らかなキャパシティの限界は、普遍的なメモリ要件ではなく、ポリシー/ワークロードの相互作用である。 同一実行時のMacコントロールは、2,560の正確なトークン比較と10,334の投機負荷を含む、エビクションと非同期プリフェッチで生成されたシーケンスを保存する。 対照的に、完全常駐Pythonと録音電話のシーケンスは、一般的な数値等価クレームを除いて、5つのテストケースすべてで一致しない。 2つの独立したiOS 27メモリプロトコルは、短いプロンプトで1.87-2.32 GiB、長いプロンプトで2.39-2.73 GiBのサンプルプロセスフットプリントピークを観察する。 我々は、熱停止イベント、負のタイミング比較、および1つの資格付きデバイス全体の電力推定を保持する。 これらの結果は、境界付き実現可能性を確立し、デプロイメントのクレームが隠さなければならない制限を特定します。

関連論文リスト

• Shared KV Caching for Replicated 27B Inference: Correctness Failures and Performance Boundaries [6.185334606321749]
  256 GiB LMCacheプールを共有する2つのシングルGPU 27B vLLMレプリカについて検討した。 複製を交互に行う6ターン合成セッションは、32kと128kの初期文脈で約35%と45%改善した。
  論文  参考訳（メタデータ） (2026-09-14T04:37:44Z)
• DreamBench-SWE: A Multi-Session Memory-Hygiene Benchmark for Software Agents [0.0]
  本報告では,当初のスケールドv2フォールドと別々に登録したv2.1の後継監査について報告するが,後継検査の前に凍結した。 当初、DF-ヒブリド--B5のコントラストはヌル(95/180対89/180)、クラスターp=.518、ホルムp=1、等価性の証拠ではなく、C9/C10はB0ヘッドルームの制限を保持していた。 したがって、監査はDreamBench-SWEを識別可能なプロファイルベンチマークとしてサポートしているが、外部システム機構、メモリ保持条件の優越性、等価性、広範製品一般性は確立していない。
  論文  参考訳（メタデータ） (2026-08-21T01:48:57Z)
• The Recall Trap: A Recall-Maximizing Retriever Configuration Reduces Issue Resolution in Fixed-Budget Code Context [45.88028371034407]
  コード修復における制御ケーススタディを報告し,新しい現象ではない。 私たちは、同じスタック上の1つのフラグ(1チャンク毎の重複)を切り替えます。 BM25(3.2pp、重要なパラダイム間相互作用)を逆転させる。 厳格な固定予算では、ファイルごとのハードダイドプリケートや、タスクに対するA/Bパッケージングポリシは、メトリックフラグを調整しないことが示されます。
  論文  参考訳（メタデータ） (2026-08-14T19:22:50Z)
• Stage-Replay Divergence Follows the KV Cache: Fixed-Prefix Precision Controls and Bidirectional Cache Transplantation [51.56484100374058]
  Stage-replayは中間トークンプレフィックスを再構築し、プレフィックスに最初に到達したデコーダ状態からの継続として、新しいプリフィル継続を処理する。 一致した200itemの実験では、保持されたライブキャッシュと同一の整数トークンのワンショットプリフィルを比較し、両側に正確なレプリカを配置する。
  論文  参考訳（メタデータ） (2026-07-30T16:41:40Z)
• Memory-Managed Long-Context Attention: A Preliminary Study of Editable Request-Local Memory [0.5371337604556311]
  メモリ管理型長コンテキストアテンションは、高速なリカレントまたはスパースバックボーンを、明示的な編集可能な要求ローカルメモリスロットから分離する研究ルートである。 構造化された合成タスク、トークン/チャンク/シーケンスブリッジ、生成された自然言語、ローカル凍結モデル診断、純粋な固定状態または純粋なスパースメソッドは、オーバーライト、バージョン、アンチ汚染またはノーライト署名ケースを失敗する。
  論文  参考訳（メタデータ） (2026-06-27T11:38:43Z)
• MobileGym: A Verifiable and Highly Parallel Simulation Platform for Mobile GUI Agent Research [39.68394140712043]
  MobileGymは、日常的なモバイル利用のための軽量で完全に制御可能な環境である。 階層化された状態モデルと宣言的なタスク定義フレームワークは、状態のプログラマビリティとタスク作成を大規模に実践的に保ちます。 単一のプログラム的判断メカニズムは、決定論的評価評価と高密度報酬の両方を提供する。
  論文  参考訳（メタデータ） (2026-05-25T17:59:49Z)
• XFP: Quality-Targeted Adaptive Codebook Quantization with Sparse Outlier Separation for LLM Inference [0.0]
  XFPはコードブックのサイズ、アウトリーチ予算、レイヤごとのパッケージを自動的に決定する。 XFPはワークステーションハードウェア上で128 tok/sのシングルストリームデコードに達する。 対象メモリエンベロープに収まらないモデルに対しては、H-Processを示す。
  論文  参考訳（メタデータ） (2026-05-14T13:52:31Z)
• Echo: KV-Cache-Free Associative Recall with Spectral Koopman Operators [45.88028371034407]
  スペクトルクープマン注意(SKA)を中心に構築されたKV-cacheフリー連想リコールアーキテクチャ 我々は、SKA(Spectral Koopman Attention)を中心に構築されたKV-cacheフリーな連想型リコールアーキテクチャであるEchoを紹介する。
  論文  参考訳（メタデータ） (2026-05-07T22:26:27Z)
• vCache: Verified Semantic Prompt Caching [95.16654660556975]
  本稿では,ユーザ定義エラー率保証を備えた最初の検証済みセマンティックキャッシュであるvCacheを提案する。 オンライン学習アルゴリズムを使用して、キャッシュされたプロンプト毎に最適な閾値を推定し、追加のトレーニングなしで信頼性の高いキャッシュ応答を可能にする。 我々の実験によると、vCacheは特定のエラー境界を一貫して満たし、最先端の静的な閾値と微調整された埋め込みベースラインより優れています。
  論文  参考訳（メタデータ） (2025-02-06T04:16:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。