論文の概要: PocketTSLM: Deploying an On-Device Soft-Prompt Time-Series Language Model for Privacy-Preserving Smartphone Reasoning
- arxiv url: http://arxiv.org/abs/2610.21308v1
- Date: Thu, 15 Oct 2026 05:56:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-16 19:13:16.207783
- Title: PocketTSLM: Deploying an On-Device Soft-Prompt Time-Series Language Model for Privacy-Preserving Smartphone Reasoning
- Title(参考訳): PocketTSLM:プライバシ保護スマートフォン推論のためのデバイス上でのソフトプロンプト時系列言語モデルのデプロイ
- Abstract要約: 本稿では,OpenTSLM SoftPromptのモバイルネイティブデプロイメントであるPocketTSLMを紹介する。
PocketTSLMは、テキストとして時系列をトークン化する代わりに、エンコードされた時系列ウィンドウを埋め込みとして注入することで、コンシューマスマートフォン上で完全に動作する。
すべての推論はデバイス上で実行され、推論中に健康データが送信されることはない。
- 参考スコア(独自算出の注目度): 41.31956286349645
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Consumer phones and wearables increasingly collect physiological time-series data, yet most mobile systems treat these streams as summaries or text rather than as temporal evidence. This representation is poorly matched to personal health systems that need to retrieve, route, or summarize sensor evidence while preserving temporal structure. Cloud-hosted time-series language models avoid smartphone limits, but they repeatedly move sensitive physiology off the device and add latency and per-query compute cost. Mobile model alternatives that aggregate time-series data into statistical features or serialize raw samples as text either compress temporal structure or exhaust the context and memory budgets of small on-device models. We present PocketTSLM, a mobile-native deployment of OpenTSLM SoftPrompt, the soft-prompt variant of the OpenTSLM time-series language model. PocketTSLM runs fully on a consumer smartphone by injecting encoded time-series windows as embeddings instead of tokenizing time series as text. A numerical parity protocol verifies identical greedy-decoded token sequences between the Swift port and a Python reference using Apple's MLX machine-learning framework. Answers also match the PyTorch reference, although rationale wording can differ. An on-device context-economics benchmark compares the soft-prompt path with a text-serialized baseline on the same backbone. In our benchmark format, soft-prompting uses approximately 12 times fewer time-series tokens and reduces prompt-prefill cost. PocketTSLM processes 30-second Sleep-EDF electroencephalography clips for sleep staging and a 1,000-sample (10 s) 12-lead electrocardiogram clip from ECG-QA. In comparison, text-serialized baselines exceed the phone's context or memory budget at longer time-series windows. All inference runs entirely on the device, with no health data transmitted during inference.
- Abstract(参考訳): 消費者の携帯電話やウェアラブルは、生理的時系列データを収集する傾向にあるが、ほとんどのモバイルシステムは、これらのストリームを時間的証拠ではなく要約やテキストとして扱う。
この表現は、時間的構造を保ちながらセンサーの証拠を回収、ルート、または要約する必要がある個人の健康システムとよく一致しない。
クラウドでホストされる時系列言語モデルは、スマートフォンの制限を回避するが、機密性の高い生理学をデバイスから繰り返し移動させ、レイテンシとクエリ毎の計算コストを増大させる。
モバイルモデルでは、時系列データを統計的な特徴に集約したり、サンプルをテキストとしてシリアライズしたり、時間構造を圧縮したり、小さなオンデバイスモデルのコンテキストやメモリ予算を浪費したりする。
本稿では,OpenTSLM のソフトプロンプト版である OpenTSLM SoftPrompt のモバイルネイティブ展開である PocketTSLM について述べる。
PocketTSLMは、テキストとして時系列をトークン化する代わりに、エンコードされた時系列ウィンドウを埋め込みとして注入することで、コンシューマスマートフォン上で完全に動作する。
数値パリティプロトコルは、Appleの機械学習フレームワークMLXを使用して、SwiftポートとPythonリファレンスの同一のgreedy-decodedトークンシーケンスを検証する。
回答はPyTorch参照と一致するが、有理語は異なる可能性がある。
デバイス上のコンテキスト・エコノミクスのベンチマークでは、ソフトプロンプトパスと、同じバックボーン上のテキストシリアライズされたベースラインを比較している。
ベンチマークフォーマットでは、ソフトプロンプティングは時系列トークンの約12倍のコストを削減し、即時プリフィルコストを削減します。
PocketTSLMは、スリープステージングのための30秒間スリープ-EDF脳波クリップと、ECG-QAから1000サンプル(10秒)12リードの心電図クリップを処理する。
対照的に、テキストシリアライズされたベースラインは、より長い時間帯のウィンドウにおいて、電話機のコンテキストやメモリ予算を超える。
すべての推論はデバイス上で実行され、推論中に健康データが送信されることはない。
関連論文リスト
- Why Is Video Still So Expensive? A Survey of Inference-Efficiency Mechanisms in Video and Audiovisual LLMs [2.1665689529884697]
ビデオ理解はビデオ大言語モデル(VideoLLMs)へと急速に進化した
キャプション、質問応答、検索、時間的グラウンドにおける彼らの強いパフォーマンスは、フレーム数とコンテキストの長さで増大する計算とメモリコストである。
この調査では、パラメータ数、入力毎のFLOP、レイテンシ、メモリ、およびビジュアルおよびオーディオトークン数の具体的な削減を報告した、視覚的およびオーディオ的ビデオLLMの推論効率メカニズムについて取り上げる。
論文 参考訳(メタデータ) (2026-09-09T15:50:39Z) - GigaChat Audio: Time-aware Large Audio Language Model [65.51589021112385]
最大120分以上の入力を明示的にタイムスタンプで解答する時間認識型オーディオLLMを提案する。
提案手法は,カスケードパイプラインからの大規模合成監督を用いて,周期的時間マーカーと連続的な音声トークンをインターリーブする。
論文 参考訳(メタデータ) (2026-07-11T16:34:25Z) - LongAudio-RAG: Event-Grounded Question Answering over Multi-Hour Long Audio [6.935416517354558]
LongAudio Generation (LARAG) は、Large Language Model (LLM) が取得した、タイムスタンプ付き音響イベント検出において出力する基盤となるフレームワークである。
ハイブリッドエッジクラウド環境にデプロイすることで,このアプローチの実践性を実証する。
イベントレベルの構造的検索は,バニラ検索よりも精度が向上することが示された。
論文 参考訳(メタデータ) (2026-02-16T10:15:22Z) - Seeing the Forest and the Trees: Query-Aware Tokenizer for Long-Video Multimodal Language Models [24.875526594002434]
長いビデオ理解シナリオのための視覚トークン選択モジュールであるQTSplusを提案する。
Qwen2.5-VLに統合され、ビジョンストリームを textbf89% まで圧縮し、長いビデオでは textbf28% でエンドツーエンドのレイテンシを低減する。
以上の結果から,QTSplusはMLLMを現実世界の長ビデオシナリオに拡張するための,効果的で汎用的なメカニズムであることが示唆された。
論文 参考訳(メタデータ) (2025-11-14T22:41:27Z) - OpenTSLM: Time-Series Language Models for Reasoning over Multivariate Medical Text- and Time-Series Data [35.931918163980605]
時系列言語モデル(TSLM)のファミリであるOpenTSLMについて述べる。
OpenTSLMは学習可能な時系列トークンとテキストトークンをソフトプロンプトで結合することで、暗黙的に時系列をモデル化する。
本稿では,HAR-CoT,Sleep-CoT,ECG-QA-CoTの3つのデータセットを紹介する。
OpenTSLMのベースラインは69.9 F1、HARは65.4に達し、微調整されたテキストのみのモデルでは9.05と52.2であった。
論文 参考訳(メタデータ) (2025-10-02T09:58:23Z) - RelayAttention for Efficient Large Language Model Serving with Long System Prompts [59.50256661158862]
本稿では,長いシステムプロンプトを含むLCMサービスの効率を向上させることを目的とする。
これらのシステムプロンプトの処理には、既存の因果注意アルゴリズムにおいて、大量のメモリアクセスが必要である。
本稿では,DRAMから入力トークンのバッチに対して,DRAMから隠れた状態を正確に1回読み取ることのできるアテンションアルゴリズムであるRelayAttentionを提案する。
論文 参考訳(メタデータ) (2024-02-22T18:58:28Z) - AutoTimes: Autoregressive Time Series Forecasters via Large Language Models [67.83502953961505]
AutoTimesは時系列を言語トークンの埋め込み空間に投影し、任意の長さで将来予測を生成する。
時系列をプロンプトとして定式化し、ルックバックウィンドウを越えて予測のコンテキストを拡張する。
AutoTimesは、トレーニング可能なパラメータが0.1%、トレーニング/推論のスピードアップが5ドル以上で最先端を実現している。
論文 参考訳(メタデータ) (2024-02-04T06:59:21Z) - TF-CLIP: Learning Text-free CLIP for Video-based Person
Re-Identification [60.5843635938469]
ビデオベースのReIDのための一段階のテキストフリーCLIP学習フレームワークTF-CLIPを提案する。
より具体的には、テキスト機能を置き換えるために、アイデンティティ固有のシーケンス機能をCLIPメモリとして抽出する。
提案手法は,MARS,LS-VID,iLIDS-VIDの他の最先端手法よりも優れた結果を示す。
論文 参考訳(メタデータ) (2023-12-15T09:10:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。