論文の概要: HUOZIIME: An On-Device LLM-enhanced Input Method for Deep Personalization
- arxiv url: http://arxiv.org/abs/2604.14159v1
- Date: Mon, 23 Mar 2026 05:00:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-19 19:09:11.683548
- Title: HUOZIIME: An On-Device LLM-enhanced Input Method for Deep Personalization
- Title(参考訳): HUOZIIME: ディープパーソナライゼーションのためのオンデバイスLDM強化入力方式
- Authors: Baocai Shan, Yuzhuang Xu, Wanxiang Che,
- Abstract要約: モバイル入力メソッドエディタ (IME) はテキスト入力の主要なインタフェースであるが、手動タイピングとパーソナライズされたテキストの生成に制約が課されている。
大規模言語モデル(LLM)を利用したデバイス上での個人化IMEであるHUOZIIMEを提案する。
我々は,HUOZIIMEを,合成パーソナライゼーションデータに基づくベースLSMの訓練後,人間的な予測能力で実現した。
実験では、デバイス上での効率的な実行と高忠実度メモリ駆動のパーソナライゼーションが示されている。
- 参考スコア(独自算出の注目度): 43.160468502245486
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Mobile input method editors (IMEs) are the primary interface for text input, yet they remain constrained to manual typing and struggle to produce personalized text. While lightweight large language models (LLMs) make on-device auxiliary generation feasible, enabling deeply personalized, privacy-preserving, and real-time generative IMEs poses fundamental challenges.To this end, we present HUOZIIME, a personalized on-device IME powered by LLM. We endow HUOZIIME with initial human-like prediction ability by post-training a base LLM on synthesized personalization data. Notably, a hierarchical memory mechanism is designed to continually capture and leverage user-specific input history. Furthermore, we perform systemic optimizations tailored to on-device LLMbased IME deployment, ensuring efficient and responsive operation under mobile constraints.Experiments demonstrate efficient on-device execution and high-fidelity memory-driven personalization. Code and package are available at https://github.com/Shan-HIT/HuoziIME.
- Abstract(参考訳): モバイル入力メソッドエディタ (IME) はテキスト入力の主要なインタフェースであるが、手動タイピングとパーソナライズされたテキストの生成に制約が課されている。
軽量な大規模言語モデル(LLM)は、デバイス上での補助生成を実現し、深くパーソナライズされ、プライバシ保護され、リアルタイムに生成されるIMEが根本的な課題を提起する一方で、LLMを利用したパーソナライズされたデバイス上でのIMEであるHUOZIIMEを提示する。
我々は,HUOZIIMEを,合成パーソナライゼーションデータに基づくベースLSMの訓練後,人間的な予測能力で実現した。
特に、階層型メモリ機構は、ユーザ固有の入力履歴を継続的にキャプチャし、活用するように設計されている。
さらに、デバイス上でのLCMベースのIMEデプロイメントに適したシステム最適化を行い、モバイル制約下での効率的な応答性を確保し、デバイス上での効率的な実行と高忠実度メモリ駆動型パーソナライゼーションを実証する実験を行った。
コードとパッケージはhttps://github.com/Shan-HIT/HuoziIME.comで入手できる。
関連論文リスト
- CoSteer: Collaborative Decoding-Time Personalization via Local Delta Steering [80.54309860395763]
CoSteerは、ローカライズされたデルタステアリングを通じてデコード時のパーソナライズを可能にする、新しいコラボレーティブフレームワークである。
トークンレベルの最適化をオンライン学習問題として定式化し、ローカルデルタベクトルがリモートLLMのロジットを動的に調整する。
このアプローチは、生のデータや中間ベクトルではなく、最後のステアリングトークンのみを送信することで、プライバシを保護します。
論文 参考訳(メタデータ) (2025-07-07T08:32:29Z) - Never Start from Scratch: Expediting On-Device LLM Personalization via Explainable Model Selection [5.174560360759384]
大規模言語モデル(LLM)のパーソナライズは,異なるモバイルユーザのニーズを満たすために,実践的なアプリケーションにおいて重要である。
提案するXPerTは,このようなパーソナライズされたLLMの適切な選択を,どのように微調整されているかの説明可能性に基づいて保証する手法である。
実験の結果,XPerTはデバイス上でのLCMパーソナライズコストを83%削減し,データ効率を51%向上した。
論文 参考訳(メタデータ) (2025-04-15T17:38:06Z) - MELTing point: Mobile Evaluation of Language Transformers [8.238355633015068]
大規模言語モデル(LLM)のモバイル実行の現状について検討する。
我々は,デバイス上でのLLMのヘッドレス実行とベンチマークをサポートする,独自の自動化インフラストラクチャMELTを開発した。
我々は、一般的な命令の微調整 LLM を評価し、それぞれのフレームワークを用いてエンドツーエンドおよび粒度の性能を計測する。
論文 参考訳(メタデータ) (2024-03-19T15:51:21Z) - Self-Play Fine-Tuning Converts Weak Language Models to Strong Language Models [52.98743860365194]
本稿では,SPIN(Self-Play fIne-tuNing)と呼ばれるファインチューニング手法を提案する。
SPINの中心には自己再生機構があり、LLMは自身のインスタンスと対戦することでその能力を洗練させる。
このことは、自己プレイの約束に光を当て、熟練した相手を必要とせずに、LSMにおける人間レベルのパフォーマンスの達成を可能にする。
論文 参考訳(メタデータ) (2024-01-02T18:53:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。