論文の概要: Knowledge Distillation for LLM-Based Human Activity Recognition in Homes

• arxiv url: http://arxiv.org/abs/2601.07469v1
• Date: Mon, 12 Jan 2026 12:25:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-13 19:08:01.373242
• Title: Knowledge Distillation for LLM-Based Human Activity Recognition in Homes
• Title（参考訳）: 家庭におけるLCMに基づく人間活動認識のための知識蒸留
• Authors: Julien Cumin, Oussama Er-Rahmany, Xi Chen,
• Abstract要約: 大規模言語モデル(LLM)は、自宅でのHAR(Human Activity Recognition)に使用することができる。 LLMのサイズによって認識性能がどう変化するかを示す。 このような微調整モデルでは,パラメータが50倍少なく,最大LLMとほぼ同等に動作可能であることを示す。
• 参考スコア（独自算出の注目度）: 3.900128969292833
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Human Activity Recognition (HAR) is a central problem for context-aware applications, especially for smart homes and assisted living. A few very recent studies have shown that Large Language Models (LLMs) can be used for HAR at home, reaching high performance and addressing key challenges. In this paper, we provide new experimental results regarding the use of LLMs for HAR, on two state-of-the-art datasets. More specifically, we show how recognition performance evolves depending on the size of the LLM used. Moreover, we experiment on the use of knowledge distillation techniques to fine-tune smaller LLMs with HAR reasoning examples generated by larger LLMs. We show that such fine-tuned models can perform almost as well as the largest LLMs, while having 50 times less parameters.
• Abstract（参考訳）: HAR(Human Activity Recognition)は、コンテキスト認識アプリケーション、特にスマートホームや生活支援のための中心的な問題である。 ごく最近の研究では、大規模言語モデル(LLM)が家庭でのHARに使用でき、高性能に到達し、重要な課題に対処できることが示されている。 本稿では,HAR における LLM の使用に関する新たな実験結果について述べる。 より具体的には、LLMのサイズに応じて認識性能がどのように進化するかを示す。 さらに,より大型のLLMが生成するHAR推論例を用いて,より小型のLLMを微調整するための知識蒸留技術を用いた実験を行った。 このような微調整モデルでは,パラメータが50倍少なく,最大LLMとほぼ同等に動作可能であることを示す。

関連論文リスト

• LLM-Explorer: Towards Efficient and Affordable LLM-based Exploration for Mobile Apps [12.95765484886394]
  大規模言語モデル(LLM)は、モバイルアプリの探索を自動化する新たな機会を開いた。 探索中の多くの行動は必要とせず、またLLMの能力に偏っている可能性があるため、このような広範囲にわたるLLMの使用は必要でも有効でもないと論じる。 LLM-Explorerは,効率と可利用性に配慮した新しい探索エージェントである。
  論文  参考訳（メタデータ） (2025-05-15T05:28:35Z)
• From Selection to Generation: A Survey of LLM-based Active Learning [153.8110509961261]
  大きな言語モデル(LLM)は、全く新しいデータインスタンスを生成し、よりコスト効率の良いアノテーションを提供するために使われています。 本調査は,LSMに基づくAL手法の直感的な理解を目指して,研究者や実践者の最新のリソースとして機能することを目的としている。
  論文  参考訳（メタデータ） (2025-02-17T12:58:17Z)
• Should You Use Your Large Language Model to Explore or Exploit? [57.98066234509361]
  探索・探索トレードオフに直面した意思決定エージェントを支援するために,大規模言語モデルの能力を評価する。 現在のLLMは、しばしば利用に苦労するが、小規模タスクのパフォーマンスを大幅に改善するために、コンテキスト内緩和が用いられる可能性がある。
  論文  参考訳（メタデータ） (2025-01-31T23:42:53Z)
• EVOLvE: Evaluating and Optimizing LLMs For In-Context Exploration [76.66831821738927]
  大規模言語モデル(LLM)は、不確実性の下で最適な意思決定を必要とするシナリオにおいて、未調査のままである。 多くのアプリケーションに関係のあるステートレス強化学習環境である,帯域幅を最適に決定できる LLM の (in) 能力の測定を行う。 最適な探索アルゴリズムの存在を動機として,このアルゴリズム知識をLLMに統合する効率的な方法を提案する。
  論文  参考訳（メタデータ） (2024-10-08T17:54:03Z)
• AI Meets the Classroom: When Do Large Language Models Harm Learning? [0.0]
  大規模言語モデル(LLM)が学習結果に与える影響は,利用行動に依存することを示す。 LLMは学習を改善する大きな可能性を示しているが、それらの使用は教育的な文脈に合わせて調整されなければならない。
  論文  参考訳（メタデータ） (2024-08-29T17:07:46Z)
• Small Models, Big Insights: Leveraging Slim Proxy Models To Decide When and What to Retrieve for LLMs [60.40396361115776]
  本稿では,スリムプロキシモデルを用いた大規模言語モデル (LLM) における知識不足を検知する新しい協調手法であるSlimPLMを提案する。 パラメータがはるかに少ないプロキシモデルを採用し、回答を回答としています。 ヒューリスティックな回答は、LLM内の既知の未知の知識と同様に、ユーザの質問に答えるために必要な知識を予測するのに使用される。
  論文  参考訳（メタデータ） (2024-02-19T11:11:08Z)
• Beyond Answers: Transferring Reasoning Capabilities to Smaller LLMs Using Multi-Teacher Knowledge Distillation [23.736611338497244]
  TinyLLMは、複数の大規模LLMから小学生のLLMを学ぶための新しい知識蒸留パラダイムである。 そこで本研究では,文脈的に適切なシナリオにおいて,理科が正確で基礎が整っていることを保証するために,文脈内サンプル生成と教師強制型Chain-of-Thought戦略を導入する。 その結果,TinyLLMはモデルサイズがかなり小さいにもかかわらず,大きなLLMよりも優れていた。
  論文  参考訳（メタデータ） (2024-02-07T06:48:24Z)
• Supervised Knowledge Makes Large Language Models Better In-context Learners [94.89301696512776]
  大規模言語モデル(LLM)は、素早い工学を通して、文脈内学習能力の出現を示す。 自然言語理解と質問応答におけるLLMの一般化性と事実性の向上という課題は、まだ未解決のままである。 本研究では, LLM の信頼性を高める枠組みを提案する。1) 分布外データの一般化,2) 差別モデルによる LLM のメリットの解明,3) 生成タスクにおける幻覚の最小化。
  論文  参考訳（メタデータ） (2023-12-26T07:24:46Z)
• Fairness of ChatGPT and the Role Of Explainable-Guided Prompts [6.079011829257036]
  本研究では,大規模言語モデル(LLM),特に OpenAI の GPT の信用リスク評価における可能性について検討する。 この結果から,LLMは従来の機械学習(ML)モデルの性能を並列化できる可能性が示唆された。
  論文  参考訳（メタデータ） (2023-07-14T09:20:16Z)
• On Learning to Summarize with Large Language Models as References [101.79795027550959]
  大型言語モデル (LLM) は、一般的な要約データセットにおける元の参照要約よりも人間のアノテーションに好まれる。 より小さなテキスト要約モデルに対するLLM-as-reference学習設定について検討し,その性能が大幅に向上するかどうかを検討する。
  論文  参考訳（メタデータ） (2023-05-23T16:56:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。