論文の概要: TimeSRL: Generalizable Time-Series Behavioral Modeling via Semantic RL-Tuned LLMs -- A Case Study in Mental Health
- arxiv url: http://arxiv.org/abs/2605.21295v1
- Date: Wed, 20 May 2026 15:25:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-21 19:19:56.750417
- Title: TimeSRL: Generalizable Time-Series Behavioral Modeling via Semantic RL-Tuned LLMs -- A Case Study in Mental Health
- Title（参考訳）: TimeSRL:Semantic RL-Tuned LLMによる一般化可能な時系列行動モデリング-メンタルヘルスのケーススタディ
- Abstract要約: TimeSRLは、明示的なセマンティックボトルネックを通じて予測をルーティングするフレームワークである。
クロスコホート一般化をストレステストするために設計されたベンチマーク上で、最先端のパフォーマンスを実現する。
TimeSRLは、異なるセンサーパイプライン間でのクロスベンチマーク転送において、従来の方法よりも大幅に優れている。
- 参考スコア（独自算出の注目度）: 10.41600839007471
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Longitudinal passive sensing enables continuous health prediction, yet models often fail under cross-dataset distribution shifts. Traditional ML overfits cohort-specific artifacts, while Large Language Models (LLMs) struggle to reason reliably over long, heterogeneous time-series. We introduce TimeSRL, a two-stage LLM framework that routes predictions through an explicit semantic bottleneck. The model first abstracts raw signals into high-level natural language, then predicts behavioral outcomes from these abstractions alone. This forces the model to reason over semantic concepts that we argue generalize better than raw numbers. We optimize this process end-to-end using Group Relative Policy Optimization (GRPO) with Reinforcement Learning from Verifiable Rewards (RLVR), learning outcome-aligned abstractions without gold intermediate annotations. Instantiated on mental-health prediction, TimeSRL achieves state-of-the-art performance on a benchmark designed to stress-test cross-cohort generalization under a rigorous leave-one-dataset-out (LOSO) protocol, reducing mean absolute error (MAE) over strong non-LLM ML and LLM baselines by 3.1--10.1% and 9.5--44.1% for anxiety, and 3.2--9.6% and 27.4--57.6% for depression (all $p$s<0.05). TimeSRL significantly outperforms prior methods in cross-benchmark transfer across different sensing pipelines, rivaling its own within-domain performance without target-domain fine-tuning. These results demonstrate that semantic abstractions are reusable and point to a new direction for generalizable behavior modeling via RL-tuned LLMs.
- Abstract（参考訳）: 縦方向受動的センシングは継続的な健康予測を可能にするが、モデルはしばしばデータセット間の分布シフトで失敗する。
従来のMLはコホート固有のアーティファクトに適合するが、Large Language Models (LLMs) は長く異質な時系列を確実に推論するのに苦労している。
本稿では,2段階のLLMフレームワークであるTimeSRLを紹介する。
モデルはまず、生の信号をハイレベルな自然言語に抽象化し、その後、これらの抽象化だけで振る舞いの結果を予測する。
これにより、モデルが生数よりも一般化すると主張する意味論的概念を論じざるを得なくなる。
グループ相対政策最適化(GRPO)とRLVR(Reinforcement Learning from Verifiable Rewards)を用いて、ゴールド中間アノテーションなしで結果整合した抽象化を学習し、このプロセスをエンドツーエンドに最適化する。
メンタルヘルス予測に基づいて、TimeSRLは厳格なLeft-one-dataset-out(LOSO)プロトコルの下でクロスコホート一般化をストレステストするためのベンチマークで最先端のパフォーマンスを達成し、強い非LLM MLとLLMベースラインに対する平均絶対誤差(MAE)を3.1--10.1%、不安に対する9.5-44.1%、うつ病に対する3.2-9.6%と27.4-57.6%(すべて$p$s<0.05)に削減した。
TimeSRLは、異なるセンサーパイプライン間でのクロスベンチマーク転送において、従来の手法よりも大幅に優れており、ターゲットドメインの微調整なしに独自のドメイン内パフォーマンスに匹敵する。
これらの結果から, 意味論的抽象化は再利用可能なものであり, RL-tuned LLMによる一般化可能な振る舞いモデリングの新たな方向を指し示している。
関連論文リスト
- Wisdom of LLM Crowds: Aggregation and Contamination in Language Model Ensembles [0.0]
集団の知恵 — 個人間での集団判断が、最高の個人を上回ることがしばしばある — は、ヒトの予測者によって広く研究されている。
15の大規模言語モデル (LLM) から254のバイナリ予測市場質問に対して確率推定を行った。
LLMの精度は大幅に低下し、集団情報収集の真のギャップが示唆された。
論文 参考訳（メタデータ） (2026-05-26T16:07:01Z) - Large Language Models for Missing Data Imputation: Understanding Behavior, Hallucination Effects, and Control Mechanisms [2.852894352141041]
本研究は、ゼロショットプロンプトエンジニアリングアプローチを用いて、データセットにおけるデータ計算の欠如に対するLarge Language Modelsの堅牢性について検討する。
5つのLLMを6つの最先端の計算ベースラインと比較し、最大20%の欠落率で比較した。
その結果、主要なLLM、特にGemini 3.0 FlashとClaude 4.5 Sonnetは、現実世界のオープンソースデータセット上で一貫して優れたパフォーマンスを実現している。
論文 参考訳（メタデータ） (2026-03-20T22:32:45Z) - REAL: Regression-Aware Reinforcement Learning for LLM-as-a-Judge [83.2858110368572]
回帰報酬を最適化するための原則的RLフレームワークである textbfREAL (underlineREgression-underlineAware Reinforcement underlineLThought) を提案する。
我々は,REALがレグレッション対応SFTベースラインと標準RL法の両方を一貫して上回ることを示す。
論文 参考訳（メタデータ） (2026-03-17T21:19:08Z) - Enhancing Zero-Shot Time Series Forecasting in Off-the-Shelf LLMs via Noise Injection [18.267727687739853]
大言語モデル(LLM)はゼロショット時系列(TS)予測器として有効であることを示した。
鍵となる課題は、TSデータを LLM の事前訓練された知識と一致したテキスト表現にトークン化することである。
LLMの事前学習スコープを利用した2つの新しいTSデータセットを導入し、改良された性能を継続的に観察する。
論文 参考訳（メタデータ） (2025-12-23T08:02:33Z) - Principled RL for Diffusion LLMs Emerges from a Sequence-Level Perspective [85.06838178922791]
強化学習(RL)は自己回帰言語モデルに非常に効果的であることが証明されている。
しかし、これらの手法を拡散大言語モデル(dLLM)に適応させることは、根本的な課題を提起する。
本稿では,全シーケンス生成を単一アクションとして扱い,ELBOを抽出可能なシークエンスレベル確率プロキシとして利用する,原則的RLフレームワークを提案する。
論文 参考訳（メタデータ） (2025-12-03T13:05:32Z) - Tool Zero: Training Tool-Augmented LLMs via Pure RL from Scratch [63.40752011615843]
ツール強化言語モデルのトレーニングは、複雑なタスクの能力を高めるための有望なアプローチとして登場した。
規則に基づく強化学習のための動的一般化誘導型報酬設計を提案する。
本研究では,SFTモデルとRL-with-SFTモデルと比較して7%以上の性能向上を実現していることを示す。
論文 参考訳（メタデータ） (2025-11-02T16:33:45Z) - MM-HELIX: Boosting Multimodal Long-Chain Reflective Reasoning with Holistic Platform and Adaptive Hybrid Policy Optimization [103.74675519953898]
ロングチェーンのリフレクティブ推論は、複雑な現実世界の問題を解決するための前提条件である。
我々は42の難解な合成タスクの1,260のサンプルからなるベンチマークを構築した。
トレーニング後のデータを生成し、そのようなデータを活用するための学習パラダイムを探索する。
論文 参考訳（メタデータ） (2025-10-09T17:53:58Z) - Principled and Tractable RL for Reasoning with Diffusion Language Models [0.0]
拡散大言語モデル(dLLM)は、複数のトークンを並列に予測し、反復的アンマスキングによってテキストを生成するように訓練されている。
最近の研究は、DLLMを8Bスケールでの自己回帰LDMと同等に事前訓練することに成功しているが、現代のポストトレーニング技術の恩恵を受けていない。
本稿では,dLLMに特化して設計されたオンラインRLアルゴリズムであるAGRPO(Amortized Group Relative Policy Optimization)を提案する。
論文 参考訳（メタデータ） (2025-10-05T03:53:16Z) - Model Utility Law: Evaluating LLMs beyond Performance through Mechanism Interpretable Metric [99.56567010306807]
大規模言語モデル(LLM)は、学術、産業、そして日々のアプリケーションに欠かせないものになっている。
大規模言語モデル (LLM) 時代における評価の課題の1つは一般化問題である。
従来の性能スコアを補完するメカニズムの解釈可能性向上指標であるモデル利用指数(MUI)を提案する。
論文 参考訳（メタデータ） (2025-04-10T04:09:47Z) - Simplifying Model-based RL: Learning Representations, Latent-space
Models, and Policies with One Objective [142.36200080384145]
自己整合性を維持しつつ高いリターンを達成するために,潜在空間モデルとポリシーを協調的に最適化する単一目的を提案する。
得られたアルゴリズムは, モデルベースおよびモデルフリーRL手法のサンプル効率に適合するか, 改善することを示した。
論文 参考訳（メタデータ） (2022-09-18T03:51:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。