論文の概要: Unleashing the Potential of Large Language Models: A Blueprint for Real-Time, Enterprise-Ready Deployments
- arxiv url: http://arxiv.org/abs/2608.00419v1
- Date: Sat, 01 Aug 2026 03:40:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:24.646887
- Title: Unleashing the Potential of Large Language Models: A Blueprint for Real-Time, Enterprise-Ready Deployments
- Title(参考訳): 大規模言語モデルの可能性を解き放つ - リアルタイムでエンタープライズ対応のデプロイのための青写真
- Abstract要約: 本稿では,リアルタイムデータ取り込み,連続学習,検索強化生成,ループ内フィードバックを統合した,統一型パターン駆動型LLMOpsアーキテクチャを提案する。
その結果、医療や金融といったリスクの高いセクターの監査性とロールバックをサポートしながら、レイテンシーコストのトレードオフを低減することができる。
- 参考スコア(独自算出の注目度): 11.71713024399078
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models deployed in real-time, regulated settings face knowledge staleness, catastrophic forgetting, hallucination, and weak feedback loops. We present a unified, pattern-driven LLMOps architecture integrating real-time data ingestion, continual learning, retrieval-augmented generation (RAG), and human-in-the-loop feedback into a single operational pipeline. Four contributions map to established software design patterns: an adaptive ingestion pattern orchestrator (AIPO) evaluated with FreshStreamBench; STAR+FAR continual learning with sparse temporal adapter routing and freshness-aware replay; SAGE, an SLO-aware adaptive retrieval policy predicting a per-query passage budget to meet tail-latency targets; and an automated feedback-driven convergence stage with RLHF triggers. The result reduces latency-cost-accuracy trade-offs while supporting auditability and rollback for high-risk sectors such as health care and finance.
- Abstract(参考訳): 大規模言語モデルは、リアルタイムにデプロイされ、規制された設定は知識の安定化、破滅的な忘れ、幻覚、弱いフィードバックループに直面します。
我々は、リアルタイムデータ取り込み、連続学習、検索強化生成(RAG)、人間-イン・ザ・ループフィードバックを単一の運用パイプラインに統合した、統一されたパターン駆動型LLMOpsアーキテクチャを提案する。
FreshStreamBenchで評価された適応的取り込みパターンオーケストレータ(AIPO)、疎時間的アダプタルーティングとフレッシュネス対応リプレイによるSTAR+FAR継続学習、SAGE、キュー毎のパス予算をテールレイテンシー目標に合わせるためのSLO対応適応検索ポリシ、RLHFトリガによる自動フィードバック駆動収束ステージ。
その結果、医療や金融といったリスクの高いセクターの監査性とロールバックをサポートしながら、レイテンシーコストのトレードオフを低減することができる。
関連論文リスト
- When Freshness Is Not Enough: Distribution-Aware Age of Information for Networked LQR Control [3.688414964949228]
Age of Information (AoI) は無線更新システムの設計において中心的な指標となっている。
本稿では,ネットワーク制御システムにおいて,平均AoIの最小化が実際最適かどうかを検討する。
論文 参考訳(メタデータ) (2026-06-03T02:22:46Z) - RAVEN: Real-time Autoregressive Video Extrapolation with Consistency-model GRPO [53.38929612273108]
因果自己回帰ビデオ拡散モデルは、以前生成されたコンテンツから将来のチャンクを外挿することでリアルタイムストリーミング生成をサポートする。
本稿では,リアルタイム自動回帰ビデオ補間ネットワーク(RAVEN)を紹介した。これは,各自己ロールアウトを,クリーンな歴史的エンドポイントのインターリーブシーケンスに再パッケージするトレーニングタイムテストフレームワークである。
論文 参考訳(メタデータ) (2026-05-14T17:59:30Z) - When Learning Hurts: Fixed-Pole RNN for Real-Time Online Training [58.25341036646294]
本研究では,再帰性極の学習がデータに有意な利点をもたらしない理由を解析的に検討し,実時間学習シナリオを実証的に提供する。
固定極ネットワークは、トレーニングの複雑さを低減し、オンラインリアルタイムタスクにより適していることを示す。
論文 参考訳(メタデータ) (2026-02-25T00:15:13Z) - MEMTS: Internalizing Domain Knowledge via Parameterized Memory for Retrieval-Free Domain Adaptation of Time Series Foundation Models [51.506429027626005]
Memory for Time Series (MEMTS) は、時系列予測における検索不要領域適応のための軽量かつプラグアンドプレイ方式である。
MEMTSの鍵となるコンポーネントは知識永続化モジュール(KPM)であり、ドメイン固有の時間力学を内部化する。
このパラダイムシフトにより、MEMTSは定数時間推論とニアゼロレイテンシによる正確なドメイン適応を実現することができる。
論文 参考訳(メタデータ) (2026-02-14T14:00:06Z) - Climber-Pilot: A Non-Myopic Generative Recommendation Model Towards Better Instruction-Following [19.550149895505683]
Climber-Pilotは統合された生成検索フレームワークである。
TAMIP(Time-Aware Multi-Item Prediction)は、遺伝的検索において固有の近視を緩和する新しいトレーニングパラダイムである。
また,ビジネス制約をスパース・アテンションを介して生成プロセスに直接組み込むコンディションガイド付きスパース・アテンション(CGSA)を提案する。
論文 参考訳(メタデータ) (2026-02-14T03:46:06Z) - DFPO: Scaling Value Modeling via Distributional Flow towards Robust and Generalizable LLM Post-Training [94.568675548967]
実環境における訓練強化学習(RL)システムは、ノイズの多い監視とドメイン外の一般化が不十分なため、依然として困難である。
近年の分布RL法は、複数の量子点を持つ値をモデル化することでロバスト性を向上させるが、スカラーとして各量子点を独立に学習する。
DFPOは、時間ステップをまたいだ連続フローとして値をモデル化する、ロバストな分散RLフレームワークである。
論文 参考訳(メタデータ) (2026-02-05T17:07:42Z) - Timely Machine: Awareness of Time Makes Test-Time Scaling Agentic [72.97800570813175]
ウォールタイムとしてテスト時間を再定義するTimely Machineを提案する。
我々は、高頻度ツールコール、低周波ツールコール、時間制約推論にまたがるベンチマークであるTimely-Evalを紹介する。
より小さなモデルでは、より多くのインタラクションを通じて高速なフィードバックが得られ、大きなモデルでは、より優れたインタラクション品質によって、高レイテンシ設定が支配される。
論文 参考訳(メタデータ) (2026-01-23T06:28:52Z) - Joint Communication Scheduling and Velocity Control for Multi-UAV-Assisted Post-Disaster Monitoring: An Attention-Based In-Context Learning Approach [13.429550708956294]
無人航空機(UAV)は、津波などの災害後の監視シナリオにおいて、センサデータを収集するためにますます研究されている。
主な課題は、データ収集スケジュールと飛行速度を設計することであり、これは好ましくないスケジュールと速度が送信エラーや地上センサーのバッファオーバーフローを引き起こす可能性があるためである。
本稿では,データ損失を最小限に抑えるために,データ収集スケジュールと複数のUAVの速度制御の協調最適化を提案する。
論文 参考訳(メタデータ) (2025-10-07T09:04:56Z) - STRATA-TS: Selective Knowledge Transfer for Urban Time Series Forecasting with Retrieval-Guided Reasoning [27.775793400546345]
STRATA-TSは、ドメイン適応検索と推論可能な大規模モデルを組み合わせることで、不足するデータレシエーションの予測を改善するフレームワークである。
効率的な配置を実現するため, 教師付き微調整により, 推論過程をコンパクトなオープンモデルに蒸留する。
シンガポール、ノッティンガム、グラスゴーの3つのパーキングアベイラビリティーデータセットの実験では、STRATA-TSは強い予測と転送ベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2025-08-26T03:18:53Z) - LangTime: A Language-Guided Unified Model for Time Series Forecasting with Proximal Policy Optimization [3.1819993716919472]
LangTimeは、時系列予測のための言語誘導統合モデルである。
TimePPOは強化学習に基づく微調整アルゴリズムである。
論文 参考訳(メタデータ) (2025-03-11T10:40:39Z) - Gated Recurrent Neural Networks with Weighted Time-Delay Feedback [55.596897987498174]
本稿では,重み付き時間遅延フィードバック機構を備えたゲートリカレントユニット(GRU)を導入し,時系列データの長期依存性をモデル化する手法を提案する。
提案したモデルである $tau$-GRU は、繰り返し単位の連続時間定式化の離散版であり、力学は遅延微分方程式(DDE)によって制御される。
論文 参考訳(メタデータ) (2022-12-01T02:26:34Z) - Online Reinforcement Learning Control by Direct Heuristic Dynamic
Programming: from Time-Driven to Event-Driven [80.94390916562179]
時間駆動学習は、新しいデータが到着すると予測モデルのパラメータを継続的に更新する機械学習手法を指す。
ノイズなどの重要なシステムイベントによる時間駆動型dHDPの更新を防止することが望ましい。
イベント駆動型dHDPアルゴリズムは,従来の時間駆動型dHDPと比較して動作することを示す。
論文 参考訳(メタデータ) (2020-06-16T05:51:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。