論文の概要: LogTinyLLM: Tiny Large Language Models Based Contextual Log Anomaly Detection

• arxiv url: http://arxiv.org/abs/2507.11071v1
• Date: Tue, 15 Jul 2025 08:04:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-16 19:46:03.026565
• Title: LogTinyLLM: Tiny Large Language Models Based Contextual Log Anomaly Detection
• Title（参考訳）: LogTinyLLM: コンテキストログ異常検出に基づくTiny Large Language Models
• Authors: Isaiah Thompson Ocansey, Ritwik Bhattacharya, Tanmay Sen,
• Abstract要約: 本稿では,ローランク適応(LoRA)のパラメータ最適化と,大規模ログデータセットにおけるログ列のコンテキスト異常検出のためのアダプタベースアプローチを提案する。 その結果、LoRAベースのファインタニングは、LogBertベースのフルファインタニングアプローチよりも18～19パーセントの大幅なパフォーマンス向上を実現していることがわかった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Log anomaly detection using traditional rule based or deep learning based methods is often challenging due to the large volume and highly complex nature of log sequence. So effective way of detection of anomalous sequence of logs is crucial for system maintenance and development. This paper proposes parameter efficient finetuning specifically low rank adaptation (LoRA) and adapter based approaches for finding contextual anomalies in sequence of logs in large log data set. It compares different tiny large language models (LLMs) on the Thunderbird dataset. The results show that LoRA based finetuning provides substantial performance improvements of 18 to 19 percentage over LogBert based full finetuning approach, achieving accuracy scores between 97.76% and 98.83% compared to 79.37%.
• Abstract（参考訳）: 従来のルールベースあるいはディープラーニングベースの手法を用いたログ異常検出は、ログシーケンスの大規模かつ複雑な性質のため、しばしば困難である。 システムメンテナンスと開発には,ログの異常なシーケンスを検出する効果的な方法が不可欠である。 本稿では,ローランク適応(LoRA)のパラメータ最適化と,大規模ログデータセットにおけるログ列のコンテキスト異常検出のためのアダプタベースアプローチを提案する。 Thunderbirdデータセット上で、さまざまな小さな大きな言語モデル(LLM)を比較します。 その結果、LoRAベースのファインタニングはLogBertベースのフルファインタニングアプローチよりも18～19パーセントの大幅なパフォーマンス向上を実現し、精度は79.37%に対して97.76%から98.83%に向上した。

関連論文リスト

• Accelerated Test-Time Scaling with Model-Free Speculative Sampling [58.69141724095398]
  STAND(Stochastic Adaptive N-gram Drafting)は,新しいモデルフリーな投機的デコード手法である。 従来の自己回帰復号法と比較して,STANDは推論遅延を60～65%削減することを示した。 モデルフリーのアプローチとして、STANDは追加のトレーニングなしで既存の言語モデルに適用できる。
  論文  参考訳（メタデータ） (2025-06-05T07:31:18Z)
• LogLLM: Log-based Anomaly Detection Using Large Language Models [7.7704116297749675]
  大規模言語モデル(LLM)を活用するログベースの異常検出フレームワークであるLogLLMを提案する。 LogLLMはBERTを使用してログメッセージからセマンティックベクターを抽出し、変換器デコーダベースのモデルであるLlamaを使ってログシーケンスを分類する。 我々のフレームワークは、性能と適応性を高めるために設計された新しい3段階の手順によって訓練されている。
  論文  参考訳（メタデータ） (2024-11-13T12:18:00Z)
• LogELECTRA: Self-supervised Anomaly Detection for Unstructured Logs [0.0]
  ログベースの異常検出の目標は、短時間で生成された大量のログを分析して、システム異常を自動的に検出することである。 従来の研究では、非構造化ログデータからテンプレートを抽出し、テンプレート発生パターンに基づいて異常を検出するためにログを使用していた。 自己教師付き異常検出に基づいて1行のログメッセージをより深く分析する新しいログ異常検出モデルであるLogELECTRAを提案する。
  論文  参考訳（メタデータ） (2024-02-16T01:47:02Z)
• LogFormer: A Pre-train and Tuning Pipeline for Log Anomaly Detection [73.69399219776315]
  本稿では,ログ異常検出(LogFormer)のためのTransformerベースの統合フレームワークを提案する。 具体的には、ログデータの共有セマンティック知識を得るために、まず、ソースドメイン上で事前学習を行う。 そして、そのような知識を共有パラメータを介して対象領域に転送する。
  論文  参考訳（メタデータ） (2024-01-09T12:55:21Z)
• LogGPT: Log Anomaly Detection via GPT [15.790373280124196]
  ログ異常検出にGPTを用いた新しいフレームワークであるLogGPTを提案する。 LogGPTは、まず、前回のシーケンスに基づいて次のログエントリを予測するように訓練される。 本稿では,ログ異常検出タスクに特化してモデルを微調整する新しい強化学習手法を提案する。
  論文  参考訳（メタデータ） (2023-09-25T19:29:50Z)
• PULL: Reactive Log Anomaly Detection Based On Iterative PU Learning [58.85063149619348]
  本稿では,推定故障時間ウィンドウに基づくリアクティブ異常検出のための反復ログ解析手法PULLを提案する。 我々の評価では、PULLは3つの異なるデータセットで10のベンチマークベースラインを一貫して上回っている。
  論文  参考訳（メタデータ） (2023-01-25T16:34:43Z)
• LAnoBERT: System Log Anomaly Detection based on BERT Masked Language Model [12.00171674362062]
  システムログ異常検出の目的は、人間の介入を最小限に抑えつつ、即座に異常を識別することである。 従来の研究では、様々なログデータを標準化されたテンプレートに変換した後、アルゴリズムによる異常検出が行われた。 本研究では,自然言語処理性能に優れたLAnoBERTを提案する。
  論文  参考訳（メタデータ） (2021-11-18T07:46:35Z)
• Robust and Transferable Anomaly Detection in Log Data using Pre-Trained Language Models [59.04636530383049]
  クラウドのような大規模コンピュータシステムにおける異常や障害は、多くのユーザに影響を与える。 システム情報の主要なトラブルシューティングソースとして,ログデータの異常検出のためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-02-23T09:17:05Z)
• Self-Attentive Classification-Based Anomaly Detection in Unstructured Logs [59.04636530383049]
  ログ表現を学習するための分類法であるLogsyを提案する。 従来の方法と比較して,F1スコアの平均0.25の改善を示す。
  論文  参考訳（メタデータ） (2020-08-21T07:26:55Z)
• Self-Supervised Log Parsing [59.04636530383049]
  大規模ソフトウェアシステムは、大量の半構造化ログレコードを生成する。 既存のアプローチは、ログ特化や手動ルール抽出に依存している。 本稿では,自己教師付き学習モデルを用いて解析タスクをマスク言語モデリングとして定式化するNuLogを提案する。
  論文  参考訳（メタデータ） (2020-03-17T19:25:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。