論文の概要: LogFormer: A Pre-train and Tuning Pipeline for Log Anomaly Detection

• arxiv url: http://arxiv.org/abs/2401.04749v1
• Date: Tue, 9 Jan 2024 12:55:21 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-11 16:19:53.407401
• Title: LogFormer: A Pre-train and Tuning Pipeline for Log Anomaly Detection
• Title（参考訳）: LogFormer: ログ異常検出のための事前トレーニングとチューニングパイプライン
• Authors: Hongcheng Guo, Jian Yang, Jiaheng Liu, Jiaqi Bai, Boyang Wang, Zhoujun Li, Tieqiao Zheng, Bo Zhang, Junran peng, Qi Tian
• Abstract要約: 本稿では,ログ異常検出(LogFormer)のためのTransformerベースの統合フレームワークを提案する。 具体的には、ログデータの共有セマンティック知識を得るために、まず、ソースドメイン上で事前学習を行う。 そして、そのような知識を共有パラメータを介して対象領域に転送する。
• 参考スコア（独自算出の注目度）: 73.69399219776315
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Log anomaly detection is a key component in the field of artificial intelligence for IT operations (AIOps). Considering log data of variant domains, retraining the whole network for unknown domains is inefficient in real industrial scenarios. However, previous deep models merely focused on extracting the semantics of log sequences in the same domain, leading to poor generalization on multi-domain logs. To alleviate this issue, we propose a unified Transformer-based framework for Log anomaly detection (LogFormer) to improve the generalization ability across different domains, where we establish a two-stage process including the pre-training and adapter-based tuning stage. Specifically, our model is first pre-trained on the source domain to obtain shared semantic knowledge of log data. Then, we transfer such knowledge to the target domain via shared parameters. Besides, the Log-Attention module is proposed to supplement the information ignored by the log-paring. The proposed method is evaluated on three public and one real-world datasets. Experimental results on multiple benchmarks demonstrate the effectiveness of our LogFormer with fewer trainable parameters and lower training costs.
• Abstract（参考訳）: ログ異常検出は、IT運用のための人工知能(AIOps)分野における重要なコンポーネントである。 異種ドメインのログデータを考えると、未知のドメインに対するネットワーク全体の再トレーニングは、実際の産業シナリオでは非効率である。 しかし、従来のディープモデルは、単に同じドメイン内のログシーケンスのセマンティクスを抽出することにのみ焦点をあて、マルチドメインログの一般化が不十分になった。 この問題を軽減するために,ログ異常検出(LogFormer)を統一したTransformerベースのフレームワークを提案し,各ドメイン間の一般化能力を向上し,事前学習とアダプタベースのチューニング段階を含む2段階のプロセスを確立する。 具体的には、ログデータの共有セマンティック知識を得るために、まず、ソースドメイン上で事前学習を行う。 そして、その知識を共有パラメータを介してターゲットドメインに転送します。 さらに、ログパリングで無視される情報を補うためにLog-Attentionモジュールが提案されている。 提案手法は3つのパブリックデータセットと1つの実世界のデータセットで評価される。 複数のベンチマークの実験結果は、トレーニング可能なパラメータが少なく、トレーニングコストも低いLogFormerの有効性を示しています。

関連論文リスト

• LogLLM: Log-based Anomaly Detection Using Large Language Models [8.03646578793411]
  大規模言語モデル(LLM)を活用するログベースの異常検出フレームワークであるLogLLMを提案する。 LogLLMはBERTを使用してログメッセージからセマンティックベクターを抽出し、変換器デコーダベースのモデルであるLlamaを使ってログシーケンスを分類する。 我々のフレームワークは、性能と適応性を高めるために設計された新しい3段階の手順によって訓練されている。
  論文  参考訳（メタデータ） (2024-11-13T12:18:00Z)
• HELP: Hierarchical Embeddings-based Log Parsing [0.25112747242081457]
  ログは、ソフトウェアのメンテナンスと障害診断のための、第一級の情報ソースである。 ログ解析は、異常検出、トラブルシューティング、根本原因分析などの自動ログ解析タスクの前提条件である。 既存のオンライン解析アルゴリズムは、ログドリフトの影響を受けやすい。
  論文  参考訳（メタデータ） (2024-08-15T17:54:31Z)
• Leveraging Log Instructions in Log-based Anomaly Detection [0.5949779668853554]
  本稿では,システムログからの信頼性と実用的な異常検出手法を提案する。 1000以上のGitHubプロジェクトのソースコードからログインストラクションを備えた異常検出モデルを構築することで、関連する作業の一般的な欠点を克服する。 提案手法はADLILogと呼ばれ,興味あるシステム(ターゲットシステム)からのログ命令とデータを組み合わせて,深層ニューラルネットワークモデルを学習する。
  論文  参考訳（メタデータ） (2022-07-07T10:22:10Z)
• TransLog: A Unified Transformer-based Framework for Log Anomaly Detection [29.29752871868652]
  Ourmethodは、事前学習とアダプタベースのチューニングステージで構成されている。 トレーニング可能なパラメータが少なく、ターゲットドメインでのトレーニングコストも低く、私たちの単純なアプローチは、3つのベンチマークで最先端のパフォーマンスを実現しています。
  論文  参考訳（メタデータ） (2021-12-31T10:46:14Z)
• Stagewise Unsupervised Domain Adaptation with Adversarial Self-Training for Road Segmentation of Remote Sensing Images [93.50240389540252]
  リモートセンシング画像からの道路セグメンテーションは、幅広い応用可能性を持つ課題である。 本稿では,この領域における領域シフト(DS)問題に対処するため,RoadDAと呼ばれる新たな段階的ドメイン適応モデルを提案する。 2つのベンチマーク実験の結果、RoadDAはドメインギャップを効率的に減らし、最先端の手法より優れていることが示された。
  論文  参考訳（メタデータ） (2021-08-28T09:29:14Z)
• Unsupervised Out-of-Domain Detection via Pre-trained Transformers [56.689635664358256]
  ドメイン外の入力は予測不能なアウトプットを引き起こし、時には破滅的な安全性の問題を引き起こす。 本研究は、教師なしのドメイン内データのみを用いて、ドメイン外サンプルを検出する問題に対処する。 検出精度を高めるために、ドメイン固有の2つの微調整手法が提案されている。
  論文  参考訳（メタデータ） (2021-06-02T05:21:25Z)
• Log2NS: Enhancing Deep Learning Based Analysis of Logs With Formal to Prevent Survivorship Bias [0.37943450391498496]
  本稿では,機械学習(ML)による観測データに対する確率的解析と,基礎となる形式モデルに基づく記号的推論から導出される確実性を組み合わせたフレームワークであるlog to Neuro-symbolic (Log2NS)を紹介する。 Log2NSは、静的ログと相関エンジンからポジティブなインスタンスを問い合わせる機能と、ネガティブなインスタンスと目に見えないインスタンスの正式な推論を提供する。
  論文  参考訳（メタデータ） (2021-05-29T00:01:08Z)
• Robust and Transferable Anomaly Detection in Log Data using Pre-Trained Language Models [59.04636530383049]
  クラウドのような大規模コンピュータシステムにおける異常や障害は、多くのユーザに影響を与える。 システム情報の主要なトラブルシューティングソースとして,ログデータの異常検出のためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-02-23T09:17:05Z)
• Self-Attentive Classification-Based Anomaly Detection in Unstructured Logs [59.04636530383049]
  ログ表現を学習するための分類法であるLogsyを提案する。 従来の方法と比較して,F1スコアの平均0.25の改善を示す。
  論文  参考訳（メタデータ） (2020-08-21T07:26:55Z)
• Self-Supervised Log Parsing [59.04636530383049]
  大規模ソフトウェアシステムは、大量の半構造化ログレコードを生成する。 既存のアプローチは、ログ特化や手動ルール抽出に依存している。 本稿では,自己教師付き学習モデルを用いて解析タスクをマスク言語モデリングとして定式化するNuLogを提案する。
  論文  参考訳（メタデータ） (2020-03-17T19:25:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。