論文の概要: ADALog: Adaptive Unsupervised Anomaly detection in Logs with Self-attention Masked Language Model

• arxiv url: http://arxiv.org/abs/2505.13496v1
• Date: Thu, 15 May 2025 17:31:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-21 14:49:52.335139
• Title: ADALog: Adaptive Unsupervised Anomaly detection in Logs with Self-attention Masked Language Model
• Title（参考訳）: ADALog:自己注意型マスケッド言語モデルを用いたログにおける適応的教師なし異常検出
• Authors: Przemek Pospieszny, Wojciech Mormul, Karolina Szyndler, Sanjeev Kumar,
• Abstract要約: ADALogは適応的で教師なしの異常検出フレームワークである。 個々の非構造化ログで動作し、ログ内のコンテキスト関係を抽出し、通常のデータに対して適応しきい値を設定する。 BGL,Thunderbird,Spiritのベンチマークデータセット上でADALogを評価する。
• 参考スコア（独自算出の注目度）: 2.55347686868565
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Modern software systems generate extensive heterogeneous log data with dynamic formats, fragmented event sequences, and varying temporal patterns, making anomaly detection both crucial and challenging. To address these complexities, we propose ADALog, an adaptive, unsupervised anomaly detection framework designed for practical applicability across diverse real-world environments. Unlike traditional methods reliant on log parsing, strict sequence dependencies, or labeled data, ADALog operates on individual unstructured logs, extracts intra-log contextual relationships, and performs adaptive thresholding on normal data. The proposed approach utilizes a transformer-based, pretrained bidirectional encoder with a masked language modeling task, fine-tuned on normal logs to capture domain-specific syntactic and semantic patterns essential for accurate anomaly detection. Anomalies are identified via token-level reconstruction probabilities, aggregated into log-level scores, with adaptive percentile-based thresholding calibrated only on normal data. This allows the model to dynamically adapt to evolving system behaviors while avoiding rigid, heuristic-based thresholds common in traditional systems. We evaluate ADALog on benchmark datasets BGL, Thunderbird, and Spirit, showing strong generalization and competitive performance compared to state-of-the-art supervised and unsupervised methods. Additional ablation studies examine the effects of masking, fine-tuning, and token positioning on model behavior and interpretability.
• Abstract（参考訳）: 現代のソフトウェアシステムは、動的フォーマット、断片化されたイベントシーケンス、時間パターンの異なる広範な異種ログデータを生成し、異常検出を重要かつ困難なものにしている。 これらの複雑さに対処するため,様々な実環境に適用可能な適応型非教師付き異常検出フレームワークADALogを提案する。 ログ解析、厳密なシーケンス依存、ラベル付きデータに依存する従来の方法とは異なり、ADALogは個々の非構造化ログで動作し、ログ内のコンテキスト関係を抽出し、通常のデータに対して適応しきい値を実行する。 提案手法では,正規ログに微調整を施したトランスフォーマベースで事前訓練された双方向エンコーダを用いて,正確な異常検出に必要なドメイン固有構文および意味パターンを抽出する。 異常はトークンレベルの再構成確率によって識別され、ログレベルのスコアに集約され、適応パーセンタイルベースの閾値付けは通常のデータのみに基づいて調整される。 これにより、モデルは従来のシステムに共通する厳格でヒューリスティックなしきい値を避けながら、進化するシステムの振る舞いに動的に適応することができる。 我々は,BGL,Thunderbird,Spiritのベンチマークデータセット上でADALogを評価し,最先端の教師付きおよび教師なし手法と比較して,強力な一般化と競争性能を示した。 追加のアブレーション研究は、マスキング、微調整、トークンの位置がモデル行動と解釈可能性に与える影響について研究している。

関連論文リスト

• OMLog: Online Log Anomaly Detection for Evolving System with Meta-learning [10.181157278476428]
  OMLogはリアルタイムかつ信頼性の高いオンラインログ異常検出モデルである。 本稿では,平均誤差に基づく分布シフト検出手法を提案する。 また、ログシーケンスの繰り返しパターンを効果的に学習できるメタラーニングに基づくオンライン学習機構を設計する。
  論文  参考訳（メタデータ） (2024-10-22T01:50:07Z)
• Trajectory Anomaly Detection with Language Models [21.401931052512595]
  本稿では,自己回帰因果アテンションモデル(LM-TAD)を用いた軌道異常検出のための新しい手法を提案する。 トラジェクトリをトークンの列として扱うことにより、トラジェクトリ上の確率分布を学習し、高精度な異常位置の同定を可能にする。 本実験は, 合成および実世界の両方のデータセットに対するLM-TADの有効性を実証した。
  論文  参考訳（メタデータ） (2024-09-18T17:33:31Z)
• Pattern-Based Time-Series Risk Scoring for Anomaly Detection and Alert Filtering -- A Predictive Maintenance Case Study [3.508168174653255]
  本稿では,逐次パターンの類似性に基づいて,異常検出と警告フィルタリングを高速かつ効率的に行う手法を提案する。 本稿では, 大規模産業システムにおける異常検出を含む様々な目的で, このアプローチをどのように活用するかを示す。
  論文  参考訳（メタデータ） (2024-05-24T20:27:45Z)
• Detecting Anomalies in Dynamic Graphs via Memory enhanced Normality [39.476378833827184]
  動的グラフにおける異常検出は、グラフ構造と属性の時間的進化によって大きな課題となる。 時空間記憶強調グラフオートエンコーダ(STRIPE)について紹介する。 STRIPEは、AUCスコアが5.8%改善し、トレーニング時間が4.62倍速く、既存の手法よりも大幅に優れている。
  論文  参考訳（メタデータ） (2024-03-14T02:26:10Z)
• MLAD: A Unified Model for Multi-system Log Anomaly Detection [35.68387377240593]
  複数のシステムにまたがる意味的関係推論を組み込んだ新しい異常検出モデルMLADを提案する。 具体的には、Sentence-bertを用いてログシーケンス間の類似性を捉え、それらを高次元の学習可能な意味ベクトルに変換する。 我々は,各キーワードのシーケンスにおける意義を識別し,マルチシステムデータセットの全体分布をモデル化するために,アテンション層の公式を改訂する。
  論文  参考訳（メタデータ） (2024-01-15T12:51:13Z)
• GLAD: Content-aware Dynamic Graphs For Log Anomaly Detection [49.9884374409624]
  GLADは、システムログの異常を検出するように設計されたグラフベースのログ異常検出フレームワークである。 システムログの異常を検出するために設計されたグラフベースのログ異常検出フレームワークであるGLADを紹介する。
  論文  参考訳（メタデータ） (2023-09-12T04:21:30Z)
• Self-Supervised Training with Autoencoders for Visual Anomaly Detection [61.62861063776813]
  我々は, 正規サンプルの分布を低次元多様体で支持する異常検出において, 特定のユースケースに焦点を当てた。 我々は、訓練中に識別情報を活用する自己指導型学習体制に適応するが、通常の例のサブ多様体に焦点をあてる。 製造領域における視覚異常検出のための挑戦的なベンチマークであるMVTec ADデータセットで、最先端の新たな結果を達成する。
  論文  参考訳（メタデータ） (2022-06-23T14:16:30Z)
• Adaptive Memory Networks with Self-supervised Learning for Unsupervised Anomaly Detection [54.76993389109327]
  教師なし異常検出は、通常のデータのみをトレーニングすることで、目に見えない異常を検出するモデルを構築することを目的としている。 本稿では,これらの課題に対処するために,自己教師付き学習(AMSL)を用いた適応記憶ネットワーク(Adaptive Memory Network)を提案する。 AMSLには、一般的な正規パターンを学ぶための自己教師付き学習モジュールと、リッチな特徴表現を学ぶための適応型メモリ融合モジュールが組み込まれている。
  論文  参考訳（メタデータ） (2022-01-03T03:40:21Z)
• LAnoBERT: System Log Anomaly Detection based on BERT Masked Language Model [12.00171674362062]
  システムログ異常検出の目的は、人間の介入を最小限に抑えつつ、即座に異常を識別することである。 従来の研究では、様々なログデータを標準化されたテンプレートに変換した後、アルゴリズムによる異常検出が行われた。 本研究では,自然言語処理性能に優れたLAnoBERTを提案する。
  論文  参考訳（メタデータ） (2021-11-18T07:46:35Z)
• A Novel Anomaly Detection Algorithm for Hybrid Production Systems based on Deep Learning and Timed Automata [73.38551379469533]
  DAD:DeepAnomalyDetectionは,ハイブリッド生産システムにおける自動モデル学習と異常検出のための新しいアプローチである。 深層学習とタイムドオートマトンを組み合わせて、観察から行動モデルを作成する。 このアルゴリズムは実システムからの2つのデータを含む少数のデータセットに適用され、有望な結果を示している。
  論文  参考訳（メタデータ） (2020-10-29T08:27:43Z)
• Self-Attentive Classification-Based Anomaly Detection in Unstructured Logs [59.04636530383049]
  ログ表現を学習するための分類法であるLogsyを提案する。 従来の方法と比較して,F1スコアの平均0.25の改善を示す。
  論文  参考訳（メタデータ） (2020-08-21T07:26:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。