論文の概要: DP-FlogTinyLLM: Differentially private federated log anomaly detection using Tiny LLMs
- arxiv url: http://arxiv.org/abs/2604.19118v1
- Date: Tue, 21 Apr 2026 05:56:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-22 22:41:49.643924
- Title: DP-FlogTinyLLM: Differentially private federated log anomaly detection using Tiny LLMs
- Title(参考訳): DP-FlogTinyLLM:Tiny LLMを用いた差分プライベートフェデレーションログ異常検出
- Authors: Isaiah Thompson, Tanmay Sen, Ritwik Bhattacharya,
- Abstract要約: DP-FLogTinyLLMは、ログ異常検出のためのプライバシー保護連合フレームワークである。
われわれのアプローチは、生ログデータを共有せずに協調学習を可能にする。
既存のフェデレーションベースラインと比較すると、DP-FLogTinyLLMは高い精度とF1スコアを実現している。
- 参考スコア(独自算出の注目度): 0.0611737116137921
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern distributed systems generate massive volumes of log data that are critical for detecting anomalies and cyber threats. However, in real world settings, these logs are often distributed across multiple organizations and cannot be centralized due to privacy and security constraints. Existing log anomaly detection methods, including recent large language model (LLM) based approaches, largely rely on centralized training and are not suitable for such environments. In this paper, we propose DP-FLogTinyLLM, a privacy preserving federated framework for log anomaly detection using parameter efficient LLMs. Our approach enables collaborative learning without sharing raw log data by integrating federated optimization with differential privacy. To ensure scalability in resource constrained environments, we employ low rank adaptation (LoRA) for efficient fine tuning of Tiny LLMs at each client. Empirical results on the Thunderbird and BGL datasets show that the proposed framework matches the performance of centralized LLM based methods, while incurring additional computational overhead due to privacy mechanisms. Compared to existing federated baselines, DP-FLogTinyLLM consistently achieves higher precision and F1-score, with particularly strong gains on the Thunderbird dataset, highlighting its effectiveness in detecting anomalies while minimizing false positives.
- Abstract(参考訳): 現代の分散システムは、異常やサイバー脅威を検出するために重要な大量のログデータを生成する。
しかし、現実の環境では、これらのログは複数の組織に分散しており、プライバシやセキュリティ上の制約のために集中できないことが多い。
最近の大規模言語モデル(LLM)に基づくアプローチを含む既存のログ異常検出手法は、主に集中型トレーニングに依存しており、そのような環境には適していない。
本稿では,DP-FLogTinyLLMを提案する。
当社のアプローチは,フェデレーション最適化と差分プライバシーを統合することで,生ログデータを共有せずに協調学習を可能にする。
資源制約環境におけるスケーラビリティを確保するため,各クライアントでTiny LLMを効率よく微調整するためにローランク適応(LoRA)を用いる。
Thunderbird と BGL データセットの実証結果から,提案するフレームワークは集中型 LLM ベースの手法の性能と一致し,プライバシ機構による計算オーバーヘッドが増大することが示された。
既存のフェデレーションベースラインと比較して、DP-FLogTinyLLMは高い精度とF1スコアを一貫して達成し、特にThunderbirdデータセットにおいて、偽陽性を最小化しながら異常を検出する効果を強調している。
関連論文リスト
- LLM-Enhanced Log Anomaly Detection: A Comprehensive Benchmark of Large Language Models for Automated System Diagnostics [0.0]
大規模言語モデル(LLM)は、ログ理解のための有望な新しいアプローチを提供する。
LLMはラベル付きトレーニングデータを必要とせずに、目覚ましいゼロショット機能を示す。
本研究は,ログ異常検出方法を選択するための実用的なガイドラインを提供する。
論文 参考訳(メタデータ) (2026-04-14T02:51:48Z) - FeDecider: An LLM-Based Framework for Federated Cross-Domain Recommendation [75.50721642765994]
大規模言語モデル(LLM)ベースのレコメンデーションモデルは、素晴らしいパフォーマンスを示している。
We propose a LLM-based framework for Federated cross- domain recommendation, FeDecider。
多様なデータセットにわたる大規模な実験により、提案したFeDeciderの有効性が検証された。
論文 参考訳(メタデータ) (2026-02-17T21:42:28Z) - Federated Learning Meets LLMs: Feature Extraction From Heterogeneous Clients [0.0]
フェデレートラーニング(FL)は、生データを共有せずに協調的なモデルトレーニングを可能にする。
我々は,事前学習された大規模言語モデル(LLM)を普遍的特徴抽出器として利用するフレームワークであるFedLLM-Alignを提案する。
冠動脈疾患予測におけるFedLLM-Alignの評価は,シミュレートされたスキーマ分岐を用いた分割データセットを用いて行われる。
論文 参考訳(メタデータ) (2025-09-29T14:06:52Z) - Federated Learning-Enabled Hybrid Language Models for Communication-Efficient Token Transmission [87.68447072141402]
ハイブリッド言語モデル(HLM)は、エッジデバイス上でのSLM(Small Language Model)の低レイテンシ効率と、集中型サーバ上でのLLM(Large Language Model)の高精度を組み合わせたものである。
我々は、不確実性を考慮した推論とフェデレートラーニング(FL)を統合する通信効率の高いHLMフレームワークであるFedHLMを提案する。
論文 参考訳(メタデータ) (2025-06-30T02:56:11Z) - Decentralized Low-Rank Fine-Tuning of Large Language Models [12.270878920401948]
我々は,Low-Rank Adaptation (LoRA)に基づく大規模言語モデル(LLM)のための分散微調整アルゴリズムであるDec-LoRAを提案する。
BERT と LLaMA の実験により,Dec-LoRA は様々な条件下で集中型 LoRA に匹敵する性能を示した。
これらの結果は、分散環境におけるスケーラブルな微調整のためのDec-LoRAの可能性を強調している。
論文 参考訳(メタデータ) (2025-01-26T01:56:25Z) - FedDTPT: Federated Discrete and Transferable Prompt Tuning for Black-Box Large Language Models [14.719919025265224]
特定のシナリオからのデータを調整した大きな言語モデル(LLM)は、プライバシリークのリスクを引き起こす。
ブラックボックス大言語モデルに対して,フェデレートされた離散的かつ転送可能なプロンプトチューニングであるFedDTPTを初めて提案する。
提案手法は,ブラックボックス設定における非IDデータに対する高い精度,通信オーバーヘッドの低減,ロバスト性を実現する。
論文 参考訳(メタデータ) (2024-11-01T19:19:23Z) - Anomaly Detection of Tabular Data Using LLMs [54.470648484612866]
我々は,事前訓練された大規模言語モデル (LLM) がゼロショットバッチレベルの異常検出器であることを示す。
本稿では,実異常検出におけるLCMの潜在性を明らかにするために,エンドツーエンドの微調整手法を提案する。
論文 参考訳(メタデータ) (2024-06-24T04:17:03Z) - PeFAD: A Parameter-Efficient Federated Framework for Time Series Anomaly Detection [51.20479454379662]
私たちはaを提案します。
フェデレートされた異常検出フレームワークであるPeFADは、プライバシーの懸念が高まっている。
我々は、4つの実際のデータセットに対して広範な評価を行い、PeFADは既存の最先端ベースラインを最大28.74%上回っている。
論文 参考訳(メタデータ) (2024-06-04T13:51:08Z) - Local Learning Matters: Rethinking Data Heterogeneity in Federated
Learning [61.488646649045215]
フェデレートラーニング(FL)は、クライアントのネットワーク(エッジデバイス)でプライバシ保護、分散ラーニングを行うための有望な戦略である。
論文 参考訳(メタデータ) (2021-11-28T19:03:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。