論文の概要: Safe-FCL: Continual Risk Awareness and Fine-Grained Safety Aggregation for Federated Continual Learning of LLMs

• arxiv url: http://arxiv.org/abs/2610.19968v1
• Date: Wed, 14 Oct 2026 10:50:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:16.107525
• Title: Safe-FCL: Continual Risk Awareness and Fine-Grained Safety Aggregation for Federated Continual Learning of LLMs
• Title（参考訳）: 安全FCL:LLMの連関学習における継続的なリスク認識と細粒度安全集約
• Abstract要約: フェデレートされた微調整により、大規模言語モデルは分散クライアントデータから協調的に学習できる。 悪意のあるクライアント更新は、グローバルモデルの安全性を損なう可能性がある。 本研究は, リスク認識ときめ細かな安全アグリゲーションを統合したフレームワークであるSafe-FCLを提案する。
• 参考スコア（独自算出の注目度）: 12.076587039792487
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated fine-tuning enables large language models (LLMs) to learn collaboratively from distributed client data, but malicious client updates can compromise global model safety. As federated tasks evolve, changing malicious update patterns challenge the ability of existing defenses to maintain reliable risk detection over time. To address this challenge, we propose Safe-FCL, a framework integrating continual risk awareness with fine-grained safety aggregation for federated continual learning of LLMs. Specifically, the Continual Risk Awareness (CRA) mechanism learns emerging risk patterns across sequential tasks and constrains detector updates using a protective subspace derived from historical features, mitigating forgetting of previously learned malicious patterns while adapting to new risks. To translate risk awareness into aggregation-level safety control, the Fine-Grained Safety Aggregation (FGSA) mechanism combines client-level risk assessments from CRA with module-level deviations from historical update behavior to adaptively regulate aggregation contributions, suppressing potentially malicious updates while minimizing unnecessary restrictions on benign updates. Extensive experiments demonstrate that Safe-FCL outperforms current SOTA methods, improving global-model Rule and MD-Judge scores in federated continual learning by 0.41% and 0.64%, respectively, while increasing average risk recognition accuracy by 2.01%.
• Abstract（参考訳）: フェデレートされた微調整により、大規模言語モデル(LLM)は分散クライアントデータから協調的に学習できるが、悪意のあるクライアント更新はグローバルモデルの安全性を損なう可能性がある。 フェデレーションされたタスクが進化するにつれて、悪意のある更新パターンの変更は、既存の防御が時間とともに信頼性のあるリスク検出を維持する能力に挑戦する。 この課題に対処するために,LLMの連合型連続学習のための,連続的リスク認識ときめ細かい安全アグリゲーションを統合したフレームワークであるSafe-FCLを提案する。 特に、CRA(Continuous Risk Awareness)メカニズムは、過去の特徴から派生した保護部分空間を使用して、シーケンシャルなタスクや制約の更新にまたがる新たなリスクパターンを学習し、新たなリスクに対応しながら、以前に学習した悪意のあるパターンの忘れを緩和する。 リスク認識をアグリゲーションレベルの安全管理に変換するため、FGSA機構は、CRAからのクライアントレベルのリスク評価と、過去の更新行動からのモジュールレベルの逸脱を組み合わせ、アグリゲーションのコントリビューションを適応的に規制し、潜在的に悪意のある更新を抑えつつ、良心的な更新の不要な制限を最小限にする。 グローバルモデルルールとMD-Judgeスコアをそれぞれ0.41%、0.64%改善し、平均リスク認識精度を2.01%向上させた。

関連論文リスト

• ReSI: Recursive Safety Improvement toward Resistant and Resilient AI [79.72081502522337]
  再帰的自己改善(Recursive self-improvement)、つまり、AIシステムが自身の能力を改善することへの参加は、理論的な見通しから実践へと移行し始めている。 本稿では,この手法を自動研究によって実装するフレームワークであるReSIを紹介する。 各ラウンドにおいて、ReSIは、現在のターゲットモデルの脆弱性を特定し、トレーニングレシピを開発し、最大の安全性向上でアップデートを促進するために、さまざまな赤チーム方式を適用している。
  論文  参考訳（メタデータ） (2026-10-08T16:17:21Z)
• SecPI: Secure Code Generation with Reasoning Models via Security Reasoning Internalization [50.71047638695205]
  RLM(Reasoning Language Model)は、プログラミングにおいてますます使われている言語モデルである。 しかし、最先端のRLMでさえ、生成されたコードに重大なセキュリティ脆弱性を頻繁に導入する。 我々は、構造化されたセキュリティ推論を内部化するためのRTMを教える微調整パイプラインであるSecPIを提案する。
  論文  参考訳（メタデータ） (2026-04-04T04:29:11Z)
• Inference-Time Safety For Code LLMs Via Retrieval-Augmented Revision [3.983997834693767]
  大規模言語モデル(LLM)は、高度なソフトウェア開発において、コード生成のためにますます多くデプロイされている。 LLMは、新しく発見された脆弱性やセキュリティ標準の変更に容易に適応できない。 本稿では,推論時安全機構として機能する設計による信頼に値するコード生成への原則的アプローチを提案する。
  論文  参考訳（メタデータ） (2026-03-02T06:06:34Z)
• Learning to Stay Safe: Adaptive Regularization Against Safety Degradation during Fine-Tuning [2.9184958249079975]
  既存の防衛は、限られた保護を提供するか、安全と実用性の間のトレードオフを強制する。 安全リスクに応じて正規化を適応するトレーニングフレームワークを導入する。 前世代の活性化から有害な意図信号が予測可能であることを実証的に検証する。
  論文  参考訳（メタデータ） (2026-02-19T16:59:54Z)
• Constrained Language Model Policy Optimization via Risk-aware Stepwise Alignment [49.2305683068875]
  本稿では,リスク認識を政策最適化プロセスに組み込んだ新しいアライメント手法であるリスク対応ステップワイドアライメント(RSA)を提案する。 RSAは、過剰なモデルシフトによって引き起こされるリスクを基準方針から緩和し、低確率で高影響の有害な振る舞いを明示的に抑制する。 実験により, 本手法は高い安全性を確保しつつ, 高い安全性を達成できることが確認された。
  論文  参考訳（メタデータ） (2025-12-30T14:38:02Z)
• DeepKnown-Guard: A Proprietary Model-Based Safety Response Framework for AI Agents [12.054307827384415]
  大きな言語モデル(LLM)はますます顕著になり、重要なドメインへの信頼性の高いデプロイメントを厳しく制限しています。 本稿では,LLMを入力レベルと出力レベルの両方で保護する新しい安全応答フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-11-05T03:04:35Z)
• Towards Safety Reasoning in LLMs: AI-agentic Deliberation for Policy-embedded CoT Data Creation [70.62656296780074]
  本稿では,新しいデータ生成法であるAIDSAFE(Agenic Iterative Deliberation for Safety Reasoning)を提案する。 AIDSAFEにおけるデータリファインダーの段階は、反復的、冗長的、詐欺的思考を排除し、高品質なアウトプットを保証する。 本評価は, AIDSAFEによるCoTsが, より優れた政策順守と推論品質を実現することを示すものである。
  論文  参考訳（メタデータ） (2025-05-27T21:34:40Z)
• Shape it Up! Restoring LLM Safety during Finetuning [65.75757313781104]
  大型言語モデル(LLM)の微調整は、ユーザ固有のカスタマイズを可能にするが、重大な安全性リスクをもたらす。 動的安全整形(DSS)は,不安全コンテンツを抑えつつ,応答の安全な部分からの学習を強化するための,きめ細かい安全信号を用いたフレームワークである。 STARスコアによって導かれるSTAR-DSSは、微調整リスクを堅牢に軽減し、多様な脅威、データセット、モデルファミリーにまたがる大幅な安全性の向上を提供する。
  論文  参考訳（メタデータ） (2025-05-22T18:05:16Z)
• Safe Deployment for Counterfactual Learning to Rank with Exposure-Based Risk Minimization [63.93275508300137]
  本稿では,安全な配置を理論的に保証する新たなリスク認識型対実学習ランク法を提案する。 提案手法の有効性を実験的に検証し,データが少ない場合の動作不良の早期回避に有効であることを示す。
  論文  参考訳（メタデータ） (2023-04-26T15:54:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。