論文の概要: DriftGuard: Safety-Aware Multi-Monitor Detection and Selective Adaptation for Evolving Toxicity Moderation

• arxiv url: http://arxiv.org/abs/2606.28725v1
• Date: Sat, 27 Jun 2026 04:10:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.669081
• Title: DriftGuard: Safety-Aware Multi-Monitor Detection and Selective Adaptation for Evolving Toxicity Moderation
• Title（参考訳）: DriftGuard: 安全を意識したマルチモニタ検出と, 毒性改善のための選択的適応
• Abstract要約: 本稿では,マルチモニタドリフト検出と選択的モデル更新を組み合わせた安全対応型適応型モデレーションフレームワークであるDriftGuardを紹介する。 このフレームワークは、グローバルテキストドリフト、アイデンティティハームドリフト、モデル不確実性、有害リスクドリフト、偽ネガティブリスクドリフトを追跡する。
• 参考スコア（独自算出の注目度）: 0.6263481844384227
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Automated toxicity moderation systems operate in dynamic online environments where harmful behavior evolves through coded language, shifting targets, and strategic adaptation to enforcement. Existing drift detection methods often focus on global distributional change, but such signals may miss safety-relevant shifts that emerge in localized harm subspaces or high-risk model-error regions. This paper introduces DriftGuard, a safety-aware adaptive moderation framework that combines multi-monitor drift detection with selective model updating. The framework tracks global text drift, identity-harm drift, model uncertainty, toxic-risk drift, and false-negative-risk drift. When safety-relevant change is detected, the model is updated using a hard-mix adaptation set that prioritizes likely false negatives, identity-related high-risk examples, false-positive-risk examples, and uncertain boundary cases. Experiments on Civil Comments temporal shift and Jigsaw-to-DynaHate cross-dataset shift show that safety-aware monitors detect risks missed by global drift alone. Hard-mix adaptation improves toxic recall and accuracy over no-update and random-balanced baselines, raising toxic recall to 0.8777 on Civil Comments and from 0.7107 to 0.8523 on DynaHate. Bootstrap analysis further shows stable DynaHate safety gains, with toxic recall increasing by 0.1418 and false-negative prevalence decreasing by 0.0781. Overall, DriftGuard links safety-aware drift detection to targeted, lightweight model updating for more robust adaptive toxicity moderation.
• Abstract（参考訳）: 自動毒性モデレーションシステムは、コード化された言語を通して有害な振る舞いが進化し、標的を移動させ、執行に戦略的適応する動的なオンライン環境で機能する。 既存のドリフト検出法は、大域的な分布変化に重点を置いていることが多いが、そのような信号は、局所化されたハーネス部分空間や高リスクモデルエラー領域に現れる安全関連シフトを見逃す可能性がある。 本稿では,マルチモニタドリフト検出と選択的モデル更新を組み合わせた安全対応型適応型モデレーションフレームワークであるDriftGuardを紹介する。 このフレームワークは、グローバルテキストドリフト、アイデンティティハームドリフト、モデル不確実性、有害リスクドリフト、偽ネガティブリスクドリフトを追跡する。 安全性関連の変化が検出されると、モデルがハードミックス適応セットを使用して更新され、偽陰性の可能性、アイデンティティ関連高リスク事例、偽陽性リスク事例、不確実な境界事例が優先される。 Civil Commentsの時間的シフトとJigsaw-to-DynaHateのクロスデータセットシフトの実験は、セーフティ・アウェア・モニターが世界的なドリフトだけで見逃されたリスクを検出することを示している。 ハードミックスの適応は、非更新ベースラインとランダムバランスベースラインに対する毒性のリコールと精度を改善し、シビル・コメントでは0.8777、ダイナハトでは0.7107から0.8523に上昇する。 ブートストラップ分析では、安定なDynaHateの安全性向上が示され、毒性リコールは0.1418、偽陰性確率は0.0781である。 全体として、DriftGuardは、安全を意識したドリフト検出と、より堅牢な適応毒性モデレーションのための、ターゲットとなる軽量モデル更新をリンクする。

関連論文リスト

• Adaptive Intrusion Detection System using Transformer-Based Neural Networks and Continual Learning Approach with Adversarial Investigation [1.90296757424868]
  ネットワーク侵入検知システム (IDS) は, 脅威分布のシフトに伴い, 配置後無音で停止する。 リプレイベースの連続学習はこれに反論するが、既存の手法では、ベニティトラフィックを1つの初期タスクに非現実的に限定し、リプレイバッファを潜在的攻撃面として無視する。 より忠実なストレステストとして新しい攻撃と共に良心が流れるクラスインスタンスインクリメンタル(CII)シナリオを導入し、オーバートラベルのフリップとステルスバックドア中毒攻撃でバッファーを探索する。
  論文  参考訳（メタデータ） (2026-08-05T09:06:45Z)
• Task-Aligned Stability Analysis of Vision-Language Models for Autonomous Driving Hazard Detection [0.0]
  CLIP画像とテキストの類似性から, 汚職による埋没ドリフトがタスク整合ハザードスコアの変化を予測できるかどうかを検討した。 BDD100Kロードシーンにおける制御された汚職を利用して、埋め込みドリフトとマージンドリフトを比較する。 一部の家族は表現のドリフトと決定のドリフトの間に強い結合性を示すが、他の家族は比較的穏やかな埋め込み変化にもかかわらず有害な決定不安定性を引き起こす。
  論文  参考訳（メタデータ） (2026-06-10T10:20:14Z)
• Do Models Share Safety Representations? Cross-Model Steering for Safe Visual Generation [52.122731171289665]
  クロスモデル安全ステアリングのための最初のフレームワークを紹介する。 私たちのパイプラインは、ターゲット側の安全でないデータにアクセスしません。 多様なソース・ターゲット・モデル・ペア間のテキスト・ツー・イメージとテキスト・ツー・ビデオ生成におけるアプローチを評価する。
  論文  参考訳（メタデータ） (2026-06-03T18:00:04Z)
• CBANet: A Compact Attention-Based CNN-BiLSTM Network for Aggressive Driving Event Detection [7.82687682320363]
  攻撃的な運転は交通事故の大きな原因であり、道路安全に深刻な脅威をもたらす。 深層学習法は、車両センサデータから危険運転行動を検出するための有望な結果を示している。 しかし、実際の環境での性能は、厳しいデータ不均衡、ドライバー間の大きなばらつき、物理的に解釈可能な車両力学表現の欠如によって制限されることが多い。
  論文  参考訳（メタデータ） (2026-05-22T10:30:28Z)
• Selective Safety Steering via Value-Filtered Decoding [54.87935112120107]
  大型言語モデル(LLM)は人間の価値観に合わせるように訓練されているが、その世代は安全上の制約に反する可能性がある。 既存のデコード時のステアリング手法は、しばしば不要に介入し、ベースモデルの下で安全であった世代を変更する。 安全でない応答の安全性を向上しつつ、そのような不要な介入を減らすための新しいテストタイムステアリング手法を提案する。
  論文  参考訳（メタデータ） (2026-05-14T12:13:08Z)
• Action-Conditioned Risk Gating for Safety-Critical Control under Partial Observability [79.08785366532287]
  部分観測可能性下でのリスク感応制御のための軽量なリスクゲート強化学習近似を提案する。 安全クリティカルな部分観測可能な2つの領域 – 自動グルコース調節と安全制約ナビゲーション – でアプローチを評価した。
  論文  参考訳（メタデータ） (2026-05-14T01:23:09Z)
• ThreatFormer-IDS: Robust Transformer Intrusion Detection with Zero-Day Generalization and Explainable Attribution [0.0]
  IoTおよび産業ネットワークの侵入検出には、進化するトラフィックと限定されたラベルの下で信頼性を維持しながら、低い偽陽性率で稀な攻撃を検出できるモデルが必要である。 本研究では,トランスフォーマーをベースとしたシーケンシャルモデリングフレームワークThreatFormer-IDSを提案する。 時系列評価を備えたToN IoTベンチマークでは、ThreatFormer-IDSがAUCROC 0.994、AUC-PR 0.956、Recall@1%FPR 0.910を達成した。
  論文  参考訳（メタデータ） (2026-02-26T23:20:42Z)
• Steering Externalities: Benign Activation Steering Unintentionally Increases Jailbreak Risk for Large Language Models [62.16655896700062]
  活性化ステアリングは大規模言語モデル(LLM)の有用性を高める技術である 重要かつ過度に調査された安全リスクを無意識に導入することを示します。 実験によると、これらの介入は強制乗算器として機能し、ジェイルブレイクに新たな脆弱性を発生させ、標準ベンチマークで攻撃成功率を80%以上向上させる。
  論文  参考訳（メタデータ） (2026-02-03T12:32:35Z)
• How Much Is Too Much? Adaptive, Context-Aware Risk Detection in Naturalistic Driving [0.6299766708197883]
  ラベルやモデルを時間とともに、ドライバ間で適応する統合されたコンテキスト対応フレームワークを提案する。 このフレームワークは、速度重み付けされたヘッドウェイと厳しい運転イベントの2つの安全指標と、ランダムフォレスト、XGBoost、ディープニューラルネットワーク(DNN)の3つのモデルを用いてテストされている。 全体として、このフレームワークは、リアルタイムの安全フィードバックを強化し、インテリジェントな交通システムにおけるドライバー中心の介入をサポートする、適応的でコンテキスト対応のリスク検出を約束している。
  論文  参考訳（メタデータ） (2025-07-26T16:24:25Z)
• Shape it Up! Restoring LLM Safety during Finetuning [65.75757313781104]
  大型言語モデル(LLM)の微調整は、ユーザ固有のカスタマイズを可能にするが、重大な安全性リスクをもたらす。 動的安全整形(DSS)は,不安全コンテンツを抑えつつ,応答の安全な部分からの学習を強化するための,きめ細かい安全信号を用いたフレームワークである。 STARスコアによって導かれるSTAR-DSSは、微調整リスクを堅牢に軽減し、多様な脅威、データセット、モデルファミリーにまたがる大幅な安全性の向上を提供する。
  論文  参考訳（メタデータ） (2025-05-22T18:05:16Z)
• Unsupervised Domain Adaptation for Self-Driving from Past Traversal Features [69.47588461101925]
  本研究では,新しい運転環境に3次元物体検出器を適応させる手法を提案する。 提案手法は,空間的量子化履歴特徴を用いたLiDARに基づく検出モデルを強化する。 実世界のデータセットの実験では、大幅な改善が示されている。
  論文  参考訳（メタデータ） (2023-09-21T15:00:31Z)
• Sample-Efficient Safety Assurances using Conformal Prediction [57.92013073974406]
  早期警戒システムは、安全でない状況が差し迫ったときに警告を提供することができる。 安全性を確実に向上させるためには、これらの警告システムは証明可能な偽陰性率を持つべきである。 本稿では,共形予測と呼ばれる統計的推論手法とロボット・環境力学シミュレータを組み合わせたフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-28T23:00:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。