論文の概要: FinRT: Distilling Adaptive Red-Teaming Strategies into Reusable Adversarial Generators in Consumer Finance

• arxiv url: http://arxiv.org/abs/2609.36474v1
• Date: Tue, 29 Sep 2026 01:33:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.091324
• Title: FinRT: Distilling Adaptive Red-Teaming Strategies into Reusable Adversarial Generators in Consumer Finance
• Title（参考訳）: FinRT:消費者金融における適応型再結合戦略の再利用
• Abstract要約: FinRTは、適応的なレッドチーム戦略から再利用可能な敵プロンプトジェネレータを構築するフレームワークである。 本手法は,被害者家族の個別化パターンを示しながら,高いクロスモデル転送性を実現する。
• 参考スコア（独自算出の注目度）: 39.57398312086878
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: In regulated industries like consumer finance, seemingly harmless user queries can exploit large language model vulnerabilities, triggering safety failures and pushing responses dangerously close to policy limits. Existing automated red-teaming methods trade off attack effectiveness against generation cost, while treating coverage, severity, and diversity as incidental rather than joint objectives. We introduce FinRT, a structured framework that builds reusable adversarial prompt generators from adaptive red-teaming strategies. Across the six victim models in consumer finance, FinRT substantially outperforms adaptive search baselines while amortizing target-facing attack generation into a reusable generator. FinRT nearly doubles the attack success rate over the adaptive baseline Rainbow Teaming (32.9% vs. 17.2%), increases maximum adversarial severity by 33%, and preserves comparable intra-policy-domain semantic diversity to iterative search methods. Our method achieves high cross-model transferability while exhibiting distinct victim-family specialization patterns.
• Abstract（参考訳）: 消費者金融のような規制された業界では、一見無害なユーザクエリは、大きな言語モデルの脆弱性を悪用し、安全上の障害を引き起こし、ポリシーの限界に危険な応答をプッシュする。 既存の自動赤チーム方式は、発生コストに対して攻撃効果を排除しつつ、カバレッジ、重大さ、多様性を共同目的ではなくインシデントとして扱う。 我々は、適応型レッドチーム戦略から再利用可能な逆プロンプトジェネレータを構築する、構造化されたフレームワークであるFinRTを紹介する。 消費者金融における6つの犠牲者モデルの中で、FinRTは、ターゲットの攻撃発生を再利用可能なジェネレータに償却しながら、適応的な検索ベースラインを大幅に上回っている。 FinRTは、アダプティブベースラインのレインボーチーム(32.9%対17.2%)に対する攻撃成功率をほぼ2倍にし、最大の敵の重症度を33%増加させ、反復探索法に匹敵する政治分野内セマンティックな多様性を保っている。 本手法は,被害者家族の個別化パターンを示しながら,高いクロスモデル転送性を実現する。

関連論文リスト

• SHARP: A Self-Evolving Human-Auditable Rubric Policy for Financial Trading Agents [11.616028403813031]
  大規模言語モデル(LLM)は、自律的な金融取引のためにますます多くデプロイされている。 我々は,制約のないテキストの突然変異を構造的,象徴的なポリシー最適化に置き換える,神経象徴的な枠組みである自己進化型ヒューマン・アディタブル・ポリシー(SHARP)を導入する。
  論文  参考訳（メタデータ） (2026-05-07T18:23:44Z)
• Few Tokens Matter: Entropy Guided Attacks on Vision-Language Models [22.510259484720212]
  視覚言語モデル(VLM)は優れた性能を発揮するが、敵の攻撃に弱いままである。 自己回帰生成における重要な決定点である高エントロピートークンのごく一部が、出力軌跡を不均等に支配していることを示す。 有害な変換を伴う競合攻撃成功率(93-95%)を達成するエントロピーバンク誘導アドリアック(EGA)を提案する。
  論文  参考訳（メタデータ） (2025-12-26T01:01:25Z)
• Defending the Edge: Representative-Attention for Mitigating Backdoor Attacks in Federated Learning [7.808916974942399]
  不均一エッジデバイスは、多種多様で非独立で、同一に分散された(非IID)データを生成する。 本稿では, 悪意のあるクライアントと良識を区別するための, FeRA という, 表現力に基づく防衛機構を提案する。 本評価では,エッジデバイスに典型的な非IIDデータ分散に挑戦するなど,さまざまなFLシナリオにおけるFeRAの堅牢性を示す。
  論文  参考訳（メタデータ） (2025-05-15T13:44:32Z)
• REINFORCE Adversarial Attacks on Large Language Models: An Adaptive, Distributional, and Semantic Objective [57.57786477441956]
  応答の個体群に対する適応的・意味的最適化問題を提案する。 我々の目標は、Llama3の攻撃成功率(ASR)を2倍にし、サーキットブレーカー防御でASRを2%から50%に向上させることである。
  論文  参考訳（メタデータ） (2025-02-24T15:34:48Z)
• DiveR-CT: Diversity-enhanced Red Teaming Large Language Model Assistants with Relaxing Constraints [68.82294911302579]
  DiveR-CTを導入し、目的と意味の報酬に対する従来の制約を緩和し、多様性を高める政策により大きな自由を与える。 実験では,1)様々な攻撃成功率の多様な多様性指標において優れたデータを生成すること,2)収集したデータに基づく安全性チューニングによる青チームモデルのレジリエンスの向上,3)信頼性と制御可能な攻撃成功率に対する目標重みの動的制御,3)報酬過大化に対する感受性の低下など,ベースラインよりも優れたDiveR-CTの顕著な優位性を実証した。
  論文  参考訳（メタデータ） (2024-05-29T12:12:09Z)
• Learning diverse attacks on large language models for robust red-teaming and safety tuning [126.32539952157083]
  レッドチーム、あるいは有害な応答を誘発するプロンプトの特定は、大きな言語モデルの安全なデプロイを保証するための重要なステップである。 新規性と多様性を優先する明確な規則化であっても、既存のアプローチはモード崩壊または効果的な攻撃を発生させることができないことを示す。 我々は,GFlowNetの微調整と二次平滑化フェーズを用いて,多種多様な効果的な攻撃プロンプトを生成するために攻撃モデルを訓練することを提案する。
  論文  参考訳（メタデータ） (2024-05-28T19:16:17Z)
• G$^2$uardFL: Safeguarding Federated Learning Against Backdoor Attacks through Attributed Client Graph Clustering [116.4277292854053]
  Federated Learning (FL)は、データ共有なしで協調的なモデルトレーニングを提供する。 FLはバックドア攻撃に弱いため、有害なモデル重みがシステムの整合性を損なう。 本稿では、悪意のあるクライアントの識別を属性グラフクラスタリング問題として再解釈する保護フレームワークであるG$2$uardFLを提案する。
  論文  参考訳（メタデータ） (2023-06-08T07:15:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。