論文の概要: MASCRDM: Multi-Agent System for Compliance Risk Detection and Mitigation in Training Process of Large Language Models

• arxiv url: http://arxiv.org/abs/2609.39107v1
• Date: Wed, 30 Sep 2026 06:47:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.294549
• Title: MASCRDM: Multi-Agent System for Compliance Risk Detection and Mitigation in Training Process of Large Language Models
• Title（参考訳）: MASCRDM:大規模言語モデルの学習過程におけるコンプライアンスリスク検出と緩和のためのマルチエージェントシステム
• Abstract要約: 大規模言語モデル(LLM)は様々な分野に適用されている。 差別や偏見を避けるなど、LCMのコンプライアンスと安全性の確保は依然として課題である。 LLMトレーニング中にMASCRDM(Multi-Agent System for Compliance Risk Detection and Mitigation)を提案する。
• 参考スコア（独自算出の注目度）: 6.254943947829606
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) have been applied in various fields. However, ensuring compliance and safety of LLMs, such as avoiding discrimination and bias, still remains a challenge. Current efforts mainly focus on detecting and filtering inputs and outputs of the trained models, rather than studying the intrinsic architecture of the models in real-time. To tackle this challenge, we analyze the LLMs training process and discover two critical issues: 1) Most of the existing methods are predominantly static in their approach to detection and filtering, achieving only localized optimizations without systematically enhancing the compliance of LLMs. 2) Another issue with existing approaches is the lack of real-time risk detection and mitigation across the full training process, which leads to limited flexibility. Motivated by these, we propose MASCRDM (Multi-Agent System for Compliance Risk Detection and Mitigation) during the LLM training process. Firstly, we develop a set of compliance rules based on existing Artificial Intelligence (AI) laws and a compliance-specific LLM with the instruction of compliance law experts. Then, we deconstruct LLMs into several components and identify key nodes based on the compliance knowledge graph. During LLMs training, we implement our multiple agents in the whole process, giving compliance risk alerts and suggestions for LLM developers. Experiments on discrimination and bias benchmark demonstrate that our multi-agent system can effectively improve the compliance while maintaining reasonable semantic performance. The results indicate that our method provides an executable path for mitigating compliance risk from within the LLMs systematically.
• Abstract（参考訳）: 大規模言語モデル(LLM)は様々な分野に適用されている。 しかし、差別や偏見を避けるなど、LCMのコンプライアンスと安全性を確保することは依然として課題である。 現在の取り組みは、モデルの本質的なアーキテクチャをリアルタイムで研究するのではなく、トレーニングされたモデルの入力と出力の検出とフィルタリングに重点を置いている。 この課題に対処するために、私たちはLLMのトレーニングプロセスを分析し、2つの重要な問題を発見します。 1) 既存の手法のほとんどは検出とフィルタリングのアプローチにおいて静的であり, LLMのコンプライアンスを体系的に強化することなく, 局所最適化のみを実現する。 2) 既存のアプローチのもう1つの問題は、フルトレーニングプロセスにおけるリアルタイムのリスク検出と緩和の欠如であり、柔軟性が制限されていることだ。 そこで本研究では,LLM学習過程におけるMASCRDM(Multi-Agent System for Compliance Risk Detection and Mitigation)を提案する。 まず,既存の人工知能(AI)法に基づくコンプライアンスルールと,コンプライアンス法専門家の指導によるコンプライアンス固有のLCMを開発する。 次に、LCMを複数のコンポーネントに分解し、コンプライアンス知識グラフに基づいてキーノードを識別する。 LLMのトレーニング中、私たちはプロセス全体において複数のエージェントを実装し、コンプライアンスのリスク警告と提案をLLM開発者に提供します。 識別とバイアスのベンチマーク実験により,マルチエージェントシステムは合理的なセマンティック性能を維持しつつ,コンプライアンスを効果的に改善できることが示された。 提案手法は,LLM内のコンプライアンスリスクを系統的に軽減するための実行可能経路を提供することを示す。

関連論文リスト

• MAS-ProVe: Understanding the Process Verification of Multi-Agent Systems [59.20800753428596]
  マルチエージェントシステム(MAS)におけるプロセス検証の系統的研究であるMAS-ProVeを提案する。 本研究は3つの検証パラダイム(LLM-as-a-Judge、報酬モデル、プロセス報酬モデル)にまたがる。 プロセスレベルの検証は、常に性能を改善しておらず、しばしば高いばらつきを示す。
  論文  参考訳（メタデータ） (2026-02-03T03:30:36Z)
• Risk Profiling and Modulation for LLMs [13.78222262131574]
  大規模言語モデル(LLM)は、不確実性の下で意思決定タスクにますます使われている。 既存の研究では、主にパーソナリティ・プロンプトやマルチエージェントの相互作用について研究されている。 我々は,ポストトレーニングがリスク嗜好の最も安定かつ効果的な調整を提供することを示した。
  論文  参考訳（メタデータ） (2025-09-27T02:28:40Z)
• Heterogeneous Group-Based Reinforcement Learning for LLM-based Multi-Agent Systems [25.882461853973897]
  本稿では、相対報酬の利点を推定して政策更新を導くマルチエージェント不均一グループ政策最適化(MHGPO)を提案する。 MHGPOは、批判的ネットワークの必要性を排除し、安定性を向上し、計算オーバーヘッドを減らす。 また,効率性と有効性を両立させる3つのグループロールアウトサンプリング戦略も導入する。
  論文  参考訳（メタデータ） (2025-06-03T10:17:19Z)
• Beyond Binary: Towards Fine-Grained LLM-Generated Text Detection via Role Recognition and Involvement Measurement [51.601916604301685]
  大規模言語モデル(LLM)は、オンライン談話における信頼を損なう可能性のあるコンテンツを生成する。 現在の手法はバイナリ分類に重点を置いており、人間とLLMのコラボレーションのような現実のシナリオの複雑さに対処できないことが多い。 バイナリ分類を超えてこれらの課題に対処するために,LLM生成コンテンツを検出するための新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2024-10-18T08:14:10Z)
• Q*: Improving Multi-step Reasoning for LLMs with Deliberative Planning [53.6472920229013]
  大規模言語モデル(LLM)は多くの自然言語タスクにおいて印象的な能力を示している。 LLMは多段階推論を行う際にエラー、幻覚、矛盾する文を生成する傾向がある。 本稿では,LLMの復号化過程を検討計画で導くためのフレームワークであるQ*を紹介する。
  論文  参考訳（メタデータ） (2024-06-20T13:08:09Z)
• Unveiling the Misuse Potential of Base Large Language Models via In-Context Learning [61.2224355547598]
  大規模言語モデル(LLM)のオープンソース化は、アプリケーション開発、イノベーション、科学的進歩を加速させる。 我々の調査は、この信念に対する重大な監視を露呈している。 我々の研究は、慎重に設計されたデモを配置することにより、ベースLSMが悪意のある命令を効果的に解釈し実行できることを実証する。
  論文  参考訳（メタデータ） (2024-04-16T13:22:54Z)
• TRACE: A Comprehensive Benchmark for Continual Learning in Large Language Models [52.734140807634624]
  調整された大規模言語モデル(LLM)は、タスク解決、指示に従うこと、安全性を確保することにおいて、例外的な能力を示す。 既存の連続学習ベンチマークでは、LLMをリードする上で十分な課題が欠如している。 LLMにおける継続学習を評価するための新しいベンチマークであるTRACEを紹介する。
  論文  参考訳（メタデータ） (2023-10-10T16:38:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。