論文の概要: Improving Harmful Text Detection with Joint Retrieval and External Knowledge

• arxiv url: http://arxiv.org/abs/2504.02310v1
• Date: Thu, 03 Apr 2025 06:37:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-04 12:57:06.898333
• Title: Improving Harmful Text Detection with Joint Retrieval and External Knowledge
• Title（参考訳）: 共同検索と外部知識による有害テキスト検出の改善
• Authors: Zidong Yu, Shuo Wang, Nan Jiang, Weiqiang Huang, Xu Han, Junliang Du,
• Abstract要約: 本研究では,学習済み言語モデルと知識グラフを統合し,有害テキスト検出の精度と堅牢性を向上させるための共同検索フレームワークを提案する。 実験結果から, 結合探索法は単一モデルベースラインよりも有意に優れていた。
• 参考スコア（独自算出の注目度）: 16.68620974551506
• License:
• Abstract: Harmful text detection has become a crucial task in the development and deployment of large language models, especially as AI-generated content continues to expand across digital platforms. This study proposes a joint retrieval framework that integrates pre-trained language models with knowledge graphs to improve the accuracy and robustness of harmful text detection. Experimental results demonstrate that the joint retrieval approach significantly outperforms single-model baselines, particularly in low-resource training scenarios and multilingual environments. The proposed method effectively captures nuanced harmful content by leveraging external contextual information, addressing the limitations of traditional detection models. Future research should focus on optimizing computational efficiency, enhancing model interpretability, and expanding multimodal detection capabilities to better tackle evolving harmful content patterns. This work contributes to the advancement of AI safety, ensuring more trustworthy and reliable content moderation systems.
• Abstract（参考訳）: AI生成コンテンツがデジタルプラットフォーム全体にわたって拡大を続ける中、大きな言語モデルの開発と展開において、有害なテキスト検出が重要な課題となっている。 本研究では,学習済み言語モデルと知識グラフを統合し,有害テキスト検出の精度と堅牢性を向上させるための共同検索フレームワークを提案する。 実験結果から, 統合検索手法は, 低リソーストレーニングシナリオや多言語環境において, 単一モデルベースラインを著しく上回ることがわかった。 提案手法は, 従来の検出モデルの限界に対処するため, 外部コンテキスト情報を活用することで, 有害コンテンツを効果的に捕捉する。 今後の研究は、計算効率の最適化、モデルの解釈可能性の向上、有害なコンテンツパターンの進化に対処するためのマルチモーダル検出機能の拡大に重点を置くべきである。 この研究はAIの安全性の向上に寄与し、信頼性が高く信頼性の高いコンテンツモデレーションシステムを保証する。

関連論文リスト

• Enhancing AI-based Generation of Software Exploits with Contextual Information [9.327315119028809]
  この研究では、実際のシェルコードからなるデータセットを使用して、さまざまなシナリオでモデルを評価する。 実験は、不完全記述に対するモデルの弾力性、文脈を活用して精度を高める能力、無関係な情報を識別する能力を評価するように設計されている。 モデルは不要なコンテキストをフィルタリングし、攻撃的なセキュリティコードの生成において高いレベルの精度を維持する能力を示している。
  論文  参考訳（メタデータ） (2024-08-05T11:52:34Z)
• A Simple Background Augmentation Method for Object Detection with Diffusion Model [53.32935683257045]
  コンピュータビジョンでは、データの多様性の欠如がモデル性能を損なうことはよく知られている。 本稿では, 生成モデルの進歩を生かして, 単純かつ効果的なデータ拡張手法を提案する。 背景強化は、特にモデルの堅牢性と一般化能力を大幅に改善する。
  論文  参考訳（メタデータ） (2024-08-01T07:40:00Z)
• Analyzing Persuasive Strategies in Meme Texts: A Fusion of Language Models with Paraphrase Enrichment [0.23020018305241333]
  本稿では,ミームテキストにおける説得手法の階層的マルチラベル検出へのアプローチについて述べる。 本研究の範囲は、革新的なトレーニング技術とデータ強化戦略を通じて、モデルパフォーマンスの向上を含む。
  論文  参考訳（メタデータ） (2024-07-01T20:25:20Z)
• Who Writes the Review, Human or AI? [0.36498648388765503]
  本研究では,AIによる書評と人間による書評を正確に区別する手法を提案する。 提案手法は移動学習を利用して,異なるトピック間で生成したテキストを識別する。 実験の結果、元のテキストのソースを検出でき、精度96.86%に達することが示されている。
  論文  参考訳（メタデータ） (2024-05-30T17:38:44Z)
• ToBlend: Token-Level Blending With an Ensemble of LLMs to Attack AI-Generated Text Detection [6.27025292177391]
  ToBlendはトークンレベルのアンサンブルテキスト生成手法であり、現在のAIコンテンツ検出アプローチの堅牢性に挑戦する。 ToBlendは、主要なAIコンテンツ検出手法の性能を著しく低下させる。
  論文  参考訳（メタデータ） (2024-02-17T02:25:57Z)
• RegaVAE: A Retrieval-Augmented Gaussian Mixture Variational Auto-Encoder for Language Modeling [79.56442336234221]
  可変オートエンコーダ(VAE)に基づく検索拡張言語モデルであるRegaVAEを紹介する。 テキストコーパスを潜在空間にエンコードし、ソースとターゲットの両方のテキストから現在と将来の情報をキャプチャする。 各種データセットに対する実験結果から,テキスト生成品質と幻覚除去の大幅な改善が示された。
  論文  参考訳（メタデータ） (2023-10-16T16:42:01Z)
• RAVEN: In-Context Learning with Retrieval-Augmented Encoder-Decoder Language Models [57.12888828853409]
  RAVENは検索強化されたマスク付き言語モデリングとプレフィックス言語モデリングを組み合わせたモデルである。 フュージョン・イン・コンテキスト・ラーニング(Fusion-in-Context Learning)により、追加のトレーニングを必要とせずに、より多くのコンテキスト内サンプルを利用できる。 本研究は,テキスト内学習のためのエンコーダ・デコーダ言語モデルの構築の可能性を明らかにするものである。
  論文  参考訳（メタデータ） (2023-08-15T17:59:18Z)
• Exploring Large Language Model for Graph Data Understanding in Online Job Recommendations [63.19448893196642]
  本稿では,大規模言語モデルが提供するリッチな文脈情報と意味表現を利用して行動グラフを解析する新しいフレームワークを提案する。 この機能を利用することで、個々のユーザに対してパーソナライズされた、正確なジョブレコメンデーションが可能になる。
  論文  参考訳（メタデータ） (2023-07-10T11:29:41Z)
• Contextual information integration for stance detection via cross-attention [59.662413798388485]
  スタンス検出は、著者の目標に対する姿勢を特定することを扱う。 既存のスタンス検出モデルの多くは、関連するコンテキスト情報を考慮していないため、制限されている。 文脈情報をテキストとして統合する手法を提案する。
  論文  参考訳（メタデータ） (2022-11-03T15:04:29Z)
• Interpretable Fake News Detection with Topic and Deep Variational Models [2.15242029196761]
  我々は,解釈可能な特徴と手法を用いた偽ニュース検出に焦点をあてる。 我々は,テキストニュースの高密度表現を統合した深層確率モデルを開発した。 我々のモデルは最先端の競合モデルに匹敵する性能を達成する。
  論文  参考訳（メタデータ） (2022-09-04T05:31:00Z)
• InfoBERT: Improving Robustness of Language Models from An Information Theoretic Perspective [84.78604733927887]
  BERTのような大規模言語モデルは、幅広いNLPタスクで最先端のパフォーマンスを実現している。 近年の研究では、このようなBERTベースのモデルが、テキストの敵対的攻撃の脅威に直面していることが示されている。 本稿では,事前学習した言語モデルの堅牢な微調整のための新しい学習フレームワークであるInfoBERTを提案する。
  論文  参考訳（メタデータ） (2020-10-05T20:49:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。