論文の概要: Style-News: Incorporating Stylized News Generation and Adversarial
Verification for Neural Fake News Detection
- arxiv url: http://arxiv.org/abs/2401.15509v1
- Date: Sat, 27 Jan 2024 21:35:29 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-30 17:48:06.628901
- Title: Style-News: Incorporating Stylized News Generation and Adversarial
Verification for Neural Fake News Detection
- Title（参考訳）: スタイルニューズ:ニューラルフェイクニュース検出のためのスティル化ニュース生成と逆検証
- Authors: Wei-Yao Wang, Yu-Chieh Chang, Wen-Chih Peng
- Abstract要約: ニューラルネットワークが生み出すコンテンツに焦点をあてて、人間を騙すために実際のニュースのスタイルを模倣することを目的としている。
本稿では,出版者のテンプレートに対応するテキストタイプ,政治的スタンス,信頼性を示すために,出版者のメタデータを用いた新たな検証フレームワークであるStyle-Newsを提案する。
脅威モデリングの側面に基づいて、特定のパブリッシャに対してニュースコンテンツコンディショニングを生成するための敵として、スタイル対応のニューラルニュースジェネレータを導入する。
スタイルニューズは、流派が0.35、コンテンツが15.24、スタイルが0.38という、以前のアプローチよりも大幅に優れていた。
- 参考スコア（独自算出の注目度）: 14.483830120541894
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: With the improvements in generative models, the issues of producing
hallucinations in various domains (e.g., law, writing) have been brought to
people's attention due to concerns about misinformation. In this paper, we
focus on neural fake news, which refers to content generated by neural networks
aiming to mimic the style of real news to deceive people. To prevent harmful
disinformation spreading fallaciously from malicious social media (e.g.,
content farms), we propose a novel verification framework, Style-News, using
publisher metadata to imply a publisher's template with the corresponding text
types, political stance, and credibility. Based on threat modeling aspects, a
style-aware neural news generator is introduced as an adversary for generating
news content conditioning for a specific publisher, and style and source
discriminators are trained to defend against this attack by identifying which
publisher the style corresponds with, and discriminating whether the source of
the given news is human-written or machine-generated. To evaluate the quality
of the generated content, we integrate various dimensional metrics (language
fluency, content preservation, and style adherence) and demonstrate that
Style-News significantly outperforms the previous approaches by a margin of
0.35 for fluency, 15.24 for content, and 0.38 for style at most. Moreover, our
discriminative model outperforms state-of-the-art baselines in terms of
publisher prediction (up to 4.64%) and neural fake news detection (+6.94%
$\sim$ 31.72%).
- Abstract（参考訳）: 生成モデルの改善により、様々な領域における幻覚(例えば、法律や著作)を生み出す問題は、誤った情報に対する懸念から人々の注目を集めている。
本稿では,人間を騙すために実際のニュースのスタイルを模倣することを目的とした,ニューラルネットワークが生成したコンテンツを指すニューラルフェイクニュースに焦点をあてる。
有害なソーシャルメディア(例えば、コンテンツファーム)から悪質な偽情報が拡散することを防止するため、出版者メタデータを用いた新しい検証フレームワーク「スタイルニューズ」を提案し、対応するテキストタイプ、政治的スタンス、信頼性を備えた出版社のテンプレートを示唆する。
脅威モデリングの側面に基づいて、特定のパブリッシャに対するニュースコンテンツコンディショニングを生成するための敵としてスタイル対応ニューラルニュースジェネレータを導入し、そのスタイルがどのパブリッシャに対応しているかを特定し、与えられたニュースのソースがヒューマン書きかマシン生成であるかを識別することにより、スタイルおよびソースディミネータをこの攻撃に対して防御するように訓練する。
生成したコンテンツの品質を評価するため,様々な次元のメトリクス(言語流用,コンテンツ保存,スタイル順守)を統合し,スタイルニューズが従来の手法に比べて,流用率0.35,コンテンツ15.24,スタイル0.38で有意に優れていたことを示す。
さらに、我々の差別モデルは出版社予測(4.64%)とニューラルフェイクニュース検出(+6.94%$\sim$ 31.72%)で最先端のベースラインを上回っている。
関連論文リスト
- Fake News in Sheep's Clothing: Robust Fake News Detection Against LLM-Empowered Style Attacks [60.14025705964573]
SheepDogは、ニュースの正確性を決定する際に、スタイルよりもコンテンツを優先する、スタイルに反する偽ニュース検出ツールだ。
SheepDog はこのレジリエンスを,(1) LLM を利用したニュースリフレーミング,(2) 異なるスタイルに対応する記事のカスタマイズによる学習プロセスへのスタイル多様性の注入,(2) スタイルの異なるリフレーミング間で一貫した妥当性予測を保証するスタイル非依存のトレーニング,(3) LLM からコンテンツ中心のガイドラインを抽出して偽ニュースを抽出するコンテンツ中心の属性を通じて達成する。
論文 参考訳（メタデータ） (2023-10-16T21:05:12Z) - It's All in the Embedding! Fake News Detection Using Document Embeddings [0.6091702876917281]
本稿では,文書埋め込みを用いて,ニュース記事を信頼性やニセモノと正確にラベル付けする複数のモデルを構築する手法を提案する。
また、バイナリや複数ラベルの分類を用いて偽ニュースを検出する異なるアーキテクチャのベンチマークを示す。
論文 参考訳（メタデータ） (2023-04-16T13:30:06Z) - Verifying the Robustness of Automatic Credibility Assessment [50.55687778699995]
入力テキストにおける意味保存的変化がモデルを誤解させる可能性があることを示す。
また、誤情報検出タスクにおける被害者モデルと攻撃方法の両方をテストするベンチマークであるBODEGAについても紹介する。
我々の実験結果によると、現代の大規模言語モデルは、以前のより小さなソリューションよりも攻撃に対して脆弱であることが多い。
論文 参考訳（メタデータ） (2023-03-14T16:11:47Z) - Countering Malicious Content Moderation Evasion in Online Social
Networks: Simulation and Detection of Word Camouflage [64.78260098263489]
ツイストとカモフラージュキーワードは、プラットフォームコンテンツモデレーションシステムを回避する最もよく使われるテクニックである。
本稿では,コンテンツ回避の新たな手法をシミュレートし,検出する多言語ツールを開発することにより,悪意ある情報に対する対処に大きく貢献する。
論文 参考訳（メタデータ） (2022-12-27T16:08:49Z) - Modelling Social Context for Fake News Detection: A Graph Neural Network
Based Approach [0.39146761527401425]
フェイクニュースの検出は、情報の信頼性を確保し、ニュースエコシステムの信頼性を維持するために不可欠である。
本稿では,ハイブリッドグラフニューラルネットワークによる偽ニュース検出の社会的文脈を解析した。
論文 参考訳（メタデータ） (2022-07-27T12:58:33Z) - Faking Fake News for Real Fake News Detection: Propaganda-loaded
Training Data Generation [105.20743048379387]
提案手法は,人間によるプロパガンダのスタイルや戦略から情報を得た学習例を生成するための新しいフレームワークである。
具体的には、生成した記事の有効性を確保するために、自然言語推論によって導かれる自己臨界シーケンストレーニングを行う。
実験の結果、PropaNewsでトレーニングされた偽ニュース検知器は、2つの公開データセットで3.62～7.69%のF1スコアで人書きの偽情報を検出するのに優れていることがわかった。
論文 参考訳（メタデータ） (2022-03-10T14:24:19Z) - Viable Threat on News Reading: Generating Biased News Using Natural
Language Models [49.90665530780664]
公開されている言語モデルは、入力されたオリジナルニュースに基づいてバイアスのあるニュースコンテンツを確実に生成できることを示す。
また、制御可能なテキスト生成を用いて、多数の高品質な偏りのあるニュース記事を生成することができることを示す。
論文 参考訳（メタデータ） (2020-10-05T16:55:39Z) - Detecting Cross-Modal Inconsistency to Defend Against Neural Fake News [57.9843300852526]
我々は、画像やキャプションを含む機械生成ニュースに対して、より現実的で挑戦的な対策を導入する。
敵が悪用できる可能性のある弱点を特定するために、4つの異なる種類の生成された記事からなるNeuralNewsデータセットを作成します。
ユーザ実験から得られた貴重な知見に加えて,視覚的意味的不整合の検出にもとづく比較的効果的なアプローチを提案する。
論文 参考訳（メタデータ） (2020-09-16T14:13:15Z) - Fake News Detection on News-Oriented Heterogeneous Information Networks
through Hierarchical Graph Attention [12.250335118888891]
階層型グラフ注意ネットワーク(HGAT)という,新たなフェイクニュース検出フレームワークを提案する。
HGATは、新しい階層的な注意機構を使用して、HINでノード表現学習を行い、ニュース記事ノードを分類することでフェイクニュースを検出する。
2つの実世界のフェイクニュースデータセットの実験は、HGATがテキストベースのモデルや他のネットワークベースのモデルより優れていることを示している。
論文 参考訳（メタデータ） (2020-02-05T19:09:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。