論文の概要: Large Language Model Agent for Fake News Detection

• arxiv url: http://arxiv.org/abs/2405.01593v1
• Date: Tue, 30 Apr 2024 06:55:27 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-06 16:58:34.525085
• Title: Large Language Model Agent for Fake News Detection
• Title（参考訳）: フェイクニュース検出のための大規模言語モデルエージェント
• Authors: Xinyi Li, Yongfeng Zhang, Edward C. Malthouse,
• Abstract要約: FactAgentは、偽ニュースの検出に大規模な言語モデルを利用するためのエージェント的アプローチである。 モデルトレーニングなしでニュースクレームを検証する際に、人間の専門家の振る舞いをエミュレートする。 エンドユーザーに偽ニュース検出の推論プロセスに関する洞察を提供する。
• 参考スコア（独自算出の注目度）: 33.06422916067896
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In the current digital era, the rapid spread of misinformation on online platforms presents significant challenges to societal well-being, public trust, and democratic processes, influencing critical decision making and public opinion. To address these challenges, there is a growing need for automated fake news detection mechanisms. Pre-trained large language models (LLMs) have demonstrated exceptional capabilities across various natural language processing (NLP) tasks, prompting exploration into their potential for verifying news claims. Instead of employing LLMs in a non-agentic way, where LLMs generate responses based on direct prompts in a single shot, our work introduces FactAgent, an agentic approach of utilizing LLMs for fake news detection. FactAgent enables LLMs to emulate human expert behavior in verifying news claims without any model training, following a structured workflow. This workflow breaks down the complex task of news veracity checking into multiple sub-steps, where LLMs complete simple tasks using their internal knowledge or external tools. At the final step of the workflow, LLMs integrate all findings throughout the workflow to determine the news claim's veracity. Compared to manual human verification, FactAgent offers enhanced efficiency. Experimental studies demonstrate the effectiveness of FactAgent in verifying claims without the need for any training process. Moreover, FactAgent provides transparent explanations at each step of the workflow and during final decision-making, offering insights into the reasoning process of fake news detection for end users. FactAgent is highly adaptable, allowing for straightforward updates to its tools that LLMs can leverage within the workflow, as well as updates to the workflow itself using domain knowledge. This adaptability enables FactAgent's application to news verification across various domains.
• Abstract（参考訳）: 現在のデジタル時代において、オンラインプラットフォーム上での誤報の急速な拡散は、社会的幸福、公的な信頼、民主的なプロセスに重大な課題をもたらし、批判的な意思決定と世論に影響を与える。 これらの課題に対処するためには、自動フェイクニュース検出機構の必要性が高まっている。 事前訓練された大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクにまたがる例外的な機能を示し、ニュースクレームの検証の可能性を探究している。 LLMを非アジェンティックな方法で使用するのではなく、単一ショットで直接のプロンプトに基づいて応答を生成することで、偽ニュース検出にLLMを利用するエージェントアプローチであるFactAgentを導入する。 FactAgentは、構造化ワークフローに従って、モデルトレーニングなしでニュースクレームの検証において、人間の専門家の振る舞いをエミュレートすることを可能にする。 このワークフローは、ニュースの正確性チェックの複雑なタスクを複数のサブステップに分割します。 ワークフローの最終ステップでは、LLMはワークフロー全体のすべての発見を統合して、ニュースクレームの正確性を決定する。 手動による検証と比較すると、FactAgentは効率を向上する。 実験的研究は、FactAgentがいかなるトレーニングプロセスも必要とせずにクレームの検証に有効であることを実証した。 さらに、FactAgentはワークフローの各ステップと最終決定期間中に透過的な説明を提供し、エンドユーザに対する偽ニュース検出の推論プロセスに関する洞察を提供する。 FactAgentは高度に適応可能で、LLMがワークフロー内で活用できるツールの簡単なアップデートと、ドメイン知識を使用したワークフロー自体のアップデートが可能になる。 この適応性は、FactAgentの様々なドメインにわたるニュース検証への応用を可能にする。

関連論文リスト

• AgentOccam: A Simple Yet Strong Baseline for LLM-Based Web Agents [52.13695464678006]
  本研究は, 観察空間と行動空間を簡略化することで, LLMベースのWebエージェントを強化する。 AgentOccam は以前の最先端および同時処理を 9.8 (+29.4%) と 5.9 (+15.8%) で上回っている。
  論文  参考訳（メタデータ） (2024-10-17T17:50:38Z)
• A Reality check of the benefits of LLM in business [1.9181612035055007]
  大規模言語モデル(LLM)は、言語理解および生成タスクにおいて顕著なパフォーマンスを達成した。 ビジネスプロセスにおけるLCMの有用性と準備性について概説する。
  論文  参考訳（メタデータ） (2024-06-09T02:36:00Z)
• Are you still on track!? Catching LLM Task Drift with Activations [55.75645403965326]
  タスクドリフトは攻撃者がデータを流出させたり、LLMの出力に影響を与えたりすることを可能にする。 そこで, 簡易線形分類器は, 分布外テストセット上で, ほぼ完全なLOC AUCでドリフトを検出することができることを示す。 このアプローチは、プロンプトインジェクション、ジェイルブレイク、悪意のある指示など、目に見えないタスクドメインに対して驚くほどうまく一般化する。
  論文  参考訳（メタデータ） (2024-06-02T16:53:21Z)
• Agent-FLAN: Designing Data and Methods of Effective Agent Tuning for Large Language Models [56.00992369295851]
  オープンソースのLarge Language Models(LLM)は、さまざまなNLPタスクで大きな成功を収めていますが、エージェントとして振る舞う場合、それでもAPIベースのモデルよりもはるかに劣っています。 本稿では,(1) エージェント学習コーパスを,(1) エージェント学習データの分布から大きくシフトするエージェント推論と,(2) エージェントタスクが必要とする能力に異なる学習速度を示すエージェント学習コーパスと,(3) 幻覚を導入することでエージェント能力を改善する際の副作用について述べる。 本稿では,エージェントのためのFLANモデルを効果的に構築するためのエージェントFLANを提案する。
  論文  参考訳（メタデータ） (2024-03-19T16:26:10Z)
• The Wolf Within: Covert Injection of Malice into MLLM Societies via an MLLM Operative [55.08395463562242]
  MLLM(Multimodal Large Language Models)は、AGI(Artificial General Intelligence)の新たな境界を常に定義している。 本稿では,MLLM社会において,悪意のあるコンテンツの間接的伝播という新たな脆弱性について検討する。
  論文  参考訳（メタデータ） (2024-02-20T23:08:21Z)
• Bad Actor, Good Advisor: Exploring the Role of Large Language Models in Fake News Detection [22.658378054986624]
  大規模言語モデル(LLM)は、様々なタスクにおいて顕著なパフォーマンスを示している。 LLMは望ましいマルチパースペクティブな合理性を提供するが、基本的なSLMである細調整のBERTよりも性能が低い。 偽ニュース検出において、現在のLSMは微調整されたSLMの代わりにはならないが、SLMの優れたアドバイザである可能性が示唆された。
  論文  参考訳（メタデータ） (2023-09-21T16:47:30Z)
• ExpeL: LLM Agents Are Experiential Learners [60.54312035818746]
  実験学習エージェント(ExpeL)を導入し、パラメトリック更新を必要とせずにエージェント体験から学習できるようにする。 我々のエージェントは、経験を自律的に収集し、学習課題の集合から自然言語を用いて知識を抽出する。 推論において、エージェントは抽出された洞察と過去の経験をリコールし、情報的決定を行う。
  論文  参考訳（メタデータ） (2023-08-20T03:03:34Z)
• AgentBench: Evaluating LLMs as Agents [88.45506148281379]
  大規模言語モデル(LLM)は、従来のNLPタスクを超えた現実的な実用的ミッションをターゲットとして、ますます賢く自律的になってきています。 我々は,現在8つの異なる環境からなるベンチマークであるAgentBenchを紹介し,LLM-as-Agentの推論と意思決定能力を評価する。
  論文  参考訳（メタデータ） (2023-08-07T16:08:11Z)
• Improving Knowledge Extraction from LLMs for Task Learning through Agent Analysis [4.055489363682198]
  大規模言語モデル(LLM)は、タスク学習の知識源として大きな可能性を秘めている。 プロンプト工学は、LLMから知識を引き出すのに有効であることが示されているが、同時に、新しいタスクを具現化したエージェント学習のための、適切な、状況に根ざした知識を得るには不十分である。 本稿では,認知エージェントアプローチであるSTARSについて述べる。これは,迅速なエンジニアリングを拡張し,その制限を緩和し,エージェントがネイティブ言語能力,具体化,環境,ユーザ嗜好に適合する新たなタスク知識を取得できるようにする。
  論文  参考訳（メタデータ） (2023-06-11T20:50:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。