論文の概要: How to Protect Yourself from 5G Radiation? Investigating LLM Responses to Implicit Misinformation

• arxiv url: http://arxiv.org/abs/2503.09598v1
• Date: Wed, 12 Mar 2025 17:59:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-13 15:41:02.059679
• Title: How to Protect Yourself from 5G Radiation? Investigating LLM Responses to Implicit Misinformation
• Title（参考訳）: 5G放射線から身を守る方法 : 誤報に対するLSM反応の調査
• Authors: Ruohao Guo, Wei Xu, Alan Ritter,
• Abstract要約: 大規模言語モデル(LLM)は多様なシナリオに広くデプロイされている。 彼らが誤報をうまく広める程度は、重大な安全上の懸念として浮かび上がっている。 暗黙的誤報の最初のベンチマークであるECHOMISTをキュレートした。
• 参考スコア（独自算出の注目度）: 24.355564722047244
• License:
• Abstract: As Large Language Models (LLMs) are widely deployed in diverse scenarios, the extent to which they could tacitly spread misinformation emerges as a critical safety concern. Current research primarily evaluates LLMs on explicit false statements, overlooking how misinformation often manifests subtly as unchallenged premises in real-world user interactions. We curated ECHOMIST, the first comprehensive benchmark for implicit misinformation, where the misinformed assumptions are embedded in a user query to LLMs. ECHOMIST is based on rigorous selection criteria and carefully curated data from diverse sources, including real-world human-AI conversations and social media interactions. We also introduce a new evaluation metric to measure whether LLMs can recognize and counter false information rather than amplify users' misconceptions. Through an extensive empirical study on a wide range of LLMs, including GPT-4, Claude, and Llama, we find that current models perform alarmingly poorly on this task, often failing to detect false premises and generating misleading explanations. Our findings underscore the critical need for an increased focus on implicit misinformation in LLM safety research.
• Abstract（参考訳）: 大規模言語モデル(LLM)は多様なシナリオに広くデプロイされているため、誤情報を積極的に広める程度は、重大な安全上の懸念として現れます。 現在の研究では、誤報が現実世界のユーザーインタラクションにおける無意味な前提としていかに微妙に現れるかを見越して、明示的な虚偽文に関するLCMを主に評価している。 暗黙的な誤情報に対する最初の包括的なベンチマークであるECHOMISTをキュレートした。 ECHOMISTは厳格な選択基準に基づいており、現実世界の人間とAIの会話やソーシャルメディアのやりとりなど、さまざまな情報源から注意深く収集されている。 また,LLMがユーザの誤解を増幅するのではなく,偽情報を認識・反証できるかどうかを評価するための新たな評価基準を導入する。 GPT-4、Claude、Llamaを含む広範囲にわたるLLMに関する広範な実証研究により、現在のモデルは、このタスクにおいて驚くほど貧弱に動作し、しばしば偽の前提を検知できず、誤解を招く説明を生じさせる。 LLMの安全性研究において,暗黙の誤報に注目する必要性が高まっていることが,本研究の要点である。

関連論文リスト

• Evaluation of LLM Vulnerabilities to Being Misused for Personalized Disinformation Generation [0.5070610131852027]
  大型言語モデル(LLM)は、偽ニュース記事を生成するために効果的に誤用することができる。 本研究は,近年のオープンおよびクローズドLCMの脆弱性評価により,このギャップを埋めるものである。 以上の結果から,より強力な安全フィルターとディファイラの必要性が示された。
  論文  参考訳（メタデータ） (2024-12-18T09:48:53Z)
• Information Anxiety in Large Language Models [21.574677910096735]
  大規模言語モデル(LLM)は知識リポジトリとして高いパフォーマンスを示している。 本研究は, LLMの内部推論と検索機構を包括的に分析することにより, さらなる調査を行う。 我々の研究は、エンティティの人気の影響、クエリの定式化における語彙変化に対するモデルの感度、隠された状態表現の進行という3つの重要な側面に焦点を当てている。
  論文  参考訳（メタデータ） (2024-11-16T14:28:33Z)
• LLM-PBE: Assessing Data Privacy in Large Language Models [111.58198436835036]
  大規模言語モデル(LLM)は多くのドメインに不可欠なものとなり、データ管理、マイニング、分析におけるアプリケーションを大幅に進歩させた。 この問題の批判的な性質にもかかわらず、LLMにおけるデータプライバシのリスクを総合的に評価する文献は存在しない。 本稿では,LLMにおけるデータプライバシリスクの体系的評価を目的としたツールキットであるLLM-PBEを紹介する。
  論文  参考訳（メタデータ） (2024-08-23T01:37:29Z)
• Exploring Automatic Cryptographic API Misuse Detection in the Era of LLMs [60.32717556756674]
  本稿では,暗号誤用の検出において,大規模言語モデルを評価するための体系的評価フレームワークを提案する。 11,940個のLCM生成レポートを詳細に分析したところ、LSMに固有の不安定性は、報告の半数以上が偽陽性になる可能性があることがわかった。 最適化されたアプローチは、従来の手法を超え、確立されたベンチマークでこれまで知られていなかった誤用を明らかにすることで、90%近い顕著な検出率を達成する。
  論文  参考訳（メタデータ） (2024-07-23T15:31:26Z)
• CLAMBER: A Benchmark of Identifying and Clarifying Ambiguous Information Needs in Large Language Models [60.59638232596912]
  大規模言語モデル(LLM)を評価するベンチマークであるCLAMBERを紹介する。 分類を基盤として12Kの高品質なデータを構築し, 市販のLCMの強度, 弱点, 潜在的なリスクを評価する。 本研究は, あいまいなユーザクエリの特定と明確化において, 現在のLCMの実用性に限界があることを示唆する。
  論文  参考訳（メタデータ） (2024-05-20T14:34:01Z)
• A Chinese Dataset for Evaluating the Safeguards in Large Language Models [46.43476815725323]
  大型言語モデル(LLM)は有害な応答を生み出す。 本稿では,中国のLLMの安全性評価のためのデータセットを提案する。 次に、偽陰性例と偽陽性例をよりよく識別するために使用できる他の2つのシナリオに拡張する。
  論文  参考訳（メタデータ） (2024-02-19T14:56:18Z)
• Survey on Factuality in Large Language Models: Knowledge, Retrieval and Domain-Specificity [61.54815512469125]
  本調査は,大規模言語モデル(LLM)における事実性の重要課題に対処する。 LLMが様々な領域にまたがる応用を見出すにつれ、その出力の信頼性と正確性は重要となる。
  論文  参考訳（メタデータ） (2023-10-11T14:18:03Z)
• Investigating the Factual Knowledge Boundary of Large Language Models with Retrieval Augmentation [109.8527403904657]
  大規模言語モデル(LLM)は,その知識に対する信頼度が低く,内部知識と外部知識の衝突をうまく扱えないことを示す。 検索の強化は、LLMの知識境界に対する認識を高める効果的なアプローチであることが証明されている。 本稿では,文書を動的に活用するための簡易な手法を提案する。
  論文  参考訳（メタデータ） (2023-07-20T16:46:10Z)
• On the Risk of Misinformation Pollution with Large Language Models [127.1107824751703]
  本稿では,現代大規模言語モデル (LLM) の誤用の可能性について検討する。 本研究は, LLMが効果的な誤情報発生器として機能し, DOQAシステムの性能が著しく低下することを明らかにする。
  論文  参考訳（メタデータ） (2023-05-23T04:10:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。