論文の概要: Taxonomy of Risks on Automated Fact-Checking Systems Considering its Propagation

• arxiv url: http://arxiv.org/abs/2606.25645v1
• Date: Wed, 24 Jun 2026 09:53:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-25 17:05:30.301096
• Title: Taxonomy of Risks on Automated Fact-Checking Systems Considering its Propagation
• Title（参考訳）: 伝播を考慮した自動ファクトチェッキングシステムにおけるリスクの分類
• Authors: Jun Yajima, Tatsuya Oka, Takao Okubo,
• Abstract要約: 近年,ソーシャルネットワーキングサービス(SNS)における偽情報や誤情報などの偽ニュースの投稿が社会問題となっている。 この偽ニュースに対抗するために、SNS上の投稿の正確性を評価するためのファクトチェックがますます重要になっている。 現在、ファクトチェックはファクトチェック組織によって実施されているが、SNS上の全ての投稿をファクトチェックすることは困難である。 近年のファクトチェックシステムは人工知能と大規模言語モデルを利用しており、誤った判断や誤った結果を投稿するリスクがある。
• 参考スコア（独自算出の注目度）: 0.35684665108045394
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In recent years, the posting of fake news including disinformation and misinformation on social networking services (SNS) has become a social problem. To combat this fake news, fact-checking that is the process of assessing the veracity of posts on SNS has become increasingly important. While fact-checking is currently performed by fact-checking organizations, it is difficult to fact-check all posts on SNS. Therefore, the use of automated fact-checking systems is effective. Recent automated fact-checking systems utilize artificial intelligence and large language models, so there are risks of incorrect judgments and posting incorrect results on social media which can lead to the spread of misinformation or to engage in defamation. In this paper, as a first step toward enabling the safe use of automated fact-checking systems, we categorize the specific risks on automated fact-checking systems. In this categorizing, we consider a three-stage risk propagation: risk factors, hazardous situations, and harm. Our analysis revealed that 32 specific risks exist in automated fact-checking systems. In this paper, we utilize the categorized risks as analytical cues (guide words) to present the risk assessment of the automated fact-checking system DEFAME. This assessment result indicates that risks that cannot be derived using STRIDE, a conventional IT security risk assessment method can be derived using our guide words.
• Abstract（参考訳）: 近年,ソーシャルネットワーキングサービス(SNS)における偽情報や誤情報などの偽ニュースの投稿が社会問題となっている。 この偽ニュースに対抗するために、SNS上の投稿の正確性を評価するためのファクトチェックがますます重要になっている。 現在、ファクトチェックはファクトチェック組織によって実施されているが、SNS上の全ての投稿をファクトチェックすることは困難である。 したがって, 自動ファクトチェックシステムの利用は効果的である。 近年の自動化ファクトチェックシステムは人工知能と大規模言語モデルを利用しており、誤判定やソーシャルメディアへの投稿が誤報の拡散に繋がる危険性がある。 本稿では,自動ファクトチェックシステムを安全に活用するための第一歩として,自動ファクトチェックシステムにおける特定のリスクを分類する。 この分類では、リスク要因、有害な状況、有害な3段階のリスク伝播について検討する。 分析の結果,自動事実チェックシステムには32種類のリスクが存在することが明らかとなった。 本稿では,自動事実チェックシステムDEFAMEのリスク評価を行うために,分類されたリスクを分析的手がかり(ガイド語)として活用する。 この評価結果は、従来のITセキュリティリスク評価手法であるSTRIDEを用いては導出できないリスクを、ガイドワードを用いて導出できることを示唆している。

関連論文リスト

• AI Incident Monitoring through a Public Health Lens [4.6715157943999595]
  AIインシデントデータベースは、これらのイベントをインデックスするが、リスク関連システムとそのインシデント報告率に関する追加データなしでは、リスクを測定することはできない。 騒音や不完全な疾患の監視を前提とした公衆衛生プロセスにインスパイアされた私たちは,インシデント発生の6つのフェーズを特定した。 ケーススタディでは、ドメイン専門家のインシデントパネルが、自身のドメインの専門知識、インシデントデータ、統計および視覚化ツールのコレクションを組み合わせて、パブリックニーズを満たすインシデントフェーズ決定に到達できることが示されている。
  論文  参考訳（メタデータ） (2026-04-21T18:47:59Z)
• Toward Risk Thresholds for AI-Enabled Cyber Threats: Enhancing Decision-Making Under Uncertainty with Bayesian Networks [0.3151064009829256]
  我々は、AIサイバーリスク閾値の開発と評価のための構造化アプローチを提案する。 まず、既存の業界におけるサイバーしきい値を分析し、共通しきい値要素を同定する。 第2に,AI可能なサイバーリスクをモデル化するためのツールとしてベイズネットワークを提案する。
  論文  参考訳（メタデータ） (2026-01-23T23:23:12Z)
• Foveate, Attribute, and Rationalize: Towards Physically Safe and Trustworthy AI [76.28956947107372]
  包括的不安全テキストは、日常的なシナリオから生じる可能性のある特定の関心領域であり、有害なテキストを検出するのが困難である。 安全の文脈において、信頼に値する合理的な生成のために外部知識を活用する新しいフレームワークであるFARMを提案する。 実験の結果,FARMはSafeTextデータセットの最先端結果を得ることができ,安全性の分類精度が5.9%向上したことがわかった。
  論文  参考訳（メタデータ） (2022-12-19T17:51:47Z)
• Fact-Saboteurs: A Taxonomy of Evidence Manipulation Attacks against Fact-Verification Systems [80.3811072650087]
  証拠のクレームサレントスニペットを微調整し,多様かつクレームアラインな証拠を生成することが可能であることを示す。 この攻撃は、主張のポストホックな修正に対しても堅牢である。 これらの攻撃は、インスペクタブルとヒューマン・イン・ザ・ループの使用シナリオに有害な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2022-09-07T13:39:24Z)
• Synthetic Disinformation Attacks on Automated Fact Verification Systems [53.011635547834025]
  本研究では,2つのシミュレーション環境において,自動ファクトチェッカーの合成正反対証拠に対する感度について検討する。 これらのシステムでは,これらの攻撃に対して大幅な性能低下がみられた。 偽情報の発生源としての現代のNLGシステムの脅威の増大について論じる。
  論文  参考訳（メタデータ） (2022-02-18T19:01:01Z)
• Adverse Media Mining for KYC and ESG Compliance [2.381399746981591]
  逆メディアやネガティブニュースのスクリーニングは、そのような非金融的リスクの特定に不可欠である。 本稿では,ユーザのクエリに対する有害メディアのリアルタイム検索とバッチ検索の両方を行う自動化システムを提案する。 高精度で有害なニュースフィルタリングに対する、スケーラブルで機械学習によるアプローチは、4つの視点に基づいています。
  論文  参考訳（メタデータ） (2021-10-22T01:04:16Z)
• Sample-Efficient Safety Assurances using Conformal Prediction [57.92013073974406]
  早期警戒システムは、安全でない状況が差し迫ったときに警告を提供することができる。 安全性を確実に向上させるためには、これらの警告システムは証明可能な偽陰性率を持つべきである。 本稿では,共形予測と呼ばれる統計的推論手法とロボット・環境力学シミュレータを組み合わせたフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-28T23:00:30Z)
• Accuracy-Efficiency Trade-Offs and Accountability in Distributed ML Systems [32.79201607581628]
  正確性と効率性の間のトレードオフ 法、公衆衛生、その他の非計算領域。 これらのトレードオフを調べることは、他のドメインのガバナンスを導くのに有用であるので、コンピュータシステムを管理する上でも同様にこれらのトレードオフに言及する必要がある、と私たちは主張する。
  論文  参考訳（メタデータ） (2020-07-04T23:00:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。