論文の概要: Towards Automated Community Notes Generation with Large Vision Language Models for Combating Contextual Deception

• arxiv url: http://arxiv.org/abs/2603.22453v1
• Date: Mon, 23 Mar 2026 18:21:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.140324
• Title: Towards Automated Community Notes Generation with Large Vision Language Models for Combating Contextual Deception
• Title（参考訳）: 大規模視覚言語モデルを用いたコミュニティノートの自動生成に向けて
• Authors: Jin Ma, Jingwen Yan, Mohammed Aldeen, Ethan Anderson, Taran Kavuru, Jinkyung Katie Park, Feng Luo, Long Cheng,
• Abstract要約: 画像に基づく文脈偽造に対するコミュニティノートの自動生成手法について検討する。 主に偽造検出に焦点を当てた以前の作業とは異なり、Community Notesスタイルのシステムは簡潔で接地的なメモを生成する必要がある。 大規模な視覚言語モデル上に構築された検索拡張型マルチエージェント協調フレームワークであるACCNoteを提案する。
• 参考スコア（独自算出の注目度）: 8.79051023144961
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Community Notes have emerged as an effective crowd-sourced mechanism for combating online deception on social media platforms. However, its reliance on human contributors limits both the timeliness and scalability. In this work, we study the automated Community Notes generation method for image-based contextual deception, where an authentic image is paired with misleading context (e.g., time, entity, and event). Unlike prior work that primarily focuses on deception detection (i.e., judging whether a post is true or false in a binary manner), Community Notes-style systems need to generate concise and grounded notes that help users recover the missing or corrected context. This problem remains underexplored due to three reasons: (i) datasets that support the research are scarce; (ii) methods must handle the dynamic nature of contextual deception; (iii) evaluation is difficult because standard metrics do not capture whether notes actually improve user understanding. To address these gaps, we curate a real-world dataset, XCheck, comprising X posts with associated Community Notes and external contexts. We further propose the Automated Context-Corrective Note generation method, named ACCNote, which is a retrieval-augmented, multi-agent collaboration framework built on large vision-language models. Finally, we introduce a new evaluation metric, Context Helpfulness Score (CHS), that aligns with user study outcomes rather than relying on lexical overlap. Experiments on our XCheck dataset show that the proposed ACCNote improves both deception detection and note generation performance over baselines, and exceeds a commercial tool GPT5-mini. Together, our dataset, method, and metric advance practical automated generation of context-corrective notes toward more responsible online social networks.
• Abstract（参考訳）: コミュニティノートは、ソーシャルメディアプラットフォーム上でオンライン詐欺と戦うための効果的なクラウドソースメカニズムとして登場した。 しかしながら、人間のコントリビュータへの依存は、タイムラインとスケーラビリティの両方を制限する。 本研究では,画像に基づく文脈認識におけるコミュニティノートの自動生成手法について検討する。 主に偽造検出に焦点を当てた以前の作業(すなわち、ポストが真か偽かを二進法で判断する)とは異なり、Community Notesスタイルのシステムは、ユーザーが行方不明または修正されたコンテキストを回復するのに役立つ簡潔で接地されたメモを生成する必要がある。 この問題は3つの理由により未解明のままである。 一 研究を支援するデータセットが乏しいこと。 (ii)手法は、文脈的偽証の動的な性質を扱わなければならない。 (iii)標準メトリクスは、音符が実際にユーザ理解を改善しているかどうかを捉えないため、評価は難しい。 これらのギャップに対処するために、コミュニティノートと外部コンテキストに関連するXポストを含む現実世界のデータセットXCheckをキュレートする。 さらに,大規模な視覚言語モデル上に構築された検索拡張型マルチエージェント協調フレームワークであるACCNoteという自動文脈補正ノート生成手法を提案する。 最後に, 語彙重なりに頼らず, ユーザの学習結果と整合する新しい評価基準である Context Helpfulness Score (CHS) を導入する。 我々のXCheckデータセットの実験によると、提案したACCNoteは、ベースライン上での偽造検出とノート生成性能の両方を改善し、商用ツールのGPT5-miniを超えている。 我々のデータセット、手法、メトリクスとともに、より責任のあるオンラインソーシャルネットワークに向けてコンテキスト修正ノートの自動生成を実践的に進める。

関連論文リスト

• From Static Benchmarks to Dynamic Protocol: Agent-Centric Text Anomaly Detection for Evaluating LLM Reasoning [12.024430772980502]
  本稿では,大規模言語モデル評価のためのエージェント中心ベンチマークパラダイムを提案する。 教師エージェントは、候補問題を生成し、オーケストレータエージェントは、その妥当性を厳格に検証し、敵攻撃に対するガードを行う。 生徒がその問題を正しく解いた場合、オーケストレータは教師にもっと難しい変奏曲を生成するよう促す。
  論文  参考訳（メタデータ） (2026-02-27T06:54:32Z)
• Graphically Speaking: Unmasking Abuse in Social Media with Conversation Insights [10.188075925271471]
  ソーシャルメディアの会話における虐待的言語は、先行するコメントの内容とトポロジによって特徴づけられる会話の文脈に依存する。 従来の乱用言語検出モデルは、しばしばこのコンテキストを見落とし、信頼性の低いパフォーマンス指標につながる可能性がある。 会話コンテキストを統合する最近の自然言語処理(NLP)手法は、しばしば限定的かつ単純化された表現に依存し、一貫性のない結果を報告する。 本稿では,グラフニューラルネットワーク(GNN)を用いてソーシャルメディアの会話をグラフとしてモデル化し,ノードがコメントを表現し,エッジが応答構造をキャプチャする手法を提案する。
  論文  参考訳（メタデータ） (2025-04-02T17:03:37Z)
• Towards Realistic Evaluation of Commit Message Generation by Matching Online and Offline Settings [77.20838441870151]
  オンラインメトリック - VCSに生成されたメッセージをコミットする前にユーザが導入する編集回数 - を使用して、オフライン実験用のメトリクスを選択します。 我々は,GPT-4が生成したコミットメッセージと,人間の専門家が編集したコミットメッセージからなる57対のデータセットを収集した。 以上の結果から,編集距離が最も高い相関性を示すのに対し,BLEUやMETEORなどの類似度は低い相関性を示すことがわかった。
  論文  参考訳（メタデータ） (2024-10-15T20:32:07Z)
• Annotator in the Loop: A Case Study of In-Depth Rater Engagement to Create a Bridging Benchmark Dataset [1.825224193230824]
  本稿では,アノテーションのための新規かつ協調的かつ反復的なアノテーション手法について述べる。 以上の結果から,アノテータとの連携によりアノテーションの手法が強化されることが示唆された。
  論文  参考訳（メタデータ） (2024-08-01T19:11:08Z)
• Self-Taught Recognizer: Toward Unsupervised Adaptation for Speech Foundation Models [84.8919069953397]
  Self-Taught Recognizer (STAR) は、音声認識システムのための教師なし適応フレームワークである。 その結果,STARは14のドメインで平均13.5%の単語誤り率の相対的な減少を実現していることがわかった。 STARは1時間以内のラベル付きデータを必要とする高いデータ効率を示す。
  論文  参考訳（メタデータ） (2024-05-23T04:27:11Z)
• Bring Your Own Data! Self-Supervised Evaluation for Large Language Models [52.15056231665816]
  大規模言語モデル(LLM)の自己教師型評価のためのフレームワークを提案する。 閉書知識,毒性,長期文脈依存性を測定するための自己指導型評価戦略を実証する。 自己監督評価と人監督評価との間には強い相関関係が認められた。
  論文  参考訳（メタデータ） (2023-06-23T17:59:09Z)
• TRUE: Re-evaluating Factual Consistency Evaluation [29.888885917330327]
  TRUE: 多様なタスクから既存のテキストの標準化されたコレクション上での、事実整合性メトリクスの総合的な研究である。 我々の標準化により、前述した相関よりも動作可能で解釈可能なサンプルレベルのメタ評価プロトコルが実現される。 さまざまな最先端のメトリクスと11のデータセットから、大規模NLIと質問生成と回答に基づくアプローチが、強力で相補的な結果をもたらすことが分かりました。
  論文  参考訳（メタデータ） (2022-04-11T10:14:35Z)
• Detecting Offensive Language on Social Networks: An End-to-end Detection Method based on Graph Attention Networks [7.723697303436006]
  攻撃的言語検出(CT-OLD)のためのコミュニティ構造とテキスト特徴に基づくエンドツーエンド手法を提案する。 ユーザの特徴を表現するために,コミュニティ構造にユーザ意見を追加する。ユーザ意見は,ユーザ履歴行動情報によって表現され,テキスト情報によって表現されるものよりも優れる。
  論文  参考訳（メタデータ） (2022-03-04T03:57:18Z)
• Learning an Unreferenced Metric for Online Dialogue Evaluation [53.38078951628143]
  本稿では,大規模な事前学習言語モデルを用いて発話の潜在表現を抽出する非参照自動評価指標を提案する。 提案手法は,オンライン環境でのアノテーションと高い相関性を実現すると同時に,推論時に比較に真の応答を必要としないことを示す。
  論文  参考訳（メタデータ） (2020-05-01T20:01:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。