論文の概要: X-Troll: eXplainable Detection of State-Sponsored Information Operations Agents

• arxiv url: http://arxiv.org/abs/2508.16021v2
• Date: Wed, 27 Aug 2025 02:18:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-28 12:43:57.474206
• Title: X-Troll: eXplainable Detection of State-Sponsored Information Operations Agents
• Title（参考訳）: X-Troll: eXplainable Detection of State-Sponsored Information Operations Agents
• Abstract要約: 国家主催のトロルは、オンラインの言論の整合性を脅かしている。 大規模言語モデル(LLM)は,自然言語処理(NLP)タスクにおいて高い性能を発揮する。 X-Trollは、説明可能なアダプタベースのLLMと専門家由来の言語知識を統合することでギャップを埋める新しいフレームワークである。
• 参考スコア（独自算出の注目度）: 5.8926836501547735
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: State-sponsored trolls, malicious actors who deploy sophisticated linguistic manipulation in coordinated information campaigns, posing threats to online discourse integrity. While Large Language Models (LLMs) achieve strong performance on general natural language processing (NLP) tasks, they struggle with subtle propaganda detection and operate as ``black boxes'', providing no interpretable insights into manipulation strategies. This paper introduces X-Troll, a novel framework that bridges this gap by integrating explainable adapter-based LLMs with expert-derived linguistic knowledge to detect state-sponsored trolls and provide human-readable explanations for its decisions. X-Troll incorporates appraisal theory and propaganda analysis through specialized LoRA adapters, using dynamic gating to capture campaign-specific discourse patterns in coordinated information operations. Experiments on real-world data demonstrate that our linguistically-informed approach shows strong performance compared with both general LLM baselines and existing troll detection models in accuracy while providing enhanced transparency through expert-grounded explanations that reveal the specific linguistic strategies used by state-sponsored actors. X-Troll source code is available at: https://github.com/ltian678/xtroll_source/.
• Abstract（参考訳）: 国家が支援するトロルは、コーディネートされた情報キャンペーンで洗練された言語操作を展開し、オンラインの言論の整合性を脅かす悪質な行為である。 大きな言語モデル(LLM)は、一般的な自然言語処理(NLP)タスクにおいて強力なパフォーマンスを達成する一方で、微妙なプロパガンダ検出に苦労し、「ブラックボックス」として機能し、操作戦略に関する解釈可能な洞察を与えない。 本稿では,このギャップを埋める新しいフレームワークであるX-Trollについて紹介する。 X-Trollは、特殊なLoRAアダプタによる評価理論とプロパガンダ分析を取り入れ、動的ゲーティングを用いて、協調情報操作におけるキャンペーン固有の談話パターンをキャプチャする。 実世界のデータを用いた実験により,我々の言語学的インフォームドアプローチは,一般のLLMベースラインと既存のトロル検出モデルの両方と比較して高い性能を示すとともに,州が支援するアクターが使用する特定の言語戦略を明らかにする専門家による説明を通じて透明性を高めた。 X-Trollのソースコードは、https://github.com/ltian678/xtroll_source/で入手できる。

関連論文リスト

• XAI-Grounded Explanation Generation for Speech Deepfake Detection with Training-Free Multimodal Large Language Models [48.03852608747844]
  音声深度検出(SDD)システムは、信頼できる意思決定のために信頼できる説明を必要とする。 従来の説明可能なAI(XAI)は、モデル決定と密結合した低レベルの属性信号を生成する。 大言語モデル(LLM)に基づく説明生成は、ジェネリックおよびアングラウンド記述を生成する。
  論文  参考訳（メタデータ） (2026-06-15T02:55:21Z)
• Shaping Schema via Language Representation as the Next Frontier for LLM Intelligence Expanding [88.11781604392606]
  本稿では,言語表現を実世界の地図化とモデル化に使用される言語的・象徴的構造として定義する。 我々は、高度な言語表現によるスキーマ形成が、大規模言語モデルの拡張の次のフロンティアであると主張している。
  論文  参考訳（メタデータ） (2026-05-10T02:42:29Z)
• Connecting the Dots: Training-Free Visual Grounding via Agentic Reasoning [63.109585527799005]
  GroundingAgentは、タスク固有の微調整なしで動作するビジュアルグラウンドティングフレームワークである。 広く使用されているベンチマークでは、平均ゼロショットグラウンドの精度は65.1%である。 また、強い解釈可能性を提供し、各推論ステップを透過的に照らす。
  論文  参考訳（メタデータ） (2025-11-24T03:11:08Z)
• Catalog-Native LLM: Speaking Item-ID Dialect with Less Entanglement for Recommendation [41.62404367454763]
  本稿では Item-ID + Oral- Language Mixture-of-Experts Language Model (IDIOMoE) を紹介する。 アイテムの相互作用履歴を言語空間内のネイティブな方言として扱い、協調的なシグナルを自然言語と同じ方法で理解できるようにする。 パブリックデータセットとプロプライエタリデータセットの両方で強力なレコメンデーションパフォーマンスを示している。
  論文  参考訳（メタデータ） (2025-09-30T15:30:43Z)
• Dual Information Speech Language Models for Emotional Conversations [48.094826104102204]
  音声を入力として使用する言語モデル(SLM)が,将来性のあるソリューションとして浮上している。 我々は、絡み合った情報と不適切なトレーニング戦略を重要な課題として挙げる。 提案手法はパラ言語情報や言語情報を解き、SLMが構造化表現を通して音声を解釈することを可能にする。
  論文  参考訳（メタデータ） (2025-08-11T15:33:44Z)
• From Fragments to Facts: A Curriculum-Driven DPO Approach for Generating Hindi News Veracity Explanations [27.17408568972408]
  急激な誤報の時代には、特にヒンディー語のような表現不足の言語では、信頼できるニュース説明を生成することが不可欠である。 本稿では,DPO(Direct Preference Optimization)とカリキュラム学習を統合した新しいフレームワークを提案する。 LLM (Mistral, Llama, Gemma) と PLM (mBART, mT5) による実験は、コヒーレントで文脈的に関係のある説明を生成する上で、フレームワークの有効性を確認している。
  論文  参考訳（メタデータ） (2025-07-07T16:34:28Z)
• Language Surgery in Multilingual Large Language Models [39.66404344691661]
  大規模言語モデル(LLM)はタスクや言語にまたがる顕著な一般化機能を示している。 本稿では, LLMにおける自然に出現する表現アライメント, 特に中層における表現アライメントについて検討する。 Inference-Time Language Control (ITLC) を提案する。
  論文  参考訳（メタデータ） (2025-06-14T11:09:50Z)
• DeSTA2: Developing Instruction-Following Speech Language Model Without Speech Instruction-Tuning Data [84.01401439030265]
  最近のエンドツーエンド言語モデル(SLM)は、大規模言語モデル(LLM)の機能に拡張されている。 音声とテキストのペアデータを生成するための,シンプルで効果的な自動処理手法を提案する。 本モデルでは,音声教育データを必要としない音声関連タスクの汎用性を示す。
  論文  参考訳（メタデータ） (2024-09-30T07:01:21Z)
• Dynamic Analysis and Adaptive Discriminator for Fake News Detection [59.41431561403343]
  偽ニュース検出のための動的解析・適応識別器(DAAD)手法を提案する。 知識に基づく手法では,モンテカルロ木探索アルゴリズムを導入し,大規模言語モデルの自己表現能力を活用する。 意味に基づく手法では、偽ニュース生成のメカニズムを明らかにするために、典型的偽造パターンを4つ定義する。
  論文  参考訳（メタデータ） (2024-08-20T14:13:54Z)
• Get my drift? Catching LLM Task Drift with Activation Deltas [55.75645403965326]
  タスクドリフトは攻撃者がデータを流出させたり、LLMの出力に影響を与えたりすることを可能にする。 そこで, 簡易線形分類器は, 分布外テストセット上で, ほぼ完全なLOC AUCでドリフトを検出することができることを示す。 このアプローチは、プロンプトインジェクション、ジェイルブレイク、悪意のある指示など、目に見えないタスクドメインに対して驚くほどうまく一般化する。
  論文  参考訳（メタデータ） (2024-06-02T16:53:21Z)
• A Causal Explainable Guardrails for Large Language Models [29.441292837667415]
  大規模言語モデル(LLM)は自然言語処理において顕著な性能を示すが、その出力は望ましくない属性やバイアスを示すことができる。 LLMGuardrailは、因果解析と逆学習を組み込んだ新しいフレームワークで、偏りのない操舵表現を得る。
  論文  参考訳（メタデータ） (2024-05-07T09:55:05Z)
• LLMCheckup: Conversational Examination of Large Language Models via Interpretability Tools and Self-Explanations [26.340786701393768]
  対話の形で説明を提供する解釈可能性ツールは,ユーザの理解を高める上で有効であることを示す。 しかしながら、対話ベースの説明のための現在のソリューションは、しばしば外部ツールやモジュールを必要とし、設計されていないタスクに簡単に転送できない。 ユーザがその振る舞いについて,最先端の大規模言語モデル(LLM)とチャットできる,アクセスしやすいツールを提案する。
  論文  参考訳（メタデータ） (2024-01-23T09:11:07Z)
• Fighting Fire with Fire: Adversarial Prompting to Generate a Misinformation Detection Dataset [10.860133543817659]
  誤報を識別するために, LLM を用いた銀標準地下構造データセットの作成手法を提案する。 具体的には、信頼できるニュース記事を考えると、我々の提案するアプローチは、LLMが元の記事の要約されたバージョンを自動的に生成するように促すことである。 本データセットの有用性を検討するために,誤情報検出のタスクに対して,教師付きモデルの範囲をトレーニングする一連の実験を行った。
  論文  参考訳（メタデータ） (2024-01-09T10:38:13Z)
• Let Models Speak Ciphers: Multiagent Debate through Embeddings [84.20336971784495]
  この問題を解決するためにCIPHER(Communicative Inter-Model Protocol Through Embedding Representation)を導入する。 自然言語から逸脱することで、CIPHERはモデルの重みを変更することなく、より広い範囲の情報を符号化する利点を提供する。 このことは、LLM間の通信における代替の"言語"としての埋め込みの優越性と堅牢性を示している。
  論文  参考訳（メタデータ） (2023-10-10T03:06:38Z)
• Harnessing Explanations: LLM-to-LM Interpreter for Enhanced Text-Attributed Graph Representation Learning [51.90524745663737]
  重要なイノベーションは、機能として説明を使用することで、下流タスクにおけるGNNのパフォーマンス向上に利用できます。 提案手法は、確立されたTAGデータセットの最先端結果を実現する。 本手法はトレーニングを著しく高速化し,ogbn-arxivのベースラインに最も近い2.88倍の改善を実現した。
  論文  参考訳（メタデータ） (2023-05-31T03:18:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。