論文の概要: Human-Centred Risk Mitigation for AI-Mediated Information Manipulation: A SOCMINT Framework Based on Information Manipulation Sets

• arxiv url: http://arxiv.org/abs/2606.09754v1
• Date: Mon, 08 Jun 2026 17:12:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:07.585587
• Title: Human-Centred Risk Mitigation for AI-Mediated Information Manipulation: A SOCMINT Framework Based on Information Manipulation Sets
• Title（参考訳）: AIを用いた情報操作のための人間中心型リスク軽減:情報操作セットに基づくSOCMINTフレームワーク
• Authors: Antonio Scala,
• Abstract要約: 本稿では,情報操作セット(IMS)に基づくSOCMINTフレームワークを提案する。 VIGINUM/EEASの対FIMI分析におけるIMSの使用に基づいて、このフレームワークは操作を物語、アカウント、インフラ、時間的パターン、クロスプラットフォーム移行、合成増幅、認知的ターゲティングを含む一貫性のあるプロセスとして扱う。 また、意思決定品質、信頼性校正、緩和比例性を評価するためのテーブルトップ評価プロトコルを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI-mediated information manipulation increasingly takes the form of social cyber attacks that target trust, attention, credibility, reputation, and decision-making rather than only technical infrastructures or isolated false contents. Existing defensive approaches often oscillate between incident-level analysis, which fragments campaigns into weak signals, and attribution-first analysis, which may delay mitigation until responsibility is established. This paper proposes a SOCMINT framework based on Information Manipulation Sets (IMS) as an intermediate operational unit between individual incidents and strategic attribution. Building on the VIGINUM/EEAS use of IMS in counter-FIMI analysis, the framework treats manipulation as a coherent process involving narratives, accounts, infrastructures, temporal patterns, cross-platform migration, synthetic amplification, and cognitive targeting. The proposed pipeline moves from signal detection and diagnostic triage to IMS hypothesis construction, confidence/severity assessment, mitigation selection, and iterative update. A compact scenario illustrates how IMS-based analysis captures what content-level and attribution-first approaches miss. The paper also proposes a tabletop evaluation protocol to assess decision quality, confidence calibration, and mitigation proportionality. The main implication is that human-centred risk mitigation requires not only better detection, but also structured reasoning under uncertainty, auditable decision-making, and safeguards against over-securitising legitimate dissent.
• Abstract（参考訳）: AIによる情報操作は、技術的インフラや孤立した偽コンテンツだけでなく、信頼、注意、信頼性、評判、意思決定をターゲットとする社会サイバー攻撃の形式をますます取り入れている。 既存の防御的アプローチはしばしば、弱い信号にフラグメントするインシデントレベル分析と、責任が確立されるまで緩和を遅らせる帰属ファースト分析の間に振動する。 本稿では、個別のインシデントと戦略的帰属の中間的な操作単位として、情報操作セット(IMS)に基づくSOCMINTフレームワークを提案する。 VIGINUM/EEASの対FIMI分析におけるIMSの使用に基づいて、このフレームワークは操作を物語、アカウント、インフラ、時間的パターン、クロスプラットフォーム移行、合成増幅、認知的ターゲティングを含む一貫性のあるプロセスとして扱う。 提案するパイプラインは,信号検出と診断トリアージからIMS仮説構築,信頼度評価,緩和選択,反復更新へと移行する。 コンパクトなシナリオは、IMSベースの分析が、コンテンツレベルと属性ファーストのアプローチが見逃すものをキャプチャする方法を示しています。 また、意思決定品質、信頼性校正、緩和比例性を評価するためのテーブルトップ評価プロトコルを提案する。 主な意味は、人間中心のリスク軽減は、より良い検出だけでなく、不確実性、監査可能な意思決定、そして過度に重大な正反対に対する保護の下で構造化された推論を必要とすることである。

関連論文リスト

• Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
  エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。 この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。 各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
  論文  参考訳（メタデータ） (2026-05-17T10:26:37Z)
• Beyond Benchmark Islands: Toward Representative Trustworthiness Evaluation for Agentic AI [45.21562889170875]
  シナリオ多様体に対するエージェントの信頼性を特徴付けるシステム評価パラダイムを提案する。 このフレームワークは,静的認知と政策分析,対話型サンドボックスシミュレーション,社会倫理アライメントアライメントアセスメント,および(iv)分散対応の代表サンプリングエンジンの4つの補完的コンポーネントを統合している。
  論文  参考訳（メタデータ） (2026-03-16T08:51:33Z)
• An Integrated Failure and Threat Mode and Effect Analysis (FTMEA) Framework with Quantified Cross-Domain Correlation Factors for Automotive Semiconductors [0.7974430263940756]
  本稿では,FuSaとサイバーセキュリティを体系的に分析する統合的障害・脅威モード・効果分析フレームワークを提案する。 この枠組みの基盤は厳密に定義されたクロスドメイン相関因子(CDCF)の導入であり、安全関連の障害とサイバーセキュリティの脅威の間の相互依存性と相互影響を定量化する。 本稿では,これらの相関因子を体系的に統合し,両領域にまたがるリスクのより正確かつ透過的な優先順位付けを可能にする改良型リスク優先数(RPN)計算を提案する。
  論文  参考訳（メタデータ） (2026-03-06T14:03:52Z)
• Gaming the Judge: Unfaithful Chain-of-Thought Can Undermine Agent Evaluation [76.5533899503582]
  大規模言語モデル(LLM)は、エージェントのパフォーマンスを評価するために、ますます裁判官として使われている。 このパラダイムは、エージェントのチェーン・オブ・シークレット(CoT)推論が内部の推論と環境状態の両方を忠実に反映していることを暗黙的に仮定している。 我々は、操作された推論だけで、様々なWebタスクにまたがる800の軌跡に対して、最先端のVLM審査員の偽陽性率を最大90%向上させることができることを実証した。
  論文  参考訳（メタデータ） (2026-01-21T06:07:43Z)
• Let's Measure Information Step-by-Step: LLM-Based Evaluation Beyond Vibes [14.371259136517802]
  戦略ゲームと情報損失の関連性を利用して, 根拠のないAIシステムの堅牢性について検討する。 我々は,情報理論のメカニズムが対向境界に抵抗するかを解析し,有限サンプル操作を拡張して,有界f-分岐系が攻撃下で維持されることを示す。
  論文  参考訳（メタデータ） (2025-08-07T15:11:43Z)
• METER: Multi-modal Evidence-based Thinking and Explainable Reasoning -- Algorithm and Benchmark [48.78602579128459]
  本稿では,画像,ビデオ,音声,映像コンテンツにまたがる偽造検出のための統合ベンチマークMETERを紹介する。 我々のデータセットは4つのトラックから構成されており、それぞれのトラックは実際のvsフェイク分類だけでなく、エビデンスチェーンに基づく説明も必要である。
  論文  参考訳（メタデータ） (2025-07-22T03:42:51Z)
• Con-ReCall: Detecting Pre-training Data in LLMs via Contrastive Decoding [118.75567341513897]
  既存のメソッドは通常、ターゲットテキストを分離して分析するか、非メンバーコンテキストでのみ分析する。 Con-ReCallは、メンバと非メンバのコンテキストによって誘導される非対称な分布シフトを利用する新しいアプローチである。
  論文  参考訳（メタデータ） (2024-09-05T09:10:38Z)
• Threat-Informed Cyber Resilience Index: A Probabilistic Quantitative Approach to Measure Defence Effectiveness Against Cyber Attacks [0.36832029288386137]
  本稿では、サイバー攻撃(キャンプ)に対する組織の防御効果を定量化するための、脅威に富んだ確率的アプローチであるサイバー抵抗指数(CRI)を紹介する。 Threat-Intelligence Based Security Assessment (TIBSA) の方法論に基づいて、複雑な脅威のインテリジェンスを、ストックマーケットインデックスに似た、実行可能な統一されたメトリクスに変換する数学的モデルを提示します。
  論文  参考訳（メタデータ） (2024-06-27T17:51:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。