論文の概要: Generative AI-Enabled Refund Fraud in Chinese E-Commerce: Investigation on Merchants and Platform Workers
- arxiv url: http://arxiv.org/abs/2606.03215v1
- Date: Tue, 02 Jun 2026 06:20:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 22:00:04.802585
- Title: Generative AI-Enabled Refund Fraud in Chinese E-Commerce: Investigation on Merchants and Platform Workers
- Title（参考訳）: 中国の電子商取引におけるAIによる創発的返金詐欺:マーチャントとプラットフォームワーカーの調査
- Authors: Shuning Zhang, Eve He, Xiao Zhan, Shijing He, Robert Xiao, Xin Yi, Hewu Li,
- Abstract要約: 電子商取引紛争解決は典型的には、デジタル証拠が物理的現実を真に反映しているという仮定に依存している。
生成AI(GenAI)はこの脅威モデルを無効化し、攻撃者は無視可能なコストで製品欠陥の超現実的な証拠を作成できる。
我々は、取引・紛争・物流・通信の4つのGenAI対応脅威ベクトルの分類を概説する。
われわれはこれらの防衛策の採用を妨げるいくつかの課題を見出した。
- 参考スコア（独自算出の注目度）: 22.29115303894976
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: E-commerce dispute resolution typically relies on the security assumption that digital evidence truthfully reflects physical reality. Generative AI (GenAI) invalidates this threat model, enabling attackers to fabricate hyper-realistic evidence of product defects at negligible cost. Through semi-structured interviews with merchants (N=17) and platform workers (N=13) in the Chinese e-commerce market, we characterize this shift toward GenAI-enabled scalable fabrication. We outline a taxonomy of four GenAI-enabled threat vectors across the transaction, dispute, logistics and communication phases, highlighting how attackers exploit GenAI to synthesize physically plausible product defects at scale. To mitigate these threats, platforms and merchants are adapting verification strategies, relying on AI tools for automated screening and adversarial interrogation (e.g., requesting multi-angle videos) to increase attack complexity. However, we find several challenges that hinder the adoption of these defenses, including implementation hurdles like structural platform constraints and fundamental limitations regarding the technical sophistication of GenAI. We conclude by outlining design implications for privacy-preserving cross-platform fraud databases, and traceability mechanisms such as embedding verifiable material anchors into the product.
- Abstract（参考訳）: 電子商取引紛争解決は典型的には、デジタル証拠が物理的現実を真に反映しているというセキュリティの前提に依存している。
生成AI(GenAI)はこの脅威モデルを無効化し、攻撃者は無視可能なコストで製品欠陥の超現実的な証拠を作成できる。
中国のeコマース市場における商人(N=17)とプラットフォームワーカー(N=13)との半構造化インタビューを通じて、GenAI対応のスケーラブルな製造への移行を特徴付ける。
我々は、取引、紛争、物流、通信の各段階にまたがる4つのGenAI対応の脅威ベクトルの分類を概説し、攻撃者がGenAIを利用して物理的に検証可能な製品欠陥を大規模に合成する方法を強調した。
これらの脅威を軽減するため、プラットフォームと商店は、自動スクリーニングと敵の尋問(マルチアングルビデオの要求など)のためのAIツールを頼りに、検証戦略を適用している。
しかし、構造的プラットフォーム制約やGenAIの技術的洗練に関する基本的な制限といった実装上のハードルなど、これらの防衛の導入を妨げるいくつかの課題がある。
本稿では,プライバシ保護型クロスプラットフォーム不正データベースの設計と,検証可能な材料アンカーを製品に組み込むようなトレーサビリティ機構について概説する。
関連論文リスト
- Generative AI for Biosciences: Emerging Threats and Roadmap to Biosecurity [56.331312963880215]
生物科学における生成人工知能(GenAI)は、バイオテクノロジー、医学、合成生物学を変革している。
この概要は、バイオサイエンスにおけるGenAIの現状と、脱獄攻撃やプライバシーリスクから、自律的なAIエージェントによって引き起こされるデュアルユースな課題まで、出現する脅威ベクターの概要を概説する。
我々は、厳格なデータフィルタリング、開発中の倫理原則との整合性、有害な要求をブロックするためのリアルタイム監視など、GenAIの安全性に対する多層的なアプローチを提唱する。
論文 参考訳（メタデータ） (2025-10-13T00:24:41Z) - A Systematic Survey of Model Extraction Attacks and Defenses: State-of-the-Art and Perspectives [65.3369988566853]
近年の研究では、敵が対象モデルの機能を複製できることが示されている。
モデル抽出攻撃は知的財産権、プライバシー、システムのセキュリティに脅威をもたらす。
本稿では,攻撃機構,防衛手法,計算環境に応じてMEAを分類する新しい分類法を提案する。
論文 参考訳（メタデータ） (2025-08-20T19:49:59Z) - Computational Safety for Generative AI: A Signal Processing Perspective [65.268245109828]
計算安全性は、GenAIにおける安全性の定量的評価、定式化、研究を可能にする数学的枠組みである。
ジェイルブレイクによる悪意のあるプロンプトを検出するために, 感度解析と損失景観解析がいかに有効かを示す。
我々は、AIの安全性における信号処理の鍵となる研究課題、機会、そして重要な役割について論じる。
論文 参考訳（メタデータ） (2025-02-18T02:26:50Z) - Security of and by Generative AI platforms [0.0]
このホワイトペーパーは、生成AI(genAI)プラットフォームを確保し、サイバーセキュリティにgenAIを活用することの2つの重要性を強調している。
genAI技術の普及に伴い、その誤用はデータ漏洩、モデル改ざん、悪意のあるコンテンツ生成など、重大なリスクをもたらす。
ホワイトペーパーでは、genAIシステムに関する堅牢なセキュリティフレームワークの戦略を探求するとともに、高度なサイバー脅威を予測、検出、緩和する組織にgenAIがどのように力を与えるかを説明している。
論文 参考訳（メタデータ） (2024-10-15T15:27:05Z) - AI versus AI in Financial Crimes and Detection: GenAI Crime Waves to Co-Evolutionary AI [5.93311361936097]
GenAIは金融犯罪や詐欺に変革をもたらす。
犯罪パターンが複雑化し、パーソナライズされ、解明されるにつれて、効果的な防衛AI戦略の展開は不可欠になる。
本稿では,AI/MLによる金融犯罪・検知システムの最新動向について検討する。
論文 参考訳（メタデータ） (2024-09-30T15:41:41Z) - Artificial Intelligence as the New Hacker: Developing Agents for Offensive Security [0.0]
本稿では,人工知能(AI)の攻撃的サイバーセキュリティへの統合について検討する。
サイバー攻撃をシミュレートし実行するために設計された、自律的なAIエージェントであるReaperAIを開発している。
ReaperAIは、セキュリティ脆弱性を自律的に識別し、悪用し、分析する可能性を実証する。
論文 参考訳（メタデータ） (2024-05-09T18:15:12Z) - Review of Generative AI Methods in Cybersecurity [0.6990493129893112]
本稿では、Generative AI(GenAI)の現状について概観する。
暴行、脱獄、即時注射と逆心理学の応用をカバーしている。
また、サイバー犯罪におけるGenAIのさまざまな応用として、自動ハッキング、フィッシングメール、ソーシャルエンジニアリング、リバース暗号、攻撃ペイロードの作成、マルウェアの作成などを提供している。
論文 参考訳（メタデータ） (2024-03-13T17:05:05Z) - BAGM: A Backdoor Attack for Manipulating Text-to-Image Generative Models [54.19289900203071]
テキストから画像への生成人工知能の普及は、大衆の関心を集めている。
ユーザを微妙に操作するコンテンツを生成するために,この技術を攻撃できることを実証する。
テキストから画像生成モデル(BAGM)に対するバックドアアタックを提案する。
我々の攻撃は、生成過程の3段階にわたる3つの一般的なテキスト・画像生成モデルをターゲットにした最初の攻撃である。
論文 参考訳（メタデータ） (2023-07-31T08:34:24Z) - Impacts and Risk of Generative AI Technology on Cyber Defense [0.0]
我々は,サイバー攻撃のライフサイクルを理解するために,CKC(Cyber Kill Chain)を活用することを提案する。
本稿では,GenAI手法の攻撃的利用によるリスク領域の包括的分析を行うことを目的とする。
我々はまた、脅威俳優が採用する戦略を分析し、サイバー防衛の意義を強調した。
論文 参考訳（メタデータ） (2023-06-22T16:51:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。