論文の概要: Risks & Benefits of LLMs & GenAI for Platform Integrity, Healthcare Diagnostics, Financial Trust and Compliance, Cybersecurity, Privacy & AI Safety: A Comprehensive Survey, Roadmap & Implementation Blueprint

• arxiv url: http://arxiv.org/abs/2506.12088v2
• Date: Sat, 26 Jul 2025 23:50:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-29 14:15:46.68862
• Title: Risks & Benefits of LLMs & GenAI for Platform Integrity, Healthcare Diagnostics, Financial Trust and Compliance, Cybersecurity, Privacy & AI Safety: A Comprehensive Survey, Roadmap & Implementation Blueprint
• Title（参考訳）: LLMs & GenAIのプラットフォーム統合、医療診断、金融信頼とコンプライアンス、サイバーセキュリティ、プライバシとAI安全性に対するリスクとメリット: 包括的調査、ロードマップと実装の青写真
• Authors: Kiarash Ahi,
• Abstract要約: 大規模言語モデル(LLM)と生成AI(GenAI)システムは、デジタルプラットフォームとアプリエコシステムを再構築している。 金融業界では、合成ID詐欺やAI生成詐欺といったLLM主導の脅威が加速している。 AIの脅威に対処するため、Google Play、Apple App Store、GitHub Copilot、TikTok、Facebook、AmazonなどのプラットフォームはLLMベースの防御をデプロイする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) and generative AI (GenAI) systems, such as ChatGPT, Claude, Gemini, LLaMA, and Copilot (by OpenAI, Anthropic, Google, Meta, and Microsoft, respectively), are reshaping digital platforms and app ecosystems while introducing critical challenges in cybersecurity, privacy, and platform integrity. Our analysis reveals alarming trends: LLM-assisted malware is projected to rise from 2% (2021) to 50% (2025); AI-generated Google reviews grew nearly tenfold (1.2% in 2021 to 12.21% in 2023, expected to reach 30% by 2025); AI scam reports surged 456%; misinformation sites increased over 1500%; and deepfake attacks are projected to rise over 900% in 2025. In finance, LLM-driven threats like synthetic identity fraud and AI-generated scams are accelerating. Platforms such as JPMorgan Chase, Stripe, and Plaid deploy LLMs for fraud detection, regulation parsing, and KYC/AML automation, reducing fraud loss by up to 21% and accelerating onboarding by 40-60%. LLM-facilitated code development has driven mobile app submissions from 1.8 million (2020) to 3.0 million (2024), projected to reach 3.6 million (2025). To address AI threats, platforms like Google Play, Apple App Store, GitHub Copilot, TikTok, Facebook, and Amazon deploy LLM-based defenses, highlighting their dual nature as both threat sources and mitigation tools. In clinical diagnostics, LLMs raise concerns about accuracy, bias, and safety, necessitating strong governance. Drawing on 445 references, this paper surveys LLM/GenAI and proposes a strategic roadmap and operational blueprint integrating policy auditing (such as CCPA and GDPR compliance), fraud detection, and demonstrates an advanced LLM-DA stack with modular components, multi-LLM routing, agentic memory, and governance layers. We provide actionable insights, best practices, and real-world case studies for scalable trust and responsible innovation.
• Abstract（参考訳）: 大規模言語モデル(LLM)と生成AI(GenAI)システム(ChatGPT、Claude、Gemini、LLaMA、Copilot(それぞれOpenAI、Anthropic、Google、Meta、Microsoft)は、サイバーセキュリティ、プライバシ、プラットフォームの整合性において重要な課題を導入しながら、デジタルプラットフォームとアプリのエコシステムを再構築している。 LLM支援マルウェアは2%(2021年)から50%(2025年)に増加し、AI生成のGoogleレビューは10倍近く成長し(2021年1.2%から2023年12.21%)、AI詐欺の報告は456%、誤情報サイトは1500%以上増加し、ディープフェイク攻撃は2025年には900%以上増加すると予測されている。 金融業界では、合成ID詐欺やAI生成詐欺といったLLM主導の脅威が加速している。 JPMorgan Chase、Stripe、Plaidといったプラットフォームは、不正検出、規制解析、KYC/AML自動化のためのLLMをデプロイし、不正損失を最大21%削減し、オンボーディングを40～60%加速する。 LLMに精通したコード開発は、モバイルアプリの申請額を1.8万(2020年)から3.0万(2024年)まで押し上げ、その額は360万(2025年)に達すると予測されている。 AIの脅威に対処するため、Google Play、Apple App Store、GitHub Copilot、TikTok、Facebook、AmazonといったプラットフォームはLSMベースの防御をデプロイし、脅威ソースと緩和ツールの両方としての彼らの二重性を強調している。 臨床診断では、LSMは正確性、バイアス、安全性に関する懸念を提起し、強力なガバナンスを必要としている。 本稿では,LCM/GenAIの445項目を参考に,LCM/GenAIの戦略ロードマップと運用青写真の統合,不正検出,モジュールコンポーネント,マルチLLMルーティング,エージェントメモリ,ガバナンスレイヤを備えた高度なLCM-DAスタックの実証を行う。 私たちは、スケーラブルな信頼と責任あるイノベーションのために、実行可能な洞察、ベストプラクティス、実世界のケーススタディを提供します。

関連論文リスト

• Security Challenges in AI Agent Deployment: Insights from a Large Scale Public Competition [101.86739402748995]
  44の現実的なデプロイメントシナリオを対象とした,22のフロンティアAIエージェントを対象にしています。 Agent Red Teamingベンチマークを構築し、19の最先端モデルで評価します。 私たちの発見は、今日のAIエージェントの重要かつ永続的な脆弱性を浮き彫りにしたものです。
  論文  参考訳（メタデータ） (2025-07-28T05:13:04Z)
• Automated Safety Evaluations Across 20 Large Language Models: The Aymara LLM Risk and Responsibility Matrix [0.0]
  Aymara AIは、カスタマイズされたポリシーに基づく安全評価の生成と管理のためのプログラムプラットフォームである。 自然言語の安全ポリシーを敵のプロンプトに変換し、人間の判断に対して検証されたAIベースのレーダを使用してモデル応答をスコアする。
  論文  参考訳（メタデータ） (2025-07-19T18:49:16Z)
• Pushing the Limits of Safety: A Technical Report on the ATLAS Challenge 2025 [167.94680155673046]
  本稿では,Adversarial Testing & Large-model Alignment Safety Grand Challenge (ATLAS) 2025の成果を報告する。 このコンペティションには、ホワイトボックスとブラックボックス評価という2つのフェーズで、敵対的な画像テキスト攻撃を通じてMLLM脆弱性をテストする86のチームが含まれていた。 この課題はMLLMの安全性評価のための新しいベンチマークを確立し、より安全なAIシステムを改善するための基盤を配置する。
  論文  参考訳（メタデータ） (2025-06-14T10:03:17Z)
• Security Concerns for Large Language Models: A Survey [3.175227858236288]
  大きな言語モデル(LLM)は自然言語処理に革命をもたらしたが、その能力は新たなセキュリティ脆弱性も導入している。 我々は,LSMに関する新たなセキュリティ上の懸念の包括的概要,迅速な注射と脱獄への脅威の分類,入力の摂動やデータ中毒などの敵攻撃,および自律型LSMエージェントに固有の厄介なリスクについて述べる。 LLMが安全で有益であることを保証するために、堅牢で多層的なセキュリティ戦略を推進していくことの重要性を強調した。
  論文  参考訳（メタデータ） (2025-05-24T22:22:43Z)
• The Hidden Dangers of Outdated Software: A Cyber Security Perspective [0.0]
  時代遅れのソフトウェアは、2025年のサイバーセキュリティ環境において、強力で未承認の脅威のままだ。 この記事では、ソフトウェア脆弱性の性質、パッチに対するユーザ抵抗の根本原因、問題を複雑にする組織的障壁について、詳細な分析を行っている。 自動化と認識キャンペーンを含む実行可能なソリューションは、これらの欠点に対処することを提案している。
  論文  参考訳（メタデータ） (2025-05-20T04:36:29Z)
• Generative AI for Autonomous Driving: Frontiers and Opportunities [145.6465312554513]
  この調査は、自律運転スタックにおけるGenAIの役割の包括的合成を提供する。 まず、VAE、GAN、拡散モデル、および大規模言語モデルを含む、現代の生成モデリングの原則とトレードオフを蒸留することから始めます。 我々は、合成データ一般化、エンドツーエンド駆動戦略、高忠実なデジタルツインシステム、スマートトランスポートネットワーク、具体化されたAIへのクロスドメイン転送など、実用的な応用を分類する。
  論文  参考訳（メタデータ） (2025-05-13T17:59:20Z)
• Which Agent Causes Task Failures and When? On Automated Failure Attribution of LLM Multi-Agent Systems [50.29939179830491]
  LLMマルチエージェントシステムにおける障害帰属は、まだ調査が過小評価されており、労働集約的である。 本稿では,3つの自動故障帰属手法の開発と評価を行い,その欠点と欠点を要約する。 最良の方法は、障害に応答するエージェントを特定する際に53.5%の精度を達成するが、故障の特定には14.2%しか役に立たない。
  論文  参考訳（メタデータ） (2025-04-30T23:09:44Z)
• CAI: An Open, Bug Bounty-Ready Cybersecurity AI [0.3889280708089931]
  Cybersecurity AI(CAI)は、特殊なAIエージェントを通じて高度なセキュリティテストを民主化する、オープンソースのフレームワークである。 CAI は CTF ベンチマークで常に最先端の結果を上回っていることを示す。 CAIはスペインで30位、Hack The Boxで500位に達した。
  論文  参考訳（メタデータ） (2025-04-08T13:22:09Z)
• Deep Learning Approaches for Anti-Money Laundering on Mobile Transactions: Review, Framework, and Directions [51.43521977132062]
  マネーロンダリング(英: Money laundering)は、不正資金の起源を隠蔽する金融犯罪である。 モバイル決済プラットフォームとスマートIoTデバイスの普及は、マネーロンダリング対策をかなり複雑にしている。 本稿では,AMLにおけるディープラーニングソリューションとその利用に関する課題について,包括的レビューを行う。
  論文  参考訳（メタデータ） (2025-03-13T05:19:44Z)
• Global Challenge for Safe and Secure LLMs Track 1 [57.08717321907755]
  LLM(Global Challenge for Safe and Secure Large Language Models)は、AI Singapore(AISG)とCyberSG R&D Programme Office(CRPO)が主催する先駆的イニシアチブである。 本稿では,AI Singapore(AISG)とCyberSG R&D Programme Office(CRPO)が組織した先駆的イニシアチブであるLLM(Global Challenge for Safe and Secure Large Language Models)を紹介する。
  論文  参考訳（メタデータ） (2024-11-21T08:20:31Z)
• A Survey on Adversarial Machine Learning for Code Data: Realistic Threats, Countermeasures, and Interpretations [21.855757118482995]
  コード言語モデル(CLM)は、ソースコードの理解と生成において大きな進歩を遂げました。 現実的なシナリオでは、CLMは潜在的に悪意のある敵に晒され、CLMシステムの機密性、完全性、可用性にリスクをもたらす。 これらのリスクにもかかわらず、非常に敵対的な環境におけるCLMのセキュリティ脆弱性の包括的分析は欠如している。
  論文  参考訳（メタデータ） (2024-11-12T07:16:20Z)
• AI Cyber Risk Benchmark: Automated Exploitation Capabilities [0.24578723416255752]
  自動ソフトウェアエクスプロイトにおけるAIモデルの能力とリスクを評価するための新しいベンチマークを導入する。 OpenAIのo1-previewやo1-mini、AnthropicのClaude-3.5-sonnet-20241022、Claude-3.5-sonnet-20240620など、主要な言語モデルの評価を行った。
  論文  参考訳（メタデータ） (2024-10-29T10:57:11Z)
• Iterative Self-Tuning LLMs for Enhanced Jailbreaking Capabilities [63.603861880022954]
  本稿では,対戦型LDMをジェイルブレイク能力に富んだ反復的自己調整プロセスであるADV-LLMを紹介する。 我々のフレームワークは,様々なオープンソース LLM 上で ASR を100% 近く達成しながら,逆接接尾辞を生成する計算コストを大幅に削減する。 Llama3のみに最適化されているにもかかわらず、GPT-3.5では99%のASR、GPT-4では49%のASRを達成している。
  論文  参考訳（メタデータ） (2024-10-24T06:36:12Z)
• Generative AI in Cybersecurity: A Comprehensive Review of LLM Applications and Vulnerabilities [1.0974825157329373]
  本稿では,ジェネレーティブAIとLarge Language Models(LLMs)によるサイバーセキュリティの将来を概観する。 ハードウェア設計のセキュリティ、侵入検知、ソフトウェアエンジニアリング、設計検証、サイバー脅威インテリジェンス、マルウェア検出、フィッシング検出など、さまざまな領域にわたるLCMアプリケーションを探索する。 GPT-4, GPT-3.5, Mixtral-8x7B, BERT, Falcon2, LLaMA などのモデルの発展に焦点を当て, LLM の進化とその現状について概説する。
  論文  参考訳（メタデータ） (2024-05-21T13:02:27Z)
• On the Vulnerability of LLM/VLM-Controlled Robotics [54.57914943017522]
  大規模言語モデル(LLM)と視覚言語モデル(VLM)を統合するロボットシステムの脆弱性を,入力モダリティの感度によって強調する。 LLM/VLM制御型2つのロボットシステムにおいて,単純な入力摂動がタスク実行の成功率を22.2%,14.6%減少させることを示す。
  論文  参考訳（メタデータ） (2024-02-15T22:01:45Z)
• CyberMetric: A Benchmark Dataset based on Retrieval-Augmented Generation for Evaluating LLMs in Cybersecurity Knowledge [2.0893807243791636]
  大規模言語モデル(LLM)は、ソフトウェア開発からサイバー脅威インテリジェンスまで、さまざまな領域でますます利用されている。 サイバーセキュリティにおけるLLMの一般的な知識を正確にテストするためには、研究コミュニティは多様で正確で最新のデータセットが必要である。 我々はCyberMetric-80,CyberMetric-500,CyberMetric-2000,CyberMetric-10000を紹介する。
  論文  参考訳（メタデータ） (2024-02-12T14:53:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。