論文の概要: Comparative Insights on Adversarial Machine Learning from Industry and Academia: A User-Study Approach
- arxiv url: http://arxiv.org/abs/2602.04753v1
- Date: Wed, 04 Feb 2026 16:51:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-05 19:45:11.641175
- Title: Comparative Insights on Adversarial Machine Learning from Industry and Academia: A User-Study Approach
- Title（参考訳）: 産学・産学連携型機械学習の比較研究 : ユーザスタディによるアプローチ
- Authors: Vishruti Kakkad, Paul Chung, Hanan Hibshi, Maverick Woo,
- Abstract要約: 本稿では,産業専門家と学生の様々な機械学習の脆弱性とその教育戦略について考察する。
最初の調査では、専門家によるオンライン調査を行い、サイバーセキュリティ教育とAMLの脅威に対する懸念との間に顕著な相関が示された。
第2の研究では、自然言語処理と生成AIの概念を実装した2つのCTF課題を開発し、トレーニングデータセットに対する有害な攻撃を実証した。
これらの課題の有効性は、カーネギーメロン大学の学部生や大学院生を対象に調査を行い、CTFベースのアプローチがAMLの脅威に効果的に関与することを発見した。
- 参考スコア（独自算出の注目度）: 1.0044628029182177
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: An exponential growth of Machine Learning and its Generative AI applications brings with it significant security challenges, often referred to as Adversarial Machine Learning (AML). In this paper, we conducted two comprehensive studies to explore the perspectives of industry professionals and students on different AML vulnerabilities and their educational strategies. In our first study, we conducted an online survey with professionals revealing a notable correlation between cybersecurity education and concern for AML threats. For our second study, we developed two CTF challenges that implement Natural Language Processing and Generative AI concepts and demonstrate a poisoning attack on the training data set. The effectiveness of these challenges was evaluated by surveying undergraduate and graduate students at Carnegie Mellon University, finding that a CTF-based approach effectively engages interest in AML threats. Based on the responses of the participants in our research, we provide detailed recommendations emphasizing the critical need for integrated security education within the ML curriculum.
- Abstract（参考訳）: 機械学習とその生成AIアプリケーションの指数関数的な成長は、しばしばAdversarial Machine Learning (AML)と呼ばれる、重大なセキュリティ上の課題をもたらす。
本稿では,AMLの脆弱性と教育戦略について,産業界の専門家と学生の視点を探るため,総合的な2つの研究を行った。
最初の調査では、専門家によるオンライン調査を行い、サイバーセキュリティ教育とAMLの脅威に対する懸念との間に顕著な相関が示された。
第2の研究では、自然言語処理と生成AIの概念を実装した2つのCTF課題を開発し、トレーニングデータセットに対する有害な攻撃を実証した。
これらの課題の有効性は、カーネギーメロン大学の学部生や大学院生を対象に調査を行い、CTFベースのアプローチがAMLの脅威に効果的に関与することを発見した。
本研究の参加者の回答に基づき,MLカリキュラムにおける総合的なセキュリティ教育の必要性を強調した詳細なレコメンデーションを提示する。
関連論文リスト
- Frontier AI Risk Management Framework in Practice: A Risk Analysis Technical Report v1.5 [61.787178868669265]
この技術レポートは、サイバー犯罪、説得と操作、戦略上の詐欺、制御されていないAIR&D、自己複製の5つの重要な側面について、更新されきめ細かな評価を提示する。
この作業は、現在のAIフロンティアのリスクに対する理解を反映し、これらの課題を軽減するための集団行動を促します。
論文 参考訳（メタデータ） (2026-02-16T04:30:06Z) - A Systematic Survey of Model Extraction Attacks and Defenses: State-of-the-Art and Perspectives [65.3369988566853]
近年の研究では、敵が対象モデルの機能を複製できることが示されている。
モデル抽出攻撃は知的財産権、プライバシー、システムのセキュリティに脅威をもたらす。
本稿では,攻撃機構,防衛手法,計算環境に応じてMEAを分類する新しい分類法を提案する。
論文 参考訳（メタデータ） (2025-08-20T19:49:59Z) - Large Language Model (LLM) for Software Security: Code Analysis, Malware Analysis, Reverse Engineering [3.1195311942826303]
大規模言語モデル(LLM)はサイバーセキュリティの強力なツールとして登場した。
LLMはマルウェア検出、生成、リアルタイム監視の高度な機能を提供する。
論文 参考訳（メタデータ） (2025-04-07T22:32:46Z) - LLM Agents for Education: Advances and Applications [49.3663528354802]
大規模言語モデル(LLM)エージェントは、タスクの自動化と多様な教育アプリケーションにおけるイノベーションの推進において、顕著な能力を示した。
本調査は、LLMエージェントの総合的技術概要を提供することを目的としており、学習者や教育者のより大きな利益に対する影響を高めるために、さらなる研究と協力を促進することを目的としている。
論文 参考訳（メタデータ） (2025-03-14T11:53:44Z) - Safety at Scale: A Comprehensive Survey of Large Model and Agent Safety [296.5392512998251]
我々は、敵攻撃、データ中毒、バックドア攻撃、ジェイルブレイクとプロンプトインジェクション攻撃、エネルギー遅延攻撃、データとモデル抽出攻撃、出現するエージェント固有の脅威を含む、大規模なモデルに対する安全脅威の包括的分類を提示する。
我々は、大規模なモデル安全性におけるオープンな課題を特定し、議論し、包括的な安全性評価、スケーラブルで効果的な防御機構、持続可能なデータプラクティスの必要性を強調します。
論文 参考訳（メタデータ） (2025-02-02T05:14:22Z) - Open Problems in Machine Unlearning for AI Safety [61.43515658834902]
特定の種類の知識を選択的に忘れたり、抑圧したりするマシンアンラーニングは、プライバシとデータ削除タスクの約束を示している。
本稿では,アンラーニングがAI安全性の包括的ソリューションとして機能することを防止するための重要な制約を特定する。
論文 参考訳（メタデータ） (2025-01-09T03:59:10Z) - Predicting Vulnerability to Malware Using Machine Learning Models: A Study on Microsoft Windows Machines [0.0]
本研究では機械学習(ML)技術を活用した効果的なマルウェア検出戦略の必要性に対処する。
本研究の目的は、個々のマシンの特定の状況に基づいて、マルウェアの脆弱性を正確に予測する高度なMLモデルを開発することである。
論文 参考訳（メタデータ） (2025-01-05T10:04:58Z) - Threats, Attacks, and Defenses in Machine Unlearning: A Survey [14.03428437751312]
マシン・アンラーニング(MU)は、Safe AIを達成する可能性から、最近かなりの注目を集めている。
この調査は、機械学習における脅威、攻撃、防衛に関する広範な研究のギャップを埋めることを目的としている。
論文 参考訳（メタデータ） (2024-03-20T15:40:18Z) - Large Language Models in Cybersecurity: State-of-the-Art [4.990712773805833]
大規模言語モデル(LLM)の台頭は、私たちの知性の理解に革命をもたらした。
本研究は, サイバーセキュリティの領域におけるLLMの防衛的, 敵的応用の徹底的な評価を, 既存の文献を考察した。
論文 参考訳（メタデータ） (2024-01-30T16:55:25Z) - Vulnerability of Machine Learning Approaches Applied in IoT-based Smart Grid: A Review [51.31851488650698]
機械学習(ML)は、IoT(Internet-of-Things)ベースのスマートグリッドでの使用頻度が高まっている。
電力信号に注入された逆方向の歪みは システムの正常な制御と操作に大きな影響を及ぼす
安全クリティカルパワーシステムに適用されたMLsgAPPの脆弱性評価を行うことが不可欠である。
論文 参考訳（メタデータ） (2023-08-30T03:29:26Z) - Towards a Robust and Trustworthy Machine Learning System Development [0.09236074230806578]
最新のML信頼性と技術に関する最近の調査をセキュリティエンジニアリングの視点から紹介します。
次に、ML実践者のための標準的かつ視覚化された方法で知識の体を表すメタモデルを記述することによって、調査の前後に研究を進めます。
本稿では,堅牢で信頼性の高いMLシステムの開発を進めるための今後の研究方向性を提案する。
論文 参考訳（メタデータ） (2021-01-08T14:43:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。