論文の概要: Cybersecurity is the True Frontier for Generative AI Success or Failure
- arxiv url: http://arxiv.org/abs/2606.28929v1
- Date: Sat, 27 Jun 2026 14:03:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.733114
- Title: Cybersecurity is the True Frontier for Generative AI Success or Failure
- Title（参考訳）: サイバーセキュリティは、ジェネレーティブAIの成功と失敗の真のフロンティア
- Abstract要約: サイバーセキュリティは、一度に多くの機械学習問題に対する実生活のテストベッドである。
モデルは1日に数十億のアイテムで素早く動作しなければなりません。
サイバーセキュリティは、一般的なAIの進歩のためのテストケースとして、他の、よく研究されている分野よりも優れている。
- 参考スコア（独自算出の注目度）: 35.575774863187824
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Cybersecurity is a real-life test-bed for many machine learning problems at once, especially when considering modern strides in using Large Language Models (LLMs) to automate processes as ``agents.'' Cybersecurity workflows require orchestrating hundreds of standard and bespoke tools through various formats. The scale of cybersecurity data is enormous; for example, a single malware sample can be viewed as a sequence of billions of tokens. The cost of labeling any file by experts is enormous and labor-intensive, in part because an adversary (possibly a well-funded nation state actor) is attempting to subvert your detection methods. Even skilled experts may disagree on the correct label, creating ambiguity in what constitutes ground truth. When deployed, models must run quickly on billions of items a day, where low-latency is critical for operational success, in a continuously changing environment. In addition, explainability is not optional: analysts demand clear reasoning for model decisions to cope with the large number of false-positive alerts they face daily, and to quickly develop remediation and understand how something went wrong. In short, the amount of complexity cybersecurity is greater than that of natural language and computer vision, and thus we posit that cybersecurity is the better test-case for general AI progress than other, well-studied fields.
- Abstract（参考訳）: 大規模言語モデル(LLM)を使用してプロセスを ``agents' として自動化する現代的な取り組みを考える場合、サイバーセキュリティは、多くの機械学習問題に対して、一度に現実的なテストベッドである。
サイバーセキュリティワークフローでは、さまざまなフォーマットで何百もの標準ツールと監視ツールをオーケストレーションする必要があります。
例えば、1つのマルウェアサンプルは数十億のトークンのシーケンスと見なすことができる。
専門家によるファイルのラベル付けのコストは巨大で労働集約的だ。
熟練した専門家でさえ、正しいラベルに異を唱え、根拠となる真実を構成する曖昧さを生み出します。
デプロイされると、モデルは1日に数十億のアイテムで素早く動作しなければなりません。
さらに、説明責任はオプションではない:アナリストは、毎日直面している大量の偽陽性の警告に対処し、修復を迅速に展開し、どのように問題が発生したかを理解するために、モデル決定の明確な推論を要求する。
要するに、複雑なサイバーセキュリティの量は、自然言語やコンピュータビジョンのそれよりも多いので、サイバーセキュリティは他の、よく研究されている分野よりも、一般的なAIの進歩のためのテストケースとして適している、と我々は主張する。
関連論文リスト
- CyberGym-E2E: Scalable Real-World Benchmark for AI Agents' End-to-End Cybersecurity Capabilities [66.48570184296857]
CyberGym-E2Eは大規模かつ現実的なエンドツーエンドのサイバーセキュリティベンチマークである。
脆弱性発見、PoC生成、パッチ生成の全ライフサイクルにわたって、AIエージェントの能力を包括的に評価する。
ベンチマークは、139の異なるオープンソースプロジェクトで920の現実世界の脆弱性で構成されている。
論文 参考訳（メタデータ） (2026-06-03T05:06:37Z) - ExploitGym: Can AI Agents Turn Security Vulnerabilities into Real Attacks? [92.21756459993695]
低レベルのプログラム推論を必要とするため、爆発は難しい作業です。
その重要性と診断価値にもかかわらず、搾取は未評価のままである。
ExploitGymは、AIエージェントのエクスプロイト能力に関する大規模で多様な、現実的なベンチマークである。
論文 参考訳（メタデータ） (2026-05-11T18:00:14Z) - A Multi-Turn Framework for Evaluating AI Misuse in Fraud and Cybercrime Scenarios [1.1864532555108382]
現在の大規模言語モデルが、複雑な犯罪活動に有用な情報を提供しているかは、不明である。
我々は、ドメインの専門家が評価したように、モデルがWeb上で一般的に利用可能な情報を超えて実行可能な支援を提供するかどうかを評価する。
その結果,(1)現在の大規模言語モデルは,高度なジェイルブレイク技術を用いることなく,詐欺やサイバー犯罪の最小限の情報を提供することがわかった。
論文 参考訳（メタデータ） (2026-02-25T12:01:38Z) - PACEbench: A Framework for Evaluating Practical AI Cyber-Exploitation Capabilities [42.61805002268063]
我々は,実践的なAIサイバー探索ベンチマークであるPACEbenchを紹介する。
PACEbenchは、シングル、ブレンド、チェーン、防御脆弱性のエクスプロイトにまたがる4つのシナリオで構成されている。
PACEagentは,多相偵察,解析,利用の支援により,ヒトの浸透試験をエミュレートする新しいエージェントである。
論文 参考訳（メタデータ） (2025-10-13T17:50:25Z) - SecureBERT 2.0: Advanced Language Model for Cybersecurity Intelligence [5.844061361572245]
サイバーセキュリティアプリケーション向けに開発されたエンコーダのみの言語モデルであるSecureBERT 2.0を提案する。
改良された長文モデリングと階層符号化を導入し、拡張および異種文書の効率的な処理を可能にした。
SecureBERT 2.0は、複数のサイバーセキュリティベンチマークで最先端のパフォーマンスを達成する。
論文 参考訳（メタデータ） (2025-09-30T20:12:37Z) - Fundamental Risks in the Current Deployment of General-Purpose AI Models: What Have We (Not) Learnt From Cybersecurity? [60.629883024152576]
大規模言語モデル(LLM)は、幅広いユースケースで急速にデプロイされている。
OpenAIs Alteraは、自律性の向上、データアクセス、実行機能の一例に過ぎない。
これらの方法には、さまざまなサイバーセキュリティ上の課題が伴う。
論文 参考訳（メタデータ） (2024-12-19T14:44:41Z) - BreachSeek: A Multi-Agent Automated Penetration Tester [0.0]
BreachSeekはAI駆動のマルチエージェントソフトウェアプラットフォームで、人間の介入なしに脆弱性を特定し、悪用する。
予備評価では、BreachSeekはローカルネットワーク内の悪用可能なマシンの脆弱性をうまく利用した。
今後の開発は、その能力を拡大し、サイバーセキュリティの専門家にとって欠かせないツールとして位置づけることを目指している。
論文 参考訳（メタデータ） (2024-08-31T19:15:38Z) - Large Language Models for Cyber Security: A Systematic Literature Review [17.073186844004148]
大規模言語モデル(LLM)は、サイバーセキュリティを含むさまざまなアプリケーションドメインで人工知能を活用する新たな機会を開いた。
LLMは、脆弱性検出、マルウェア分析、ネットワーク侵入検出など、幅広いサイバーセキュリティタスクに適用されている。
LLMベースの自律エージェントは、シングルタスク実行から複雑なマルチステップセキュリティのオーケストレーションへのパラダイムシフトを表している。
論文 参考訳（メタデータ） (2024-05-08T02:09:17Z) - Towards more Practical Threat Models in Artificial Intelligence Security [66.67624011455423]
最近の研究で、人工知能のセキュリティの研究と実践のギャップが特定されている。
我々は、AIセキュリティ研究で最も研究されている6つの攻撃の脅威モデルを再検討し、実際にAIの使用と一致させる。
論文 参考訳（メタデータ） (2023-11-16T16:09:44Z) - Exploring the Limits of Transfer Learning with Unified Model in the
Cybersecurity Domain [17.225973170682604]
生成型マルチタスクモデル Unified Text-to-Text Cybersecurity (UTS) を導入する。
UTSはマルウェアレポート、フィッシングサイトURL、プログラミングコード構造、ソーシャルメディアデータ、ブログ、ニュース記事、フォーラムの投稿で訓練されている。
UTSはいくつかのサイバーセキュリティデータセットの性能を改善している。
論文 参考訳（メタデータ） (2023-02-20T22:21:26Z) - Proceedings of the Artificial Intelligence for Cyber Security (AICS)
Workshop at AAAI 2022 [55.573187938617636]
ワークショップは、サイバーセキュリティの問題へのAIの適用に焦点を当てる。
サイバーシステムは大量のデータを生成し、これを効果的に活用することは人間の能力を超えます。
論文 参考訳（メタデータ） (2022-02-28T18:27:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。