論文の概要: AI Security Research Should Better Incentivize Defense Research
- arxiv url: http://arxiv.org/abs/2605.23448v1
- Date: Fri, 22 May 2026 10:02:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-25 17:29:20.301525
- Title: AI Security Research Should Better Incentivize Defense Research
- Title（参考訳）: AIセキュリティ研究は、防衛研究のインセンティブを高めるべきだ
- Authors: Youqian Zhang,
- Abstract要約: 本研究は,人工知能(AI)のセキュリティ研究における不均衡について検討する。
この分野は、AIシステムを守ることよりも、AIシステムを攻撃することに注力する傾向がある。
AIセキュリティ研究は防衛研究のインセンティブを高めるべきだと我々は主張する。
- 参考スコア（独自算出の注目度）: 3.4567996484094086
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This work examines an imbalance in artificial intelligence (AI) security research: the field tends to produce more work on attacking AI systems than on defending them. Drawing on related academic papers, we find biased attack-to-defense ratios across subfields, including federated learning, speech recognition, membership inference, large language models, etc. The imbalance possibly means far beyond a simple count: attack papers are routinely evaluated under favorable conditions that make threats look more severe than they are in practice, while defenses are held to a stricter standard that few can meet. The result is a literature rich in demonstrated vulnerabilities and thin on usable and deployed protections. We thus argue that AI security research should better incentivize defense research.
- Abstract（参考訳）: この研究は、人工知能(AI)のセキュリティ研究における不均衡を検証している。
関連する学術論文から,フェデレーション学習,音声認識,会員推定,大規模言語モデルなど,サブフィールド間での攻撃対防御比率の偏りが認められた。
攻撃書類は、実際よりも厳しい状況下で定期的に評価され、脅威を実際よりも深刻に見せる一方、防御は、ほとんど満たせない厳格な基準で保持される。
その結果は、実証された脆弱性に富んだ文献であり、使用可能な、デプロイされた保護を薄くする。
したがって、AIセキュリティ研究は防衛研究のインセンティブを高めるべきだと我々は主張する。
関連論文リスト
- Strategic commitments shape collective cybersecurity under AI inequality [7.137385643891869]
有限集団における進化的ゲーム理論モデルを用いて,AIアクセスの差分の影響について検討する。
高機能防衛が費用がかかると、人口は低コストで弱い防御行動へと追いやられる。
続いて、常に強固な防衛を実践する、献身的な擁護者の小さなグループの役割について検討する。
論文 参考訳（メタデータ） (2026-05-10T08:34:51Z) - Frontier AI's Impact on the Cybersecurity Landscape [46.32458228179959]
AIはすでに攻撃に広く使われているが、その防衛用途は限られている。
専門家はAIが攻撃者を擁護し続けると予想しているが、そのギャップは徐々に狭まるだろう。
論文 参考訳（メタデータ） (2025-04-07T18:25:18Z) - Towards more Practical Threat Models in Artificial Intelligence Security [66.67624011455423]
最近の研究で、人工知能のセキュリティの研究と実践のギャップが特定されている。
我々は、AIセキュリティ研究で最も研究されている6つの攻撃の脅威モデルを再検討し、実際にAIの使用と一致させる。
論文 参考訳（メタデータ） (2023-11-16T16:09:44Z) - A LLM Assisted Exploitation of AI-Guardian [57.572998144258705]
IEEE S&P 2023で発表された敵に対する最近の防衛であるAI-Guardianの堅牢性を評価する。
我々は、このモデルを攻撃するためのコードを書かず、代わりに、GPT-4に命令とガイダンスに従って全ての攻撃アルゴリズムを実装するよう促します。
このプロセスは驚くほど効果的で効率的であり、言語モデルでは、この論文の著者が実行したよりも高速に曖昧な命令からコードを生成することもあった。
論文 参考訳（メタデータ） (2023-07-20T17:33:25Z) - Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。
既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。
以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
論文 参考訳（メタデータ） (2022-07-20T19:49:09Z) - Fixed Points in Cyber Space: Rethinking Optimal Evasion Attacks in the
Age of AI-NIDS [70.60975663021952]
ネットワーク分類器に対するブラックボックス攻撃について検討する。
我々は、アタッカー・ディフェンダーの固定点がそれ自体、複雑な位相遷移を持つ一般サムゲームであると主張する。
攻撃防御力学の研究には連続的な学習手法が必要であることを示す。
論文 参考訳（メタデータ） (2021-11-23T23:42:16Z) - The Offense-Defense Balance of Scientific Knowledge: Does Publishing AI
Research Reduce Misuse? [0.0]
人工知能(AI)研究の誤用に関する懸念が高まっている。
科学研究の出版は技術の誤用を助長するが、この研究は誤用に対する保護にも貢献する。
本稿ではこれらの2つの効果のバランスについて述べる。
論文 参考訳（メタデータ） (2019-12-27T10:20:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。