論文の概要: The Threat of Offensive AI to Organizations

• arxiv url: http://arxiv.org/abs/2106.15764v1
• Date: Wed, 30 Jun 2021 01:03:28 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-01 12:34:26.875653
• Title: The Threat of Offensive AI to Organizations
• Title（参考訳）: 組織に対する攻撃的AIの脅威
• Authors: Yisroel Mirsky, Ambra Demontis, Jaidip Kotak, Ram Shankar, Deng Gelei, Liu Yang, Xiangyu Zhang, Wenke Lee, Yuval Elovici, Battista Biggio
• Abstract要約: この調査は、組織に対する攻撃的なAIの脅威を調査する。 まず、AIが敵の方法、戦略、目標、および全体的な攻撃モデルをどのように変えるかについて議論する。 そして、文献レビューを通じて、敵が攻撃を強化するために使用できる33の攻撃的AI能力を特定します。
• 参考スコア（独自算出の注目度）: 52.011307264694665
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: AI has provided us with the ability to automate tasks, extract information from vast amounts of data, and synthesize media that is nearly indistinguishable from the real thing. However, positive tools can also be used for negative purposes. In particular, cyber adversaries can use AI (such as machine learning) to enhance their attacks and expand their campaigns. Although offensive AI has been discussed in the past, there is a need to analyze and understand the threat in the context of organizations. For example, how does an AI-capable adversary impact the cyber kill chain? Does AI benefit the attacker more than the defender? What are the most significant AI threats facing organizations today and what will be their impact on the future? In this survey, we explore the threat of offensive AI on organizations. First, we present the background and discuss how AI changes the adversary's methods, strategies, goals, and overall attack model. Then, through a literature review, we identify 33 offensive AI capabilities which adversaries can use to enhance their attacks. Finally, through a user study spanning industry and academia, we rank the AI threats and provide insights on the adversaries.
• Abstract（参考訳）: aiは私たちにタスクを自動化し、膨大なデータから情報を取り出し、現実とほとんど区別できないメディアを合成する能力を提供します。 しかし、ポジティブなツールは否定的な目的にも使える。 特に、サイバー敵はAI(機械学習など)を使って攻撃を強化し、キャンペーンを拡大することができる。 攻撃的なAIはこれまで議論されてきたが、組織のコンテキストにおける脅威を分析し、理解する必要がある。 例えば、AI対応の敵がサイバー殺人チェーンにどのような影響を与えるのか? AIはディフェンダーよりも攻撃者にとって有益か? 今日の組織が直面する最も重要なAI脅威は何か、そしてそれらが未来に与える影響は何か? 本調査では,組織に対する攻撃的AIの脅威について検討する。 まず、AIが敵の方法、戦略、目標、および全体的な攻撃モデルをどのように変えるかを説明します。 そして、文献レビューを通じて、敵が攻撃を強化するために使用できる33の攻撃的AI能力を特定します。 最後に、業界と学術にまたがるユーザー調査を通じて、AIの脅威をランク付けし、敵に対する洞察を提供する。

関連論文リスト

• A Survey on Offensive AI Within Cybersecurity [1.8206461789819075]
  攻撃的AIに関する調査論文は、AIシステムに対する攻撃および使用に関する様々な側面を包括的にカバーする。 消費者、企業、公共のデジタルインフラストラクチャなど、さまざまな分野における攻撃的なAIプラクティスの影響を掘り下げる。 この論文では、敵対的な機械学習、AIモデルに対する攻撃、インフラストラクチャ、インターフェース、および情報収集、ソーシャルエンジニアリング、兵器化されたAIといった攻撃的テクニックについて検討する。
  論文  参考訳（メタデータ） (2024-09-26T17:36:22Z)
• A+AI: Threats to Society, Remedies, and Governance [0.0]
  この文書は、人工知能(AI)が社会にもたらす脅威、特に短期的な脅威に焦点を当てている。 脅威を緩和する可能性のある対策を示す表も用意されている。 同紙は、政府ができるだけ早く行うべき特定のアクションをリストアップしている。
  論文  参考訳（メタデータ） (2024-09-03T18:43:47Z)
• Artificial Influence: An Analysis Of AI-Driven Persuasion [0.0]
  ユビキタスで高説得力のあるAIシステムは、私たちの情報環境を大きく変えて、私たちの将来の人間のコントロールを失うのに寄与する、と警告する。 われわれは、これらのソリューションはどれも監視されていないと結論し、個人や政府は、説得力のあるAIの最も悪影響から守るために、積極的な措置を講じる必要があると結論付けている。
  論文  参考訳（メタデータ） (2023-03-15T16:05:11Z)
• Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
  AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。 本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。 43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
  論文  参考訳（メタデータ） (2022-11-12T21:54:05Z)
• Adversarial Policies Beat Superhuman Go AIs [54.15639517188804]
  我々は,現在最先端の囲碁AIシステムであるKataGoを,敵の政策を訓練することによって攻撃する。 敵は囲碁を上手に弾くことで勝てない。かたごを騙して真剣な失敗を犯す。 我々の結果は、超人的AIシステムでさえ、驚くほどの障害モードを持っていることを実証している。
  論文  参考訳（メタデータ） (2022-11-01T03:13:20Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)
• Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
  近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。 倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。 このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
  論文  参考訳（メタデータ） (2021-06-25T22:31:55Z)
• "Weak AI" is Likely to Never Become "Strong AI", So What is its Greatest Value for us? [4.497097230665825]
  多くの研究者は、ここ数十年でAIがほとんど進歩していないと主張している。 著者は、AIに関する議論が存在する理由を説明します。(2)「弱いAI」と「強いAI」と呼ばれる2つのAI研究パラダイムを区別します。
  論文  参考訳（メタデータ） (2021-03-29T02:57:48Z)
• Towards AI Forensics: Did the Artificial Intelligence System Do It? [2.5991265608180396]
  私たちは、デザインとグレーボックス分析によって潜在的に悪意のあるAIに焦点を当てています。 畳み込みニューラルネットワークによる評価は、悪意のあるAIを特定する上での課題とアイデアを示している。
  論文  参考訳（メタデータ） (2020-05-27T20:28:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。