論文の概要: SoK: On the Offensive Potential of AI

• arxiv url: http://arxiv.org/abs/2412.18442v3
• Date: Thu, 23 Jan 2025 13:27:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-24 15:57:24.716225
• Title: SoK: On the Offensive Potential of AI
• Title（参考訳）: SoK:AIの攻撃的可能性について
• Authors: Saskia Laura Schröer, Giovanni Apruzzese, Soheil Human, Pavel Laskov, Hyrum S. Anderson, Edward W. N. Bernroider, Aurore Fass, Ben Nassi, Vera Rimmer, Fabio Roli, Samer Salam, Ashley Shen, Ali Sunyaev, Tim Wadwha-Brown, Isabel Wagner, Gang Wang,
• Abstract要約: ますます多くの証拠が、AIが攻撃目的にも使われていることを示している。 現存する研究は、AIの攻撃的可能性の全体像を描けなかった。
• 参考スコア（独自算出の注目度）: 14.072632973726906
• License:
• Abstract: Our society increasingly benefits from Artificial Intelligence (AI). Unfortunately, more and more evidence shows that AI is also used for offensive purposes. Prior works have revealed various examples of use cases in which the deployment of AI can lead to violation of security and privacy objectives. No extant work, however, has been able to draw a holistic picture of the offensive potential of AI. In this SoK paper we seek to lay the ground for a systematic analysis of the heterogeneous capabilities of offensive AI. In particular we (i) account for AI risks to both humans and systems while (ii) consolidating and distilling knowledge from academic literature, expert opinions, industrial venues, as well as laypeople -- all of which being valuable sources of information on offensive AI. To enable alignment of such diverse sources of knowledge, we devise a common set of criteria reflecting essential technological factors related to offensive AI. With the help of such criteria, we systematically analyze: 95 research papers; 38 InfoSec briefings (from, e.g., BlackHat); the responses of a user study (N=549) entailing individuals with diverse backgrounds and expertise; and the opinion of 12 experts. Our contributions not only reveal concerning ways (some of which overlooked by prior work) in which AI can be offensively used today, but also represent a foothold to address this threat in the years to come.
• Abstract（参考訳）: 私たちの社会はますます人工知能(AI)の恩恵を受けています。 残念ながら、AIが攻撃目的にも使われているという証拠はますます増えている。 以前の研究は、AIのデプロイがセキュリティとプライバシの目的に違反するおそれのあるユースケースのさまざまな例を明らかにしている。 しかし、AIの攻撃的可能性の全体像を描くことはできない。 本論文では,攻撃的AIの異種能力の体系的解析の基盤を築こうとしている。 特に私たち i)人間とシステムの両方にAIリスクを負う (二)学術文献、専門家の意見、産業の会場、一般の人々からの知識を集約し、蒸留すること。 このような多様な知識ソースのアライメントを可能にするため、攻撃的AIに関連する重要な技術的要因を反映した共通の基準のセットを考案する。 95件の研究論文,38件のInfoSecブリーフィング(例:BlackHat),さまざまなバックグラウンドや専門知識を持つ個人を対象としたユーザスタディ(N=549)の回答,12名の専門家の意見などを体系的に分析した。 私たちのコントリビューションは、今日AIが攻撃的に使える方法(前もって見落とされたもの)だけでなく、今後数年間のこの脅威に対処するための足場でもある。

関連論文リスト

• A Survey on Offensive AI Within Cybersecurity [1.8206461789819075]
  攻撃的AIに関する調査論文は、AIシステムに対する攻撃および使用に関する様々な側面を包括的にカバーする。 消費者、企業、公共のデジタルインフラストラクチャなど、さまざまな分野における攻撃的なAIプラクティスの影響を掘り下げる。 この論文では、敵対的な機械学習、AIモデルに対する攻撃、インフラストラクチャ、インターフェース、および情報収集、ソーシャルエンジニアリング、兵器化されたAIといった攻撃的テクニックについて検討する。
  論文  参考訳（メタデータ） (2024-09-26T17:36:22Z)
• Mapping Technical Safety Research at AI Companies: A literature review and incentives analysis [0.0]
  レポートは、3つの主要なAI企業が実施する安全なAI開発に関する技術研究を分析している。 Anthropic、Google DeepMind、OpenAI。 私たちは安全なAI開発を、大規模な誤用や事故のリスクを生じにくいAIシステムの開発であると定義しました。
  論文  参考訳（メタデータ） (2024-09-12T09:34:55Z)
• Rolling in the deep of cognitive and AI biases [1.556153237434314]
  我々は、AIが設計、開発、デプロイされる状況とは切り離せない社会技術システムとして理解する必要があると論じる。 我々は、人間の認知バイアスがAIフェアネスの概観の中核となる急進的な新しい方法論に従うことで、この問題に対処する。 我々は、人間にAIバイアスを正当化する新しいマッピングを導入し、関連する公正度と相互依存を検出する。
  論文  参考訳（メタデータ） (2024-07-30T21:34:04Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• AI Usage Cards: Responsibly Reporting AI-generated Content [25.848910414962337]
  ChatGPTのようなAIシステムが、人間による作業と区別できないコンテンツを生成できることを考えると、この技術の責任を負うことが懸念される。 我々は、AIの責任ある使用を定義するために、透明性、完全性、説明責任からなる3次元モデルを提案する。 第2に、科学研究におけるAIの使用を報告するための標準化された方法である「AI Usage Cards」を紹介する。
  論文  参考訳（メタデータ） (2023-02-16T08:41:31Z)
• Out of Context: Investigating the Bias and Fairness Concerns of "Artificial Intelligence as a Service" [6.824692201913679]
  AI as a Service(AI as a Service)は、様々なプラグイン・アンド・プレイAIサービスやツールを提供する、急速に成長している市場です。 しかし、AIシステムは社会的影響を持つバイアスや不平等をカプセル化できることが知られている。 フェアネスの文脈に敏感な性質は、しばしばAIの「ワンサイズフィットオール」アプローチと相容れない。
  論文  参考訳（メタデータ） (2023-02-02T22:32:10Z)
• Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
  AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。 本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。 43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
  論文  参考訳（メタデータ） (2022-11-12T21:54:05Z)
• Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
  ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。 AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。 我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
  論文  参考訳（メタデータ） (2022-04-11T14:36:39Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)
• The Threat of Offensive AI to Organizations [52.011307264694665]
  この調査は、組織に対する攻撃的なAIの脅威を調査する。 まず、AIが敵の方法、戦略、目標、および全体的な攻撃モデルをどのように変えるかについて議論する。 そして、文献レビューを通じて、敵が攻撃を強化するために使用できる33の攻撃的AI能力を特定します。
  論文  参考訳（メタデータ） (2021-06-30T01:03:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。