論文の概要: Adversarial Machine Learning for Social Good: Reframing the Adversary as an Ally

• arxiv url: http://arxiv.org/abs/2310.03614v1
• Date: Thu, 5 Oct 2023 15:49:04 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-06 15:44:57.323749
• Title: Adversarial Machine Learning for Social Good: Reframing the Adversary as an Ally
• Title（参考訳）: ソーシャル・グッドのためのadversarial machine learning: 敵を味方として振り返る
• Authors: Shawqi Al-Maliki, Adnan Qayyum, Hassan Ali, Mohamed Abdallah, Junaid Qadir, Dinh Thai Hoang, Dusit Niyato, Ala Al-Fuqaha
• Abstract要約: AdvML for Social Good(AdvML4G)は、AdvMLバグを再利用して、プロ社会的なアプリケーションを発明する新興分野である。 本稿では,AdvML4Gの新興分野を包括的に概観する。
• 参考スコア（独自算出の注目度）: 50.92232179802755
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep Neural Networks (DNNs) have been the driving force behind many of the recent advances in machine learning. However, research has shown that DNNs are vulnerable to adversarial examples -- input samples that have been perturbed to force DNN-based models to make errors. As a result, Adversarial Machine Learning (AdvML) has gained a lot of attention, and researchers have investigated these vulnerabilities in various settings and modalities. In addition, DNNs have also been found to incorporate embedded bias and often produce unexplainable predictions, which can result in anti-social AI applications. The emergence of new AI technologies that leverage Large Language Models (LLMs), such as ChatGPT and GPT-4, increases the risk of producing anti-social applications at scale. AdvML for Social Good (AdvML4G) is an emerging field that repurposes the AdvML bug to invent pro-social applications. Regulators, practitioners, and researchers should collaborate to encourage the development of pro-social applications and hinder the development of anti-social ones. In this work, we provide the first comprehensive review of the emerging field of AdvML4G. This paper encompasses a taxonomy that highlights the emergence of AdvML4G, a discussion of the differences and similarities between AdvML4G and AdvML, a taxonomy covering social good-related concepts and aspects, an exploration of the motivations behind the emergence of AdvML4G at the intersection of ML4G and AdvML, and an extensive summary of the works that utilize AdvML4G as an auxiliary tool for innovating pro-social applications. Finally, we elaborate upon various challenges and open research issues that require significant attention from the research community.
• Abstract（参考訳）: Deep Neural Networks(DNN)は、機械学習の最近の進歩の原動力となっている。 しかし、DNNは敵対的な例(DNNベースのモデルにエラーを発生させるよう強制された入力サンプル)に弱いことが研究で示されている。 その結果、AdvML(Adversarial Machine Learning)が注目され、研究者はこれらの脆弱性をさまざまな設定やモダリティで調査している。 さらに、DNNには埋め込みバイアスが組み込まれており、説明不能な予測がしばしば発生し、反社会的AIアプリケーションをもたらす可能性がある。 ChatGPTやGPT-4のような大規模言語モデル(LLM)を活用する新しいAI技術の出現は、大規模に反社会的アプリケーションを生成するリスクを高める。 AdvML for Social Good(AdvML4G)は、AdvMLバグを再利用して、プロ社会的なアプリケーションを発明する新興分野である。 規制当局、実践者、研究者は、反社会的アプリケーションの開発を奨励し、反社会的アプリケーションの開発を妨げるよう協力する必要がある。 本稿では,advml4gの新たな分野について,初めて包括的なレビューを行う。 本稿では,AdvML4Gの出現,AdvML4GとAdvMLの相違点と類似点の議論,社会的善関連概念と側面を包括する分類,ML4GとAdvMLの交差点におけるAdvML4Gの出現の背景にあるモチベーションの探索,そして,AdvML4Gを社会的な応用を革新するための補助ツールとして活用する作業の広範な要約を紹介する。 最後に,研究コミュニティからの注目を必要とする様々な課題とオープン研究課題について詳述する。

関連論文リスト

• The Social Impact of Generative AI: An Analysis on ChatGPT [0.7401425472034117]
  ジェネレーティブAIモデルの急速な開発は、そのメリット、制限、関連するリスクに関する熱い議論を引き起こしている。 生成モデルは、医療、金融、教育など、複数の分野にまたがって大きな可能性を秘めている。 本稿では,ChatGPTの事例を中心に,生成型AIツールの社会的意味を探求する方法論を採用する。
  論文  参考訳（メタデータ） (2024-03-07T17:14:22Z)
• Vulnerability of Machine Learning Approaches Applied in IoT-based Smart Grid: A Review [51.31851488650698]
  機械学習(ML)は、IoT(Internet-of-Things)ベースのスマートグリッドでの使用頻度が高まっている。 電力信号に注入された逆方向の歪みは システムの正常な制御と操作に大きな影響を及ぼす 安全クリティカルパワーシステムに適用されたMLsgAPPの脆弱性評価を行うことが不可欠である。
  論文  参考訳（メタデータ） (2023-08-30T03:29:26Z)
• Machine Learning practices and infrastructures [0.0]
  本稿では、実践者と彼らが依存するツール間の相互作用と、これらの相互作用が機械学習の実践を形成する上で果たす役割に焦点を当てる。 インタラクティブなコンピューティングプラットフォームは、学習と調整のプラクティスのホストで使われています。 インタラクティブコンピューティングプラットフォームの開発とともにMLプラクティスが共進化している様子を説明します。
  論文  参考訳（メタデータ） (2023-07-13T01:43:28Z)
• Use and Misuse of Machine Learning in Anthropology [0.9786690381850356]
  生物学的・文化的な証拠に基づいて人類の進化を理解することを目指す古人類学の分野に焦点をあてる。 本研究の目的は,MLが古人類学に応用されている方法について,簡単な紹介を行うことである。 人類学文献の集積部において,ML手法の正しいプロトコルの一連の誤り,誤り,違反について論じる。
  論文  参考訳（メタデータ） (2022-09-06T20:32:24Z)
• Proceedings of ICML 2021 Workshop on Theoretic Foundation, Criticism, and Application Trend of Explainable AI [71.70949497737655]
  ICML 2021 Workshop on Theoretic Foundation, Criticism, and Application Trends of Explainable AI。 ディープニューラルネットワーク(DNN)は、コンピュータビジョン、計算言語学、AIなど、幅広い分野で大きな成功を収めたことは間違いない。 しかし、DNNの成功と敵の攻撃に対する弾力性の根底にある基本原理は依然としてほとんど失われている。 このワークショップは、XAIの範囲における理論の基礎、制限、および新しいアプリケーショントレンドに特別な関心を払っている。
  論文  参考訳（メタデータ） (2021-07-16T13:14:16Z)
• Inspect, Understand, Overcome: A Survey of Practical Methods for AI Safety [54.478842696269304]
  安全クリティカルなアプリケーションにディープニューラルネットワーク(DNN)を使用することは、多数のモデル固有の欠点のために困難です。 近年,これらの安全対策を目的とした最先端技術動物園が出現している。 本稿は、機械学習の専門家と安全エンジニアの両方に対処する。
  論文  参考訳（メタデータ） (2021-04-29T09:54:54Z)
• Understanding the Usability Challenges of Machine Learning In High-Stakes Decision Making [67.72855777115772]
  機械学習(ML)は、多種多様な成長を続ける一連のドメインに適用されている。 多くの場合、MLやデータサイエンスの専門知識を持たないドメインの専門家は、ML予測を使用してハイステークな意思決定を行うように求められます。 児童福祉スクリーニングにおけるMLユーザビリティの課題について,児童福祉スクリーニング者との一連のコラボレーションを通じて検討する。
  論文  参考訳（メタデータ） (2021-03-02T22:50:45Z)
• On the Morality of Artificial Intelligence [154.69452301122175]
  本稿では,機械学習の研究・展開に関する概念的かつ実践的な原則とガイドラインを提案する。 我々は,より倫理的で道徳的なMLの実践を追求するために,実践者が採る具体的な行動を主張している。
  論文  参考訳（メタデータ） (2019-12-26T23:06:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。