Fugu-MT 論文翻訳(概要): Position: A taxonomy for reporting and describing AI security incidents

論文の概要: Position: A taxonomy for reporting and describing AI security incidents

arxiv url: http://arxiv.org/abs/2412.14855v1
Date: Thu, 19 Dec 2024 13:50:26 GMT
ステータス: 翻訳完了
システム内更新日: 2024-12-20 13:29:15.360782
Title: Position: A taxonomy for reporting and describing AI security incidents
Title（参考訳）: ポジション:AIセキュリティインシデントを報告し記述するための分類
Authors: Lukas Bieringer, Kevin Paeth, Andreas Wespi, Kathrin Grosse,
Abstract要約: 業界,プロバイダ,ユーザ,研究者といった,さまざまな利害関係者の関心やニーズを考慮した提案を行うべきだ,と私たちは主張する。本稿では,マシンの可読性や既存のデータベースとのリンク性といった要求に沿った分類法を提案する。
参考スコア（独自算出の注目度）: 6.815819026414774
License:
Abstract: AI systems are vulnerable to attacks, and corresponding AI security incidents have been described. Although a collection of safety incidents around AI will become a regulatory requirement, there is no proposal to collect AI security incidents. In this position paper, we argue that a proposal should be made, taking into account the interests and needs of different stakeholders: industry, providers, users, and researchers. We thus attempt to close this gap and propose a taxonomy alongside its requirements like machine readability and link-ability with existing databases. We aim to spark discussions and enable discussion of which information is feasible, necessary, and possible to report and share within and outside organizations using AI.
Abstract（参考訳）: AIシステムは攻撃に対して脆弱であり、対応するAIセキュリティインシデントが説明されている。 AI関連の安全インシデントの集合が規制要件になるが、AIセキュリティインシデントを集める提案はない。本稿では,業界,プロバイダ,ユーザ,研究者など,さまざまな利害関係者の関心やニーズを考慮した提案を行うことを論じる。そこで我々は、このギャップを埋め、マシンの可読性や既存のデータベースとのリンク性といった要求に沿った分類法を提案する。我々は、議論を刺激し、どの情報が実現可能で、必要であり、AIを使って組織内外の情報を報告し、共有できるかについての議論を可能にすることを目的としています。

関連論文リスト

Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
論文参考訳（メタデータ） (2024-10-10T17:38:38Z)
AI Cards: Towards an Applied Framework for Machine-Readable AI and Risk Documentation Inspired by the EU AI Act [2.1897070577406734]
その重要性にもかかわらず、AI法に沿ったAIとリスクドキュメントの作成を支援するための標準やガイドラインが欠如している。提案するAIカードは,AIシステムの意図した使用を表現するための,新しい総合的なフレームワークである。
論文参考訳（メタデータ） (2024-06-26T09:51:49Z)
Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
我々は、AI安全性に対する一連のアプローチを紹介し、定義する。これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
論文参考訳（メタデータ） (2024-05-10T17:38:32Z)
Testing autonomous vehicles and AI: perspectives and challenges from cybersecurity, transparency, robustness and fairness [53.91018508439669]
この研究は、人工知能を自律走行車(AV)に統合する複雑さを探求する AIコンポーネントがもたらした課題と、テスト手順への影響を調べます。本稿は、重要な課題を特定し、AV技術におけるAIの研究・開発に向けた今後の方向性を提案する。
論文参考訳（メタデータ） (2024-02-21T08:29:42Z)
Coordinated Flaw Disclosure for AI: Beyond Security Vulnerabilities [1.3225694028747144]
本稿では,機械学習(ML)問題の複雑度に合わせたコーディネート・フレーバー開示フレームワークを提案する。本フレームワークは,拡張モデルカード,ダイナミックスコープ拡張,独立適応パネル,自動検証プロセスなどのイノベーションを導入している。 CFDはAIシステムに対する公的な信頼を著しく向上させる可能性があると我々は主張する。
論文参考訳（メタデータ） (2024-02-10T20:39:04Z)
Adversarial Machine Learning and Cybersecurity: Risks, Challenges, and Legal Implications [0.4665186371356556]
2022年7月、ジョージタウン大学のCenter for Security and Emerging TechnologyとStanford Cyber Policy CenterのGeopolitics, Technology, and Governanceプログラムが、人工知能システムの脆弱性と従来型のソフトウェア脆弱性との関係を調べる専門家のワークショップを開催した。議論されたトピックは、AI脆弱性が標準的なサイバーセキュリティプロセスの下でどのように扱われるか、現在の障壁がAI脆弱性に関する情報の正確な共有を妨げていること、AIシステムに対する敵対的攻撃に関連する法的問題、政府支援がAI脆弱性の管理と緩和を改善する可能性のある潜在的な領域である。
論文参考訳（メタデータ） (2023-05-23T22:27:53Z)
Adversarial AI in Insurance: Pervasiveness and Resilience [0.0]
本稿では,AIシステムを騙し,誤った出力を生成するために,修正された入力データを作成することからなる敵攻撃について検討する。防御法や予防システムについては,少数発・ゼロ発のマルチラベリングを考慮し論じる。関心が高まりつつある関連するトピックは、AIとMLコンポーネントを組み込んだシステムの検証と検証である。
論文参考訳（メタデータ） (2023-01-17T08:49:54Z)
Trustworthy AI Inference Systems: An Industry Research View [58.000323504158054]
我々は、信頼できるAI推論システムの設計、展開、運用にアプローチするための業界調査ビューを提供する。信頼された実行環境を用いたAIシステムの機会と課題を強調します。我々は,産業,アカデミック,政府研究者のグローバルな集団的注意を必要とする,さらなる発展の分野を概説する。
論文参考訳（メタデータ） (2020-08-10T23:05:55Z)
Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims [59.64274607533249]
AI開発者は、責任を負うことのできる検証可能な主張をする必要がある。このレポートは、さまざまな利害関係者がAIシステムに関するクレームの妥当性を改善するための様々なステップを示唆している。我々は、この目的のための10のメカニズム、すなわち、組織、ソフトウェア、ハードウェアを分析し、それらのメカニズムの実装、探索、改善を目的とした推奨を行う。
論文参考訳（メタデータ） (2020-04-15T17:15:35Z)
Vulnerabilities of Connectionist AI Applications: Evaluation and Defence [0.0]
この記事では、コネクショナリスト人工知能(AI)アプリケーションのITセキュリティを扱い、完全性への脅威に焦点を当てます。脅威の包括的リストと軽減の可能性は、最先端の文献をレビューすることによって提示される。緩和に関する議論は同様に、AIシステム自体のレベルに限定されず、むしろサプライチェーンの文脈でAIシステムを見ることを提唱している。
論文参考訳（メタデータ） (2020-03-18T12:33:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。