論文の概要: AI Incident Monitoring through a Public Health Lens
- arxiv url: http://arxiv.org/abs/2604.19914v1
- Date: Tue, 21 Apr 2026 18:47:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-23 15:36:10.751026
- Title: AI Incident Monitoring through a Public Health Lens
- Title（参考訳）: 公衆衛生レンズによるAIインシデントモニタリング
- Authors: Sophia Abraham, Taiye Chen, Cyril Chhun, Giovanna Jaramillo-Gutierrez, Simon Mylius, Sayash Raaj, Peter Slattery, Sean McGregor,
- Abstract要約: AIインシデントデータベースは、これらのイベントをインデックスするが、リスク関連システムとそのインシデント報告率に関する追加データなしでは、リスクを測定することはできない。
騒音や不完全な疾患の監視を前提とした公衆衛生プロセスにインスパイアされた私たちは,インシデント発生の6つのフェーズを特定した。
ケーススタディでは、ドメイン専門家のインシデントパネルが、自身のドメインの専門知識、インシデントデータ、統計および視覚化ツールのコレクションを組み合わせて、パブリックニーズを満たすインシデントフェーズ決定に到達できることが示されている。
- 参考スコア（独自算出の注目度）: 4.6715157943999595
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Artificial intelligence systems are now deployed at scale across sectors, accompanied by a growing number of real-world incidents ranging from misinformation and cybercrime to autonomous-system failures. Databases of AI incidents index these events, but they cannot measure ``risk'' (i.e., a joint measure of likelihood and severity) without additional data regarding the prevalence of risk-associated systems and their incident reporting rates. As a result, policymakers, companies, and the general public lack a means to weigh the benefits of AI against their in-context risks. Inspired by public-health processes, which presume noisy and incomplete disease surveillance, we identify six phases of incident emergence. We demonstrate the framework through a detailed case study of autonomous vehicles, whose mandatory reporting requirements produces reliable incident-rate ground truth expressed in distance traveled. The case study shows that an informed panel of domain experts (e.g., self-driving experts) can combine their domain expertise, incident data, and a collection of statistical and visualization tools to arrive at incident phase determinations serving public needs. We further demonstrate the approach with a deepfake incident case study and chart a path for future research in incident phase determination.
- Abstract（参考訳）: 人工知能システムは今や、誤情報やサイバー犯罪から自律システム障害まで、多くの現実世界のインシデントを伴って、複数のセクターで大規模に展開されている。
AIインシデントデータベースはこれらの事象を索引付けするが、リスク関連システムとそのインシデント報告率に関する追加データなしで「リスク」(可能性と重大性の合同測度)を測定することはできない。
その結果、政策立案者、企業、一般大衆は、コンテキスト内リスクに対するAIのメリットを評価する手段を欠いている。
騒音や不完全な疾患の監視を前提とした公衆衛生プロセスにインスパイアされた私たちは,インシデント発生の6つのフェーズを特定した。
この枠組みは、走行距離で表現される信頼性の高いインシデントレーグラウンド真理を要求される自動運転車の詳細なケーススタディを通じて実証する。
ケーススタディでは、ドメインの専門家(例えば自動運転の専門家)のインフォームドパネルが、自身のドメインの専門知識、インシデントデータ、および統計および可視化ツールのコレクションを組み合わせて、パブリックニーズを満たすインシデントフェーズ決定に到達できることが示されている。
さらに,本手法をディープフェイクインシデントケーススタディで実証し,インシデントフェーズ決定における今後の研究の道筋を示す。
関連論文リスト
- CRASH: Cognitive Reasoning Agent for Safety Hazards in Autonomous Driving [0.3823356975862005]
本研究は、NHTSAデータベースで報告された現実世界のAVインシデントを調べる。
我々は、標準化されたフィールドと非構造化の物語記述の両方を活用することで、クラッシュレポートの推論を自動化するエージェントであるCRASHを紹介する。
以上の結果から,CRASHは事故の64%が認識障害や計画失敗によるものと考えられた。
さらに5つのドメインエキスパートでCRASHを検証することで,AVシステム障害の原因となる精度を86%向上する。
論文 参考訳（メタデータ） (2026-03-16T14:39:33Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳（メタデータ） (2026-02-23T16:28:48Z) - OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。
本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
論文 参考訳（メタデータ） (2026-02-13T21:32:32Z) - From Incidents to Insights: Patterns of Responsibility following AI Harms [1.9389881806157316]
AIインシデントデータベースは航空安全データベースにインスパイアされ、障害からの集合的学習を可能とし、将来のインシデントを防ぐ。
データベースは、ニュースやメディアから収集された数百のAI障害を文書化している。
技術的に焦点を絞った学習を超えて、データセットは新たな、非常に価値のある洞察を提供することができる、と私たちは主張する。
論文 参考訳（メタデータ） (2025-05-07T09:59:36Z) - RealHarm: A Collection of Real-World Language Model Application Failures [1.2820953788225848]
我々は、AIエージェントとの注釈付き問題相互作用のデータセットであるRealHarmを紹介する。
我々は、特にデプロイ者の視点から、害、原因、危険を分析します。
我々は,現状のガードレールとコンテンツモデレーションシステムを評価し,そのようなシステムが事故を防いだかどうかを調査した。
論文 参考訳（メタデータ） (2025-04-14T14:44:41Z) - Computational Safety for Generative AI: A Signal Processing Perspective [65.268245109828]
計算安全性は、GenAIにおける安全性の定量的評価、定式化、研究を可能にする数学的枠組みである。
ジェイルブレイクによる悪意のあるプロンプトを検出するために, 感度解析と損失景観解析がいかに有効かを示す。
我々は、AIの安全性における信号処理の鍵となる研究課題、機会、そして重要な役割について論じる。
論文 参考訳（メタデータ） (2025-02-18T02:26:50Z) - Lessons for Editors of AI Incidents from the AI Incident Database [2.5165775267615205]
AIインシデントデータベース(AIID)は、AIインシデントをカタログ化し、インシデントを分類するプラットフォームを提供することでさらなる研究を支援するプロジェクトである。
この研究は、AIIDの750以上のAIインシデントのデータセットと、これらのインシデントに適用された2つの独立した曖昧さをレビューし、AIインシデントをインデックス化し分析する一般的な課題を特定する。
我々は、インシデントプロセスが原因、害の程度、重大さ、あるいは関連するシステムの技術的詳細に関連する不確実性に対してより堅牢になるよう、軽減策を報告する。
論文 参考訳（メタデータ） (2024-09-24T19:46:58Z) - A taxonomic system for failure cause analysis of open source AI
incidents [6.85316573653194]
この研究は、AIID(AI Incident Database)におけるインシデントの集団に専門家の知識を適用する方法を示し、報告された障害や損害に寄与する潜在的な技術的因果関係を推測する。
本稿では,システム目標(ほぼ常に知られている)から手法/技術(多くの場合は理解できない),および関連するシステムの技術的障害原因(専門家分析の対象)まで,関連要因のカスケードをカバーする分類システムについて概説する。
論文 参考訳（メタデータ） (2022-11-14T11:21:30Z) - Overcoming Failures of Imagination in AI Infused System Development and
Deployment [71.9309995623067]
NeurIPS 2020は研究論文に「潜在的な悪用と失敗の結果」に関するインパクトステートメントを含むよう要求した。
我々は、害の枠組みは文脈に適応し、潜在的な利害関係者、システム余裕、および最も広い意味での害を評価するための実行可能なプロキシを考える必要があると論じている。
論文 参考訳（メタデータ） (2020-11-26T18:09:52Z) - Epidemic mitigation by statistical inference from contact tracing data [61.04165571425021]
我々は,個人が感染するリスクを推定するためにベイズ推定法を開発した。
本稿では,感染防止のための検査・隔離戦略を最適化するために,確率論的リスク推定手法を提案する。
我々のアプローチは、最近接触した個人間の通信のみを必要とする、完全に分散されたアルゴリズムに変換されます。
論文 参考訳（メタデータ） (2020-09-20T12:24:45Z) - COVI White Paper [67.04578448931741]
接触追跡は、新型コロナウイルスのパンデミックの進行を変える上で不可欠なツールだ。
カナダで開発されたCovid-19の公衆ピアツーピア接触追跡とリスク認識モバイルアプリケーションであるCOVIの理論的、設計、倫理的考察、プライバシ戦略について概説する。
論文 参考訳（メタデータ） (2020-05-18T07:40:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。