論文の概要: RiskNet: A large-scale dataset of AI risk incidents from news with alignment and multi-dimensional annotations

• arxiv url: http://arxiv.org/abs/2606.08376v1
• Date: Sun, 07 Jun 2026 00:06:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:06.071905
• Title: RiskNet: A large-scale dataset of AI risk incidents from news with alignment and multi-dimensional annotations
• Title（参考訳）: RiskNet: アライメントと多次元アノテーションを備えたニュースからのAIリスクインシデントの大規模データセット
• Authors: Leihan Zhang, Wecheng Ye, Xianlong Ma, Haochuan Liu, Yang Li, Qianyu Zhang, Jinliang Chen, Qiang Yan,
• Abstract要約: RiskNetは、大規模な多言語ニュースソースから構築された、AIリスクインシデントの大規模なデータセットである。 数億のソース記録をカバーし、AIのリスク関連レポートを大規模に収集する。 RiskNetは、AIの安全性、ガバナンス、リスク分析、ベンチマークに関する下流の研究をサポートすることを意図している。
• 参考スコア（独自算出の注目度）: 3.891973188790315
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As artificial intelligence (AI) systems are increasingly deployed across socially consequential domains, reports of AI-related harms and failures have grown in frequency and diversity. Although existing governance frameworks articulate high-level principles for responsible AI, large-scale empirical resources for tracking and analyzing real-world AI risk incidents remain limited. Existing incident collections are often manually curated, relatively small in scale, and insufficient for continuous, data-driven monitoring and downstream computational analysis. To address this need, we present RiskNet, a large-scale dataset of AI risk incidents constructed from large-scale multilingual news sources. RiskNet applies a structured pipeline for AI risk news identification, event-level report screening, incident alignment, and multi-dimensional incident classification. The resulting resource organizes dispersed news reports into incident-centered records and provides benchmark datasets for event classification, incident alignment, and incident-level risk labeling. In its current release, RiskNet covers hundreds of millions of source records and yields a large-scale collection of AI risk-related reports, including aligned incident clusters and annotated benchmark subsets. The dataset is also accessible through an online platform for browsing and exploration. We describe the data sources, processing workflow, taxonomy design, and technical validation of the resource. RiskNet is intended to support downstream research on AI safety, governance, risk analysis, and benchmarking, as well as longitudinal and cross-source analyses of AI-related harms. By providing a structured and reusable empirical resource, RiskNet helps bridge the gap between high-level governance principles and the documented realities of AI risk incidents.
• Abstract（参考訳）: 人工知能(AI)システムが社会的に連続した領域に展開されるにつれて、AI関連の害や失敗の報告は頻度と多様性が増している。 既存のガバナンスフレームワークは、責任あるAIに関する高度な原則を明記しているが、現実のAIリスクインシデントを追跡し分析するための大規模な経験的リソースは依然として限られている。 既存のインシデントコレクションは手作業でキュレートされることが多く、比較的小規模であり、連続的なデータ駆動のモニタリングや下流の計算分析には不十分である。 このニーズに対処するために、大規模な多言語ニュースソースから構築されたAIリスクインシデントを大規模にデータセット化した、リスクネットを提案する。 RiskNetは、AIリスクニュース識別、イベントレベルのレポートスクリーニング、インシデントアライメントアライメント、多次元インシデント分類のための構造化パイプラインを適用している。 その結果得られたリソースは、分散ニュースレポートをインシデント中心のレコードに整理し、イベント分類、インシデントアライメント、インシデントレベルのリスクラベリングのためのベンチマークデータセットを提供する。 RiskNetは現在のリリースで、数十億のソースレコードをカバーし、アライメントされたインシデントクラスタやアノテートされたベンチマークサブセットを含む、AIのリスク関連レポートの大規模なコレクションを生成する。 データセットは、閲覧と探索のためのオンラインプラットフォームを通じてアクセスすることもできる。 データソース、処理ワークフロー、分類設計、およびリソースの技術的検証について説明する。 RiskNetは、AIの安全性、ガバナンス、リスク分析、ベンチマークに関する下流の研究と、AI関連障害の経時的およびクロスソース分析をサポートすることを目的としている。 構造化され再利用可能な経験的リソースを提供することで、リスクネットは、ハイレベルなガバナンス原則と、AIリスクインシデントの文書化された現実とのギャップを埋めるのに役立つ。

関連論文リスト

• Policy-Driven Vulnerability Risk Quantification framework for Large-Scale Cloud Infrastructure Data Security [0.0]
  大規模CVEセキュリティ分析のための包括的データ駆動フレームワークであるMVRAF(Multi-dimensional Vulnerability Risk Assessment Framework)を提案する。 本フレームワークでは, CVSS属性を, エクスプロイラビリティとCIAのインパクトスコアの重み付けによる正規化リスク指標に変換する脆弱性重大度定量化モデル, 相関行列による攻撃, 複雑性, 特権要件間の統計的依存関係を抽出するリスク要因相関分析モジュール, 資源配分最適化のための累積脅威評価を可能にする経験的リスク分散機構の3つを紹介する。
  論文  参考訳（メタデータ） (2026-03-30T01:26:37Z)
• Frontier AI Risk Management Framework in Practice: A Risk Analysis Technical Report v1.5 [61.787178868669265]
  この技術レポートは、サイバー犯罪、説得と操作、戦略上の詐欺、制御されていないAIR&D、自己複製の5つの重要な側面について、更新されきめ細かな評価を提示する。 この作業は、現在のAIフロンティアのリスクに対する理解を反映し、これらの課題を軽減するための集団行動を促します。
  論文  参考訳（メタデータ） (2026-02-16T04:30:06Z)
• Toward Quantitative Modeling of Cybersecurity Risks Due to AI Misuse [50.87630846876635]
  我々は9つの詳細なサイバーリスクモデルを開発する。 各モデルはMITRE ATT&CKフレームワークを使用して攻撃をステップに分解する。 個々の見積もりはモンテカルロシミュレーションによって集約される。
  論文  参考訳（メタデータ） (2025-12-09T17:54:17Z)
• The Role of Risk Modeling in Advanced AI Risk Management [33.357295564462284]
  急速に進歩する人工知能(AI)システムは、新しい、不確実で、潜在的に破滅的なリスクをもたらす。 これらのリスクを管理するには、厳格なリスクモデリングの基盤となる成熟したリスク管理インフラストラクチャが必要です。 先進的なAIガバナンスは、同様の二重アプローチを採用するべきであり、検証可能な、確実に安全なAIアーキテクチャが緊急に必要である、と私たちは主張する。
  論文  参考訳（メタデータ） (2025-12-09T15:37:33Z)
• Adapting Probabilistic Risk Assessment for AI [0.0]
  汎用人工知能(AI)システムは、緊急リスク管理の課題を示す。 現在の手法は、しばしば選択的なテストとリスク優先順位に関する未文書の仮定に依存します。 本稿では,AIフレームワークの確率的リスクアセスメント(PRA)を紹介する。
  論文  参考訳（メタデータ） (2025-04-25T17:59:14Z)
• AILuminate: Introducing v1.0 of the AI Risk and Reliability Benchmark from MLCommons [62.374792825813394]
  本稿ではAI製品リスクと信頼性を評価するための業界標準ベンチマークとして,AIluminate v1.0を紹介する。 このベンチマークは、危険、違法、または望ましくない行動を12の危険カテゴリーで引き起こすように設計されたプロンプトに対するAIシステムの抵抗を評価する。
  論文  参考訳（メタデータ） (2025-02-19T05:58:52Z)
• Risks and NLP Design: A Case Study on Procedural Document QA [52.557503571760215]
  より具体的なアプリケーションやユーザに対して分析を専門化すれば,ユーザに対するリスクや害の明確な評価が可能になる,と我々は主張する。 リスク指向のエラー分析を行い、リスクの低減とパフォーマンスの向上を図り、将来のシステムの設計を通知する。
  論文  参考訳（メタデータ） (2024-08-16T17:23:43Z)
• EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
  EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。 高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。 しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。 本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
  論文  参考訳（メタデータ） (2024-08-08T13:19:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。