論文の概要: "Death by a thousand taxonomies?": AI Risk Classification In Practice
- arxiv url: http://arxiv.org/abs/2608.06831v1
- Date: Fri, 07 Aug 2026 05:42:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 16:21:25.370679
- Title: "Death by a thousand taxonomies?": AI Risk Classification In Practice
- Title（参考訳）: 「千の分類ミスで死ぬか?」:AIリスク分類の実践
- Abstract要約: 本稿では,SOT(Sociotechnical Outcome Taxonomies)の開発と利用に関する実証的研究について述べる。
私たちは、SOTがAIガバナンスプロセスに弱い統合されていることに気付き、SOT設計の2つの特徴を特定し、その理由を説明するために使用します。
- 参考スコア（独自算出の注目度）: 16.159676110949786
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The harms in which AI is implicated range in nature and scope from unsafe user interactions through to the societal-wide consequences of AI adoption. Classification of the diverse risks of AI is foundational to AI governance: regulators, technology firms, and policymakers need structured accounts of risk upon which to act. Researchers and practitioners have accordingly developed many Sociotechnical Outcome Taxonomies (SOT). This paper presents an empirical study of SOT development and use, drawing on 25 interviews with researchers and practitioners across industry, academia, civil society, and government. We find SOT are weakly integrated into AI governance processes, and identify two features of SOT design and use that explain why. First, the design choices through which SOT produce structured representations of the complex problem space of AI risks tend to be invisible to downstream taxonomy users. Those users treat the resulting categories as exhaustive accounts of risk rather than as interpretive aids. Second, SOT typically enumerate harms without linking them to decision points or actors implicated in their occurrence, leaving accountability difficult to assign. We close with design recommendations for SOT developers and users, and argue realising the potential of SOT requires governance infrastructure that does not yet exist.
- Abstract（参考訳）: AIが関係する害は、安全でないユーザインタラクションから、AIの採用による社会的な結果まで、その性質と範囲の範囲に及んでいる。
AIのさまざまなリスクの分類は、AIガバナンスの基礎となっている。
研究者や実践者は、多くの社会技術的アウトカム分類(SOT)を開発した。
本稿では,産業,アカデミア,市民社会,政府にまたがる研究者や実践者に対して,SOTの開発と利用に関する実証的研究を行った。
私たちは、SOTがAIガバナンスプロセスに弱い統合されていることに気付き、SOT設計の2つの特徴を特定し、その理由を説明するために使用します。
まず、SOTがAIリスクの複雑な問題空間の構造化された表現を生成する設計選択は、下流の分類利用者には見えない傾向にある。
これらのユーザは、その結果のカテゴリを、解釈的エイズではなく、全体的なリスク評価として扱う。
第2に、SOTは通常、決定ポイントやアクターにリンクせずに害を列挙し、説明責任の割り当てが困難になる。
私たちは、SOT開発者とユーザのためのデザインレコメンデーションに近づき、SOTの可能性を実現するには、まだ存在しないガバナンスインフラストラクチャが必要です。
関連論文リスト
- Mapping AI Risk Mitigations: Evidence Scan and Preliminary AI Risk Mitigation Taxonomy [35.22340964134219]
AIリスク軽減フレームワークの展望は断片化され、一貫性のない用語を使用し、カバレッジにギャップがある。
本稿では、AIリスク軽減のための予備的なAIリスク軽減分類を導入し、共通の参照枠を提供する。
この分類法は、2023年から2025年の間に発行された13のAIリスク軽減フレームワークの素早いエビデンススキャンによって開発された。
論文 参考訳（メタデータ） (2025-12-12T03:26:29Z) - Identifying the Supply Chain of AI for Trustworthiness and Risk Management in Critical Applications [0.0]
Gapは、現代のAIシステムの出力に寄与するデータソース、事前訓練されたモデル、エージェント、サービス、その他のシステムの複雑なWebに関連するサプライチェーンリスクの体系的評価に存在する。
我々は、AIのサプライチェーンとAIシステムの振る舞いとアウトプットに関連するリスクに着目し、AIリスク評価と管理の現状を調査する。
本稿では,AIサプライチェーンを分類するための分類法を提案する。
論文 参考訳（メタデータ） (2025-11-19T14:52:02Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳（メタデータ） (2025-08-12T09:42:56Z) - Understanding and Mitigating Risks of Generative AI in Financial Services [22.673239064487667]
我々は、金融サービスドメインに特有のAIコンテンツ安全性の考察を強調し、関連するAIコンテンツリスク分類を概説することを目指している。
我々は,既存のオープンソース技術ガードレールソリューションがこの分類をレッドチーム活動を通じて収集されたデータに基づいて評価することによってどのようにカバーするかを評価する。
論文 参考訳（メタデータ） (2025-04-25T16:55:51Z) - AILuminate: Introducing v1.0 of the AI Risk and Reliability Benchmark from MLCommons [62.374792825813394]
本稿ではAI製品リスクと信頼性を評価するための業界標準ベンチマークとして,AIluminate v1.0を紹介する。
このベンチマークは、危険、違法、または望ましくない行動を12の危険カテゴリーで引き起こすように設計されたプロンプトに対するAIシステムの抵抗を評価する。
論文 参考訳（メタデータ） (2025-02-19T05:58:52Z) - Position: Mind the Gap-the Growing Disconnect Between Established Vulnerability Disclosure and AI Security [56.219994752894294]
我々は、AIセキュリティレポートに既存のプロセスを適用することは、AIシステムの特徴的な特徴に対する根本的な欠点のために失敗する運命にあると主張している。
これらの欠点に対処する私たちの提案に基づき、AIセキュリティレポートへのアプローチと、新たなAIパラダイムであるAIエージェントが、AIセキュリティインシデント報告の進展をさらに強化する方法について論じる。
論文 参考訳（メタデータ） (2024-12-19T13:50:26Z) - Risks and NLP Design: A Case Study on Procedural Document QA [52.557503571760215]
より具体的なアプリケーションやユーザに対して分析を専門化すれば,ユーザに対するリスクや害の明確な評価が可能になる,と我々は主張する。
リスク指向のエラー分析を行い、リスクの低減とパフォーマンスの向上を図り、将来のシステムの設計を通知する。
論文 参考訳（メタデータ） (2024-08-16T17:23:43Z) - The AI Risk Repository: A Comprehensive Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence [35.77247656798871]
人工知能(AI)によって引き起こされるリスクは、学者、監査人、政策立案者、AI企業、そして一般大衆にかなり懸念されている。
AIリスクに対する共通理解の欠如は、包括的に議論し、研究し、それに反応する能力を妨げる可能性がある。
本稿では、共通の参照フレームとして機能するAIリスクリポジトリを作成することで、このギャップに対処する。
論文 参考訳（メタデータ） (2024-08-14T10:32:06Z) - Particip-AI: A Democratic Surveying Framework for Anticipating Future AI Use Cases, Harms and Benefits [54.648819983899614]
汎用AIは、一般大衆がAIを使用してそのパワーを利用するための障壁を下げたようだ。
本稿では,AI利用事例とその影響を推測し,評価するためのフレームワークであるPartICIP-AIを紹介する。
論文 参考訳（メタデータ） (2024-03-21T19:12:37Z) - Managing extreme AI risks amid rapid progress [171.05448842016125]
我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。
このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。
現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
論文 参考訳（メタデータ） (2023-10-26T17:59:06Z) - Quantitative AI Risk Assessments: Opportunities and Challenges [7.35411010153049]
リスクを減らす最善の方法は、包括的なAIライフサイクルガバナンスを実装することです。
リスクは技術コミュニティのメトリクスを使って定量化できます。
本稿では,このようなアプローチの機会,課題,潜在的影響に焦点をあてて,これらの課題について考察する。
論文 参考訳（メタデータ） (2022-09-13T21:47:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。