論文の概要: A pragmatic classification of AI incident trajectories
- arxiv url: http://arxiv.org/abs/2604.21412v1
- Date: Thu, 23 Apr 2026 08:24:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-24 14:40:06.384143
- Title: A pragmatic classification of AI incident trajectories
- Title（参考訳）: AIインシデント軌跡の実用的分類
- Abstract要約: パブリックAIインシデントデータベースは、報告の正確性、デプロイメントの伸び、露出単位当たりの有害頻度のシフトの詳細な変化をカウントする。
我々は、明確な調査ポイントを確立し、有害度傾向からの露出を別々に推定し、その後、ガバナンス決定のための意味のある軌道カテゴリーに分類する単純な枠組みを提案する。
- 参考スコア（独自算出の注目度）: 3.660810844382496
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Public AI incident database counts conflate changes in reporting propensity, deployment growth, and shifts in harm frequency per unit of exposure. These issues introduce significant uncertainties challenging public and corporate policy frameworks centred on realized risks. We propose a simple framework that establishes clear points of inquiry, separately estimates exposure from harm-rate trends, and then classifies into meaningful trajectory categories for governance decisions. The framework combines a structured monitoring question format (SORT) to clarify coverage decisions, a tiered estimation procedure calibrated to available evidence, and LLM-assisted incident matching against public databases. Applied to various monitoring questions, we draw conclusions regarding the monitoring ecosystem more broadly: Providing an essential interpretative classification, determining what can and cannot be claimed, and establishing that exposure estimation is required as AI deployments become increasingly common.
- Abstract（参考訳）: パブリックAIインシデントデータベースは、報告の正確性、デプロイメントの伸び、露出単位当たりの有害頻度のシフトの詳細な変化をカウントする。
これらの問題は、現実的なリスクを中心とした公共および企業政策の枠組みに挑戦する重大な不確実性をもたらす。
我々は、明確な調査ポイントを確立し、有害度傾向からの露出を別々に推定し、その後、ガバナンス決定のための意味のある軌道カテゴリーに分類する単純な枠組みを提案する。
このフレームワークは、カバー範囲の決定を明らかにするための構造化監視質問フォーマット(SORT)と、利用可能な証拠に合わせて調整された階層化された推定手順と、パブリックデータベースに対するLLM支援インシデントマッチングを組み合わせたものである。
監視エコシステムに関する結論は,より広範なものだ: 本質的な解釈的分類の提供,主張可能なものとできないものの決定,そしてAIデプロイメントがますます一般的になるにつれて,露出推定が求められていること。
関連論文リスト
- CLAIM: Leading Open-domain Active Clarification of Large Language Models with Uncertainty Measurement [50.91045324738942]
CLAIMは、オープンドメイン環境でのアクティブな明確化学習のための不確実性駆動フレームワークである。
本研究では,不確実性推定とセマンティッククラスタリングと推論に基づく判断を統合したエントロピー駆動型合成データ生成パイプラインを提案する。
実験の結果,手動でラベル付けしたデータに頼ることなく,CLAIMが安定かつ一般化可能な明確化戦略を学習できることが確認された。
論文 参考訳（メタデータ） (2026-08-12T04:27:45Z) - Conformal Changepoint Localization and Root Cause Analysis with Corrupted Observations [55.76952683833966]
本稿では,データ破損時の信頼性設定サイズを低減するために,重み付きCONCH(W-CONCH)と重み付きCROC(W-CROC)を提案する。
画像ベースおよび実世界の変化点と根本原因ベンチマークの実験は、不確実性ベースの重み付けが信頼性セットのサイズを大幅に減少させることを示している。
論文 参考訳（メタデータ） (2026-07-29T05:16:59Z) - Human-Centred Risk Mitigation for AI-Mediated Information Manipulation: A SOCMINT Framework Based on Information Manipulation Sets [0.0]
本稿では,情報操作セット(IMS)に基づくSOCMINTフレームワークを提案する。
VIGINUM/EEASの対FIMI分析におけるIMSの使用に基づいて、このフレームワークは操作を物語、アカウント、インフラ、時間的パターン、クロスプラットフォーム移行、合成増幅、認知的ターゲティングを含む一貫性のあるプロセスとして扱う。
また、意思決定品質、信頼性校正、緩和比例性を評価するためのテーブルトップ評価プロトコルを提案する。
論文 参考訳（メタデータ） (2026-06-08T17:12:11Z) - Position: Anthropomorphic Misalignment Research Needs Stronger Evidence [52.76826423649968]
概念的曖昧さ,非ロバストデータセット,実験設計,不十分な因果的介入が,モデル行動の過度な解釈につながることを示す。
本研究の目的は,AMRの方法論的厳密性向上に寄与する明らかな考察のガイダンスを提供することである。
論文 参考訳（メタデータ） (2026-05-29T16:38:53Z) - Imbalanced Classification under Capacity Constraints [0.5156484100374058]
主要な関心のクラスは分類設定で不足しており、不均衡なデータ問題を引き起こします。
本稿では,肯定的な予測率を明示的に制御するフレームワークを提案する。
キャパシティ制約を組み込むことで、古典的なアプローチよりも大幅に改善されることが示される。
論文 参考訳（メタデータ） (2026-05-05T02:21:01Z) - Designing escalation criteria for international AI incident response: criteria, triggers, and thresholds [0.0]
検出されたAIインシデントが、国際協調に対する国家の扱い以上のエスカレーションをいつ保証するかを決定するための運用基準は存在しない。
本稿では,このギャップに対処するエスカレーションフレームワークを提案する。
論文 参考訳（メタデータ） (2026-04-25T07:31:58Z) - Emergent Strategic Reasoning Risks in AI: A Taxonomy-Driven Evaluation Framework [63.74295981594549]
大規模言語モデル(LLM)は、自身の目的を達成する行動に関与している。
これには、詐欺(故意に誤解を招くユーザや評価者)、評価ゲーム(安全テスト中のパフォーマンスを戦略的に操作する)、報酬ハッキングなどが含まれる。
自動行動リスク評価のための分類駆動型エージェントフレームワークであるESRRSimを紹介する。
論文 参考訳（メタデータ） (2026-04-23T23:44:01Z) - Dual-Stage LLM Framework for Scenario-Centric Semantic Interpretation in Driving Assistance [3.7098231493739764]
本稿では,都市交通におけるリスク推論の再現可能な監査のためのシナリオ中心の枠組みを提案する。
LLMに基づく推論を安全に整合した運転支援システムに統合する場合、シナリオ中心の監査と明示的なあいまいさ管理の重要性を強調している。
論文 参考訳（メタデータ） (2026-03-29T06:20:08Z) - From Linear Risk to Emergent Harm: Complexity as the Missing Core of AI Governance [0.0]
リスクベースのAI規制は、予想される損害に対応する比例制御を約束する。
本稿では、そのようなフレームワークは構造上の理由から失敗することが多いと論じる。
我々は,規制を制御ではなく介入として扱う,AIガバナンスのための複雑性ベースのフレームワークを提案する。
論文 参考訳（メタデータ） (2025-12-14T14:19:21Z) - A Unified and Stable Risk Minimization Framework for Weakly Supervised Learning with Theoretical Guarantees [33.15955234458642]
完全かつ正確なラベルが取得にコストがかかる、あるいは不可能な場合には、完全に教師付き学習の代替として弱教師付き学習が実用化されている。
弱教師付きデータの構造に根ざした安定な代理リスクを定式化することにより、そのようなポストホック調整を回避できる、原則化された統一されたフレームワークを提案する。
論文 参考訳（メタデータ） (2025-11-28T00:57:04Z) - SafeRBench: A Comprehensive Benchmark for Safety Assessment in Large Reasoning Models [60.8821834954637]
LRMの安全性をエンドツーエンドに評価する最初のベンチマークであるSafeRBenchを紹介する。
私たちは、リスクカテゴリとレベルを入力設計に組み込んだ先駆者です。
我々は,長い推論トレースを意味的に一貫性のある単位にセグメント化するためのマイクロシンクのチャンキング機構を導入する。
論文 参考訳（メタデータ） (2025-11-19T06:46:33Z) - Variance-Bounded Evaluation of Entity-Centric AI Systems Without Ground Truth: Theory and Measurement [0.0]
本稿では,エンティティ中心型AIシステムのための分散境界評価フレームワークであるVB-Scoreを紹介する。
VB-Scoreは制約緩和とモンテカルロサンプリングを通じて可算解釈を列挙する。
そして、システムの堅牢性を評価するために、システムアウトプットを解釈を越えて予測される成功によって評価し、分散によって罰する。
論文 参考訳（メタデータ） (2025-09-26T07:54:38Z) - MARBLE: A Multi-Agent Rule-Based LLM Reasoning Engine for Accident Severity Prediction [1.3102025155414727]
交通安全システムにおいて,事故重大度予測が重要な役割を担っている。
既存の方法はしばしばモノリシックモデルやブラックボックスプロンプトに依存している。
本稿では,多エージェントルールに基づくLLMエンジンを提案し,その重大性予測タスクを,専門的推論エージェントのチーム間で分解する。
論文 参考訳（メタデータ） (2025-07-07T11:27:49Z) - On Continuous Monitoring of Risk Violations under Unknown Shift [46.65571623109494]
進化するデータストリームにおけるリスク違反のリアルタイムモニタリングのための一般的なフレームワークを提案する。
我々の手法は、遭遇したシフトの性質について最小限の仮定の下で機能する。
本稿では,異常検出におけるリスクの監視と,さまざまなシフト下での予測によるアプローチの有効性について述べる。
論文 参考訳（メタデータ） (2025-06-19T15:52:24Z) - Few-shot Policy (de)composition in Conversational Question Answering [54.259440408606515]
本稿では,大規模言語モデル(LLM)を用いて数ショット設定でポリシーコンプライアンスを検出するニューラルシンボリックフレームワークを提案する。
提案手法は,回答すべきサブクエストを抽出し,文脈情報から真理値を割り当て,与えられたポリシーから論理文の集合を明示的に生成することで,政策コンプライアンスに関する会話に対して健全な理由を示す。
本手法は,PCDおよび会話機械読解ベンチマークであるShARCに適用し,タスク固有の微調整を伴わずに競合性能を示す。
論文 参考訳（メタデータ） (2025-01-20T08:40:15Z) - Stateful Offline Contextual Policy Evaluation and Learning [88.9134799076718]
我々は、シーケンシャルデータから、政治以外の評価と学習について研究する。
動的パーソナライズされた価格設定などの問題の因果構造を形式化する。
本報告では,本クラスにおけるアウト・オブ・サンプル・ポリシーの性能改善について述べる。
論文 参考訳（メタデータ） (2021-10-19T16:15:56Z) - GenDICE: Generalized Offline Estimation of Stationary Values [108.17309783125398]
重要なアプリケーションでは,効果的な推定が依然として可能であることを示す。
我々のアプローチは、定常分布と経験分布の差を補正する比率を推定することに基づいている。
結果として得られるアルゴリズム、GenDICEは単純で効果的である。
論文 参考訳（メタデータ） (2020-02-21T00:27:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。