Fugu-MT 論文翻訳(概要): Open Problems in AI Incident Governance

論文の概要: Open Problems in AI Incident Governance

arxiv url: http://arxiv.org/abs/2607.05163v1
Date: Mon, 06 Jul 2026 14:46:49 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-07 22:26:30.19567
Title: Open Problems in AI Incident Governance
Title（参考訳）: AIインシデントガバナンスにおけるオープン問題
Abstract要約: 規制機関によるインシデントガバナンスに関連する既存の枠組みについて検討する。定義や分類,監視,報告といった面において,一貫性が欠如していることが分かっています。これらの矛盾は、収集および報告されるインシデントデータの種類に適用される。
参考スコア（独自算出の注目度）: 0.4890817787260026
License: http://creativecommons.org/licenses/by/4.0/
Abstract: AI systems may produce failures after deployment that pre-deployment safety assessments do not anticipate. Managing these failures requires what we refer to as adequate \textit{AI incident governance}, where having good definitions, taxonomies, monitoring practices, reporting mechanisms, and incident analysis is essential. We examine existing frameworks related to AI incident governance by regulatory bodies and independent efforts, and find that while there are frameworks that describe how individual functions can be performed, there is a lack of consistency within the aspects of definitions, classification, monitoring, and reporting. These inconsistencies apply to the types of incident data that is collected and reported, the ways in which they are categorised, and as a result, the depth, representativeness, and accuracy of analysis that can be performed.
Abstract（参考訳）: AIシステムは、デプロイ後、デプロイ前の安全性評価が期待しない障害を発生させる可能性がある。これらの障害を管理するには、適切な定義、分類、監視プラクティス、報告メカニズム、インシデント分析が不可欠である適切な \textit{AI incident governance} と呼ばれるものが必要です。規制機関によるAIインシデントガバナンスに関連する既存のフレームワークについて検討し,個々の機能の実行方法を説明するフレームワークが存在する一方で,定義や分類,監視,報告といった面での一貫性が欠如していることを確認する。これらの矛盾は、収集および報告されるインシデントデータの種類、それらが分類される方法、その結果、実行可能な分析の深さ、代表性、精度に適用される。

関連論文リスト

AI Slop and Hallucinations in Vulnerability Assessment: A Survey on Reasoning Failures and Trustworthy Mitigation [48.55515767840701]
AIスロープ(AI slop)は、アーティファクト、幻覚的脆弱性、可視だが正しくないパッチ、セマンティックに再パッケージされたバグレポートである。本稿では,実証的証拠を調査し,統一メカニズムを特定し,信頼に値するトリアージへの道筋をたどる。
論文参考訳（メタデータ） (2026-08-26T11:48:38Z)
Conformal Changepoint Localization and Root Cause Analysis with Corrupted Observations [55.76952683833966]
本稿では,データ破損時の信頼性設定サイズを低減するために,重み付きCONCH(W-CONCH)と重み付きCROC(W-CROC)を提案する。画像ベースおよび実世界の変化点と根本原因ベンチマークの実験は、不確実性ベースの重み付けが信頼性セットのサイズを大幅に減少させることを示している。
論文参考訳（メタデータ） (2026-07-29T05:16:59Z)
Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文参考訳（メタデータ） (2026-07-28T17:50:44Z)
Exploring Systems-Thinking Approaches to Loss of Control Risk [0.0]
コーディングと研究のためのエージェントAIシステムの内部展開は、モデル行動を超えた社会技術制御問題を生み出す。我々は、内部デプロイの損失を、AIによる変更を確実に制限、監査、リバース、または停止することができないものとして扱います。確立されたシステムセーフティ手法が、モデルレベルの評価が見逃す可能性のあるリスクを識別できるかどうかを問う。
論文参考訳（メタデータ） (2026-06-11T15:27:31Z)
Neuro-Symbolic Agents for Regulated Process Automation: Challenges and Research Agenda [43.328395470827665]
規制産業に埋め込まれた象徴的な構造は、コアアーキテクチャコンポーネントとして扱われるべきである、と我々は主張する。本稿では,鉄道監視の補完パラダイムとしてコンプライアンス・バイ・コンストラクションを提案する。我々は、高影響研究領域として、規制プロセスの自動化に携わるよう、ニューロシンボリックなコミュニティに呼びかける。
論文参考訳（メタデータ） (2026-06-11T14:34:11Z)
Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
論文参考訳（メタデータ） (2026-05-17T10:26:37Z)
Position: Behavioural Assurance Cannot Verify the Safety Claims Governance Now Demands [4.125187280299246]
我々は、慎重に設計しても、行動保証は検証できないという安全主張を遂行するよう求められていると論じている。我々は,この構造ミスマッチを監査ギャップ,要求と達成可能な検証アクセスのばらつきとして形式化し,脆弱な保証の概念を導入する。本稿では,法的文書における行動証拠の重み付けと,機械的証拠クラスによる自発的な事前配備アクセスの延長という技術的転換を提案する。
論文参考訳（メタデータ） (2026-05-14T17:54:28Z)
Compliance versus Sensibility: On the Reasoning Controllability in Large Language Models [46.26628756478016]
大規模言語モデル(LLM)は、事前学習データにおける共用推論パターンを通じて推論能力を取得することが知られている。コンフリクト中に信頼性スコアが著しく低下するため、推論競合は内部で検出可能であることを示す。その結果, LLM推論は具体例に固定されているものの, アクティブな機械的介入は論理的スキーマをデータから効果的に切り離すことができることがわかった。
論文参考訳（メタデータ） (2026-04-29T22:55:40Z)
I Can't Believe It's Corrupt: Evaluating Corruption in Multi-Agent Governance Systems [8.670200461690454]
機関的AIの完全性は、デプロイ後仮定ではなく、デプロイ前要件として扱われるべきであることを示す。エージェントが異なる権限構造の下で正式な政府の役割を担っているマルチエージェントガバナンスシミュレーションを評価した。 28,112個の転写セグメントにまたがる独立系裁判官によるルールブレーキングと乱用の結果を収集する。
論文参考訳（メタデータ） (2026-03-19T13:34:54Z)
QCAgent: An agentic framework for quality-controllable pathology report generation from whole slide image [44.81983055985989]
QCAgentは、全スライディング画像(WSI)から品質制御可能な病態レポートを生成するためのエージェントフレームワークである必要な診断の詳細と制約を指定するユーザ定義のチェックリストによってガイドされる、カスタマイズされた批評メカニズムが組み込まれている。批判的フィードバックとテキストパッチによるセマンティック検索に基づいて、WSI内の情報領域を再同定する。
論文参考訳（メタデータ） (2026-03-02T09:27:31Z)
Computable Gap Assessment of Artificial Intelligence Governance in Children's Centres: Evidence-Mechanism-Governance-Indicator Modelling of UNICEF's Guidance on AI and Children 3.0 Based on the Graph-GAP Framework [5.260137087369841]
本稿では,権威政策文書からエビデンス,メカニズム,ガバナンス,インジケータの4層グラフに要件を分解する手法を提案する。 UNICEF Innocenti Guidance on AIとChildren 3.0を主要な素材として、再現可能な抽出単位、コーディングマニュアル、グラフパターン、スコアリング尺度、一貫性チェックを定義する。その結果, プライバシやデータ保護と比較して, 子どもの健康と発達, 説明可能性, 説明可能性, 説明可能性, 資源配分といった要件が, ギャップやメカニズムギャップの指標となる傾向が示唆された。
論文参考訳（メタデータ） (2025-12-20T17:03:17Z)
The Loss of Control Playbook: Degrees, Dynamics, and Preparedness [39.39076397908963]
本報告では,新たな分類と準備の枠組みを開発することにより,AIシステムにおけるロス・オブ・コントロール(Los of Control, LoC)の実用的な定義が欠如していることに対処する。そこで本研究では,重度と持続性の指標に基づいて,偏差,境界LoC,Strict LoCを区別したLoC分類法を提案する。我々は,社会的脆弱性が到達した場合に,準備の維持と LoC 結果の発生防止を計画した。
論文参考訳（メタデータ） (2025-11-19T20:10:39Z)
Limits of Safe AI Deployment: Differentiating Oversight and Control [0.0]
「Human oversight」は、監視や制御といった重要な概念の曖昧さや矛盾した解釈を成すリスクである。本稿では,AI以外の文献の監視を対象とする批判的レビューを行う。コントロールは失敗を防ぐことを目的としており、監視は将来の予防のための検出、修復、インセンティブに焦点を当てている。
論文参考訳（メタデータ） (2025-07-04T12:22:35Z)
Context-Awareness and Interpretability of Rare Occurrences for Discovery and Formalization of Critical Failure Modes [3.140125449151061]
視覚システムは、監視、法執行、交通といった重要な領域にますます配備されている。これらの課題に対処するために,レアオカレンス(CAIRO)の文脈認識と解釈可能性を導入する。 CAIROは、AIブラックボックスモデルにおける誤検出、敵攻撃、幻覚から生じる臨界性のテストと評価のために、ループ内の人間にインセンティブを与える。
論文参考訳（メタデータ） (2025-04-18T17:12:37Z)
Analyzing Adversarial Inputs in Deep Reinforcement Learning [53.3760591018817]
本稿では, 正当性検証のレンズを用いて, 逆入力の特性を包括的に解析する。このような摂動に対する感受性に基づいてモデルを分類するために、新しい計量である逆数率(Adversarial Rate)を導入する。本分析は, 直交入力が所定のDRLシステムの安全性にどのように影響するかを実証的に示す。
論文参考訳（メタデータ） (2024-02-07T21:58:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。