論文の概要: Why Public Service AI Governance Frameworks Risk Failing in the Age of General-Purpose AI: Lessons from Policing
- arxiv url: http://arxiv.org/abs/2607.25648v1
- Date: Tue, 28 Jul 2026 12:34:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-29 20:50:42.83565
- Title: Why Public Service AI Governance Frameworks Risk Failing in the Age of General-Purpose AI: Lessons from Policing
- Title（参考訳）: 一般目的AIの時代においてパブリックサービスAIガバナンスフレームワークが失敗するリスク:調査から学んだこと
- Abstract要約: 我々は、汎用AI(GPAI)モデルが、AIの安全性が歴史的に追求されてきた条件を損なうと主張している。
パブリックサービスガバナンスフレームワークが目指す安全性の概念 – 正確性、バイアス、説明可能性、説明責任 – は、狭く、目的を持ったAIによって抽出可能である。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Public services face growing pressure to adopt artificial intelligence (AI) to close the gap between rising demand and falling resources. That pressure has intensified with general-purpose AI (GPAI): AI built on large language models that can be directed by prompt alone to perform an effectively unbounded range of tasks. We argue that the properties that make these models attractive - their generality, accessibility, and low deployment cost - undermine the conditions under which AI safety has historically been pursued. The safety concepts that public service governance frameworks foreground - accuracy, bias, explainability, and accountability - were made tractable by narrow, purpose-built AI, and the mitigations that guidance documents prescribe presuppose exactly what GPAI removes. Accuracy cannot be quantified over unbounded outputs. Bias cannot be disaggregated when outputs are free-text judgements rather than categorical predictions. Explainability gives way to the appearance of explanation, and accountability erodes as outputs are optimized to persuade. We develop this through the case of policing, where the consequences of governance failure are most severe, and show why the same failure is likely to recur across other public services. The two mitigations that dominate policing AI strategy - expert evaluation and human-in-the-loop oversight - both rest on assumptions that GPAI violates. Safety assurance thus shifts from an intrinsic feature of building an AI tool to an optional add-on. We recommend a clear taxonomic distinction between narrow and general-purpose AI in governance documentation, a preference for technological parsimony, a pause on operational deployment of GPAI in policing until adequate evidence exists, and a coordinated national safety infrastructure with the authority to generate that evidence and determine when responsible deployment is achievable.
- Abstract（参考訳）: 公共サービスでは、需要増加と資源減少のギャップを埋めるために人工知能(AI)を採用する圧力が高まっている。
このプレッシャーは、汎用AI(GPAI: General-purpose AI)によって強化されている。
これらのモデルを魅力的なものにする特性 – 汎用性,アクセシビリティ,デプロイメントコストの低 – は,AIの安全性を歴史的に追求した条件を損なうものだ,と私たちは主張する。
パブリックサービスガバナンスフレームワークが前提としている安全性の概念 – 正確性、バイアス、説明可能性、説明責任 – は、狭く目的のAIによって抽出可能とされ、ドキュメントがGPAIが取り除くものを完全に前提としています。
非有界出力に対して精度を定量化することはできない。
出力がカテゴリー予測よりも自由テキスト判断である場合、バイアスは分解できない。
説明可能性(Explainability)は説明の出現への道を与え、アウトプットが説得に最適化されるにつれて説明責任が損なわれる。
私たちは、ガバナンスの失敗の結果が最も深刻である警察のケースを通じてこれを開発し、同じ失敗が他の公共サービスにまたがる可能性がある理由を示しています。
専門家の評価と人間のループ監視の2つの緩和は、GPAIが違反する仮定に基づいている。
これにより、安全保証は、AIツールを構築するという本質的な特徴から、オプションのアドオンへとシフトする。
我々は、ガバナンス文書における狭義と汎用AIの明確な分類学的区別、技術的パーシモニーの好み、適切な証拠が存在するまで警察におけるGPAIの運用展開の停止、そして、その証拠を生成し、責任ある展開がいつ達成可能かを判断する権限を有する国家安全インフラの調整を推奨する。
関連論文リスト
- The AI Resilience Gap: Bringing Artificial Intelligence Inside the Operational Resilience Perimeter [0.0]
AIの採用は、信頼できるAIスタックとは異なる、かつ不十分にカバーされたレジリエンス義務を生み出します。
我々は、運用のレジリエンス周辺にAI依存関係をもたらすための、レシシックな方法であるAI Resilience Frameworkを提案する。
論文 参考訳（メタデータ） (2026-07-08T12:54:11Z) - Misaligned AI as a New Insider Risk [0.0]
ハイテイクな状況におけるAIモデルは、国家安全保障を損なう可能性のある、誤った対応を実行することができる。
既存のインサイダーのリスクポリシーと緩和はまだAIインサイダーのリスクに対応していない。
我々は,米国政府が高度に評価された状況に展開されたAIモデルに対して,継続的な評価や監視などの確立した措置を適用することを推奨する。
論文 参考訳（メタデータ） (2026-06-04T11:21:16Z) - When Is Self-Disclosure Optimal? Incentives and Governance of AI-Generated Content [25.691139058468377]
Gen-AIは、生産コストを削減し、さまざまな品質のスケーラブルなアウトプットを可能にすることで、デジタルプラットフォーム上でのコンテンツ生成を再構築している。
プラットフォームは、クリエイターがAI生成コンテンツをラベル付けする必要がある公開ポリシーを採用し始めている。
本稿では、こうした開示体制の経済的意味を研究するための形式モデルを開発する。
論文 参考訳（メタデータ） (2026-01-26T16:31:04Z) - Governable AI: Provable Safety Under Extreme Threat Models [31.36879992618843]
我々は、従来の内部制約から外部に強制された構造コンプライアンスに移行するGAI(Governable AI)フレームワークを提案する。
GAIフレームワークは、シンプルで信頼性が高く、完全に決定論的で、強力で、柔軟性があり、汎用的なルール執行モジュール(REM)、ガバナンスルール、AIによる妥協やサブバージョンに対するエンドツーエンドの保護を提供する、統制可能なセキュアなスーパープラットフォーム(GSSP)で構成されている。
論文 参考訳（メタデータ） (2025-08-28T04:22:59Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳（メタデータ） (2025-08-12T09:42:56Z) - General Scales Unlock AI Evaluation with Explanatory and Predictive Power [57.7995945974989]
ベンチマークはAIの進歩を導くものだが、汎用AIシステムには限られた説明力と予測力を提供している。
私たちは、一般的なAIベンチマークが実際に何を計測しているかを説明することができる、AI評価のための一般的な尺度を紹介します。
私たちの完全に自動化された方法論は、飽和しない一般的なスケールにインスタンス要求を配置する18の新しく作られたルーリックの上に構築されます。
論文 参考訳（メタデータ） (2025-03-09T01:13:56Z) - Position: Mind the Gap-the Growing Disconnect Between Established Vulnerability Disclosure and AI Security [56.219994752894294]
我々は、AIセキュリティレポートに既存のプロセスを適用することは、AIシステムの特徴的な特徴に対する根本的な欠点のために失敗する運命にあると主張している。
これらの欠点に対処する私たちの提案に基づき、AIセキュリティレポートへのアプローチと、新たなAIパラダイムであるAIエージェントが、AIセキュリティインシデント報告の進展をさらに強化する方法について論じる。
論文 参考訳（メタデータ） (2024-12-19T13:50:26Z) - Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。
人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。
これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
論文 参考訳（メタデータ） (2024-10-10T17:38:38Z) - False Sense of Security in Explainable Artificial Intelligence (XAI) [3.298597939573779]
我々は、AI規制と現在の市場条件が効果的なAIガバナンスと安全性を脅かすと主張している。
政府は明確な立法と政策ステートメントを通じて説明可能性の問題に明示的に対処しない限り、AIガバナンスのリスクは空虚な「ボックス・ティック」のエクササイズになる。
論文 参考訳（メタデータ） (2024-05-06T20:02:07Z) - Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。
偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。
問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
論文 参考訳（メタデータ） (2023-04-16T11:22:59Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。