論文の概要: Negotiating Risk Boundaries in AI for Policing Through Mixed-Stakeholder Deliberation
- arxiv url: http://arxiv.org/abs/2608.05418v1
- Date: Wed, 05 Aug 2026 21:24:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 15:25:20.786435
- Title: Negotiating Risk Boundaries in AI for Policing Through Mixed-Stakeholder Deliberation
- Title（参考訳）: AIにおけるリスク境界の交渉 : 混成利害関係者の議論を通して
- Abstract要約: 私たちは、警察における13のAIユースケースのリスクを評価するために、30人のコミュニティ代表者、警察官、および学者を集めます。
参加者は、AIの採用に広く参加しており、3つのユースケースを完全に拒否していることがわかった。
このことは、AIユースケースのリスク・ベネフィット分析に人種偏見レンズを最初から組み込むことのメリットを強調している。
- 参考スコア（独自算出の注目度）: 0.8808021343665319
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI tools are being increasingly adopted in policing in the UK and worldwide. Racial bias is a known and well-documented risk, yet representatives of affected communities are rarely included in decisions about AI adoption. We present results from a mixed-stakeholder deliberation workshop bringing together 30 community representatives, police officers, and academics to assess the risks of 13 AI use cases in policing, with an explicit focus on racial bias. We found that participants were broadly open to AI adoption, rejecting only three use cases outright, most notably recidivism risk assessment, where objections targeted the premise rather than the implementation. Our analysis reveals that foregrounding racial equity did not narrow the deliberation. Instead, discussions gravitated toward a fundamental set of questions: does this tool actually work, will it deliver genuine benefit, and will that benefit extend to everyone? This integrated reasoning, reminiscent of the curb-cut effect in inclusive design, highlights the benefit of incorporating the racial bias lens into the risk-benefit analysis of AI use cases from the outset.
- Abstract（参考訳）: AIツールは、イギリスと世界中の警察でますます採用されている。
人種的偏見はよく知られ、文書化されたリスクであるが、影響を受けるコミュニティの代表者は、AIの採用に関する決定にはほとんど含まれていない。
我々は、30人のコミュニティ代表者、警察官、学者を集めて、人種的偏見に着目して、警察における13のAIユースケースのリスクを評価する混合株主協議会の結果を提示する。
参加者は、AIの採用に対して広範囲にオープンであることに気付き、直接的に3つのユースケースのみを拒否しました。
我々の分析では、先進的な人種的平等が審議を絞り込まなかったことが判明した。
このツールは実際に機能するのか、真に利益をもたらすのか、誰にでも利益をもたらすのか?
この統合推論は、包括的設計における抑制効果を連想させるものであり、AIユースケースのリスク・ベネフィット分析に人種的偏見レンズを組み込むことの利点を、最初から強調している。
関連論文リスト
- Trade-Offs in Deploying Legal AI: Insights from a Public Opinion Study to Guide AI Risk Management [3.7782691747398913]
ジェネレーティブAIツールは、法的タスクにますます使われています。
EUはいくつかのユースケースの市場導入前にリスクアセスメントと監査を義務付けている。
その他のユースケースは、AI Actsのハイリスクな分類に該当しない。
論文 参考訳（メタデータ） (2026-02-10T10:32:40Z) - Large Language Models' Complicit Responses to Illicit Instructions across Socio-Legal Contexts [54.15982476754607]
大規模言語モデル(LLM)が前例のない規模に展開され、毎日のタスクで数百万のユーザを支援している。
本研究は、複雑なファシリテーションを、不正なユーザ指示を可能にするガイダンスやサポートの提供として定義する。
実世界の訴訟と確立された法的枠組みを用いて、269件の違法なシナリオと50件の違法な意図にまたがる評価ベンチマークを構築した。
論文 参考訳（メタデータ） (2025-11-25T16:01:31Z) - No Thoughts Just AI: Biased LLM Hiring Recommendations Alter Human Decision Making and Limit Human Autonomy [8.423021413553464]
人々は、レースベースの選好(バイアス)を示すシミュレーションAIモデルと協力し、16のハイステータスな職業の候補を評価する。
シミュレーションされたAIバイアスは、実世界のAIシステムにおける人種バイアスの事実的および反事実的推定を近似する。
論文 参考訳（メタデータ） (2025-09-04T17:16:26Z) - Perception Gaps in Risk, Benefit, and Value Between Experts and Public Challenge Socially Accepted AI [0.0]
本研究は,一般のAI専門家がAIの能力と影響をどう認識するかを検討する。
シナリオは、持続可能性、医療、仕事のパフォーマンス、社会的不平等、芸術、戦争といった領域にまたがる。
専門家は、常に高い確率を予測し、リスクを知覚し、より多くの利益を報告し、非専門家よりもAIに対する肯定的な感情を表現する。
論文 参考訳（メタデータ） (2024-12-02T12:51:45Z) - Risks and NLP Design: A Case Study on Procedural Document QA [52.557503571760215]
より具体的なアプリケーションやユーザに対して分析を専門化すれば,ユーザに対するリスクや害の明確な評価が可能になる,と我々は主張する。
リスク指向のエラー分析を行い、リスクの低減とパフォーマンスの向上を図り、将来のシステムの設計を通知する。
論文 参考訳（メタデータ） (2024-08-16T17:23:43Z) - Implications for Governance in Public Perceptions of Societal-scale AI Risks [0.29022435221103454]
投票者は、AIのリスクは専門家よりも可能性が高く影響も大きいと認識し、AI開発を遅くすることを主張する。
政策介入は、社会規模リスクの全てのクラスにまたがる緩和努力をより慎重にバランスを取ろうとすれば、集団の懸念を和らげるのがよい。
論文 参考訳（メタデータ） (2024-06-10T11:52:25Z) - Particip-AI: A Democratic Surveying Framework for Anticipating Future AI Use Cases, Harms and Benefits [54.648819983899614]
汎用AIは、一般大衆がAIを使用してそのパワーを利用するための障壁を下げたようだ。
本稿では,AI利用事例とその影響を推測し,評価するためのフレームワークであるPartICIP-AIを紹介する。
論文 参考訳（メタデータ） (2024-03-21T19:12:37Z) - A Safe Harbor for AI Evaluation and Red Teaming [124.89885800509505]
一部の研究者は、そのような研究の実施や研究成果の公表が、アカウント停止や法的報復につながることを恐れている。
我々は、主要なAI開発者が法的、技術的に安全な港を提供することを約束することを提案します。
これらのコミットメントは、ジェネレーティブAIのリスクに取り組むための、より包括的で意図しないコミュニティ努力への必要なステップである、と私たちは信じています。
論文 参考訳（メタデータ） (2024-03-07T20:55:08Z) - Examining risks of racial biases in NLP tools for child protective
services [78.81107364902958]
児童保護サービス(CPS)に焦点をあてる。
この設定で確立された人種的偏見を考えると、NLPの展開は人種格差を増大させる可能性がある。
我々は、NERモデルにおける一貫したアルゴリズムの不公平性、コア参照解決モデルにおけるアルゴリズムの不公平性、およびリスク予測における人種バイアスの悪化の証拠を文書化している。
論文 参考訳（メタデータ） (2023-05-30T21:00:47Z) - Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。
偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。
問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
論文 参考訳（メタデータ） (2023-04-16T11:22:59Z) - AI & Racial Equity: Understanding Sentiment Analysis Artificial
Intelligence, Data Security, and Systemic Theory in Criminal Justice Systems [0.0]
人種的体系的不正を悪化または減少させる人工知能の様々な形態が研究されている。
これは、歴史的体系的パターン、暗黙の偏見、既存のアルゴリズム的リスク、そして自然言語処理に基づくAI(リスク評価ツールなど)が人種的に異なる結果をもたらすという法的意味を通じて主張されている。
人種的に不正な結果や慣行から逸脱するためには、内部の機関や企業がアルゴリズム、プライバシーおよびセキュリティリスクをどのように活用するかを規制し、規制するために、より訴訟的な政策が必要であると結論付けている。
論文 参考訳（メタデータ） (2022-01-03T19:42:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。