論文の概要: Co-constructing sociotechnical AI governance: participatory system mapping using algorithm registers
- arxiv url: http://arxiv.org/abs/2608.12166v1
- Date: Wed, 12 Aug 2026 15:27:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-13 19:07:54.625796
- Title: Co-constructing sociotechnical AI governance: participatory system mapping using algorithm registers
- Title（参考訳）: 社会工学的AIガバナンスの共構築--アルゴリズムレジスタを用いた参加型システムマッピング
- Abstract要約: アルゴリズムレジスタは、公共サービスにおけるアルゴリズムの使用に関する透明性を提供する手段として、擁護されている。
しかし、潜在的な大衆は、透明にすべきこととどのようにすべきかについて、彼らの期待を異にしている。
これらの機器が、これらのアルゴリズムが組み込まれている社会技術システムをどのように表現できるかは、まだ不明である。
- 参考スコア（独自算出の注目度）: 0.6999740786886536
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Algorithm registers have been championed as a means of providing transparency on the use of algorithms in public services. Yet potential publics differ in their expectations of what should be made transparent and how, as well as in their interest in and ability to parse the information currently published in the registers. Moreover, it remains unclear how these instruments can represent the sociotechnical systems in which these algorithms are embedded, and how system-level transparency can facilitate accountability. In this paper, we ask, what do algorithm registers reveal (and occlude) about the sociotechnical systems governing algorithmic systems, and how can diverse stakeholder perspectives inform a more pluralistic system-theoretic safety analysis? To do this, we probe the municipal algorithm register of a Dutch city through a case study of a decision-support tool for caseworkers' assessment of citizens' welfare benefits eligibility based on legal automation through a business rule engine. Through interviews, surveys, and participatory system mapping workshops (with municipal staff, civil society organisations, and ombudsmen, N=8), we seek to understand to what extent the register allows stakeholders to map the algorithmic system in question. These maps inform a System-Theoretic Process Analysis (STPA) that situates the register within a wider sociotechnical governance structure. Participants' contributions allow us to identify potential safety hazards which would not have been possible to see using the algorithm register alone, including benefits eligibility denial, system performance deterioration, and inability to contest wrongful decisions. By engaging both direct and indirect stakeholders, we reflect on the normative dimensions of algorithm governance efforts and how politics shape the practice of system safety analysis.
- Abstract（参考訳）: アルゴリズムレジスタは、公共サービスにおけるアルゴリズムの使用に関する透明性を提供する手段として、擁護されている。
しかし、潜在的な大衆は、何が透明になるべきか、どのようにされるべきか、また、現在登録簿に掲載されている情報を解析する能力について、彼らの期待と異なる。
さらに、これらの機器が、これらのアルゴリズムが組み込まれている社会技術システムをどのように表現できるか、また、システムレベルの透明性が説明責任をいかに促進するかは、まだ不明である。
本稿では、アルゴリズムレジスターは、アルゴリズムシステムを管理する社会技術システムについて何を明らかに(かつ無視)するのか、また、多様な利害関係者の視点がより多元的なシステム理論の安全性分析にどのように役立つのかを問う。
そこで本研究では,オランダの市町村における市民福祉給付度評価のための意思決定支援ツールのケーススタディを通じて,ビジネスルールエンジンによる法的な自動化に基づく市民福祉給付の適格性を検証した。
質問紙,調査,参加型システムマッピングワークショップ(市町村職員,市民社会組織,ボウドスメン,N=8)を通じて,住民が問題となっているアルゴリズムシステムをどの程度地図化できるかを理解する。
これらのマップはシステム理論プロセス分析(STPA)に通知し、より広い社会技術的ガバナンス構造に登録する。
参加者のコントリビューションにより、アルゴリズムレジスタだけでは見つからなかった潜在的な安全リスクを特定できる。
直接利害関係者と間接利害関係者の両方を関与させることで、我々は、アルゴリズムガバナンスの取り組みの規範的側面と、政治がシステム安全分析の実践をいかに形作るかを考察する。
関連論文リスト
- Understanding the Role of Algorithm Registers in AI Governance Through Comparative Analysis of China and the UK [9.40272719135206]
本稿では,アルゴリズム登録が管轄区域によってどのように異なるのかを問うとともに,AIガバナンスにおけるそれらの役割について,どのような違いが明らかになるのかを問う。
我々は中国のBeianシステムとイギリスのアルゴリズム透明性記録標準(ATRS)を比較した。
分析の結果,アルゴリズムレジスタは設計や実装に依存して,透明性を超えた機能を提供できることがわかった。
論文 参考訳（メタデータ） (2026-04-25T09:57:02Z) - Bureaucratic Silences: What the Canadian AI Register Reveals, Omits, and Obscures [28.163187835238478]
2025年11月、カナダ政府は最初の連邦AI登録簿を公表することで透明性へのコミットメントを運用した。
このようなレジスタは、政府の活動の中立的なミラーではなく、説明責任の境界を構成するオントロジ設計のアクティブな手段である、と我々は主張する。
論文 参考訳（メタデータ） (2026-04-16T20:48:35Z) - Frontier AI Auditing: Toward Rigorous Third-Party Assessment of Safety and Security Practices at Leading AI Companies [57.521647436515785]
私たちはフロンティアAIの監査を、フロンティアAI開発者の安全とセキュリティに関する主張の厳格な第三者による検証として定義しています。
本稿では,AI保証レベル(AAL-1からAAL-4)について紹介する。
論文 参考訳（メタデータ） (2026-01-16T18:44:09Z) - Collective dynamics of strategic classification [49.14942990735098]
ユーザと機関の集団間のフィードバックループ問題に進化ゲーム理論を適用した。
検知能力の向上は社会的コストを低減し,ユーザの改善につながる可能性が示唆された。
施設が利用者の人口に再適応する速度は、最終結果に果たす役割を担っている。
論文 参考訳（メタデータ） (2025-08-12T20:57:17Z) - In-House Evaluation Is Not Enough: Towards Robust Third-Party Flaw Disclosure for General-Purpose AI [93.33036653316591]
我々はシステムの安全性を高めるために3つの介入を要求します。
まず、標準化されたAI欠陥レポートと研究者へのエンゲージメントのルールを用いることを提案する。
第2に,GPAIシステムプロバイダが広視野欠陥開示プログラムを採用することを提案する。
第3に,欠陥報告の分布を調整するための改良されたインフラの開発を提唱する。
論文 参考訳（メタデータ） (2025-03-21T05:09:46Z) - Fairness and Bias in Algorithmic Hiring: a Multidisciplinary Survey [43.463169774689646]
この調査は、システム、バイアス、尺度、緩和戦略、データセット、およびアルゴリズム雇用と公正性の法的側面のバランスよく統合されたカバレッジを持つ実践者や研究者を対象としている。
私たちの仕事は、現在の機会と制限を強調し、すべての利害関係者に対する共有メリットを保証するために、将来の作業に対する推奨を提供することによって、この技術のコンテキスト化された理解とガバナンスを支援します。
論文 参考訳（メタデータ） (2023-09-25T08:04:18Z) - Human-Centric Multimodal Machine Learning: Recent Advances and Testbed
on AI-based Recruitment [66.91538273487379]
人間中心のアプローチでAIアプリケーションを開発する必要性には、ある程度のコンセンサスがある。
i)ユーティリティと社会的善、(ii)プライバシとデータ所有、(iii)透明性と説明責任、(iv)AIによる意思決定プロセスの公正性。
異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
論文 参考訳（メタデータ） (2023-02-13T16:44:44Z) - FAT Forensics: A Python Toolbox for Implementing and Deploying Fairness,
Accountability and Transparency Algorithms in Predictive Systems [69.24490096929709]
FAT ForensicsというオープンソースのPythonパッケージを開発しました。
予測アルゴリズムの重要な公平性、説明可能性、透明性を検査することができる。
私たちのツールボックスは、予測パイプラインのすべての要素を評価することができます。
論文 参考訳（メタデータ） (2022-09-08T13:25:02Z) - Justice in Misinformation Detection Systems: An Analysis of Algorithms,
Stakeholders, and Potential Harms [2.5372245630249632]
誤情報検出パイプラインにおける3つのアルゴリズム段階の利害関係者に対して、不正がいかに有効であるかを示す。
この枠組みは、研究者、政策立案者、そして実践者がアルゴリズムの誤情報検出に関連する潜在的な害やリスクを判断するのに役立つだろう。
論文 参考訳（メタデータ） (2022-04-28T15:31:13Z) - A relationship and not a thing: A relational approach to algorithmic
accountability and assessment documentation [3.4438724671481755]
当社は、開発者はシステムがどのように動作するかに関する情報をほとんど独占していると論じています。
我々は、ロバストな説明責任体制は、大衆が共有された経験と関心を結び付ける機会を確立する必要があると論じている。
論文 参考訳（メタデータ） (2022-03-02T23:22:03Z) - System Cards for AI-Based Decision-Making for Public Policy [5.076419064097733]
本研究では,人工知能に基づく意思決定システムの公式監査のためのシステム説明責任ベンチマークを提案する。
これは、(i)データ、(ii)モデル、(iii)コード、(iv)システム、および(a)開発、(b)評価、(c)緩和、(d)保証に焦点を当てた行からなる4つの4つの4つの行列にまとめられた56の基準からなる。
論文 参考訳（メタデータ） (2022-03-01T18:56:45Z) - Bias in Multimodal AI: Testbed for Fair Automatic Recruitment [73.85525896663371]
異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。
我々は、性別や人種の偏りを意識的に評価したマルチモーダルな合成プロファイルを用いて、自動求人アルゴリズムを訓練する。
我々の方法論と結果は、一般により公平なAIベースのツール、特により公平な自動採用システムを生成する方法を示している。
論文 参考訳（メタデータ） (2020-04-15T15:58:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。