論文の概要: From experimentation to engagement: on the paradox of participatory AI and power in contexts of forced displacement and humanitarian crises

• arxiv url: http://arxiv.org/abs/2604.06219v1
• Date: Mon, 23 Mar 2026 11:16:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-12 18:41:08.650295
• Title: From experimentation to engagement: on the paradox of participatory AI and power in contexts of forced displacement and humanitarian crises
• Title（参考訳）: 実験からエンゲージメントへ:強制移住と人道的危機の文脈における参加型AIと権力のパラドックスについて
• Authors: Stella Suge, Sarah W. Spencer, Nyalleng Moorosi, Helen McElhinney, Geoff Loane, Sue Black,
• Abstract要約: 本稿では,人道的文脈における参加型AI手法とその限界について批判的に検討する。 人道的文脈で使用すれば、いわゆる「参加洗浄」とアルゴリズム的害のリスクを増大させる可能性のある、参加型AIアプローチには、いくつかの重要な制限がある。 これらのリスクは、AIの理解と認識のレベルの違いによって主に引き起こされるのではなく、人道的なセクターに埋め込まれた基本的なパワーダイナミクスと密接に関連している、と私たちは主張する。
• 参考スコア（独自算出の注目度）: 1.7511889950315014
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Across the Global North, calls for participatory artificial intelligence (AI) to improve the responsible, safe, and ethical use of AI have increased, particularly efforts that engage citizens and communities whose well-being and safety may be directly impacted by AI and other algorithmic tools. These initiatives include surveys, community consultations, citizens' councils and assemblies, and co-designing AI models and projects. Far fewer efforts, however, have been made in the Global South, particularly in contexts related to humanitarian crises and forced displacement, where the deployment of AI and algorithmic tools is accelerating. In this paper, we critically examine participatory AI methods and their limitations in these contexts and explore the opinions and perceptions of AI held by displaced and crisis-affected communities. Based on a pilot exercise with communities living in Kakuma Refugee Camp in northwestern Kenya, we find important limitations in some participatory AI approaches which, if used in humanitarian contexts, could increase risks of so-called 'participation washing' and algorithmic harm. We argue that these risks are not predominantly driven by varying levels of understanding and awareness of AI but more closely linked to the fundamental power dynamics embedded within the humanitarian sector: between humanitarian aid recipients, service providers, donor governments, and host nations, as well as the power differentials and incentives that exist between AI companies and humanitarian actors. These structural conditions make the case not only for more rigorous participatory methods, but for independent governance architecture capable of holding humanitarian AI to account.
• Abstract（参考訳）: グローバルノース全体において、AIの責任、安全、倫理的利用を改善するための参加型人工知能(AI)の必要性が高まっている。 これらのイニシアティブには、調査、コミュニティコンサルテーション、市民評議会と集会、AIモデルとプロジェクトの共同設計が含まれる。 しかし、特に人道的危機や強制移住に関連する文脈において、AIとアルゴリズムツールの展開が加速している世界南部での取り組みは、はるかに少ない。 本稿では、これらの文脈における参加型AI手法とその制限について批判的に検討し、転職・危機に影響を及ぼしたコミュニティが持つAIの意見と認識について考察する。 ケニア北西部の覚馬Refugee Campに居住するコミュニティとのパイロット演習から,人道的文脈で使用すれば,いわゆる「参加洗浄」やアルゴリズム的危害のリスクが増大する可能性のある,参加型AIアプローチのいくつかの重要な制限を見出した。 これらのリスクは、AIの理解と認識のさまざまなレベルによって主に引き起こされるものではなく、人道支援の受給者、サービス提供者、ドナー政府、ホスト国、さらにはAI企業と人道的アクターの間に存在する権力差とインセンティブなど、人道支援の分野に埋め込まれた基本的なパワーダイナミクスと密接に関連している、と私たちは主張する。 これらの構造的条件は、より厳格な参加的手法だけでなく、人道的なAIを考慮に入れられる独立したガバナンスアーキテクチャにも当てはまる。

関連論文リスト

• AI Workers, Geopolitics, and Algorithmic Collective Action [0.0]
  この論文は、一部のAI労働者は、地政学のアクターと見なすことができると論じている。 ガバナンスだけでは、責任、倫理的、あるいは堅牢なAI開発と使用を保証できない。 知識、相対的な力の源泉としてAIワーカーを関与させ、より責任を持ち、単なるAI開発を促進することを提案する。
  論文  参考訳（メタデータ） (2025-11-21T15:52:44Z)
• Envisioning an AI-Enhanced Mental Health Ecosystem [1.534667887016089]
  ピアサポート、セルフヘルプ介入、プロアクティブモニタリング、データ駆動インサイトなど、さまざまなAIアプリケーションについて検討する。 我々は、AIが人間のプロバイダを置き換えず、責任あるデプロイメントと評価を強調するハイブリッドエコシステムを提案する。
  論文  参考訳（メタデータ） (2025-03-19T04:21:38Z)
• Combining Theory of Mind and Kindness for Self-Supervised Human-AI Alignment [0.0]
  現在のAIモデルは、安全よりもタスク最適化を優先しており、意図しない害のリスクにつながっている。 本稿では,これらの諸問題に対処し,競合する目標の整合化を支援することを目的とした,人間に触発された新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2024-10-21T22:04:44Z)
• Particip-AI: A Democratic Surveying Framework for Anticipating Future AI Use Cases, Harms and Benefits [54.648819983899614]
  汎用AIは、一般大衆がAIを使用してそのパワーを利用するための障壁を下げたようだ。 本稿では,AI利用事例とその影響を推測し,評価するためのフレームワークであるPartICIP-AIを紹介する。
  論文  参考訳（メタデータ） (2024-03-21T19:12:37Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。