論文の概要: From experimentation to engagement: on the paradox of participatory AI and power in contexts of forced displacement and humanitarian crises
- arxiv url: http://arxiv.org/abs/2604.06219v1
- Date: Mon, 23 Mar 2026 11:16:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-12 18:41:08.650295
- Title: From experimentation to engagement: on the paradox of participatory AI and power in contexts of forced displacement and humanitarian crises
- Title（参考訳）: 実験からエンゲージメントへ:強制移住と人道的危機の文脈における参加型AIと権力のパラドックスについて
- Abstract要約: 本稿では,人道的文脈における参加型AI手法とその限界について批判的に検討する。
人道的文脈で使用すれば、いわゆる「参加洗浄」とアルゴリズム的害のリスクを増大させる可能性のある、参加型AIアプローチには、いくつかの重要な制限がある。
これらのリスクは、AIの理解と認識のレベルの違いによって主に引き起こされるのではなく、人道的なセクターに埋め込まれた基本的なパワーダイナミクスと密接に関連している、と私たちは主張する。
- 参考スコア（独自算出の注目度）: 1.7511889950315014
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Across the Global North, calls for participatory artificial intelligence (AI) to improve the responsible, safe, and ethical use of AI have increased, particularly efforts that engage citizens and communities whose well-being and safety may be directly impacted by AI and other algorithmic tools. These initiatives include surveys, community consultations, citizens' councils and assemblies, and co-designing AI models and projects. Far fewer efforts, however, have been made in the Global South, particularly in contexts related to humanitarian crises and forced displacement, where the deployment of AI and algorithmic tools is accelerating. In this paper, we critically examine participatory AI methods and their limitations in these contexts and explore the opinions and perceptions of AI held by displaced and crisis-affected communities. Based on a pilot exercise with communities living in Kakuma Refugee Camp in northwestern Kenya, we find important limitations in some participatory AI approaches which, if used in humanitarian contexts, could increase risks of so-called 'participation washing' and algorithmic harm. We argue that these risks are not predominantly driven by varying levels of understanding and awareness of AI but more closely linked to the fundamental power dynamics embedded within the humanitarian sector: between humanitarian aid recipients, service providers, donor governments, and host nations, as well as the power differentials and incentives that exist between AI companies and humanitarian actors. These structural conditions make the case not only for more rigorous participatory methods, but for independent governance architecture capable of holding humanitarian AI to account.
- Abstract（参考訳）: グローバルノース全体において、AIの責任、安全、倫理的利用を改善するための参加型人工知能(AI)の必要性が高まっている。
これらのイニシアティブには、調査、コミュニティコンサルテーション、市民評議会と集会、AIモデルとプロジェクトの共同設計が含まれる。
しかし、特に人道的危機や強制移住に関連する文脈において、AIとアルゴリズムツールの展開が加速している世界南部での取り組みは、はるかに少ない。
本稿では、これらの文脈における参加型AI手法とその制限について批判的に検討し、転職・危機に影響を及ぼしたコミュニティが持つAIの意見と認識について考察する。
ケニア北西部の覚馬Refugee Campに居住するコミュニティとのパイロット演習から,人道的文脈で使用すれば,いわゆる「参加洗浄」やアルゴリズム的危害のリスクが増大する可能性のある,参加型AIアプローチのいくつかの重要な制限を見出した。
これらのリスクは、AIの理解と認識のさまざまなレベルによって主に引き起こされるものではなく、人道支援の受給者、サービス提供者、ドナー政府、ホスト国、さらにはAI企業と人道的アクターの間に存在する権力差とインセンティブなど、人道支援の分野に埋め込まれた基本的なパワーダイナミクスと密接に関連している、と私たちは主張する。
これらの構造的条件は、より厳格な参加的手法だけでなく、人道的なAIを考慮に入れられる独立したガバナンスアーキテクチャにも当てはまる。
関連論文リスト
- AI Workers, Geopolitics, and Algorithmic Collective Action [0.0]
この論文は、一部のAI労働者は、地政学のアクターと見なすことができると論じている。
ガバナンスだけでは、責任、倫理的、あるいは堅牢なAI開発と使用を保証できない。
知識、相対的な力の源泉としてAIワーカーを関与させ、より責任を持ち、単なるAI開発を促進することを提案する。
論文 参考訳（メタデータ） (2025-11-21T15:52:44Z) - Envisioning an AI-Enhanced Mental Health Ecosystem [1.534667887016089]
ピアサポート、セルフヘルプ介入、プロアクティブモニタリング、データ駆動インサイトなど、さまざまなAIアプリケーションについて検討する。
我々は、AIが人間のプロバイダを置き換えず、責任あるデプロイメントと評価を強調するハイブリッドエコシステムを提案する。
論文 参考訳（メタデータ） (2025-03-19T04:21:38Z) - Perception Gaps in Risk, Benefit, and Value Between Experts and Public Challenge Socially Accepted AI [0.0]
本研究は,一般のAI専門家がAIの能力と影響をどう認識するかを検討する。
シナリオは、持続可能性、医療、仕事のパフォーマンス、社会的不平等、芸術、戦争といった領域にまたがる。
専門家は、常に高い確率を予測し、リスクを知覚し、より多くの利益を報告し、非専門家よりもAIに対する肯定的な感情を表現する。
論文 参考訳（メタデータ） (2024-12-02T12:51:45Z) - Aligning Generalisation Between Humans and Machines [74.120848518198]
AI技術は、科学的発見と意思決定において人間を支援することができるが、民主主義と個人を妨害することもある。
AIの責任ある使用と人間-AIチームへの参加は、AIアライメントの必要性をますます示している。
これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
論文 参考訳（メタデータ） (2024-11-23T18:36:07Z) - Combining Theory of Mind and Kindness for Self-Supervised Human-AI Alignment [0.0]
現在のAIモデルは、安全よりもタスク最適化を優先しており、意図しない害のリスクにつながっている。
本稿では,これらの諸問題に対処し,競合する目標の整合化を支援することを目的とした,人間に触発された新しいアプローチを提案する。
論文 参考訳（メタデータ） (2024-10-21T22:04:44Z) - Problem Solving Through Human-AI Preference-Based Cooperation [74.39233146428492]
我々は,人間-AI共同構築フレームワークであるHAICo2を提案する。
我々は、HAICo2の形式化に向けて第一歩を踏み出し、それが直面する困難なオープンリサーチ問題について議論する。
論文 参考訳（メタデータ） (2024-08-14T11:06:57Z) - Now, Later, and Lasting: Ten Priorities for AI Research, Policy, and Practice [63.20307830884542]
今後数十年は、産業革命に匹敵する人類の転換点になるかもしれない。
10年前に立ち上げられたこのプロジェクトは、複数の専門分野の専門家による永続的な研究にコミットしている。
AI技術の短期的および長期的影響の両方に対処する、アクションのための10のレコメンデーションを提供します。
論文 参考訳（メタデータ） (2024-04-06T22:18:31Z) - Particip-AI: A Democratic Surveying Framework for Anticipating Future AI Use Cases, Harms and Benefits [54.648819983899614]
汎用AIは、一般大衆がAIを使用してそのパワーを利用するための障壁を下げたようだ。
本稿では,AI利用事例とその影響を推測し,評価するためのフレームワークであるPartICIP-AIを紹介する。
論文 参考訳（メタデータ） (2024-03-21T19:12:37Z) - Managing extreme AI risks amid rapid progress [171.05448842016125]
我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。
このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。
現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
論文 参考訳（メタデータ） (2023-10-26T17:59:06Z) - AI Potentiality and Awareness: A Position Paper from the Perspective of
Human-AI Teaming in Cybersecurity [18.324118502535775]
我々は、人間とAIのコラボレーションはサイバーセキュリティに価値があると論じている。
私たちは、AIの計算能力と人間の専門知識を取り入れたバランスのとれたアプローチの重要性を強調します。
論文 参考訳（メタデータ） (2023-09-28T01:20:44Z) - Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。
偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。
問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
論文 参考訳（メタデータ） (2023-04-16T11:22:59Z) - Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。
倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。
このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
論文 参考訳（メタデータ） (2021-06-25T22:31:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。