論文の概要: Participation in the age of foundation models

• arxiv url: http://arxiv.org/abs/2405.19479v1
• Date: Wed, 29 May 2024 19:53:23 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-31 19:16:17.500096
• Title: Participation in the age of foundation models
• Title（参考訳）: 基礎モデルの時代への参加
• Authors: Harini Suresh, Emily Tseng, Meg Young, Mary L. Gray, Emma Pierson, Karen Levy,
• Abstract要約: 参加的アプローチは、利害関係者に代理店と意思決定権限を貸すことを約束する。 基礎モデルへの参加を取り入れる既存の試みについて検討する。 我々は、より局所的でアプリケーション指向の、有意義な参加機会を特定する、参加型ファンデーションモデルのための青写真を開発する。
• 参考スコア（独自算出の注目度）: 5.0317146589850195
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Growing interest and investment in the capabilities of foundation models has positioned such systems to impact a wide array of public services. Alongside these opportunities is the risk that these systems reify existing power imbalances and cause disproportionate harm to marginalized communities. Participatory approaches hold promise to instead lend agency and decision-making power to marginalized stakeholders. But existing approaches in participatory AI/ML are typically deeply grounded in context - how do we apply these approaches to foundation models, which are, by design, disconnected from context? Our paper interrogates this question. First, we examine existing attempts at incorporating participation into foundation models. We highlight the tension between participation and scale, demonstrating that it is intractable for impacted communities to meaningfully shape a foundation model that is intended to be universally applicable. In response, we develop a blueprint for participatory foundation models that identifies more local, application-oriented opportunities for meaningful participation. In addition to the "foundation" layer, our framework proposes the "subfloor'' layer, in which stakeholders develop shared technical infrastructure, norms and governance for a grounded domain, and the "surface'' layer, in which affected communities shape the use of a foundation model for a specific downstream task. The intermediate "subfloor'' layer scopes the range of potential harms to consider, and affords communities more concrete avenues for deliberation and intervention. At the same time, it avoids duplicative effort by scaling input across relevant use cases. Through three case studies in clinical care, financial services, and journalism, we illustrate how this multi-layer model can create more meaningful opportunities for participation than solely intervening at the foundation layer.
• Abstract（参考訳）: ファンデーションモデルの能力に対する関心と投資の高まりは、そのようなシステムを幅広い公共サービスに影響を与えるように位置づけてきた。 これらの機会の他に、これらのシステムが既存の権力不均衡を緩和し、疎外化コミュニティに不均衡な害をもたらすリスクがある。 参加型アプローチは、利害関係者に代理店や意思決定権限を貸すことを約束する。 しかし、参加型AI/MLにおける既存のアプローチは、一般的にコンテキストに深く根ざしている。 私たちの論文はこの質問を尋問する。 まず、ファンデーションモデルへの参加を取り入れる既存の試みについて検討する。 参加者と規模の間の緊張を強調し、インパクトのあるコミュニティが、普遍的な適用を意図した基盤モデルを有意義に形成することは困難であることを示す。 これに対し、我々は、より局所的でアプリケーション指向の、有意義な参加機会を特定する、参加型ファンデーションモデルのための青写真を開発する。 基盤」レイヤに加えて、我々のフレームワークでは、ステークホルダーが基盤となるドメインに対して共通の技術基盤、規範、ガバナンスを開発する「下層」層と、影響のあるコミュニティが特定の下流タスクに基盤モデルを使用することを形作る「下層」層を提案しています。 中間の「下層」層は、検討すべき潜在的な害の範囲を包含し、議論と介入のためのより具体的な道筋をコミュニティに与えている。 同時に、関連するユースケースにまたがって入力をスケールすることで、重複を回避する。 臨床医療,金融サービス,ジャーナリズムの3つのケーススタディを通じて,この多層モデルが基盤層にのみ介入するよりも,より有意義な参加機会を生み出すかを説明する。

関連論文リスト

• Affective Computing Has Changed: The Foundation Model Disruption [47.88090382507161]
  我々は、Affective Computingの分野におけるファンデーションモデルの力に対する意識を高めることを目的としている。 我々は視覚、言語学、音声(音響)に焦点をあてて、マルチモーダルな感情データを合成して分析する。 本研究領域における基礎モデルの利用に関する倫理的問題や規制的側面などの基本的問題について論じる。
  論文  参考訳（メタデータ） (2024-09-13T15:20:18Z)
• Position: Cracking the Code of Cascading Disparity Towards Marginalized Communities [14.497314894554828]
  余分な地域社会への格差は、孤立した関心事ではなく、カスケードされた格差現象の相互接続要素である。 我々は,相互接続の相違が長期的負の結果を引き起こす基礎モデルにおいて,カスケードの影響の独特な脅威を強調した。 我々は、そのソースにおける格差を軽減するために行動を起こす一連の呼び出しで締めくくります。
  論文  参考訳（メタデータ） (2024-06-03T19:52:41Z)
• Position: Foundation Agents as the Paradigm Shift for Decision Making [24.555816843983003]
  我々は,エージェントの学習パラダイムの変革的変化として,基礎エージェントの構築を提唱する。 我々は,大規模な対話型データ収集や生成から自己指導型事前学習,適応に至るまで,基礎エージェントのロードマップを定めている。
  論文  参考訳（メタデータ） (2024-05-27T09:54:50Z)
• PLUG: Revisiting Amodal Segmentation with Foundation Model and Hierarchical Focus [19.25678147515461]
  SAMに基づく最初のアモーダルセグメンテーション手法であるPLUGを提案する。 地域レベルでは、可視・隠蔽領域の関連と区分により、相互の混乱を避けるために、異なる枝の焦点として、イモダル領域とアモーダル領域が割り当てられる。 ポイントレベルでは、不確実性の概念を導入し、曖昧な点を特定し、焦点を合わせる際にモデルを明確に支援する。
  論文  参考訳（メタデータ） (2024-05-25T06:58:20Z)
• On the Societal Impact of Open Foundation Models [93.67389739906561]
  ここでは、広く利用可能なモデルウェイトを持つものとして定義されている、オープンファンデーションモデルに重点を置いています。 オープンファンデーションモデルの5つの特徴を識別し,その利点とリスクを両立させる。
  論文  参考訳（メタデータ） (2024-02-27T16:49:53Z)
• On Catastrophic Inheritance of Large Foundation Models [51.41727422011327]
  大ファンデーションモデル(LFM)は素晴らしいパフォーマンスを誇示している。しかし、彼らの神話的および解釈されていないポテンシャルについて大きな懸念が持ち上がっている。 我々は, LFMに深く根ざした「破滅的継承」という, 無視された問題を特定することを提案する。 この問題の背景にある課題を議論し、事前学習と下流適応の両方からLFMの破滅的な継承を理解するためのフレームワークであるUIMを提案する。
  論文  参考訳（メタデータ） (2024-02-02T21:21:55Z)
• A Survey of Reasoning with Foundation Models [235.7288855108172]
  推論は、交渉、医療診断、刑事捜査など、様々な現実世界の環境において重要な役割を担っている。 本稿では,推論に適応する基礎モデルを提案する。 次に、基礎モデルにおける推論能力の出現の背後にある潜在的な将来方向を掘り下げる。
  論文  参考訳（メタデータ） (2023-12-17T15:16:13Z)
• Foundation Models for Decision Making: Problems, Methods, and Opportunities [124.79381732197649]
  大規模に多様なデータに基づいて事前訓練された基礎モデルは、幅広いビジョンと言語タスクにおいて異常な能力を示してきた。 ファンデーションモデルをトレーニングし、他のエージェントと対話し、長期的な推論を行うための新しいパラダイムが生まれている。 基礎モデルと意思決定の交わりにおける研究は、強力な新しいシステムを作るための大きな約束である。
  論文  参考訳（メタデータ） (2023-03-07T18:44:07Z)
• The Equity Framework: Fairness Beyond Equalized Predictive Outcomes [0.0]
  意思決定者が物理的・社会的環境を描写するモデルから逸脱するモデルを使用すると生じる公平性の問題について検討する。 モデルへの平等なアクセス、モデルからの平等な結果、モデルの平等な利用を考慮に入れたEquity Frameworkを定式化する。
  論文  参考訳（メタデータ） (2022-04-18T20:49:51Z)
• On the Opportunities and Risks of Foundation Models [256.61956234436553]
  これらのモデルの基礎モデルは、批判的に中心的だが不完全な性格を根底から立証するものです。 本報告では,基礎モデルの可能性とリスクについて概説する。 これらの疑問に対処するためには、基礎モデルに関する重要な研究の多くは、深い学際的なコラボレーションが必要であると信じている。
  論文  参考訳（メタデータ） (2021-08-16T17:50:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。