論文の概要: Simulating Policy Impacts: Developing a Generative Scenario Writing Method to Evaluate the Perceived Effects of Regulation

• arxiv url: http://arxiv.org/abs/2405.09679v1
• Date: Wed, 15 May 2024 19:44:54 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-17 15:59:48.674776
• Title: Simulating Policy Impacts: Developing a Generative Scenario Writing Method to Evaluate the Perceived Effects of Regulation
• Title（参考訳）: 政策影響のシミュレーション:規制の知覚的影響を評価するための生成シナリオ作成手法の開発
• Authors: Julia Barnett, Kimon Kieslich, Nicholas Diakopoulos,
• Abstract要約: 我々は、GPT-4を用いて、政策導入前と後の両方のシナリオを生成する。 次に、これらのシナリオを4つのリスク評価次元で評価するために、ユーザスタディを実行します。 この透明性法は、労働や幸福といった分野の害を軽減できるが、社会的な結束や安全保障といった分野ではほとんど効果がないと考えられる。
• 参考スコア（独自算出の注目度）: 3.2566808526538873
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rapid advancement of AI technologies yields numerous future impacts on individuals and society. Policy-makers are therefore tasked to react quickly and establish policies that mitigate those impacts. However, anticipating the effectiveness of policies is a difficult task, as some impacts might only be observable in the future and respective policies might not be applicable to the future development of AI. In this work we develop a method for using large language models (LLMs) to evaluate the efficacy of a given piece of policy at mitigating specified negative impacts. We do so by using GPT-4 to generate scenarios both pre- and post-introduction of policy and translating these vivid stories into metrics based on human perceptions of impacts. We leverage an already established taxonomy of impacts of generative AI in the media environment to generate a set of scenario pairs both mitigated and non-mitigated by the transparency legislation of Article 50 of the EU AI Act. We then run a user study (n=234) to evaluate these scenarios across four risk-assessment dimensions: severity, plausibility, magnitude, and specificity to vulnerable populations. We find that this transparency legislation is perceived to be effective at mitigating harms in areas such as labor and well-being, but largely ineffective in areas such as social cohesion and security. Through this case study on generative AI harms we demonstrate the efficacy of our method as a tool to iterate on the effectiveness of policy on mitigating various negative impacts. We expect this method to be useful to researchers or other stakeholders who want to brainstorm the potential utility of different pieces of policy or other mitigation strategies.
• Abstract（参考訳）: AI技術の急速な進歩は、個人や社会に多くの将来的な影響をもたらす。 そのため、政策立案者は迅速に対応し、これらの影響を緩和する政策を確立することが義務付けられている。 しかし、ポリシーの有効性を期待することは難しい課題であり、将来的にはいくつかの影響は観測可能であり、それぞれのポリシーは将来のAI開発には適用できない可能性がある。 本研究では,大規模言語モデル(LLM)を用いて,特定の負の影響を緩和する政策の有効性を評価する手法を開発した。 我々は、GPT-4を用いて、ポリシーの事前導入と後導入の両方のシナリオを生成し、これらの鮮やかなストーリーを人間の影響に対する認識に基づくメトリクスに変換する。 我々は、メディア環境における生成AIの影響に関する既に確立された分類を利用して、EU AI法第50条の透明性法により緩和されたシナリオペアと非緩和されたシナリオペアを生成する。 次に、これらのシナリオを4つのリスク評価次元(重度、可視性、大きさ、脆弱な集団に対する特異性)で評価するために、ユーザスタディ(n=234)を実行します。 この透明性法は、労働や幸福といった分野の害を軽減できるが、社会的な結束や安全保障といった分野ではほとんど効果がないと考えられる。 このケーススタディを通じて、我々は、様々なネガティブな影響を緩和する政策の有効性を反復する手段として、我々の方法の有効性を実証する。 我々は、異なる政策または他の緩和戦略の潜在的な実用性をブレインストーミングしたい研究者や他のステークホルダーにとって、この方法が有用であると期待している。

関連論文リスト

• Towards Leveraging News Media to Support Impact Assessment of AI Technologies [3.2566808526538873]
  インパクトアセスメント(IA)の専門家主導のフレームワークは、AI技術が公衆の社会的行動、政策、そして、AIの認識とその使用に関する影響を形作る文化的、地理的文脈に与える影響を、必然的に見落としてしまう可能性がある。 本研究は、世界30カ国にまたがる266のニュースドメインから報告されたAIのネガティブな影響に対する微調整LDMの可能性を探るものである。
  論文  参考訳（メタデータ） (2024-11-04T19:12:27Z)
• Using Scenario-Writing for Identifying and Mitigating Impacts of Generative AI [3.2566808526538873]
  インパクトアセスメントは、AIデプロイメントの否定的および肯定的な影響を特定する一般的な方法として現れている。 しかし、現在の文献と影響評価の実践を批判的に問うことも不可欠である。 この挑発では、まず現在のインパクトアセスメントの文献を批判し、次に新しいアプローチを提案します。
  論文  参考訳（メタデータ） (2024-10-31T07:48:58Z)
• IntOPE: Off-Policy Evaluation in the Presence of Interference [23.167697252901398]
  オフ・ポリティ・アセスメント(OPE: Off-Policy Evaluation)は、仮説的政策の潜在的影響を評価するために用いられる。 IntIPWはIPWスタイルの推定器で、個々のアクションと隣接するエンティティの影響の両方を考慮し、重要度を極端に統合する。
  論文  参考訳（メタデータ） (2024-08-24T06:07:25Z)
• Reduced-Rank Multi-objective Policy Learning and Optimization [57.978477569678844]
  実際には、因果研究者は先験を念頭において1つの結果を持っていない。 政府支援の社会福祉プログラムでは、政策立案者は貧困の多次元的性質を理解するために多くの成果を集めている。 本稿では、最適政策学習の文脈において、複数の結果に対するデータ駆動型次元性推論手法を提案する。
  論文  参考訳（メタデータ） (2024-04-29T08:16:30Z)
• Game and Reference: Policy Combination Synthesis for Epidemic Prevention and Control [4.635793210136456]
  疫病対策のための新しい政策組合せ合成(PCS)モデルを提案する。 極端な意思決定を防止するため、モデル作成ポリシーと実際のポリシーの対立学習を導入する。 また、同様のシナリオ下での最高の歴史的政策から、モデルに経験を引き出すために、対照的な学習も採用しています。
  論文  参考訳（メタデータ） (2024-03-16T00:26:59Z)
• Anticipating Impacts: Using Large-Scale Scenario Writing to Explore Diverse Implications of Generative AI in the News Environment [3.660182910533372]
  我々は、ジェネレーティブAIの潜在的なネガティブな影響について、3つの利害関係者グループの展望を広げ、期待を捉えることを目的としている。 シナリオ記述と参加観を用いて、認知的に多様な未来の想像力を掘り下げる。 生成的AI影響評価のためのツールボックスとして,シナリオ記述と参加予測の有用性について論じる。
  論文  参考訳（メタデータ） (2023-10-10T06:59:27Z)
• Conformal Off-Policy Evaluation in Markov Decision Processes [53.786439742572995]
  強化学習は、データから効率的な制御ポリシーを特定し評価することを目的としている。 この学習タスクのほとんどの方法は、Off-Policy Evaluation (OPE)と呼ばれ、正確さと確実性を保証するものではない。 本稿では,目標方針の真報を含む区間を所定の確信度で出力するコンフォーマル予測に基づく新しいOPE手法を提案する。
  論文  参考訳（メタデータ） (2023-04-05T16:45:11Z)
• Policy Dispersion in Non-Markovian Environment [53.05904889617441]
  本稿では,非マルコフ環境下での国家行動ペアの歴史から,多様な政策の学習を試みる。 まず、ポリシー埋め込みを学習するために、トランスフォーマーベースの手法を採用する。 次に,政策埋め込みを積み重ねて分散行列を構築し,多様な政策の集合を誘導する。
  論文  参考訳（メタデータ） (2023-02-28T11:58:39Z)
• CAMEO: Curiosity Augmented Metropolis for Exploratory Optimal Policies [62.39667564455059]
  最適政策の分布を考察し研究する。 実験シミュレーションでは、CAMEOは古典的な制御問題を全て解決するポリシーを実際に得ることを示した。 さらに,本論文では,異なるリスクプロファイルを示す異なるポリシーを,解釈可能性に関する興味深い実践的応用に対応して提示する。
  論文  参考訳（メタデータ） (2022-05-19T09:48:56Z)
• Building a Foundation for Data-Driven, Interpretable, and Robust Policy Design using the AI Economist [67.08543240320756]
  AIエコノミストフレームワークは,2段階強化学習とデータ駆動型シミュレーションを用いて,効果的な,柔軟な,解釈可能なポリシー設計を可能にする。 RLを用いて訓練されたログリニア政策は、過去の結果と比較して、公衆衛生と経済の両面から社会福祉を著しく改善することがわかった。
  論文  参考訳（メタデータ） (2021-08-06T01:30:41Z)
• Efficient Evaluation of Natural Stochastic Policies in Offline Reinforcement Learning [80.42316902296832]
  行動政策から逸脱した観点から定義される自然政策の効果的な非政治的評価について検討する。 これは、ほとんどの著作が明示された政策の評価を考慮に入れている、政治外の評価に関する文献から逸脱している。
  論文  参考訳（メタデータ） (2020-06-06T15:08:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。