論文の概要: Using Scenario-Writing for Identifying and Mitigating Impacts of Generative AI

• arxiv url: http://arxiv.org/abs/2410.23704v1
• Date: Thu, 31 Oct 2024 07:48:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-01 17:02:32.775035
• Title: Using Scenario-Writing for Identifying and Mitigating Impacts of Generative AI
• Title（参考訳）: シナリオ記述を用いた生成AIの影響の特定と修正
• Authors: Kimon Kieslich, Nicholas Diakopoulos, Natali Helberger,
• Abstract要約: インパクトアセスメントは、AIデプロイメントの否定的および肯定的な影響を特定する一般的な方法として現れている。 しかし、現在の文献と影響評価の実践を批判的に問うことも不可欠である。 この挑発では、まず現在のインパクトアセスメントの文献を批判し、次に新しいアプローチを提案します。
• 参考スコア（独自算出の注目度）: 3.2566808526538873
• License:
• Abstract: Impact assessments have emerged as a common way to identify the negative and positive implications of AI deployment, with the goal of avoiding the downsides of its use. It is undeniable that impact assessments are important - especially in the case of rapidly proliferating technologies such as generative AI. But it is also essential to critically interrogate the current literature and practice on impact assessment, to identify its shortcomings, and to develop new approaches that are responsive to these limitations. In this provocation, we do just that by first critiquing the current impact assessment literature and then proposing a novel approach that addresses our concerns: Scenario-Based Sociotechnical Envisioning.
• Abstract（参考訳）: インパクトアセスメントは、AIデプロイメントの否定的および肯定的な影響を識別する一般的な方法として現れ、その使用の欠点を避けることを目的としている。 影響評価が重要であることは否定できない - 特に、生成AIのような急速に成長する技術の場合。 しかし、影響評価に関する現在の文献や実践を批判的に尋問し、その欠点を特定し、これらの制限に反応する新しいアプローチを開発することも重要である。 この挑発の中で、私たちは、まず現在のインパクトアセスメントの文献を批判し、私たちの懸念に対処する新しいアプローチを提案します。

関連論文リスト

• Controlling Risk of Retrieval-augmented Generation: A Counterfactual Prompting Framework [77.45983464131977]
  我々は、RAGモデルの予測が誤りであり、現実のアプリケーションにおいて制御不能なリスクをもたらす可能性がどの程度あるかに焦点を当てる。 本研究は,RAGの予測に影響を及ぼす2つの重要な潜伏要因を明らかにする。 我々は,これらの要因をモデルに誘導し,その応答に与える影響を解析する,反実的プロンプトフレームワークを開発した。
  論文  参考訳（メタデータ） (2024-09-24T14:52:14Z)
• IntOPE: Off-Policy Evaluation in the Presence of Interference [23.167697252901398]
  オフ・ポリティ・アセスメント(OPE: Off-Policy Evaluation)は、仮説的政策の潜在的影響を評価するために用いられる。 IntIPWはIPWスタイルの推定器で、個々のアクションと隣接するエンティティの影響の両方を考慮し、重要度を極端に統合する。
  論文  参考訳（メタデータ） (2024-08-24T06:07:25Z)
• Simulating Policy Impacts: Developing a Generative Scenario Writing Method to Evaluate the Perceived Effects of Regulation [3.2566808526538873]
  我々は、GPT-4を用いて、政策導入前と後の両方のシナリオを生成する。 次に、これらのシナリオを4つのリスク評価次元で評価するために、ユーザスタディを実行します。 この透明性法は、労働や幸福といった分野の害を軽減できるが、社会的な結束や安全保障といった分野ではほとんど効果がないと考えられる。
  論文  参考訳（メタデータ） (2024-05-15T19:44:54Z)
• Responsible AI Considerations in Text Summarization Research: A Review of Current Practices [89.85174013619883]
  私たちは、責任あるAIコミュニティがほとんど見落としている共通のNLPタスクである、テキスト要約に重点を置いています。 我々は,2020-2022年に出版されたACLアンソロジーから333の要約論文の多段階的質的分析を行った。 私たちは、どの、どの、どの責任あるAI問題がカバーされているか、どの関係するステークホルダーが考慮されているか、そして、述べられた研究目標と実現された研究目標のミスマッチに焦点を合わせます。
  論文  参考訳（メタデータ） (2023-11-18T15:35:36Z)
• Anticipating Impacts: Using Large-Scale Scenario Writing to Explore Diverse Implications of Generative AI in the News Environment [3.660182910533372]
  我々は、ジェネレーティブAIの潜在的なネガティブな影響について、3つの利害関係者グループの展望を広げ、期待を捉えることを目的としている。 シナリオ記述と参加観を用いて、認知的に多様な未来の想像力を掘り下げる。 生成的AI影響評価のためのツールボックスとして,シナリオ記述と参加予測の有用性について論じる。
  論文  参考訳（メタデータ） (2023-10-10T06:59:27Z)
• Eliciting the Double-edged Impact of Digitalisation: a Case Study in Rural Areas [1.8707139489039097]
  本稿では, 遠隔地におけるデジタル化の影響を, 通常の土地管理システムと水文地質リスク管理システムの観点から考察する。 我々は,接続の過剰,意思決定能力の部分的削減,利害関係者の限界化リスクなどにより,より高いストレスが強調される。 本研究は, 事例に特有の影響の集合を類似の文脈に適用し得ること, 影響誘発に対する効果的なアプローチ, 経験から学んだ教訓の一覧に寄与する。
  論文  参考訳（メタデータ） (2023-06-08T10:01:35Z)
• Generalizing Off-Policy Evaluation From a Causal Perspective For Sequential Decision-Making [32.06576007608403]
  我々は,OPEの基本的な限界を理解する上で,この協会を明確に強調することが重要な意味を持つと主張している。 この関係がどのようにして自然デシラタを動機付け、因果推定の一般的なセットを考えるかを実証する。 我々は,これらの側面を,大規模OPE研究のための実用的なデシラタとして論じるとともに,実用性でインラインで論じる。
  論文  参考訳（メタデータ） (2022-01-20T16:13:16Z)
• Balancing detectability and performance of attacks on the control channel of Markov Decision Processes [77.66954176188426]
  マルコフ決定過程(MDPs)の制御チャネルにおける最適ステルス毒素攻撃の設計問題について検討する。 この研究は、MDPに適用された敵国・毒殺攻撃や強化学習(RL)手法に対する研究コミュニティの最近の関心に動機づけられている。
  論文  参考訳（メタデータ） (2021-09-15T09:13:10Z)
• Towards Unbiased Visual Emotion Recognition via Causal Intervention [63.74095927462]
  本稿では,データセットバイアスによる負の効果を軽減するために,新しい感情認識ネットワーク(IERN)を提案する。 IERNの有効性を検証する一連の設計されたテストと、3つの感情ベンチマークの実験は、IERNが他の最先端のアプローチよりも優れていることを示した。
  論文  参考訳（メタデータ） (2021-07-26T10:40:59Z)
• Overcoming Failures of Imagination in AI Infused System Development and Deployment [71.9309995623067]
  NeurIPS 2020は研究論文に「潜在的な悪用と失敗の結果」に関するインパクトステートメントを含むよう要求した。 我々は、害の枠組みは文脈に適応し、潜在的な利害関係者、システム余裕、および最も広い意味での害を評価するための実行可能なプロキシを考える必要があると論じている。
  論文  参考訳（メタデータ） (2020-11-26T18:09:52Z)
• Adversarial vs behavioural-based defensive AI with joint, continual and active learning: automated evaluation of robustness to deception, poisoning and concept drift [62.997667081978825]
  人工知能(AI)の最近の進歩は、サイバーセキュリティのための行動分析(UEBA)に新たな能力をもたらした。 本稿では、検出プロセスを改善し、人間の専門知識を効果的に活用することにより、この攻撃を効果的に軽減するソリューションを提案する。
  論文  参考訳（メタデータ） (2020-01-13T13:54:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。