論文の概要: Stop treating `AGI' as the north-star goal of AI research

• arxiv url: http://arxiv.org/abs/2502.03689v2
• Date: Fri, 07 Feb 2025 04:07:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-10 11:34:32.201600
• Title: Stop treating `AGI' as the north-star goal of AI research
• Title（参考訳）: AI研究の極北目標として「AGI」を扱うのはやめよう
• Authors: Borhane Blili-Hamelin, Christopher Graziul, Leif Hancox-Li, Hananel Hazan, El-Mahdi El-Mhamdi, Avijit Ghosh, Katherine Heller, Jacob Metcalf, Fabricio Murai, Eryk Salvaggio, Andrew Smart, Todd Snider, Mariame Tighanimine, Talia Ringer, Margaret Mitchell, Shiri Dori-Hacohen,
• Abstract要約: 我々は、人工知能(AGI)の話題に焦点をあてることが、効果的な目標を選択する能力を損なうと論じている。 AGIの談話によって増大する6つの重要なトラップ、すなわち生産目標設定の障害を特定します。
• 参考スコア（独自算出の注目度）: 7.292737756666293
• License:
• Abstract: The AI research community plays a vital role in shaping the scientific, engineering, and societal goals of AI research. In this position paper, we argue that focusing on the highly contested topic of `artificial general intelligence' (`AGI') undermines our ability to choose effective goals. We identify six key traps -- obstacles to productive goal setting -- that are aggravated by AGI discourse: Illusion of Consensus, Supercharging Bad Science, Presuming Value-Neutrality, Goal Lottery, Generality Debt, and Normalized Exclusion. To avoid these traps, we argue that the AI research community needs to (1) prioritize specificity in engineering and societal goals, (2) center pluralism about multiple worthwhile approaches to multiple valuable goals, and (3) foster innovation through greater inclusion of disciplines and communities. Therefore, the AI research community needs to stop treating `AGI' as the north-star goal of AI research.
• Abstract（参考訳）: AI研究コミュニティは、AI研究の科学的、工学的、社会的目標を形成する上で重要な役割を担っている。 本稿では,「AGI(Artificial General Intelligence)」の課題に焦点を合わせることで,効果的な目標選択能力が損なわれていることを論じる。 AGIの談話で強調される6つの主要なトラップ - 生産目標設定の障害 -- を識別する: 合意のイリュージョン、悪科学の超過、価値-中立性の仮定、ゴールロタリー、一般負債、正規化排他。 これらの罠を避けるために,AI研究コミュニティは(1)工学的目標と社会的な目標の特異性を優先し,(2)複数の価値ある目標に対する複数の価値あるアプローチを中心とする多元主義,(3)規律とコミュニティのさらなる包摂によるイノベーションの育成が必要である,と論じる。 したがって、AI研究コミュニティは「AGI」をAI研究の北の目標として扱うのをやめる必要がある。

関連論文リスト

• Aligning Generalisation Between Humans and Machines [74.120848518198]
  近年のAIの進歩は、科学的発見と意思決定支援において人間を支援できる技術をもたらしたが、民主主義と個人を妨害する可能性がある。 AIの責任ある使用は、ますます人間とAIのチームの必要性を示している。 これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
  論文  参考訳（メタデータ） (2024-11-23T18:36:07Z)
• Now, Later, and Lasting: Ten Priorities for AI Research, Policy, and Practice [63.20307830884542]
  今後数十年は、産業革命に匹敵する人類の転換点になるかもしれない。 10年前に立ち上げられたこのプロジェクトは、複数の専門分野の専門家による永続的な研究にコミットしている。 AI技術の短期的および長期的影響の両方に対処する、アクションのための10のレコメンデーションを提供します。
  論文  参考訳（メタデータ） (2024-04-06T22:18:31Z)
• Ten Hard Problems in Artificial Intelligence We Must Get Right [72.99597122935903]
  AIの約束を阻止し、AIのリスクを引き起こすAI2050の「ハード問題」について検討する。 それぞれの問題について、その領域を概説し、最近の重要な作業を特定し、今後の方向性を提案する。
  論文  参考訳（メタデータ） (2024-02-06T23:16:41Z)
• The AI Incident Database as an Educational Tool to Raise Awareness of AI Harms: A Classroom Exploration of Efficacy, Limitations, & Future Improvements [14.393183391019292]
  AIインシデントデータベース(AIID)は、AI技術の現実世界への展開に起因する害や害の先行事例を索引付けする、比較的包括的なデータベースを提供する、数少ない試みの1つである。 本研究は、社会的に高い領域におけるAI損傷の有病率と重症度に対する意識を高めるための教育ツールとしてのAIIDの有効性を評価する。
  論文  参考訳（メタデータ） (2023-10-10T02:55:09Z)
• A Game-Theoretic Framework for AI Governance [8.658519485150423]
  規制当局とAI企業間の戦略的相互作用は、Stackelbergのゲームを連想させる固有の構造を持っていることを示す。 本稿では,AIガバナンスのためのゲーム理論モデリングフレームワークを提案する。 私たちの知る限りでは、この研究はAIガバナンスの分析と構造化にゲーム理論を使った最初のものである。
  論文  参考訳（メタデータ） (2023-05-24T08:18:42Z)
• Fairness in Agreement With European Values: An Interdisciplinary Perspective on AI Regulation [61.77881142275982]
  この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。 私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。 我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
  論文  参考訳（メタデータ） (2022-06-08T12:32:08Z)
• Metaethical Perspectives on 'Benchmarking' AI Ethics [81.65697003067841]
  ベンチマークは、人工知能(AI)研究の技術的進歩を測定するための基盤とみられている。 AIの顕著な研究領域は倫理であり、現在、ベンチマークのセットも、AIシステムの「倫理性」を測定する一般的な方法もない。 我々は、現在と将来のAIシステムのアクションを考えるとき、倫理よりも「価値」について話す方が理にかなっていると論じる。
  論文  参考訳（メタデータ） (2022-04-11T14:36:39Z)
• Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
  近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。 倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。 このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
  論文  参考訳（メタデータ） (2021-06-25T22:31:55Z)
• Ethics and Governance of Artificial Intelligence: Evidence from a Survey of Machine Learning Researchers [0.0]
  機械学習(ML)と人工知能(AI)の研究者は、AIの倫理とガバナンスにおいて重要な役割を果たす。 トップクラスのAI/MLカンファレンスで公開した人々の調査を行った。 AI/MLの研究者たちは、国際組織や科学組織に対して高いレベルの信頼を置いている。
  論文  参考訳（メタデータ） (2021-05-05T15:23:12Z)
• Socially Responsible AI Algorithms: Issues, Purposes, and Challenges [31.382000425295885]
  技術者とAI研究者は、信頼できるAIシステムを開発する責任がある。 AIと人間の長期的な信頼を構築するためには、アルゴリズムの公正性を超えて考えることが鍵だ、と私たちは主張する。
  論文  参考訳（メタデータ） (2021-01-01T17:34:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。