論文の概要: Principles for Responsible AI Consciousness Research

• arxiv url: http://arxiv.org/abs/2501.07290v1
• Date: Mon, 13 Jan 2025 12:59:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-14 14:25:23.106854
• Title: Principles for Responsible AI Consciousness Research
• Title（参考訳）: 責任あるAI意識研究の原則
• Authors: Patrick Butlin, Theodoros Lappas,
• Abstract要約: 今、あるいは近い将来に、意識的なAIシステムを構築することができるかもしれない。 大量の意識的なシステムが作り出され、苦しめられる場合もあります。 我々は、責任ある研究のための5つの原則を提案し、研究組織は、これらの方針に関する原則に自発的に公的なコミットメントをすべきであると主張している。
• 参考スコア（独自算出の注目度）: 1.795561427808824
• License:
• Abstract: Recent research suggests that it may be possible to build conscious AI systems now or in the near future. Conscious AI systems would arguably deserve moral consideration, and it may be the case that large numbers of conscious systems could be created and caused to suffer. Furthermore, AI systems or AI-generated characters may increasingly give the impression of being conscious, leading to debate about their moral status. Organisations involved in AI research must establish principles and policies to guide research and deployment choices and public communication concerning consciousness. Even if an organisation chooses not to study AI consciousness as such, it will still need policies in place, as those developing advanced AI systems risk inadvertently creating conscious entities. Responsible research and deployment practices are essential to address this possibility. We propose five principles for responsible research and argue that research organisations should make voluntary, public commitments to principles on these lines. Our principles concern research objectives and procedures, knowledge sharing and public communications.
• Abstract（参考訳）: 最近の研究は、現在または近い将来に、意識的なAIシステムを構築することができるかもしれないことを示唆している。 意識的なAIシステムは道徳的な考慮に値するだろうし、大量の意識的なシステムが作り出され、苦しめられることもあるかもしれない。 さらに、AIシステムやAI生成キャラクタは、意識的な印象をますます与え、彼らの道徳的地位に関する議論へと繋がる。 AI研究に関わる組織は、研究とデプロイメントの選択をガイドする原則とポリシーを確立し、意識に関する公開コミュニケーションを行なわなければならない。 たとえ組織がAI意識を研究しないことを選んだとしても、先進的なAIシステムを開発している組織は、意識的なエンティティを不注意に作り出すリスクがあるため、いまだにポリシーが必要である。 この可能性に対処するためには、責任ある調査とデプロイメントのプラクティスが不可欠です。 我々は、責任ある研究のための5つの原則を提案し、研究組織は、これらの方針に関する原則に自発的に公的なコミットメントをすべきであると主張している。 我々の原則は、研究の目的と手順、知識共有、および公共コミュニケーションに関するものである。

関連論文リスト

• Technology as uncharted territory: Contextual integrity and the notion of AI as new ethical ground [55.2480439325792]
  私は、責任と倫理的AIを促進する努力が、確立された文脈規範に対するこの軽視に必然的に貢献し、正当化することができると論じます。 私は、道徳的保護よりも道徳的革新のAI倫理における現在の狭い優先順位付けに疑問を呈する。
  論文  参考訳（メタデータ） (2024-12-06T15:36:13Z)
• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  AIシステムは知恵を欠いている。 AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。 メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• Taking AI Welfare Seriously [0.5617572524191751]
  我々は、近い将来、一部のAIシステムが意識的または堅牢に作用する可能性があると論じている。 これは近い将来の問題であり、AI企業や他のアクターはそれを真剣に取り始める責任がある。
  論文  参考訳（メタデータ） (2024-11-04T17:57:57Z)
• Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
  本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。 人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。 これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
  論文  参考訳（メタデータ） (2024-10-10T17:38:38Z)
• Investigating Responsible AI for Scientific Research: An Empirical Study [4.597781832707524]
  このような機関におけるResponsible AI(RAI)の推進は、AI設計と開発に倫理的配慮を統合することの重要性の高まりを強調している。 本稿では,AI設計・開発に内在する倫理的リスクに対する意識と準備性を評価することを目的とする。 その結果、倫理的、責任的、包括的AIに関する知識ギャップが明らかとなり、利用可能なAI倫理フレームワークに対する認識が制限された。
  論文  参考訳（メタデータ） (2023-12-15T06:40:27Z)
• Trust, Accountability, and Autonomy in Knowledge Graph-based AI for Self-determination [1.4305544869388402]
  知識グラフ(KG)は、インテリジェントな意思決定を支えるための基盤として登場した。 KGと神経学習の統合は、現在活発な研究のトピックである。 本稿では,KGベースのAIによる自己決定を支援するための基礎的なトピックと研究の柱を概念化する。
  論文  参考訳（メタデータ） (2023-10-30T12:51:52Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• AI Deception: A Survey of Examples, Risks, and Potential Solutions [20.84424818447696]
  本稿は、現在のAIシステムが人間を騙す方法を学んだことを論じる。 我々は虚偽を、真理以外の結果の追求において、虚偽の信念を体系的に誘導するものとして定義する。
  論文  参考訳（メタデータ） (2023-08-28T17:59:35Z)
• Putting AI Ethics into Practice: The Hourglass Model of Organizational AI Governance [0.0]
  AIシステムの開発と利用を目標とする,AIガバナンスフレームワークを提案する。 このフレームワークは、AIシステムをデプロイする組織が倫理的AI原則を実践に翻訳するのを助けるように設計されている。
  論文  参考訳（メタデータ） (2022-06-01T08:55:27Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims [59.64274607533249]
  AI開発者は、責任を負うことのできる検証可能な主張をする必要がある。 このレポートは、さまざまな利害関係者がAIシステムに関するクレームの妥当性を改善するための様々なステップを示唆している。 我々は、この目的のための10のメカニズム、すなわち、組織、ソフトウェア、ハードウェアを分析し、それらのメカニズムの実装、探索、改善を目的とした推奨を行う。
  論文  参考訳（メタデータ） (2020-04-15T17:15:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。