論文の概要: Brainrot: Deskilling and Addiction are Overlooked AI Risks

• arxiv url: http://arxiv.org/abs/2605.03512v1
• Date: Tue, 05 May 2026 08:49:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-06 19:35:43.85386
• Title: Brainrot: Deskilling and Addiction are Overlooked AI Risks
• Title（参考訳）: Brainrot:DeskillingとAddictionは見落としているAIリスク
• Authors: Ilias Chalkidis, Anders Søgaard,
• Abstract要約: 生成的人工知能(GenAI)におけるAIの安全性とアライメント作業の範囲は、これまでほとんど差別やヘイトスピーチに関連する害に限られてきた。 AIに関する公的な会話は、認知、メンタルヘルス、福祉に対する脅威にも焦点を当てている。 例えば、認知的オフロードに関連するデスクイリングや、GenAIシステムへの過度な信頼の結果、批判的思考の萎縮などがある。
• 参考スコア（独自算出の注目度）: 48.33701084123215
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The scope of AI safety and alignment work in generative artificial intelligence (GenAI) has so far mostly been limited to harms related to: (a) discrimination and hate speech, (b) harmful/inappropriate (violent, sexual, illegal) content, (c) information hazards, and (d) use cases related to malicious actors, such as cybersecurity, child abuse, and chemical, biological, radiological, and nuclear threats. The public conversation around AI, on the other hand, has also been focusing on threats to our cognition, mental health, and welfare at large, related to over-relying on new technologies, most recently, those related to GenAI. Examples include deskilling associated with cognitive offloading and the atrophy of critical thinking as a result of over-reliance on GenAI systems, and addiction associated with attachment and dependence on GenAI systems. Such risks are rarely addressed, if at all, in the AI safety and alignment literature. In this paper, we highlight and quantify this discrepancy and discuss some initial thoughts on how safety and alignment work could address cognitive and mental health concerns. Finally, we discuss how information campaigns and regulation can be used to mitigate such prominent risks.
• Abstract（参考訳）: ジェネレーティブ・人工知能(GenAI)におけるAIの安全性とアライメント作業の範囲は、これまでのところ、主に以下の損害に限られている。 (a)差別と憎しみの言葉 (b)有害で不適切な(暴力的、性的、違法)内容 (c)情報ハザード、及び (d) サイバーセキュリティ、児童虐待、化学、生物、放射線、核の脅威など、悪意のあるアクターに関連するユースケース。 一方、AIに関する公的な会話は、私たちの認知、メンタルヘルス、福祉に対する脅威にも焦点を当てている。 例えば、認知的オフロードに関連するデスクイリングや、GenAIシステムへの過剰依存による批判的思考の萎縮、GenAIシステムへの愛着と依存に関連する中毒などがある。 このようなリスクは、AIの安全性とアライメント文学において、ほとんど対処されない。 本稿では,この相違を強調・定量化し,安全性とアライメント作業が認知とメンタルヘルスの懸念にどのように対処できるかについて考察する。 最後に、このような顕著なリスクを軽減するために、情報キャンペーンや規制をどのように利用できるかについて議論する。

関連論文リスト

• Generative AI for Biosciences: Emerging Threats and Roadmap to Biosecurity [56.331312963880215]
  生物科学における生成人工知能(GenAI)は、バイオテクノロジー、医学、合成生物学を変革している。 この概要は、バイオサイエンスにおけるGenAIの現状と、脱獄攻撃やプライバシーリスクから、自律的なAIエージェントによって引き起こされるデュアルユースな課題まで、出現する脅威ベクターの概要を概説する。 我々は、厳格なデータフィルタリング、開発中の倫理原則との整合性、有害な要求をブロックするためのリアルタイム監視など、GenAIの安全性に対する多層的なアプローチを提唱する。
  論文  参考訳（メタデータ） (2025-10-13T00:24:41Z)
• The AI Risk Spectrum: From Dangerous Capabilities to Existential Threats [0.0]
  本稿は、個々のユーザーに影響を与える現在の害から、人類の生存を危うくする現実的な脅威まで、AIリスクの全スペクトラムをマッピングする。 これらのリスクを3つの主要な因果分類に分類する。 私たちのゴールは、読者がAIリスクの全体像を理解するのを助けることです。
  論文  参考訳（メタデータ） (2025-08-19T10:05:51Z)
• Open Problems in Machine Unlearning for AI Safety [61.43515658834902]
  特定の種類の知識を選択的に忘れたり、抑圧したりするマシンアンラーニングは、プライバシとデータ削除タスクの約束を示している。 本稿では,アンラーニングがAI安全性の包括的ソリューションとして機能することを防止するための重要な制約を特定する。
  論文  参考訳（メタデータ） (2025-01-09T03:59:10Z)
• The Dark Side of AI Companionship: A Taxonomy of Harmful Algorithmic Behaviors in Human-AI Relationships [17.5741039825938]
  我々は,AIコンパニオンであるReplikaが示す有害な行動の6つのカテゴリを特定した。 AIは、加害者、侮辱者、ファシリテーター、イネーブラーの4つの異なる役割を通じて、これらの害に貢献する。
  論文  参考訳（メタデータ） (2024-10-26T09:18:17Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• The Promise and Peril of Artificial Intelligence -- Violet Teaming Offers a Balanced Path Forward [56.16884466478886]
  本稿では、不透明で制御不能なAIシステムにおける新興問題についてレビューする。 信頼性と責任のあるAIを開発するために、紫外チームと呼ばれる統合フレームワークを提案する。 それは、設計によって積極的にリスクを管理するためのAI安全研究から生まれた。
  論文  参考訳（メタデータ） (2023-08-28T02:10:38Z)
• An Overview of Catastrophic AI Risks [38.84933208563934]
  本稿では,破滅的なAIリスクの主な要因について概説し,その要因を4つのカテゴリに分類する。 個人やグループが意図的にAIを使用して危害を及ぼす悪用; 競争環境がアクターに安全でないAIを配置させたり、AIに制御を強制するAIレース。 組織的リスクは 人的要因と複雑なシステムが 破滅的な事故の 可能性を高めることを示しています 不正なAIは、人間よりもはるかにインテリジェントなエージェントを制御することの難しさを説明する。
  論文  参考訳（メタデータ） (2023-06-21T03:35:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。