論文の概要: Move Fast and Mend Things: Keeping Up with Evolving AI Harms Using Social Media Commentary

• arxiv url: http://arxiv.org/abs/2610.09082v1
• Date: Tue, 06 Oct 2026 20:24:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.597927
• Title: Move Fast and Mend Things: Keeping Up with Evolving AI Harms Using Social Media Commentary
• Title（参考訳）: 速く、精神的に動く:ソーシャルメディアのコメンタリーを使ってAIハームを進化させ続ける
• Abstract要約: 我々は,新たなAI障害を動的に検出し,分類し,追跡するLLM支援セマンティック分析パイプラインを導入する。 われわれは570万件のRedditポストサマリー(01/2025から06/2026)に18ヶ月にわたって適用している。 575,000のAI害関連ポストとボトムアップAI害分類のデータセットを、12のカテゴリと47のサブノードでキュレートしてリリースします。
• 参考スコア（独自算出の注目度）: 3.354543328792687
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rapid deployment of AI systems has created socio-technical, psychological, and operational harms that can elude ex-ante threat modelling and ex-post incident tracking. We introduce an LLM-assisted thematic analysis pipeline to dynamically detect, categorise, and track emerging AI harms from large-scale social media data. Applying it to 5.7 million Reddit post summaries over 18 months (01/2025 to 06/2026), we curate and release a dataset of 575,000 AI harm-related posts and a bottom-up AI harm taxonomy of 12 categories and 47 subnodes. The taxonomy reliably covers established expert-defined risks while surfacing granular harms that top-down frameworks overlook, such as distinct forms of AI privacy violations. Temporal analysis surfaces evolving user-centric harms, such as agentic privacy and security breaches, premature AI adoption in the workplace, and grief from AI companion discontinuation. Our pipeline shortens harm-detection timelines and hereby complements efforts towards more participatory and responsive AI governance.
• Abstract（参考訳）: AIシステムの迅速な展開により、社会技術的、心理的、運用上の害が生まれ、脅威モデリングやインシデント追跡の先延ばしを防げる。 我々は、大規模ソーシャルメディアデータから出現するAI害を動的に検出し、分類し、追跡するLLM支援のテーマ分析パイプラインを導入する。 Redditの要約(01/2025から06/2026まで)を18ヶ月で570万件に適用し、575,000件のAI害関連投稿とボトムアップのAI害分類学の12のカテゴリと47のサブノードのデータセットをキュレートしてリリースする。 この分類法は、確立した専門家が定義したリスクを確実にカバーすると同時に、AIのプライバシー侵害の異なる形態など、トップダウンフレームワークが見落としている、きめ細かいダメージを克服する。 時間分析は、エージェントプライバシやセキュリティ侵害、職場での未熟なAIの採用、AIコンパニオンの廃止に対する悲しみなど、ユーザ中心の障害の進化を表面化する。 私たちのパイプラインは、障害検出タイムラインを短縮し、より参加的で応答性の高いAIガバナンスへの取り組みを補完します。

関連論文リスト

• SoK: The Attack Surface of Agentic AI -- Tools, and Autonomy [3.340255811686752]
  最近のAIシステムは、大規模な言語モデルとツール、検索強化生成(RAG)による外部知識を組み合わせている。 このエージェントAIパラダイムは、能力を大幅に拡張すると同時に、攻撃面を大きく拡大する。 我々は、即時レベルの注射、知識ベース中毒、ツール/プラグインエクスプロイト、マルチエージェント緊急脅威にまたがる攻撃の包括的分類を開発する。
  論文  参考訳（メタデータ） (2026-03-24T08:21:51Z)
• Frontier AI Risk Management Framework in Practice: A Risk Analysis Technical Report v1.5 [61.787178868669265]
  この技術レポートは、サイバー犯罪、説得と操作、戦略上の詐欺、制御されていないAIR&D、自己複製の5つの重要な側面について、更新されきめ細かな評価を提示する。 この作業は、現在のAIフロンティアのリスクに対する理解を反映し、これらの課題を軽減するための集団行動を促します。
  論文  参考訳（メタデータ） (2026-02-16T04:30:06Z)
• Security Challenges in AI Agent Deployment: Insights from a Large Scale Public Competition [101.86739402748995]
  44の現実的なデプロイメントシナリオを対象とした,22のフロンティアAIエージェントを対象にしています。 Agent Red Teamingベンチマークを構築し、19の最先端モデルで評価します。 私たちの発見は、今日のAIエージェントの重要かつ永続的な脆弱性を浮き彫りにしたものです。
  論文  参考訳（メタデータ） (2025-07-28T05:13:04Z)
• Who is Responsible When AI Fails? Mapping Causes, Entities, and Consequences of AI Privacy and Ethical Incidents [31.53910982726317]
  我々は、202の現実世界のAIプライバシと倫理的インシデントを分析し、分類学を開発した。 この結果から, 組織的決定の貧弱さと法的な非コンプライアンスの悪影響が明らかとなった。 本研究は,政策立案者や実践者に対して有効なガイダンスを提供する。
  論文  参考訳（メタデータ） (2025-03-28T21:57:38Z)
• The Dark Side of AI Companionship: A Taxonomy of Harmful Algorithmic Behaviors in Human-AI Relationships [17.5741039825938]
  我々は,AIコンパニオンであるReplikaが示す有害な行動の6つのカテゴリを特定した。 AIは、加害者、侮辱者、ファシリテーター、イネーブラーの4つの異なる役割を通じて、これらの害に貢献する。
  論文  参考訳（メタデータ） (2024-10-26T09:18:17Z)
• Generative AI for Secure and Privacy-Preserving Mobile Crowdsensing [74.58071278710896]
  生成AIは、学術分野と産業分野の両方から多くの注目を集めている。 セキュアでプライバシ保護のモバイルクラウドセンシング(SPPMCS)は、データ収集/取得に広く応用されている。
  論文  参考訳（メタデータ） (2024-05-17T04:00:58Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Adversarial Interaction Attack: Fooling AI to Misinterpret Human Intentions [46.87576410532481]
  現在の大きな成功にもかかわらず、ディープラーニングベースのAIシステムは、微妙な敵対的ノイズによって容易に騙されることを示した。 骨格に基づくヒトの相互作用のケーススタディに基づき、相互作用に対する新しい敵対的攻撃を提案する。 本研究では、安全クリティカルなアプリケーションにAIシステムをデプロイする際に慎重に対処する必要があるAIと人間との相互作用ループにおける潜在的なリスクを強調します。
  論文  参考訳（メタデータ） (2021-01-17T16:23:20Z)
• Adversarial vs behavioural-based defensive AI with joint, continual and active learning: automated evaluation of robustness to deception, poisoning and concept drift [62.997667081978825]
  人工知能(AI)の最近の進歩は、サイバーセキュリティのための行動分析(UEBA)に新たな能力をもたらした。 本稿では、検出プロセスを改善し、人間の専門知識を効果的に活用することにより、この攻撃を効果的に軽減するソリューションを提案する。
  論文  参考訳（メタデータ） (2020-01-13T13:54:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。