論文の概要: What Social Media Teaches Us About Accumulative AI Risks
- arxiv url: http://arxiv.org/abs/2610.24006v1
- Date: Thu, 15 Oct 2026 18:04:53 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 11:45:30.651725
- Title: What Social Media Teaches Us About Accumulative AI Risks
- Title（参考訳）: ソーシャルメディアは、累積的AIのリスクについて警告する
- Abstract要約: このポジションペーパーでは、AIの普及によって生じる別のタイプのAIリスクが存在すると論じている。
安全評価は、繰り返し使用されること、繰り返し行われる決定、相互接続されたデプロイメントにおけるフィードバックを通じて発生する累積的損害にも対処する必要がある、と私たちは主張する。
対話型AIを,生成,意味推論,永続記憶がフィードバックループを締め付ける具体的設定として用いることにより,AIシステムにおいて関連するメカニズムがどのように機能するかを検討する。
- 参考スコア（独自算出の注目度）: 13.898009474993957
- License:
- Abstract: Prominent AI safety discussions emphasize existential threats and catastrophic events, such as AI-enabled nuclear conflict or engineered biological outbreaks. This position paper argues that there is another type of AI risk that arises and accumulates from the widespread use of AI. Drawing on lessons from social media, we argue that safety assessments must also address accumulative harms that develop through repeated use, recurring decisions, and feedback across interconnected deployments. Repeated reassurance, selective exposure, recurring decision biases, and growing personal profiles may gradually narrow perspectives, weaken independent judgment, or enable exploitative influence without a single clearly harmful event. We advance the Trajectory Neglect Thesis: a focus on vivid catastrophic events and identifiable incidents risks overlooking less visible harms that accumulate through the widespread daily use of AI. Social media research motivates this position by showing how reciprocal media effects, social reinforcement, and individual susceptibility shape outcomes beyond individual encounters. We examine how related mechanisms may operate in AI systems, using conversational AI as a concrete setting where generation, semantic inference, and persistent memory may tighten feedback loops. Sycophancy, manipulation, and privacy loss provide a case study of how these risks may interact and accumulate. This comparison identifies mechanisms to investigate rather than assuming that repeated AI use is harmful. We therefore call for evaluation of cumulative patterns of use and deployment, individual and societal outcomes, careful causal inference, and proportionate safeguards that preserve useful assistance and informed user choice.
- Abstract（参考訳）: 著名なAI安全性に関する議論は、AI対応核紛争や工学化された生物学的アウトブレイクのような、実在の脅威と破滅的な出来事を強調している。
このポジションペーパーでは、AIの普及によって生じる別のタイプのAIリスクが存在すると論じている。
ソーシャルメディアからの教訓に基づき、安全評価は繰り返しの使用、繰り返しの判断、相互に連携したデプロイメントにおけるフィードバックを通じて発生する累積的損害にも対処する必要があると論じる。
反復的再保証、選択的露出、反復的決定バイアス、そして個人的プロファイルの増大は、徐々に視野を狭め、独立した判断を弱め、または単一の明らかな有害事象を伴わずに、搾取的な影響を可能にする。
私たちは、AIの日常的な使用を通じて蓄積される、目立たない害を見越して、鮮明な破滅的な出来事と特定可能なインシデントリスクに焦点を合わせます。
ソーシャルメディアの研究は、相互のメディア効果、社会的強化、個人の感受性が個々の出会いを超えた結果をもたらすことを示すことによって、この地位を動機付けている。
対話型AIを,生成,意味推論,永続記憶がフィードバックループを締め付ける具体的設定として用いることにより,AIシステムにおいて関連するメカニズムがどのように機能するかを検討する。
症状、操作、プライバシーの喪失は、これらのリスクがどのように相互作用し蓄積するかのケーススタディを提供する。
この比較は、繰り返しAIの使用が有害であると仮定するのではなく、調査するメカニズムを特定する。
そこで我々は, 利用・展開の累積パターン, 個人・社会的な成果, 因果推論の注意, 有用な援助とユーザ選択を保護した保護具の比例といった評価を呼び掛けた。
関連論文リスト
- Toward Quantitative Modeling of Cybersecurity Risks Due to AI Misuse [50.87630846876635]
我々は9つの詳細なサイバーリスクモデルを開発する。
各モデルはMITRE ATT&CKフレームワークを使用して攻撃をステップに分解する。
個々の見積もりはモンテカルロシミュレーションによって集約される。
論文 参考訳（メタデータ） (2025-12-09T17:54:17Z) - AI Harmonics: a human-centric and harms severity-adaptive AI risk assessment framework [4.84912384919978]
既存のAIリスク評価モデルは、内部コンプライアンスに重点を置いている。
本研究では,経験的インシデントデータに基づく人間中心型適応アプローチへのパラダイムシフトを提案する。
我々は、厳密な数値推定を必要とせず、順序重大度データを利用して相対的な影響を捉える、AIH(AI harm Assessment metric)を含むAI Harmonicsを提案する。
論文 参考訳（メタデータ） (2025-09-12T09:52:45Z) - Two Types of AI Existential Risk: Decisive and Accumulative [3.5051464966389116]
本稿では,従来の「決定型AI x-リスク仮説」と「累積型AI x-リスク仮説」を対比する。
累積的な視点は、AIリスクに関する一見互換性のない視点を調整できる、と氏は主張する。
論文 参考訳（メタデータ） (2024-01-15T17:06:02Z) - Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。
偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。
問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
論文 参考訳（メタデータ） (2023-04-16T11:22:59Z) - Adversarial Interaction Attack: Fooling AI to Misinterpret Human
Intentions [46.87576410532481]
現在の大きな成功にもかかわらず、ディープラーニングベースのAIシステムは、微妙な敵対的ノイズによって容易に騙されることを示した。
骨格に基づくヒトの相互作用のケーススタディに基づき、相互作用に対する新しい敵対的攻撃を提案する。
本研究では、安全クリティカルなアプリケーションにAIシステムをデプロイする際に慎重に対処する必要があるAIと人間との相互作用ループにおける潜在的なリスクを強調します。
論文 参考訳（メタデータ） (2021-01-17T16:23:20Z) - Overcoming Failures of Imagination in AI Infused System Development and
Deployment [71.9309995623067]
NeurIPS 2020は研究論文に「潜在的な悪用と失敗の結果」に関するインパクトステートメントを含むよう要求した。
我々は、害の枠組みは文脈に適応し、潜在的な利害関係者、システム余裕、および最も広い意味での害を評価するための実行可能なプロキシを考える必要があると論じている。
論文 参考訳（メタデータ） (2020-11-26T18:09:52Z) - Epidemic mitigation by statistical inference from contact tracing data [61.04165571425021]
我々は,個人が感染するリスクを推定するためにベイズ推定法を開発した。
本稿では,感染防止のための検査・隔離戦略を最適化するために,確率論的リスク推定手法を提案する。
我々のアプローチは、最近接触した個人間の通信のみを必要とする、完全に分散されたアルゴリズムに変換されます。
論文 参考訳（メタデータ） (2020-09-20T12:24:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。