論文の概要: Seeking Help in the Digital Age: A Cross-Platform Analysis of Online Support Systems for Technology-Facilitated Abuse Victims
- arxiv url: http://arxiv.org/abs/2607.21549v1
- Date: Thu, 23 Jul 2026 17:35:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-24 18:26:25.502523
- Title: Seeking Help in the Digital Age: A Cross-Platform Analysis of Online Support Systems for Technology-Facilitated Abuse Victims
- Title（参考訳）: デジタル時代の助力を探る: テクノロジーに精通した悪用被害者のためのオンライン支援システムのクロスプラットフォーム分析
- Abstract要約: TFA(Technology-facilitated abuse)は、対人害の広汎な形態となっている。
我々は、Web検索、ピアサポートフォーラム、会話型AIシステムという3つのチャンネルで、TFA被害者のオンラインサポートを大規模に評価する。
- 参考スコア（独自算出の注目度）: 3.4605921795640477
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Technology-facilitated abuse (TFA), the use of digital technologies to stalk, harass, monitor or threaten others, has become a pervasive form of interpersonal harm. As victims turn to online sources for guidance, responses can shape how they assess risks, interpret abuse, and choose protective actions. We present a large-scale evaluation of online support for TFA victims across three channels: web search, peer-support forums, and conversational AI systems. Drawing on a decade of victim narratives from r/Stalking, we use qualitative coding and supervised classifiers to construct a dataset of TFA queries spanning 11 categories of technology misuse. We simulate these queries across the three channels and evaluate responses using a unified framework spanning technical, social, and safety dimensions. The framework assesses relevance, accuracy, actionability, persuasiveness, and understandability, alongside platform risks and support characteristics, including social-engineering risk, toxicity, empathy, bias, risky guidance, and support information. We build and validate automated classifiers to scale the evaluation. Our findings reveal differences in support quality across platforms. Google Search and general-purpose LLMs provide more relevant and actionable guidance than Reddit discussions, yet none consistently provide safe, trauma-informed support. More than 65% of victim queries encounter potentially malicious links in search results, over 20% of Reddit discussions contain toxic responses, and conversational AI systems frequently fail to provide risk-aware guidance or concrete support resources. Surprisingly, domain-specific survivor-support chatbots underperform general-purpose LLMs across most dimensions. These findings expose weaknesses in digital support for TFA victims and highlight the need for safety-centered design, evaluation, and deployment of future support technologies.
- Abstract（参考訳）: TFA(Technology-facilitated abuse)とは、デジタル技術を用いて他人をストーカー、嫌がらせ、監視、脅かすこと。
被害者がオンラインの情報源に指示を求めると、反応はリスクの評価方法、虐待の解釈、保護行動の選択を形作ることができる。
我々は、Web検索、ピアサポートフォーラム、会話型AIシステムという3つのチャンネルで、TFA被害者のオンラインサポートを大規模に評価する。
r/Stalkingの10年間の被害者の物語に基づいて、定性的なコーディングと教師付き分類器を使用して、11種類の技術誤用にまたがるTFAクエリのデータセットを構築します。
我々はこれらのクエリを3つのチャネルにわたってシミュレートし、技術的、社会的、安全次元にまたがる統一されたフレームワークを用いて応答を評価する。
このフレームワークは、社会的エンジニアリングリスク、毒性、共感、バイアス、リスクガイダンス、サポート情報など、プラットフォームリスクとサポート特性とともに、関連性、正確性、行動可能性、説得性、理解性を評価する。
評価をスケールするために、自動分類器を構築し、検証する。
以上の結果から,プラットフォーム間のサポート品質の差異が明らかになった。
Google Searchと汎用LLMはRedditの議論よりも関連性があり、行動可能なガイダンスを提供するが、安全でトラウマに富んだサポートは一貫して提供しない。
被害者のクエリの65%以上が検索結果で潜在的に悪意のあるリンクに遭遇し、Redditの議論の20%以上が有害な応答を含んでおり、会話型AIシステムはリスク認識のガイダンスや具体的なサポートリソースの提供に失敗することが多い。
驚くべきことに、ドメイン固有のサバイバルサポート型チャットボットは、ほとんどの次元で汎用LLMを過小評価している。
これらの知見は、TFA被害者に対するデジタルサポートの弱点を明らかにし、安全中心の設計、評価、将来の支援技術の展開の必要性を強調している。
関連論文リスト
- A Multi-Turn Framework for Evaluating AI Misuse in Fraud and Cybercrime Scenarios [1.1864532555108382]
現在の大規模言語モデルが、複雑な犯罪活動に有用な情報を提供しているかは、不明である。
我々は、ドメインの専門家が評価したように、モデルがWeb上で一般的に利用可能な情報を超えて実行可能な支援を提供するかどうかを評価する。
その結果,(1)現在の大規模言語モデルは,高度なジェイルブレイク技術を用いることなく,詐欺やサイバー犯罪の最小限の情報を提供することがわかった。
論文 参考訳（メタデータ） (2026-02-25T12:01:38Z) - Understanding Help Seeking for Digital Privacy, Safety, and Security [13.778698491438114]
われわれはRedditに10億件以上の投稿を投稿し、ユーザーがデジタルプライバシー、安全、セキュリティの助けを求める場所と場所を特定した。
93%の精度で300万件の関連投稿を分離し,それぞれにトピックを自動注釈する。
このデータセットを使って、助けを求める範囲と規模、助けを提供するコミュニティ、助けを求めるタイプを理解します。
論文 参考訳（メタデータ） (2026-01-16T16:10:02Z) - Assessing LLM Response Quality in the Context of Technology-Facilitated Abuse [9.590490541338022]
TFA(Technology-facilitated abuse)は、デジタルツールを利用して生存者をコントロール・監視・危害する親密なパートナー暴力(IPV)の一種である。
4つの大言語モデル(LLM)のエキスパート主導による手動評価について述べる。
我々は,TFAドメインに適合する基準に基づいて,サバイバルセーフティ中心のプロンプトによって生成されたゼロショットシングルターンLDM応答の質を評価する。
論文 参考訳（メタデータ） (2026-01-11T19:26:28Z) - A Systematic Survey of Model Extraction Attacks and Defenses: State-of-the-Art and Perspectives [65.3369988566853]
近年の研究では、敵が対象モデルの機能を複製できることが示されている。
モデル抽出攻撃は知的財産権、プライバシー、システムのセキュリティに脅威をもたらす。
本稿では,攻撃機構,防衛手法,計算環境に応じてMEAを分類する新しい分類法を提案する。
論文 参考訳（メタデータ） (2025-08-20T19:49:59Z) - AILuminate: Introducing v1.0 of the AI Risk and Reliability Benchmark from MLCommons [62.374792825813394]
本稿ではAI製品リスクと信頼性を評価するための業界標準ベンチマークとして,AIluminate v1.0を紹介する。
このベンチマークは、危険、違法、または望ましくない行動を12の危険カテゴリーで引き起こすように設計されたプロンプトに対するAIシステムの抵抗を評価する。
論文 参考訳（メタデータ） (2025-02-19T05:58:52Z) - Risks and NLP Design: A Case Study on Procedural Document QA [52.557503571760215]
より具体的なアプリケーションやユーザに対して分析を専門化すれば,ユーザに対するリスクや害の明確な評価が可能になる,と我々は主張する。
リスク指向のエラー分析を行い、リスクの低減とパフォーマンスの向上を図り、将来のシステムの設計を通知する。
論文 参考訳（メタデータ） (2024-08-16T17:23:43Z) - Designing Chatbots to Support Victims and Survivors of Domestic Abuse [2.3020018305241337]
このような状況や支援への直接アクセスが制限される状況において、チャットボットが被害者や生き残りを支援する役割について検討する。
家庭内虐待支援サービスや組織に携わる専門家とインタビューを行った。
Thematic Content Analysis was applied to evaluate and extract insights from the interview data and the content on victims- supported Website。
論文 参考訳（メタデータ） (2024-02-27T10:40:15Z) - Evaluating Robustness of Generative Search Engine on Adversarial Factual Questions [89.35345649303451]
生成検索エンジンは、人々がオンラインで情報を求める方法を変える可能性を秘めている。
しかし,既存の大規模言語モデル(LLM)が支援する生成検索エンジンからの応答は必ずしも正確ではない。
検索強化世代は、敵がシステム全体を回避できるため、安全上の懸念を増す。
論文 参考訳（メタデータ） (2024-02-25T11:22:19Z) - Robust Recommender System: A Survey and Future Directions [58.87305602959857]
まず,悪質な攻撃や自然騒音に耐える現在の手法を整理するための分類法を提案する。
次に、不正検出、敵の訓練、悪意のある攻撃から守るための確実な堅牢な訓練など、各カテゴリにおける最先端の手法を検討する。
さまざまなレコメンデーションシナリオの堅牢性や,正確性や解釈可能性,プライバシ,公正性といった他の特性との相互作用について論じる。
論文 参考訳（メタデータ） (2023-09-05T08:58:46Z) - Towards Automated Classification of Attackers' TTPs by combining NLP
with ML Techniques [77.34726150561087]
我々は,NLP(Natural Language Processing)と,研究におけるセキュリティ情報抽出に使用される機械学習技術の評価と比較を行った。
本研究では,攻撃者の戦術や手法に従って非構造化テキストを自動的に分類するデータ処理パイプラインを提案する。
論文 参考訳（メタデータ） (2022-07-18T09:59:21Z) - SoK: A Framework for Unifying At-Risk User Research [18.216554583064063]
リスクの高いユーザは,ディジタルセキュリティやプライバシ,安全上の脅威を経験する人たちです。
本稿では,85論文の多岐にわたるメタ分析に基づいて,リスクの高いユーザを推論する枠組みを提案する。
論文 参考訳（メタデータ） (2021-12-13T22:27:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。