論文の概要: When Is Disclosing Private Conversations with AI to the State Justified? Proactive Referral Policies of Major U.S. AI Companies through the Lens of Contextual Integrity

• arxiv url: http://arxiv.org/abs/2610.25169v2
• Date: Tue, 20 Oct 2026 17:59:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.003733
• Title: When Is Disclosing Private Conversations with AI to the State Justified? Proactive Referral Policies of Major U.S. AI Companies through the Lens of Contextual Integrity
• Title（参考訳）: AIと私的会話が国家に正当化されるのはいつか? : 文脈統合のレンズを通して米国の主要AI企業の積極的な参照政策
• Abstract要約: AI企業は、政府からの要請なしに危険と判断するユーザー会話の法執行機関に通知する「プロアクティブレファラル」に従事している。 本研究は, プロアクティブ・レファレンスを正当化できる条件と, 企業の公共政策がそれらの条件をどの程度明らかにできるかを問うものである。 3人の評価官が、企業政策に適合する基準を用いて、米国の主要AI企業6社から27の公開文書を分析した。
• 参考スコア（独自算出の注目度）: 2.7532313761753713
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: AI companies engage in "proactive referral," notifying law enforcement of user conversations they judge dangerous without a government request. This poses a dilemma, since referral may expose people who merely confided dangerous thoughts to an AI to investigation, whereas not referring may leave actual violence unprevented. This study asks under what conditions proactive referral can be justified and to what extent companies' public policies disclose those conditions. Drawing on contextual integrity theory and the norms governing exceptional information sharing in confidential counseling, online posts, and private communications, the study develops eight justification criteria classified as required, presumptive, or recommended. Three evaluators analyzed 27 public documents from six major U.S. AI companies using the criteria applicable to corporate policies. No company clarified whether broad sharing provisions or narrower safety notices took precedence, and assessments of referral scope depended on which provisions were given precedence. No company disclosed the specific factual thresholds and exception conditions governing referral decisions, or whether users would be notified afterward. The study turns contextual integrity into a stage-by-stage framework for proactive referral, shows that policy documents must be read in light of their relationships, and proposes policy elements for keeping proactive referral a narrow exception disclosed in advance.
• Abstract（参考訳）: AI企業は、政府からの要請なしに危険と判断するユーザー会話の法執行機関に通知する「プロアクティブレファラル」に従事している。 これはジレンマを招き、レファラルは単に危険な考えをAIに打ち明けて調査するだけであるのに対して、言及しない人は実際の暴力を予防しない可能性があるためである。 本研究は, プロアクティブ・レファレンスを正当化できる条件と, 企業の公共政策がそれらの条件をどの程度明らかにできるかを問うものである。 文脈整合性理論と、機密カウンセリング、オンライン投稿、私的コミュニケーションにおける例外的な情報共有を規定する規範に基づいて、研究は、必要、予断、または推奨の8つの正当化基準を策定する。 3人の評価官が、企業政策に適合する基準を用いて、米国の主要AI企業6社から27の公開文書を分析した。 広範な共有規定やより狭い安全通知が優先されるかどうかを明らかにしておらず、基準範囲の評価はどの規定が優先されたかによって異なる。 特定の事実のしきい値と例外条件、あるいはその後ユーザーに通知されるかどうかを公表する企業はなかった。 この研究は、文脈整合性をプロアクティブレファラルの段階的な枠組みに転換し、それらの関係から政策文書を読まなければならないことを示すとともに、前もって公表された限られた例外をプロアクティブレファラルに維持するための政策要素を提案する。

関連論文リスト

• Policy-Conditioned AI-Use Detection: An Evidentiary Framework for Academic Publishing [0.0]
  この目標は、カンファレンスやジャーナルが直面する決定と一致していない、と我々は主張する。 本稿では,人間-AIワークフローが規定されたルールに準拠しているかどうかを評価するための明らかなフレームワークである,ポリシー条件付きAI利用検出を提案する。
  論文  参考訳（メタデータ） (2026-09-29T19:17:35Z)
• EADC: Evaluation of Advanced and Deep-level Compliance in Large Language Models [8.982923759813952]
  EADCは、AIコンプライアンス知識グラフとAIコンプライアンス法の専門家に基づく、大規模言語モデル(LLM)の新たな高度な評価ベンチマークである。 我々のフレームワークは、高度に高度に高度な逆境シナリオを蒸留し、合成する自動化された進化型エージェントを可能にする。 得られたデータセットは、重要な規制フロンティアをカバーする広範囲で多次元の分類を提供する。
  論文  参考訳（メタデータ） (2026-09-22T12:00:07Z)
• ContextLens: Modeling Imperfect Privacy and Safety Context for Legal Compliance [49.524070843587594]
  本研究では,大規模言語モデル(LLM)を活用し,法的領域における入力コンテキストを基盤とするセミルールベースのフレームワークであるContextLensを提案する。 我々は、General Data Protection Regulation()とEU AI Actをカバーする既存のコンプライアンスベンチマークの実験を行います。 その結果、ContextLensはLLMのコンプライアンス評価を大幅に改善し、トレーニングなしで既存のベースラインを越えられることが示唆された。
  論文  参考訳（メタデータ） (2026-04-14T05:35:38Z)
• Frontier AI Auditing: Toward Rigorous Third-Party Assessment of Safety and Security Practices at Leading AI Companies [57.521647436515785]
  私たちはフロンティアAIの監査を、フロンティアAI開発者の安全とセキュリティに関する主張の厳格な第三者による検証として定義しています。 本稿では,AI保証レベル(AAL-1からAAL-4)について紹介する。
  論文  参考訳（メタデータ） (2026-01-16T18:44:09Z)
• Beyond Jailbreaking: Auditing Contextual Privacy in LLM Agents [43.303548143175256]
  本研究では,リスクに対するエージェントの感受性を定量的に評価する,会話プライバシのための監査フレームワークを提案する。 CMPL(Conversational Manipulation for Privacy Leakage)フレームワークは、厳格なプライバシー命令を強制するエージェントをストレステストするために設計されている。
  論文  参考訳（メタデータ） (2025-06-11T20:47:37Z)
• AI Companies Should Report Pre- and Post-Mitigation Safety Evaluations [5.984437476321095]
  フロンティアAI企業は、事前および後安全評価の両方を報告すべきである。 両段階におけるモデルの評価は、政策立案者に、配備、アクセス、安全基準を規制するための重要な証拠を提供する。
  論文  参考訳（メタデータ） (2025-03-17T17:56:43Z)
• PrivacyLens: Evaluating Privacy Norm Awareness of Language Models in Action [54.11479432110771]
  PrivacyLensは、プライバシに敏感な種子を表現的なヴィグネットに拡張し、さらにエージェントの軌跡に拡張するために設計された新しいフレームワークである。 プライバシの文献とクラウドソーシングされたシードに基づいて、プライバシの規範のコレクションをインスタンス化する。 GPT-4やLlama-3-70Bのような最先端のLMは、プライバシー強化の指示が出されたとしても、機密情報を25.68%、38.69%のケースでリークしている。
  論文  参考訳（メタデータ） (2024-08-29T17:58:38Z)
• Technocracy, pseudoscience and performative compliance: the risks of privacy risk assessments. Lessons from NIST's Privacy Risk Assessment Methodology [0.0]
  プライバシ・リスク・アセスメントは、組織がプライバシ・バイ・デザインを実装することを奨励する、客観的で原則化された方法として評価されてきた。 既存のガイドラインや手法はあいまいであり、プライバシーの害に関する実証的な証拠はほとんどない。 実用的で技術的アプローチの限界と落とし穴を強調します。
  論文  参考訳（メタデータ） (2023-08-24T01:32:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。