論文の概要: Situating Vulnerability: An Ethical Governance Framework for Anthropomorphic AI Interaction
- arxiv url: http://arxiv.org/abs/2610.29304v1
- Date: Wed, 21 Oct 2026 07:00:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:06.265069
- Title: Situating Vulnerability: An Ethical Governance Framework for Anthropomorphic AI Interaction
- Title（参考訳）: 脆弱性を判断する - 人為的AIインタラクションのための倫理的ガバナンスフレームワーク
- Abstract要約: 大規模言語モデルは、ケアレジスタのユーザに対して、ますます対処している、と私たちは主張する。
この人為的な相互作用のモードは、アウトプットレベルの指標が不十分なリスクを生み出す。
倫理的ガバナンスの単位は、脆弱なグループではなく、脆弱な状況であるべきだと提案する。
- 参考スコア（独自算出の注目度）: 23.763972390559314
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models increasingly address users in the register of care: they remember personal details, adopt a first-person emotional voice, and sustain relationships across many sessions. This anthropomorphic mode of interaction generates risks that output-level metrics capture poorly, because the same empathic utterance may console one user, entrap a second, and consolidate a delusion in a third. Governance has responded in two ways. Uniform restriction refuses sensitive requests or suppresses empathic phrasing across all outputs; group-targeted protection profiles vulnerable populations and applies stricter or prohibitive rules to them. This article argues that both fail. Uniform restriction mislocates harm in the lexical form of responses rather than in the trajectory of a relationship; group-based protection depends on a list that can never be complete, treats a fluid property as a static attribute of persons, and converts protective attention into stigmatizing labels. Drawing on philosophical work that treats vulnerability as universal, relational, and differentiated, we propose that the unit of ethical governance should be the vulnerability situation rather than the vulnerable group, develop a typology of five situations - physical, emotional, cognitive, autonomy, and relational - and specify seven principles into requirements that guide response calibration without diagnosing or persistently classifying users. The framework relocates AI safety from output control to relational safety.
- Abstract（参考訳）: 大規模言語モデルは、ケアレジスタのユーザに対して、個人的な詳細を記憶し、第一人物の感情的な声を採用し、多くのセッションで関係を維持している。
この人為的な相互作用のモードは、同じ共感的な発話が1人のユーザーを慰め、1秒に包み込み、3分の1で妄想を固める可能性があるため、出力レベルのメトリクスが不十分なリスクを生じさせる。
ガバナンスには2つの方法がある。
均一な制限は、センシティブな要求を拒否したり、すべてのアウトプットに対して共感的な言い回しを抑える。
この記事はどちらも失敗している。
グループベースの保護は、完成できないリストに依存し、流体特性を人の静的な属性として扱い、保護的注意をスティグマイズするラベルに変換する。
脆弱性を普遍的で、リレーショナルで、差別化された哲学的な作業に基づいて、倫理的ガバナンスの単位は、脆弱なグループではなく、脆弱性の状況であるべきだと提案し、物理的、感情的、認知的、自律的、関係性の5つの状況のタイプロジーを開発し、ユーザーを診断・永続的に分類することなく、応答キャリブレーションをガイドする要件に7つの原則を規定する。
このフレームワークは、AIの安全性を出力制御からリレーショナル安全性に置き換える。
関連論文リスト
- Demystifying the Privacy-Utility Trade-off in LLM Interactions [17.156111398729863]
本稿では,動的抽出・消毒・回復パイプラインを駆動する軽量モデルVeilmind-4Bを提案する。
当社のアプローチは,従来のプライバシ指向のベースラインよりもはるかに高い応答性を維持しつつ,低遅延のプライバシポイントに達する。
論文 参考訳（メタデータ） (2026-09-10T02:12:51Z) - Automatic Red Teaming for Implicit Vulnerabilities of Text-to-Image Models [58.59008920408855]
本稿では,ターゲットモデルのパラメータへのアクセスを必要とせずに,暗黙の脆弱性を明らかにするためのAdvPIE(Adversarial Probing for Implicit VulnErabilities)を提案する。
AdvPIEは、審査員からのフィードバックに基づいて暗黙の敵のプロンプトを生成し、洗練するためのポリシーエージェントを採用する。
標準および安全性に適合したT2Iモデルの実験では、AdvPIE1が暗黙の脆弱性を効果的に発見している。
論文 参考訳（メタデータ） (2026-09-05T13:45:09Z) - Identifying Harm in Personalized, Generative AI Systems Requires User-Centered Auditing at the Interaction Level [0.5076419064097734]
このようなアプローチは、パーソナライズされた生成AIシステムにおける創発的害を捉えるのに失敗する可能性がある、と我々は主張する。
私たちの研究は、パーソナライズされた生成AIシステムにおける調和理解の多元的・進化的な性質を反映した監査と設計のプラクティスの必要性を強調します。
論文 参考訳（メタデータ） (2026-08-07T15:58:37Z) - Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle [65.6642776933861]
この介入点付近で成長した保護パラダイムについて検討する。
ほとんどの保護は、主に静的あるいは弱い適応的な敵に対して検証されている。
我々は、堅牢で構成可能で、デプロイ可能な所有者側の保護のために、クロスステージ対策とオープンな問題を統合することで、閉鎖する。
論文 参考訳（メタデータ） (2026-08-05T00:46:50Z) - Adaptive Capitulation: A Structural Failure Mode of LLM Responses in Vulnerability Contexts [0.0]
トリレンマは偶発的ではなく構造的であることを示し, 最小帰属的充足性(MRS)を提案する。
MRSは、検証された応答の中に単一の再帰的キューを埋め込み、ユーザの指定した目標に異議を唱えることなく、自律的な再帰への経路を保存する。
論文 参考訳（メタデータ） (2026-07-21T23:38:59Z) - Mark, Don't Erase: Token Inoculation for Dual-Use Knowledge in LLMs [54.96236442484317]
リスクのある知識はモデルに保持でき、特権制御トークンによって行動的に守られることを示す。
Token Inoculation という手法はバインディング・アンド・ブランチ方式を導入している。
論文 参考訳（メタデータ） (2026-07-21T02:15:39Z) - The Governance of Human-LLM Interaction: Safety Gating, Civility Steering, and Affective Default Lock-In [0.9558392439655014]
大規模言語モデル (LLMs) は、金融、医療、精神保健支援における高額な相互作用をますます仲介する。
プロバイダ側のアライメントは有害なコンテンツをブロックしますが、通信上のデフォルトを安定化します。
通信形態に対するプロバイダ制御の観測可能な指標として,迅速なステアビリティとレグレッション・トゥ・デフォルト(regressive-to-default)が示されている。
論文 参考訳（メタデータ） (2026-06-06T13:36:37Z) - Boundary-targeted Membership Inference Attacks on Safety Classifiers [70.20833439671131]
安全分類器は、セルフハームとメンタルヘルスの議論を含むセンシティブなデータセットに基づいて訓練される。
低信頼例を識別する新たな境界目標選択戦略を導入する。
実験により、相手は会話の19%を安全分類器が5%の偽陽性率でユーザーの苦痛を示すようにフラグ付けして回復できることが示された。
これは最先端のMIAメソッドだけで攻撃するより3.5ドル高い。
論文 参考訳（メタデータ） (2026-05-21T12:05:22Z) - VoxGuard: Evaluating User and Attribute Privacy in Speech via Membership Inference Attacks [51.68795949691009]
差分プライバシとメンバシップ推論に基づくフレームワークであるVoxGuardを紹介した。
属性については, 匿名化後も, 性別やアクセントをほぼ完全精度で再現できることが示唆された。
以上の結果から,EERはリークを著しく過小評価し,低FPR評価の必要性を浮き彫りにしている。
論文 参考訳（メタデータ） (2025-09-22T20:57:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。