論文の概要: Verification Without Distrust: Reframing User-Side Oversight as Routine Epistemic Governance in Everyday Human-Chatbot Interaction
- arxiv url: http://arxiv.org/abs/2607.24761v1
- Date: Sun, 31 May 2026 14:12:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-02 22:55:39.041021
- Title: Verification Without Distrust: Reframing User-Side Oversight as Routine Epistemic Governance in Everyday Human-Chatbot Interaction
- Title（参考訳）: 信頼できない検証: 日常の人間-チャットボット相互作用における定期的な疫学的ガバナンスとしてのユーザー側監視の緩和
- Abstract要約: 日常の人間とチャットボットのインタラクションにおける信頼と検証の間には,検出可能な関連性は見つからない。
さらに3つのユーザ側プラクティス – 自動アクションの修正,修正,承認 – が広く支持され,満足度に肯定的な関係を持つ。
中から大規模までの満足度制御のギャップは、効果的なタスク成果が感覚的なエージェンシーを生まないことを示している。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Research on human-AI interaction has long framed verification of system outputs as a trust-contingent behavior that better-calibrated trust should reduce. We test this assumption in everyday human-chatbot interaction through a mixed-methods survey of 153 frequent chatbot users. Contrary to the canonical prediction, we find no detectable association between trust and verification, with the result robust across sensitivity analyses. Three further user-side practices - refinement, correction, and approval before automated actions - are widely endorsed and positively associated with satisfaction. The data reveal a substantive distinction between evaluative oversight (trust-decoupled, weakly tied to satisfaction) and interventionist oversight (weakly trust-correlated, strongly tied to satisfaction). A medium-to-large satisfaction-control gap shows that effective task outcomes do not produce a felt sense of agency. Qualitative findings identify instrumental mental models, failure-mode-specific doubt, and demand for epistemic infrastructure. We reframe user-side oversight as routine epistemic governance compatible with trust, and derive four design directions for scaffolded oversight in conversational AI.
- Abstract（参考訳）: 人間とAIの相互作用に関する研究は、システムアウトプットの検証を、より良い校正された信頼が減少すべき信頼を伴う行動として長年にわたって行ってきた。
この仮定を,153人のチャットボットユーザを対象とした混合メソッドサーベイを通じて,日常的な人間-チャットボットインタラクションにおいて検証する。
正準予測とは対照的に,信頼と検証の間には検出可能な関連性は認められず,感度解析において頑健な結果が得られた。
さらに3つのユーザ側プラクティス – 自動アクションの修正,修正,承認 – が広く支持され,満足度に肯定的な関係を持つ。
データは、評価的監督(信頼が疎結合で、満足に弱く結びついている)と介入主義監督(弱く信頼関係があり、満足に強く結びついている)の実質的な区別を明らかにしている。
中から大規模までの満足度制御のギャップは、効果的なタスク成果が感覚的なエージェンシーを生まないことを示している。
質的な発見は、器質的な精神モデル、障害モード固有の疑念、およびてんかんのインフラへの需要を識別する。
ユーザ側の監視を、信頼に相応しい定期的な認識的ガバナンスとして再設定し、会話型AIにおける足場付き監視のための4つの設計方向を導出します。
関連論文リスト
- The Governance of Human-LLM Interaction: Safety Gating, Civility Steering, and Affective Default Lock-In [0.9558392439655014]
大規模言語モデル (LLMs) は、金融、医療、精神保健支援における高額な相互作用をますます仲介する。
プロバイダ側のアライメントは有害なコンテンツをブロックしますが、通信上のデフォルトを安定化します。
通信形態に対するプロバイダ制御の観測可能な指標として,迅速なステアビリティとレグレッション・トゥ・デフォルト(regressive-to-default)が示されている。
論文 参考訳（メタデータ） (2026-06-06T13:36:37Z) - IMPACT-HOI: Supervisory Control for Onset-Anchored Partial HOI Event Construction [72.51952455865155]
我々は,エゴセントリックなプロシージャビデオに注釈を付けるための混合開始型フレームワークIMPACT-HOIを提案する。
IMPACT-HOIは、このタスクを部分的に指定され、オンセットされたイベント状態の漸進的な解決として捉えている。
9人の参加者によるユーザスタディでは、手動のアノテーションアクションが13.5%減少し、46.67%のイベントマッチレート、確認されたフィールド違反がゼロである。
論文 参考訳（メタデータ） (2026-05-03T01:37:40Z) - Co-FactChecker: A Framework for Human-AI Collaborative Claim Verification Using Large Reasoning Models [99.26398772227684]
我々は,人間とAIの協調的クレーム検証のためのフレームワークであるCo-FactCheckerを提案する。
Co-FactCheckerは専門家のフィードバックをトレース編集に変換する。
人間の評価は、マルチターン対話よりもCo-FactCheckerの方が好ましいことを示している。
論文 参考訳（メタデータ） (2026-04-15T10:35:00Z) - When Visibility Outpaces Verification: Delayed Verification and Narrative Lock-in in Agentic AI Discourse [2.5424331328233207]
エージェントAIシステム - 独立した計画と実行が可能な自律的なエンティティ。
本稿ではエージェントAIのオンライン議論における社会的証明と検証タイミングの相互作用について検討する。
論文 参考訳（メタデータ） (2026-02-11T22:30:12Z) - Why do we Trust Chatbots? From Normative Principles to Behavioral Drivers [9.407740029262124]
共通項における「信頼」の競合概念の共存は、心理的信頼の形成と規範的信頼の区別を曖昧にしていると論じる。
このギャップに対処するには、ユーザーが会話型AIシステムの信頼を適切に調整するのに役立つ、さらなる研究とより強力なサポートメカニズムが必要である。
論文 参考訳（メタデータ） (2026-02-09T14:21:01Z) - Althea: Human-AI Collaboration for Fact-Checking and Critical Reasoning [26.796186521236194]
本稿では,オンラインクレームのユーザ主導評価を支援するために,質問生成,証拠検索,構造化推論を統合した検索強化システムであるAltheaを紹介する。
AVeriTeCベンチマークでは、Altheaは0.44のマクロF1を達成し、標準的な検証パイプラインを上回り、サポートされたクレームと反証されたクレームの識別を改善している。
論文 参考訳（メタデータ） (2025-12-29T18:23:35Z) - BrowseConf: Confidence-Guided Test-Time Scaling for Web Agents [58.05949210993854]
本研究では,長期にわたる行動の後,言語化された信頼度スコアを用いて,検索エージェントが自身の信頼を伝達できるかどうかを検討する。
本研究では,信頼度スコアを用いて回答の質を判断し,信頼度レベルに達するまで再度試すテスト時間スケーリング(TTS)手法を提案する。
論文 参考訳（メタデータ） (2025-10-27T15:58:51Z) - Online Decision Mediation [72.80902932543474]
意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。
臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
論文 参考訳（メタデータ） (2023-10-28T05:59:43Z) - A Diachronic Perspective on User Trust in AI under Uncertainty [52.44939679369428]
現代のNLPシステムは、しばしば未分類であり、ユーザの信頼を損なう確実な誤った予測をもたらす。
賭けゲームを用いて,信頼を損なう事象に対するユーザの信頼の進化について検討する。
論文 参考訳（メタデータ） (2023-10-20T14:41:46Z) - On the Robustness of ChatGPT: An Adversarial and Out-of-distribution
Perspective [67.98821225810204]
本研究は,ChatGPTの頑健性について,敵対的視点とアウト・オブ・ディストリビューションの観点から評価する。
その結果,ほとんどの対人・OOD分類・翻訳作業において一貫した優位性を示した。
ChatGPTは対話関連テキストの理解において驚くべきパフォーマンスを示す。
論文 参考訳（メタデータ） (2023-02-22T11:01:20Z) - Comparing Psychometric and Behavioral Predictors of Compliance During
Human-AI Interactions [5.893351309010412]
アダプティブAI研究における一般的な仮説は、信頼への偏見の微妙な違いは、AIからの勧告に従う可能性に大きな影響を及ぼす、というものである。
我々は、コンプライアンスの行動予測者に対して、この種の一般的な尺度をベンチマークする。
これは、初期行動における個人差が、自己報告された信頼態度の違いよりも予測的であるという一般的な性質を示唆している。
論文 参考訳（メタデータ） (2023-02-03T16:56:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。