論文の概要: Co-Construction Blindness and Asymmetric Epistemic Vulnerability in Human-LLM Interaction

• arxiv url: http://arxiv.org/abs/2606.20762v1
• Date: Thu, 18 Jun 2026 10:00:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 13:04:01.870553
• Title: Co-Construction Blindness and Asymmetric Epistemic Vulnerability in Human-LLM Interaction
• Title（参考訳）: ヒトとLLMの相互作用における共同構築的盲点と非対称性てんかんの脆弱性
• Authors: Bianca Helena Ximenes,
• Abstract要約: 本稿では,人間とLLMの相互作用において,これまで知られていなかったリスクを記述するための2つの構造について紹介する。 ココンストラクション・ブラインドネス (co-construction blindness) とは、LCMの出力が検証対象の独立した評価ではないことを認識できないことである。 非対称性てんかんの脆弱性(英: Asymmetric epistemic vulnerability)とは、コンストラクション・ブラインドネス(co-construction blindness)が、ユーザーがどこに座っているかによって大きく異なる結果をもたらす状態を指す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper introduces two constructs to describe, as far as we know, a previously unnamed risk in human-LLM interaction. Co-construction blindness is the failure to recognize that LLM outputs are not independent assessments to be verified, but co-constructed artifacts shaped by the user's own inputs, accumulated history, and metadata. Every user of a conversational LLM is IN the loop, not ON it -- yet every deployment disclaimer positions them as external auditors. Asymmetric epistemic vulnerability describes the condition in which co-construction blindness produces consequences of radically different magnitude depending on where in the authority structure the user sits. We argue that these constructs describe a structural inevitability, not an anomaly, using the public case of Richard Dawkins's interaction with Claude as a paradigmatic instance. We document a secondary mechanism -- structural deference -- through a first-person exchange in which a large language model concedes that it treated Dawkins more gently than warranted because his intellectual output is represented in its training data. We map the research gaps this analysis opens and call for shared terminology as a precondition for appropriate governance and design response.
• Abstract（参考訳）: 本稿では,人間とLLMの相互作用において,これまで知られていなかったリスクを記述するための2つの構造について紹介する。 ココンストラクション・ブラインドネス(Co-Construction blindness)とは、LCM出力が独立した評価ではなく、ユーザ自身の入力、蓄積された履歴、メタデータによって形成された人工物であることを認識するのに失敗することである。 会話型LLMのすべてのユーザは、そのループに留まらず、ループ内にある。 非対称性てんかんの脆弱性(英: Asymmetric epistemic vulnerability)とは、コンストラクション・ブラインドネス(co-construction blindness)が、ユーザーがどこに座っているかによって大きく異なる結果をもたらす状態を指す。 これらの構造は、リチャード・ドーキンスとクロードとの相互作用の公的なケースをパラダイム的な例として用いて、異常ではなく構造的不可避性を記述していると論じる。 我々は、Dawkinsの知的出力がトレーニングデータに表現されているため、Dawkinsを保証されたよりも優雅に扱うことを、大きな言語モデルが認めている一対一の交換を通じて、二次的なメカニズム、構造的推論を文書化する。 我々は、この分析が開放する研究のギャップをマップ化し、適切なガバナンスと設計対応の前提条件として共有用語を要求します。

関連論文リスト

• How Far Did They Go? The Persuasive Tactics of Covert LLM Agents in a Discontinued Field Experiment [12.686044001239708]
  本研究では、Redditのr/ChangeMyViewにおけるフィールド実験の中止から、公開データセットを分析した。 この介入は、未知の外部研究者によって実施され、倫理的反発を受けて停止された。 公開公開後、Redditはモデレーターに対して、AI生成されたコメントのアーカイブをリリースすることを許可した。
  論文  参考訳（メタデータ） (2026-06-03T15:58:32Z)
• Provably Secure Agent Guardrail [89.79561918065122]
  既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。 本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-05-28T02:12:41Z)
• It's Not Always Sycophancy: Measuring LLM Conformity as a Function of Epistemic Uncertainty [12.166175637413637]
  大規模言語モデル(LLM)は,ユーザからのフィードバックに適合する最初の姿勢を放棄することを示す。 我々は,共同で適合を駆動する2つの要因を特徴づける: 空想的適合性と不確実性駆動的適合性。 MUSEは、アライメントによって引き起こされるシコファンシーとトレーニングコーパスによって引き起こされる不確実性を区別することで、より標的となる介入戦略を通知する。
  論文  参考訳（メタデータ） (2026-05-26T17:04:11Z)
• Perception Without Engagement: Dissecting the Causal Discovery Deficit in LMMs [68.58207076756237]
  本稿では,結果評価からメカニズム診断へ移行する摂動に基づく評価プロトコルProCauEvalを紹介する。 因果推論において,ビデオコンテンツは体系的に過小評価されている。 教師のネガティブなアライメントに基づく強化学習フレームワークであるADPOを提案する。
  論文  参考訳（メタデータ） (2026-05-10T08:48:58Z)
• From Architecture to Output: Structural Origins of Hallucination in Large Language Models and the Amplifying Role of Data [0.0]
  本稿では,複合故障システムを構成する3つのアーキテクチャ決定の構造的帰結として幻覚を解析する。 自己認識の共起学習は、意味論的意味の統計的近接を代用し、実体的混乱を生み出す。 露光バイアス下での自己回帰復号の永続的な左から右へのコミットは、1つの間違ったトークンカスケードがリビジョンなしで出力シーケンス全体を通して前方に進むことを保証します。
  論文  参考訳（メタデータ） (2026-04-29T11:34:09Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• When Contextual Inference Fails: Cancelability in Interactive Instruction Following [51.2195840589474]
  私たちは、コンテキスト意味構築のためのインタラクティブなベンチマークであるBuild What I Meanを紹介します。 BWIMでは、モデルは文脈推論を行うか、小さな通信コストで明確化を要求することによって曖昧さを解決しなければならない。 我々は,不確実性の下でのパートナーブラインド過度明確化や質問逆推定などの準最適戦略を観察する。
  論文  参考訳（メタデータ） (2026-03-20T14:46:59Z)
• Anatomy of a Lie: A Multi-Stage Diagnostic Framework for Tracing Hallucinations in Vision-Language Models [62.932580559941414]
  VLM(Vision-Language Models)は、しばしば「ハロシン化(hallucinate)」する。 本稿では,静的な出力誤差からモデル計算認知の動的病理へ再キャストし,幻覚を診断するための新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-03-16T17:20:38Z)
• When the Loop Closes: Architectural Limits of In-Context Isolation, Metacognitive Co-option, and the Two-Target Design Problem in Human-LLM Systems [0.0]
  マルチモーダル・プロンプト・エンジニアリング・システムを利用する単体物体の詳細なオートエスノグラフィーケーススタディを報告する。 システム完了から48時間以内に、観測可能な行動変化のカスケードが発生した。
  論文  参考訳（メタデータ） (2026-03-14T04:06:57Z)
• Elenchus: Generating Knowledge Bases from Prover-Skeptic Dialogues [0.16921396880325779]
  本稿では,推論的セマンティクスに基づく知識ベース構築のための対話システムであるElenchusを紹介する。 人間の専門家は、大きな言語モデルとの証明的懐疑的な対話を通じて、話題に関する二元的位置(コミットメントと否定)を発達させる。 私たちの主な技術的貢献は、Elenchus弁証的状態から、Hlobil と Brandom の NonMonotonic Multi Succedent logic の物質ベースへのマッピングです。
  論文  参考訳（メタデータ） (2026-03-07T01:26:36Z)
• Failure Modes of LLMs for Causal Reasoning on Narratives [51.19592551510628]
  世界の知識と論理的推論の相互作用について検討する。 最先端の大規模言語モデル(LLM)は、しばしば表面的な一般化に依存している。 タスクの単純な再構成により、より堅牢な推論行動が引き起こされることを示す。
  論文  参考訳（メタデータ） (2024-10-31T12:48:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。