論文の概要: Illusion of Alignment: Detecting Hidden Disagreement in Collaborative Dialogue

• arxiv url: http://arxiv.org/abs/2608.08210v1
• Date: Sat, 08 Aug 2026 16:11:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:36.723656
• Title: Illusion of Alignment: Detecting Hidden Disagreement in Collaborative Dialogue
• Title（参考訳）: アライメントのイラシオン:協調対話における隠れ診断の検出
• Authors: Kaiming Liu, Fuwen Luo, Ziyue Wang, Jinrui Ju, Yuxuan Liu, Xuanyu Lei, Yunghwei Lai, Peng Li, Yang Liu,
• Abstract要約: コラボレーションの対話は、参加者がまだ目標、仮定、実行計画が異なる間、明らかな合意で終わる可能性がある。 IoA は,解答が不一致を隠蔽する直接的な行動的証拠となるような複数選択の診断的質問を生成することで検出可能となる。 次に、IoA-Suiteに基づいてtextbfIoA-Prober-8Bをトレーニングし、IoA-Suite上で51.8%のF1に達した。
• 参考スコア（独自算出の注目度）: 15.110547359482014
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Collaborative dialogue can end with apparent agreement while participants still differ on goals, assumptions, or execution plans, creating an \textbf{illusion of alignment (IoA)}. A real-user study across 18 meetings confirms that IoA arises routinely in human collaboration. Yet IoA poses a paradox: if participants were aware of such disagreements, they would already be explicit; if not, they cannot articulate them when asked, leaving IoA invisible to both participants and observers. In this work, we make IoA detectable by generating diagnostic multiple-choice questions whose divergent answers across participants provide direct behavioral evidence of hidden disagreement. We construct \textbf{IoA-Suite}, a dataset and evaluation protocol for detecting hidden disagreement, spanning five task types and six domains. We find that even the best model attains only 49.5\% F1, with the bottleneck traced to private context that the dialogue does not surface. We then train \textbf{IoA-Prober-8B} based on IoA-Suite, reaching 51.8\% F1 on IoA-Suite. Across the aforementioned 18 real meetings, it surfaces 2.89 hidden disagreements per meeting that participants confirm they had not voiced, transferring to live human dialogue. Further, in multi-agent collaboration, pairing IoA-Prober-8B with LLM agents improves downstream task performance on BigCodeBench-Hard and HiddenBench.
• Abstract（参考訳）: コラボレーションの対話は、参加者がまだ目標、仮定、実行計画が異なる間に明らかな合意で終わる可能性がある。 18回にわたる実際のユーザ調査では、IoAが人間のコラボレーションで日常的に発生することが確認されている。 しかし、IoAはパラドックスを呈する:もし参加者がそのような意見の相違に気付いていれば、彼らはすでに明確である。 本研究は,参加者間で異なる回答が隠れた不一致の直接的な行動的証拠となる,診断的多重選択質問を発生させることにより,IoAを検出できるようにする。 我々は,5つのタスクタイプと6つのドメインにまたがる隠れ不一致を検出するためのデータセットと評価プロトコルである‘textbf{IoA-Suite} を構築した。 最良のモデルでさえ 49.5 % F1 しか得られず、ボトルネックは対話が表れていないプライベートコンテキストに遡る。 次に、IoA-Suite に基づいて \textbf{IoA-Prober-8B} をトレーニングし、IoA-Suite 上で 51.8\% F1 に達する。 上記の18回の実際の会議の中で、参加者が声を出していないことを確認し、生きた人間の対話に移行した、という2.89の秘密の意見の不一致が浮上した。 さらに、マルチエージェントコラボレーションでは、IoA-Prober-8BとLLMエージェントのペアリングにより、BigCodeBench-HardとHiddenBenchのダウンストリームタスク性能が向上する。

関連論文リスト

• RogueAI: A Reverse Turing Test for Detecting Licensed AI Deception in Dialogue [2.7606655162305476]
  我々は,このテストを1対2の尋問ゲームとして運用するインタラクティブなWebアプリであるRogueAIを紹介する。 プレイヤーの任務は、不正行為を識別し、ターンの予算が尽きる前に「シャットオフ」することである。 プレイヤーが独自の騙し戦略をひそかに選択するナレーターエージェントでカスタムシナリオを設計する手続き的拡張であるAutoRogueAIを紹介する。
  論文  参考訳（メタデータ） (2026-06-11T13:07:02Z)
• "When to Hand Off, When to Work Together": Expanding Human-Agent Co-Creative Collaboration through Concurrent Interaction [36.707878506833495]
  我々は協調意図を解釈し、リアルタイムで適応するCLEOを開発する。 6つの相互作用ループ、設計上の意味、注釈付きデータセットを持つ決定モデルを提案する。
  論文  参考訳（メタデータ） (2026-03-02T16:37:05Z)
• Personalities at Play: Probing Alignment in AI Teammates [1.0742675209112622]
  大型言語モデル (LLM) はツールではなく協力者としての役割を担っている。 本稿では,3段階評価フレームワークを用いたAIの人格アライメントについて検討する。 結果は、AIの性格は測定可能であるが、多層構造であり、文脈に依存していることを示唆している。
  論文  参考訳（メタデータ） (2026-02-28T03:06:02Z)
• Seamless Detection: Unifying Salient Object Detection and Camouflaged Object Detection [73.85890512959861]
  本稿では,SOD(Salient Object Detection)とCOD(Camouflaged Object Detection)を統合化するためのタスク非依存フレームワークを提案する。 我々は、間隔層と大域的コンテキストを含む単純で効果的なコンテキストデコーダを設計し、67fpsの推論速度を実現する。 公開SODデータセットとCODデータセットの実験は、教師なし設定と教師なし設定の両方において、提案したフレームワークの優位性を実証している。
  論文  参考訳（メタデータ） (2024-12-22T03:25:43Z)
• Collaborative Instance Object Navigation: Leveraging Uncertainty-Awareness to Minimize Human-Agent Dialogues [54.81155589931697]
  協調インスタンスオブジェクトナビゲーション(CoIN)は、エージェントがターゲットインスタンスに関する不確実性を積極的に解決する新しいタスク設定である。 未認識者に対するエージェント・ユーザインタラクション(AIUTA)の新たな学習自由化手法を提案する。 まず、オブジェクト検出時に、セルフクエチオナーモデルがエージェント内で自己対話を開始し、完全かつ正確な観察記述を得る。 インタラクショントリガーモジュールは、人間に質問するか、継続するか、ナビゲーションを停止するかを決定する。
  論文  参考訳（メタデータ） (2024-12-02T08:16:38Z)
• Interactive Dialogue Agents via Reinforcement Learning on Hindsight Regenerations [58.65755268815283]
  多くの実際の対話は対話的であり、つまりエージェントの発話が会話の相手に影響を与えるか、情報を引き出すか、意見を変えるかである。 この事実を利用して、既存の最適データを書き直し、拡張し、オフライン強化学習(RL)を介してトレーニングする。 実際の人間によるユーザ調査の結果、我々のアプローチは既存の最先端の対話エージェントを大きく上回っていることがわかった。
  論文  参考訳（メタデータ） (2024-11-07T21:37:51Z)
• Discern: Discourse-Aware Entailment Reasoning Network for Conversational Machine Reading [157.14821839576678]
  Discernは、ドキュメントとダイアログの両方の理解を強化するために、接続を強化し、理解を深める、談話対応の係り受け推論ネットワークである。 実験の結果,意思決定におけるマクロ平均精度78.3%,フォローアップ質問生成における64.0 BLEU1が得られた。
  論文  参考訳（メタデータ） (2020-10-05T07:49:51Z)
• Exploiting Unsupervised Data for Emotion Recognition in Conversations [76.01690906995286]
  会話における感情認識(Emotion Recognition in Conversations:ERC)は、会話における話者の感情状態を予測することを目的としている。 ERCタスクの教師付きデータは限られている。 教師なし会話データを活用する新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-10-02T13:28:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。