論文の概要: Specificity Bias and the Wikipedia Paradox: An xAI Analysis of AI Text Detectors under Domain Shift
- arxiv url: http://arxiv.org/abs/2611.03280v1
- Date: Mon, 02 Nov 2026 15:22:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-04 23:36:30.615245
- Title: Specificity Bias and the Wikipedia Paradox: An xAI Analysis of AI Text Detectors under Domain Shift
- Title（参考訳）: 特定性バイアスとウィキペディアパラドックス:ドメインシフト下のAIテキスト検出器のxAI解析
- Abstract要約: 大規模言語モデル (LLMs) は、人間によるテキストと合成テキストの信頼性の高い検出を要求する。
現在のトランスフォーマーベースの検出器は、しばしばドメインシフト中に深刻な性能劣化を経験する。
本稿では,微調整トランスモデルの堅牢性と解釈可能性について検討する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The widespread adoption of Large Language Models (LLMs) demands reliable detection of human-authored versus synthetic text. However, current Transformer-based detectors often experience severe performance degradation during domain shifts and operate as opaque classifiers. This paper investigates the robustness and interpretability of fine-tuned Transformer models (DistilBERT, RoBERTa) by evaluating them against a custom out-of-distribution (OOD) dataset of hyper-local news synthesized via open-source LLMs (Llama 3, Mistral, Gemma). To analyze model decision boundaries, we apply a tripartite Explainable AI (xAI) framework using SHAP. Our analysis reveals three key phenomena: First, detectors often rely on a "Call-to-Action" syndrome inherent to instruction-tuned LLMs rather than generic machine text. Second, we observe a "Specificity Bias," where LLMs successfully bypass detection by hallucinating specific named entities and mimicking conversational imperfection. Finally, we illustrate the "Wikipedia Paradox," wherein formal, objective human writing is frequently misclassified as AI due to its low statistical burstiness. These findings demonstrate that purely statistical detection paradigms face systematic limitations in highly structured human domains, emphasizing the critical need for semantically-aware, interpretable detection architectures.
- Abstract（参考訳）: LLM(Large Language Models)が広く採用されているため、人間によるテキストと合成テキストの信頼性の高い検出が求められている。
しかし、現在のTransformerベースの検出器は、ドメインシフト中に深刻な性能劣化を経験し、不透明な分類器として動作することが多い。
本稿では、オープンソースのLLM(Llama 3, Mistral, Gemma)を用いて合成されたローカルニュースのカスタムアウト・オブ・ディストリビューション(OOD)データセットに対して、微調整トランスフォーマーモデル(DistilBERT, RoBERTa)のロバスト性と解釈性について検討する。
モデル決定境界を解析するために、SHAPを用いた三部構成記述型AI(xAI)フレームワークを適用する。
まず、検出器は一般的な機械テキストではなく、命令で調整されたLLMに固有の「Call-to-Action」シンドロームに依存します。
第2に,特定の名前のエンティティを幻覚させ,会話の不完全性を模倣することによって,LLMが検出を回避できる「特定バイアス」を観察する。
最後に,「Wikipediaパラドックス」について述べる。統計的破壊力の低さから,形式的かつ客観的な人文はAIと誤分類されることがしばしばある。
これらの結果は、高度に構造化されたヒトドメインにおいて、純粋に統計的に検出パラダイムが体系的な制限に直面していることを示し、意味論的に認識し、解釈可能な検出アーキテクチャの必要性を強調した。
関連論文リスト
- IVT-Guard: All-in-One Reasoning Model for AI-Generated Content Detection [68.61333779483097]
本稿では,画像,ビデオ,テキストモダリティ間でAIGC検出を統一かつ解釈可能なフレームワークであるIVT-Guardを提案する。
IVT-Guardは、ドメイン内、ドメイン外、データセット間における最先端検出性能を達成する。
論文 参考訳（メタデータ） (2026-09-27T14:00:55Z) - WaveDetect: Robust Framework for Machine-Generated Text Detection via Wavelet Transform [2.7227283756285288]
既存の検出器は、対向的な摂動、ドメイン間のシフト、基礎モデルの急激な時間的進化という3つの重要な課題に直面した時にしばしば混乱する。
本稿では、時間周波数領域内の信号処理タスクとしてテキスト検出を再構成する新しいフレームワークであるWavedetectを提案する。
論文 参考訳（メタデータ） (2026-06-22T13:42:36Z) - Hidden Human-Like Nature of Machine-Generated Texts: Theory and Detection Enhancement [108.30620357325559]
大規模言語モデル(LLM)が生成する機械生成テキスト(MGT)は、様々なアプリケーションでますます普及している。
既存の段落レベルの検出方法はMGTを完全に機械のような扱いで、MGTの隠れた人間的な性質を見渡す。
本研究では,隠れた人型スパンの影響を低減し,既存の検出器を改良するモデルに依存しないスタック拡張フレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-22T03:17:21Z) - Base Models Look Human To AI Detectors [68.7723287560362]
ベースモデルから生成されたテキストは圧倒的に人間的であると判断されることが多いが、命令で調整されたテキストはそうではない。
提案するHumanization by Iterative Paraphrasing (HIP)は,ベースモデルをパラフラザーに最小限微調整し,反復的に適用する検出器非依存パイプラインである。
以上の結果から,現在の検出器は,機械生成テキストの概念よりも,命令チューニングやローカルコンテキストのアーティファクトを追跡していることが示唆された。
論文 参考訳（メタデータ） (2026-05-19T08:13:12Z) - DSIPA: Detecting LLM-Generated Texts via Sentiment-Invariant Patterns Divergence Analysis [13.9689104714669]
DSIPAは、制御されたスタイル変化の下で感情分布の安定性を定量化することにより、大規模言語モデル(LLM)コンテンツを検出する、トレーニング不要のフレームワークである。
ゼロショットのブラックボックス方式で動作し、2つの教師なしメトリクス、感情分布の一貫性と感情分布の保存を活用する。
本フレームワークは, ドメイン間の高度な一般化性と, 敵条件に対する強いレジリエンスを示す。
論文 参考訳（メタデータ） (2026-04-29T06:22:08Z) - Why AI-Generated Text Detection Fails: Evidence from Explainable AI Beyond Benchmark Accuracy [0.9169660430821364]
本稿では,言語機能工学,機械学習,説明可能なAI技術を統合するフレームワークを提案する。
SHAPに基づく説明を用いて、最も影響力のある特徴がデータセットによって著しく異なることを示す。
この知識は、さまざまな設定で堅牢なAI検出器を構築するのに役立ちます。
論文 参考訳（メタデータ） (2026-03-24T12:46:15Z) - Detecting the Machine: A Comprehensive Benchmark of AI-Generated Text Detectors Across Architectures, Domains, and Adversarial Conditions [0.0]
既存のベンチマークでは、理想的な条件下で単一のデータセット上の1つの検出器を評価する。
本稿では,2つのコーパスにまたがる多様な検出手法を評価するベンチマークを提案する。
その結果, 変圧器モデルでは, ほぼ完全な分散性能が得られるが, ドメインシフト下では劣化することがわかった。
論文 参考訳（メタデータ） (2026-03-18T09:27:27Z) - RHINO: Guided Reasoning for Mapping Network Logs to Adversarial Tactics and Techniques with Large Language Models [9.065322387043546]
人間の推論を反映した3つの解釈可能なフェーズに大言語モデルを分解するフレームワークであるRHINOを紹介する。
RHINOは、構造的推論による出力信頼性を改善しながら、低レベルの観測と反対方向のセマンティックギャップを橋渡しする。
以上の結果から,RHINOは脅威解析の解釈可能性やスケーラビリティを著しく向上させ,LLMを運用上のセキュリティ設定にデプロイするための青写真を提供することが示された。
論文 参考訳（メタデータ） (2025-10-16T02:25:46Z) - Semantic Visual Anomaly Detection and Reasoning in AI-Generated Images [96.43608872116347]
AnomReasonは4倍のtextbfAnomAgentのような構造化アノテーションを備えた大規模ベンチマーク
AnomReasonとAnomAgentは、AI生成画像の意味的妥当性の測定と改善の基盤となっている。
論文 参考訳（メタデータ） (2025-10-11T14:09:24Z) - ForenX: Towards Explainable AI-Generated Image Detection with Multimodal Large Language Models [82.04858317800097]
ForenXは画像の真正性を識別するだけでなく、人間の思考に共鳴する説明を提供する新しい手法である。
ForenXは、強力なマルチモーダル大言語モデル(MLLM)を使用して、法医学的な手がかりを分析し、解釈する。
本稿では,AI生成画像における偽証拠の記述専用のデータセットであるForgReasonを紹介する。
論文 参考訳（メタデータ） (2025-08-02T15:21:26Z) - Detecting Machine-Generated Long-Form Content with Latent-Space Variables [54.07946647012579]
既存のゼロショット検出器は主に、現実世界のドメインシフトに弱いトークンレベルの分布に焦点を当てている。
本稿では,イベント遷移などの抽象的要素を機械対人文検出の鍵となる要因として組み込んだ,より堅牢な手法を提案する。
論文 参考訳（メタデータ） (2024-10-04T18:42:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。