論文の概要: Compound Deception in Elite Peer Review: A Failure Mode Taxonomy of 100 Fabricated Citations at NeurIPS 2025

• arxiv url: http://arxiv.org/abs/2602.05930v1
• Date: Thu, 05 Feb 2026 17:43:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-06 18:49:09.093075
• Title: Compound Deception in Elite Peer Review: A Failure Mode Taxonomy of 100 Fabricated Citations at NeurIPS 2025
• Title（参考訳）: Elite Peerレビュー:NeurIPS 2025で作られた100個のクイションの失敗モード分類
• Authors: Samar Ansari,
• Abstract要約: 大規模言語モデル (LLM) は学術的著作においてますます使われてきているが、それらが存在しない情報源への引用を生成することで、しばしば幻覚を引き起こす。 本研究は,2025年ニューラル情報処理システム学会が受理した論文に現れる100個のAI生成幻覚励起を解析する。 1紙あたり3-5人の専門家によるレビューにもかかわらず、これらの引用は検出を回避し、53の論文に現れた。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly used in academic writing workflows, yet they frequently hallucinate by generating citations to sources that do not exist. This study analyzes 100 AI-generated hallucinated citations that appeared in papers accepted by the 2025 Conference on Neural Information Processing Systems (NeurIPS), one of the world's most prestigious AI conferences. Despite review by 3-5 expert researchers per paper, these fabricated citations evaded detection, appearing in 53 published papers (approx. 1% of all accepted papers). We develop a five-category taxonomy that classifies hallucinations by their failure mode: Total Fabrication (66%), Partial Attribute Corruption (27%), Identifier Hijacking (4%), Placeholder Hallucination (2%), and Semantic Hallucination (1%). Our analysis reveals a critical finding: every hallucination (100%) exhibited compound failure modes. The distribution of secondary characteristics was dominated by Semantic Hallucination (63%) and Identifier Hijacking (29%), which often appeared alongside Total Fabrication to create a veneer of plausibility and false verifiability. These compound structures exploit multiple verification heuristics simultaneously, explaining why peer review fails to detect them. The distribution exhibits a bimodal pattern: 92% of contaminated papers contain 1-2 hallucinations (minimal AI use) while 8% contain 4-13 hallucinations (heavy reliance). These findings demonstrate that current peer review processes do not include effective citation verification and that the problem extends beyond NeurIPS to other major conferences, government reports, and professional consulting. We propose mandatory automated citation verification at submission as an implementable solution to prevent fabricated citations from becoming normalized in scientific literature.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、学術的な書記のワークフローでますます使われているが、存在しないソースへの引用を生成することで、しばしば幻覚を引き起こす。 この研究は、2025年のNeurIPS Conference on Neural Information Processing Systems(NeurIPS)で受け入れられた論文に登場した100のAI生成幻覚的引用を分析した。 論文あたりの3～5人の専門家によるレビューにもかかわらず、これらの引用は検出を回避し、53の論文(全ての論文の約1%)に現れた。 総生成率(66%)、部分帰属破壊率(27%)、 Identifier Hijacking (4%)、Placeholder Hallucination (2%)、Semantic Hallucination (1%)である。 全ての幻覚(100%)が複合障害モードを示していた。 二次特性の分布はSemantic Hallucination (63%) と Identifier Hijacking (29%) が支配的であり, 高い妥当性と疑似妥当性を示すため, 総製作とともにしばしば現れた。 これらの複合構造は複数の検証ヒューリスティックを同時に利用し、なぜピアレビューが検出できないのかを説明する。 汚染された紙の92%が1-2幻覚(最小AI使用)、8%が4-13幻覚(重度依存)である。 これらの結果は、現在のピアレビュープロセスが効果的な引用検証を含まないこと、NeurIPSを超えて他の主要な会議や政府報告、専門家のコンサルティングにまで拡大していることを示している。 提案手法は, 科学文献において製造された引用が正規化されるのを防止するための, 実装可能なソリューションとして, 提出時の強制的自動引用検証を提案する。

関連論文リスト

• The 17% Gap: Quantifying Epistemic Decay in AI-Assisted Survey Papers [0.0]
  『廃紙』は既知の人工物であるが、有効な引用鎖の系統的な劣化はいまだに不明である。 我々は,2024年9月から2026年1月までに発行された人工知能に関する50の最近の調査論文の法医学的な監査を行った。 我々は、攻撃的な法医学的回復にもかかわらず、いかなるデジタルオブジェクトにも解決できない、永続的な17.0%のファントムレートを検出する。
  論文  参考訳（メタデータ） (2026-01-24T12:00:55Z)
• The Semantic Illusion: Certified Limits of Embedding-Based Hallucination Detection in RAG Systems [0.0]
  幻覚予測をRAG検出に適用し、スコアを有限サンプルカバレッジ保証付き決定セットに変換する。 分布尾レンズを用いてこの障害を分析し,NLIモデルが許容可能なAUC(0.81)を達成する一方で,「最も厳しい」幻覚は,忠実な応答と意味的に区別できないことを示した。
  論文  参考訳（メタデータ） (2025-12-17T04:22:28Z)
• A Data-Centric Approach To Generate Faithful and High Quality Patient Summaries with Large Language Models [11.218649399559691]
  幻覚のないデータの微調整は、Llama 2の要約毎の幻覚を2.60から1.55に効果的に減少させる。 一般的なメトリクスは、忠実さや品質とよく相関しないことがわかった。
  論文  参考訳（メタデータ） (2024-02-23T16:32:28Z)
• Fine-grained Hallucination Detection and Editing for Language Models [109.56911670376932]
  大規模言語モデル(LM)は、しばしば幻覚と呼ばれる事実的誤りを引き起こす傾向にある。 我々は,幻覚の包括的分類を導入し,幻覚が多様な形態で現れることを議論する。 本稿では, 幻覚自動検出のための新しいタスクを提案し, 新たな評価ベンチマークであるFavaBenchを構築した。
  論文  参考訳（メタデータ） (2024-01-12T19:02:48Z)
• Factored Verification: Detecting and Reducing Hallucination in Summaries of Academic Papers [1.7100359620532977]
  抽象要約における幻覚の検出にはFacted Verificationを用いている。 複数の学術論文を要約する際に,言語モデルが幻覚する頻度を推定する。 私たちが発見する幻覚は、しばしば微妙なものであり、学術論文の合成にモデルを使う際には注意が必要である。
  論文  参考訳（メタデータ） (2023-10-16T17:51:17Z)
• A Stitch in Time Saves Nine: Detecting and Mitigating Hallucinations of LLMs by Validating Low-Confidence Generation [76.34411067299331]
  大規模な言語モデルは、しばしば信頼性を著しく損なう「ハロシン化」する傾向がある。 生成過程における幻覚を積極的に検出・緩和する手法を提案する。 提案手法は, GPT-3.5モデルの幻覚を平均47.5%から14.5%に低減する。
  論文  参考訳（メタデータ） (2023-07-08T14:25:57Z)
• Don't Say What You Don't Know: Improving the Consistency of Abstractive Summarization by Constraining Beam Search [54.286450484332505]
  本研究は,幻覚とトレーニングデータの関連性を解析し,学習対象の要約を学習した結果,モデルが幻覚を呈する証拠を見出した。 本稿では,ビーム探索を制約して幻覚を回避し,変換器をベースとした抽象要約器の整合性を向上させる新しい復号法であるPINOCCHIOを提案する。
  論文  参考訳（メタデータ） (2022-03-16T07:13:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。