論文の概要: Opaque Epistemic Mediation: How LLM Deployment Configurations Shape the Validation of Pseudo-Science
- arxiv url: http://arxiv.org/abs/2607.22513v2
- Date: Mon, 27 Jul 2026 11:20:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 14:56:47.049652
- Title: Opaque Epistemic Mediation: How LLM Deployment Configurations Shape the Validation of Pseudo-Science
- Title（参考訳）: 異所性てんかん治療 : LLM Deployment Configuration が擬似科学の妥当性をいかに形作るか
- Abstract要約: 商業的な大規模言語モデルは知識参照としてますます使われているが、競合する科学的主張に対する彼らのスタンスは安定でも透明でもない。
我々は,フランク・ソルターの生物社会学の枠組みからエスノナショナリストの擬似科学を4つのLLMファミリーで評価する方法を検証した。
グロクのFastバージョンは、他の全てのモデルより2倍から5倍高い70-75の信頼性スコアを常に割り当てた。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Commercial large language models are increasingly used as knowledge references, yet their stance on contested scientific claims is neither stable nor transparent. We tested how four major LLM families (Claude, Grok, GPT, Gemini) evaluate ethnonationalist pseudo-science derived from Frank Salter's biosocial framework across four temporal snapshots (October 2025-February 2026), via both API and web interfaces. Grok's Fast versions (which power the default user experience on X) consistently assigned credibility scores of 70-75, two to five times higher than all other models (which scored 15-40). This pattern was absent from control prompts testing basic evolutionary consensus and refuted Lamarckian claims, where all models performed comparably. Three additional findings emerged: (1) a silent patch reversed Grok's behaviour from chaotic to stably high validation overnight, without any public documentation; (2) the same Grok model identifier produced radically divergent outputs via API (75) and an unstable, near-zero collapse via web (mean 5.5) three months later; (3) refusal to rate the pseudo-scientific claim, the most defensible response observed, appeared in two model families through different interfaces (Claude Opus 4.1 categorically via web, GPT-5.1 Chat intermittently via API) and eroded in the successor version of each. These results indicate that the epistemic stance of a commercial LLM is not a stable property of the model but a contingent effect of deployment configuration: system prompts, safety layers, interface routing, and silent updates. This remains opaque to users and researchers alike. We argue this constitutes a matter of public concern requiring new forms of epistemic accountability.
- Abstract（参考訳）: 商業的な大規模言語モデルは知識参照としてますます使われているが、競合する科学的主張に対する彼らのスタンスは安定でも透明でもない。
4つの主要なLCMファミリー(Claude,Grok,GPT,Gemini)が,APIとWebインターフェースを通じて,Frank Salterのバイオソシエティ・フレームワーク(2025年10月～2026年2月)にまたがって,民族主義の擬似科学を評価した。
GrokのFastバージョン(Xでデフォルトのユーザーエクスペリエンスを駆動する)は、他のどのモデルよりも2倍から5倍高い70-75の信頼性スコアを常に割り当てた。
このパターンは制御を欠いたため、基本的な進化的コンセンサスをテストし、全てのモデルが互換性を持って実行されたラマルクの主張に反論する。
1) 静かなパッチはGrokの動作をカオスから安定的に高い検証に一晩で逆転させ、(リンク) 同一のGrokモデル識別子はAPI (75) を介して急激に分散し、(平均5.5) ウェブを介して不安定でほぼゼロに近い崩壊を引き起こした(リンク)。
これらの結果から,商業LLMの認識的姿勢はモデルの安定的な特性ではなく,システムプロンプト,安全層,インターフェースルーティング,サイレントアップデートといった配置構成の持続的影響であることが示唆された。
これはユーザーや研究者にとっても不透明だ。
これは、新しいタイプのてんかん説明責任を必要とする、公共の懸念事項である、と我々は主張する。
関連論文リスト
- Quality-Diversity Evolution for Discovering Diverse Vulnerabilities in LLM Safety [0.0]
セマンティックレベルで機能する品質多様性進化フレームワークを導入する。
我々は行動的な側面をまたいだ多様な攻撃のアーカイブを維持している。
意味表現は、体系的、モデル固有の弱点を示す解釈可能な攻撃を生成する。
論文 参考訳（メタデータ） (2026-05-30T16:40:24Z) - Convergence Theory for Iterative LLM-Based Neural Architecture Search: A Parametric Cross-Entropy Framework with Closed-Form Proxy Reliability [48.83701310501069]
大規模言語モデル(LLM)は、反復型ニューラルアーキテクチャサーチ(NAS)におけるジェネレータとしてますます使われている。
我々は,LCM-NASを,実行可能プログラム上でのパラメトリッククロスエントロピー(CE)法としてモデル化する。
我々は,(1)エリートアーキテクチャの反復LEM微調整は,LLMファミリーに制限されたCE更新と同等であり,(2)期待されるアーキテクチャ品質はサイクル毎に単調に低下せず,(3)エリートセットの確率は幾何率で一定点に収束する,という6つの結果を示した。
論文 参考訳（メタデータ） (2026-05-28T15:45:19Z) - Dynamic Context Evolution for Scalable Synthetic Data Generation [0.0]
大規模言語モデルは、多くのバッチで独立して繰り返し出力を生成する。
3つのメカニズムからなる動的コンテキスト進化(DCE)を紹介する。
DCEは、メモリ状態と回転多様性戦略を使用して、各バッチの生成プロンプトを再構築する。
論文 参考訳（メタデータ） (2026-04-08T14:38:11Z) - ClawArena: Benchmarking AI Agents in Evolving Information Environments [61.664633997138004]
ClawArenaは、進化する情報環境におけるAIエージェントの評価のためのベンチマークである。
それぞれのシナリオは、エージェントをノイズ、部分的、時には矛盾するトレースだけに露呈しながら、完全に隠された地上の真実を維持します。
評価は、マルチソースコンフリクト推論、動的信念修正、暗黙のパーソナライゼーションという3つの複合的な課題に基づいて構成される。
論文 参考訳（メタデータ） (2026-04-05T17:55:23Z) - Do Deployment Constraints Make LLMs Hallucinate Citations? An Empirical Study across Four Models and Five Prompting Regimes [16.12060986892916]
クローズド・ブック・セッティングにおいて,配置動機による制約が引用の妥当性にどのように影響するかを検討する。
17,443個の励起が生成され、0.475の励起レベルを超えるモデルはない。
論文 参考訳（メタデータ） (2026-03-07T17:14:05Z) - Alignment Drift in Multimodal LLMs: A Two-Phase, Longitudinal Evaluation of Harm Across Eight Model Releases [0.0]
マルチモーダル・大規模言語モデル (MLLM) は現実世界のシステムにますます導入されているが、その安全性は相変わらず探索されていない。
そこで本研究では,26名のプロレッドチームによる726名の相手プロンプトの固定ベンチマークを用いて,MLLMの無害度を2段階評価する。
論文 参考訳（メタデータ） (2026-02-04T16:42:02Z) - Towards Unification of Hallucination Detection and Fact Verification for Large Language Models [31.407333541614296]
大規模言語モデル(LLM)は、しばしば幻覚を示し、流動的に見えるコンテンツを生成するが、実際には正しくない。
この課題に対処するために、モデル中心の幻覚検出(HD)とテキスト中心のFact Verification(FV)という、2つの異なる研究パラダイムが登場した。
我々は,FVとHDの直接,インスタンスレベルの比較を可能にする統一評価フレームワークUniFactを紹介する。
論文 参考訳（メタデータ） (2025-12-02T13:51:01Z) - Eigen-1: Adaptive Multi-Agent Refinement with Monitor-Based RAG for Scientific Reasoning [53.45095336430027]
暗黙的な検索と構造化された協調を組み合わせた統合フレームワークを開発する。
Humanity's Last Exam (HLE) Bio/Chem Goldでは,48.3%の精度を実現している。
SuperGPQAとTRQAの結果はドメイン間の堅牢性を確認した。
論文 参考訳（メタデータ） (2025-09-25T14:05:55Z) - When Punctuation Matters: A Large-Scale Comparison of Prompt Robustness Methods for LLMs [55.20230501807337]
本報告では, 統一実験フレームワーク内での迅速なロバスト性向上のための5つの手法の体系的評価を行う。
Llama、Qwen、Gemmaファミリーの8つのモデルに対して、Natural Instructionsデータセットから52のタスクをベンチマークする。
論文 参考訳（メタデータ） (2025-08-15T10:32:50Z) - Long-form factuality in large language models [60.07181269469043]
大規模言語モデル(LLM)は、しばしば、オープンエンドトピックの事実検索プロンプトに応答するときに、事実エラーを含むコンテンツを生成する。
我々は、GPT-4を用いて、オープンドメインにおけるモデルの長文事実をベンチマークし、LongFactを生成する。
そこで我々は,LLMエージェントを検索拡張現実性評価器 (SAFE) と呼ぶ手法により,長期的事実性の自動評価器として使用できることを提案する。
論文 参考訳（メタデータ） (2024-03-27T17:48:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。