論文の概要: How Strong Is the Evidence for the Artificial Hivemind? Reevaluating Evidence for the Open-Ended Homogeneity of Language Models

• arxiv url: http://arxiv.org/abs/2609.33936v1
• Date: Sun, 27 Sep 2026 21:28:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-04 15:32:49.385279
• Title: How Strong Is the Evidence for the Artificial Hivemind? Reevaluating Evidence for the Open-Ended Homogeneity of Language Models
• Title（参考訳）: 人工Hivemindのエビデンスはどの程度強力か? : 言語モデルのオープンエンディング同質性のエビデンスを再評価する
• Abstract要約: 最近の研究は、言語モデルはオープンエンド世代において顕著な均一性を示し、人間の創造性に長期的な脅威をもたらす人工Hivemindのような振る舞いをフレーミングしていると主張している。 この結論は3つの方法で支持され、推論時間介入(prompting)によって測定された応答の多様性が確実に上昇することを示します。
• 参考スコア（独自算出の注目度）: 29.129305444792447
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent research argues that language models exhibit pronounced homogeneity in open-ended generation, framing such behavior as an Artificial Hivemind that poses a long-term threat to human creativity. We examine three of its central results. First, the flagship example is that model responses to "Write a metaphor involving time" collapse into two clusters. Visualization, spectral analysis, clustering, and language model labels all contradict this description. The labels record each response's vehicle, what it compares time to. Our responses and the original authors' own show one dominant vehicle plus a heavy tail of distinct minority vehicles. "Time" is one of our least diverse topics, so the example is a favorable case, not a representative one. Second, the paper measures homogeneity against an undemanding null: responses to unrelated prompts. Under a more demanding null (same-prompt responses expressing genuinely different ideas), 20%-32% of such pairs already exceed the paper's 0.8 convergence threshold. A residual effect survives this null. The paper's same-prompt pairs exceed 0.8 roughly two to three times as often as our different-idea pairs. Much of what the paper calls homogeneity is the shared geometry of answering the same prompt. The remaining measurements lack any null: no human baseline is collected, and the model-indistinguishability statistic has no null. Third, the paper concludes that inference-time interventions are inadequate for combating the Artificial Hivemind, writing that "more generalizable solutions are needed at the model training level." We show that this conclusion is unsupported in three ways, and that an inference-time intervention (prompting) reliably raises measured response diversity. We do not resolve whether the Artificial Hivemind is real. We show that the published evidence does not establish it.
• Abstract（参考訳）: 最近の研究は、言語モデルはオープンエンド世代において顕著な均一性を示し、人間の創造性に長期的な脅威をもたらす人工Hivemindのような振る舞いをフレーミングしていると主張している。 中心となる3つの結果について検討する。 まず第一に、"時間を含むメタファ"を記述する"モデル応答が2つのクラスタに崩壊する、という点です。 可視化、スペクトル分析、クラスタリング、言語モデルラベルは全て、この記述に矛盾している。 ラベルは各応答の車両を記録し、時間と比較する。 私たちの反応とオリジナルの著者自身の意見は、一台の優位な車両と、異なる少数派の車両の重い尾を示している。 タイム”は私たちの最も多様性の低いトピックの1つです。 第二に、不必要なヌルに対して同質性を測定する:無関係なプロンプトに対する応答。 より要求の高いヌル(真に異なるアイデアを表すサメプロンプト反応)の下では、そのようなペアの20%-32%は紙の0.8収束しきい値を超えている。 残余効果はこのヌルを生き残る。 紙の同じプロンプトペアは、私たちの異なるイデアペアの約2倍から3倍の頻度で0.8倍です。 論文がホモジニティと呼ぶものの多くは、同じプロンプトに答える共有幾何学である。 残りの測定にはヌルがない: 人間のベースラインは収集されず、モデル独立性統計学はヌルを持たない。 第三に、推論時間の介入は人工Hivemindと戦うには不十分であり、「より一般化可能な解決策はモデルの訓練レベルで必要である」と結論付けている。 この結論は3つの方法で支持され、推論時間介入(prompting)によって測定された応答の多様性が確実に上昇することを示します。 我々は人工Hivemindが本物かどうかを問わない。 公表された証拠が確立していないことを示す。

関連論文リスト

• Does Model Uncertainty Track Human Ambiguity? Evidence from Multi-Annotator Vision Benchmarks [1.253312107729806]
  モデルが、人間が困難なと感じているのと同じ事例で苦労しているかどうかを調査する。 3つのアーキテクチャにまたがる8つの事前訓練モデルを評価する。 両次元においてアライメントが弱いことが分かる。
  論文  参考訳（メタデータ） (2026-09-28T07:51:31Z)
• Do Synthetic Personas Predict Real Audience Response? A Sim-to-Real Study Where a No-Persona Baseline Beats Persona-Based Copy Simulation [51.56484100374058]
  そこで我々は,Upworthy Research Archiveを用いて,シミュレート・トゥ・リアルな妥当性について検討する。 実際の聴衆の人口統計に基づく10人のパネルと、一般的な読者がクリックする確率をモデルに尋ねるゼロショットベースラインを比較した。
  論文  参考訳（メタデータ） (2026-07-27T17:03:03Z)
• Unison: Benchmarking Unified Multimodal Models via Synergistic Understanding and Generation [80.99003754614365]
  統一マルチモーダルモデルにおける共同理解と生成を評価するためのベンチマークであるUnisonを紹介する。 Unisonは2,169の高品質な統合タスクサンプルで構成されている。 また,人間の判断に適合した評価モデルであるUnison-Judgeを紹介する。
  論文  参考訳（メタデータ） (2026-06-25T12:58:54Z)
• A Universal Cliff and a Design Fingerprint: Cross-Section Defect Detection Under LLM Orchestration [0.0]
  生産言語モデルシステムは、労働者エージェントの目に見えないオーケストレーションにまたがってそれを拡大する要求に答える。 これは、単一のワーカーが見ることができない欠陥のクラスに何をもたらすか尋ねる。 1人の開発者から5世代にわたる10のシステムと、異なるアライメントパラダイムからの5つのプロバイダのみです。
  論文  参考訳（メタデータ） (2026-05-25T05:09:48Z)
• Back into Plato's Cave: Examining Cross-modal Representational Convergence at Scale [40.31924374728614]
  プラトン表現仮説(Platonic Representation hypothesis)は、異なるモダリティで訓練されたニューラルネットワークが一致し、最終的に同じ現実の表現に向かって収束することを示唆している。 この仮説の実験的証拠は脆弱であり, 評価体制に大きく依存していることが示唆された。
  論文  参考訳（メタデータ） (2026-04-20T17:56:02Z)
• The Subjectivity of Monoculture [7.619222194421385]
  機械学習モデルは、アウトプットが著しく一致するモノカルチャーを示すとしばしば言われる。 この問題は本質的に主観的であり、2つの重要な決定に依存している、と我々は主張する。 推測は検討中のモデルや項目の個体数に依存することを示す。
  論文  参考訳（メタデータ） (2026-02-27T15:23:14Z)
• Feeling the Strength but Not the Source: Partial Introspection in LLMs [0.0]
  人類学的な主張では、フロンティアモデルは時々、活性化方向として表される「概念」を検知し、名前を付けることができる。 われわれは、Meta-Llama-3.1-8B-Instruct上で、Arthropicのマルチターン「エマージェントイントロスペクション」の結果を再現する。 イントロスペクションは、非常に大きなモデルや有能なモデルに限らない。
  論文  参考訳（メタデータ） (2025-12-13T17:51:13Z)
• Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond) [90.45301024940329]
  言語モデル(LM)は、多様で人間らしい創造的コンテンツを生成するのに苦労することが多い。 Infinity-Chatは26万の多様な実世界のオープンエンドユーザクエリからなる大規模データセットである。 本研究では, LMのモード崩壊について大規模に検討し, 人工Hivemind効果が明らかとなった。
  論文  参考訳（メタデータ） (2025-10-27T03:16:21Z)
• Where Fact Ends and Fairness Begins: Redefining AI Bias Evaluation through Cognitive Biases [77.3489598315447]
  事実と公正の境界を識別することは有意義な公正性評価に不可欠である,と我々は主張する。 Fact-or-Fair は (i) 客観的なクエリを記述的, 事実に基づく判断, (ii) 主観的クエリを規範的, 公平性に基づく判断に整合させたベンチマークである。
  論文  参考訳（メタデータ） (2025-02-09T10:54:11Z)
• Navigating the OverKill in Large Language Models [84.62340510027042]
  モデルがどのように処理し,クエリの安全性を判断するかを検討することで,過剰スキルの要因について検討する。 以上の結果から,モデル内にショートカットが存在することが明らかとなり,"キル"のような有害な単語が過剰に認識され,安全性が強調され,過度なスキルが増すことが示唆された。 我々は、この現象を緩和するために、トレーニングフリーでモデルに依存しないセルフコントラストデコーディング(Self-Contrastive Decoding、CD)を導入する。
  論文  参考訳（メタデータ） (2024-01-31T07:26:47Z)
• Nested Counterfactual Identification from Arbitrary Surrogate Experiments [95.48089725859298]
  観測と実験の任意の組み合わせからネスト反事実の同定について検討した。 具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
  論文  参考訳（メタデータ） (2021-07-07T12:51:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。