論文の概要: Machine Mirages: Defining the Undefined

• arxiv url: http://arxiv.org/abs/2506.13990v1
• Date: Tue, 03 Jun 2025 11:45:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-22 23:32:14.652537
• Title: Machine Mirages: Defining the Undefined
• Title（参考訳）: マシンミラージュ:未定義の定義
• Authors: Hamidou Tembine,
• Abstract要約: マルチモーダル・マシン・インテリジェンス・システムは 新しい種類の認知異常を 示し始めた マシン・ミラージュ これには妄想、錯覚、コミュニケーション、幻覚、誤帰、誤帰、意味的ドリフト、意味的圧縮、誇張、因果推論の失敗が含まれる。 この記事では、いくつかのエラーを示し、これらの失敗は明示的に定義され、体系的に評価されなければならない、と論じます。
• 参考スコア（独自算出の注目度）: 1.779336682160787
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As multimodal machine intelligence systems started achieving average animal-level and average human-level fluency in many measurable tasks in processing images, language, and sound, they began to exhibit a new class of cognitive aberrations: machine mirages. These include delusion, illusion, confabulation, hallucination, misattribution error, semantic drift, semantic compression, exaggeration, causal inference failure, uncanny valley of perception, bluffing-patter-bullshitting, cognitive stereotypy, pragmatic misunderstanding, hypersignification, semantic reheating-warming, simulated authority effect, fallacious abductive leap, contextual drift, referential hallucination, semiotic Frankenstein effect, calibration failure, spurious correlation, bias amplification, concept drift sensitivity, misclassification under uncertainty, adversarial vulnerability, overfitting, prosodic misclassification, accent bias, turn boundary failure, semantic boundary confusion, noise overfitting, latency-induced decision drift, ambiguity collapse and other forms of error that mimic but do not replicate human or animal fallibility. This article presents some of the errors and argues that these failures must be explicitly defined and systematically assessed. Understanding machine mirages is essential not only for improving machine intelligence reliability but also for constructing a multiscale ethical, co-evolving intelligence ecosystem that respects the diverse forms of life, cognition, and expression it will inevitably touch.
• Abstract（参考訳）: 画像、言語、音の処理における多くの測定可能なタスクにおいて、動物レベルと人間レベルの平均流速を達成しはじめたマルチモーダルマシンインテリジェンスシステムは、マシンミラージという新たな認知的収差のクラスを示し始めた。 その中には、妄想、幻想、幻覚、誤帰、誤帰、意味的ドリフト、意味的ドリフト、誇張、因果推論の失敗、不明瞭な認識、ブラッフィング・パター・ブルシッティング、認知的ステレオティピー、プラグマティックな誤解、ハイパーサイン化、セマンティック・リヒート・ウォーミング、シミュレートされた権威効果、誤帰的跳躍、文脈的ドリフト、参照幻覚、擬似的なフランケンシュタイン効果、キャリブレーションの失敗、急激な相関、バイアス増幅、概念的ドリフトの感度、不確実性による誤分類、過度な脆弱性、過度な正当性、韻律的誤分類、偏見、境界境界線、境界境界線、過度、過度、過度、過度な遅延、過度、過度な遅延、過度、過度な遅延による決定、その他の形態の崩壊、動物は再現しないが挙げられる。 この記事では、いくつかのエラーを示し、これらの失敗は明示的に定義され、体系的に評価されなければならない、と論じます。 マシン・ミラージュを理解することは、マシン・インテリジェンス・信頼性の向上だけでなく、様々な形態の生命、認知、表現を尊重する多スケールの倫理的で共進化するインテリジェンス・エコシステムの構築にも不可欠である。

関連論文リスト

• The Unified Cognitive Consciousness Theory for Language Models: Anchoring Semantics, Thresholds of Activation, and Emergent Reasoning [2.5200794639628032]
  大規模な言語モデル(LLMs)でのわずかなショットラーニングは、コアパラドックスを明らかにしている。 我々はLLMを無意識の基質として再認識するUCCT(Unified Cognitive Consciousness Theory)を導入する。
  論文  参考訳（メタデータ） (2025-06-02T18:12:43Z)
• Hallucination, reliability, and the role of generative AI in science [0.05657375260432172]
  いくつかの議論は、幻覚は生成的推論のメカニズムの必然的な結果であることを示している。 私は、腐食性幻覚は科学的信頼性に脅威をもたらすが、それらは避けられないものではないと論じる。
  論文  参考訳（メタデータ） (2025-04-11T13:38:56Z)
• Calibrating Verbal Uncertainty as a Linear Feature to Reduce Hallucinations [51.92795774118647]
  LLMの表現空間における1つの線形特徴によって「動詞の不確実性」が支配されることがわかった。 これはモデルの実際の意味的不確実性と適度な相関しか持たないことを示す。
  論文  参考訳（メタデータ） (2025-03-18T17:51:04Z)
• Tuning-Free Accountable Intervention for LLM Deployment -- A Metacognitive Approach [55.613461060997004]
  大規模言語モデル(LLM)は、自然言語処理タスクの幅広い領域にわたる変換的進歩を触媒している。 我々は,自己認識型誤り識別と訂正機能を備えたLLMを実現するために,textbfCLEARと呼ばれる革新的なテキストメタ認知手法を提案する。
  論文  参考訳（メタデータ） (2024-03-08T19:18:53Z)
• Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic Systems [67.01132165581667]
  本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。 本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
  論文  参考訳（メタデータ） (2023-11-13T21:20:17Z)
• Learning Causal Mechanisms through Orthogonal Neural Networks [2.77390041716769]
  歪みデータポイントから独立したメカニズムの集合の逆転を,教師なしの方法で学習する問題について検討する。 本研究では,ラベルのないデータから独立したメカニズムの集合を発見・解離する教師なしの手法を提案し,それらを逆転する方法を学習する。
  論文  参考訳（メタデータ） (2023-06-05T13:11:33Z)
• Navigating the Grey Area: How Expressions of Uncertainty and Overconfidence Affect Language Models [74.07684768317705]
  LMはプロンプトにおける確実性のマーカーに非常に敏感であり、アクーは80%以上変化している。 その結果,高い確実性の表現は低い表現に比べて精度が低下し,事実動詞が性能を損なうのに対して,明らかな表現はパフォーマンスに寄与することがわかった。 これらの関連性は、LMが真に不確実性を反映するのではなく、観察された言語の使用に基づいていることを示唆している。
  論文  参考訳（メタデータ） (2023-02-26T23:46:29Z)
• My Teacher Thinks The World Is Flat! Interpreting Automatic Essay Scoring Mechanism [71.34160809068996]
  最近の研究では、自動スコアリングシステムが常識的な敵対的サンプルになりやすいことが示されています。 近年の解釈能力の進歩を活かし,コヒーレンスやコンテント,関連性といった特徴がスコアリングの自動化にどの程度重要であるかを見出す。 また、モデルが意味的に世界知識や常識に基づかないことから、世界のような虚偽の事実を追加することは、それを減らすよりもむしろスコアを増加させる。
  論文  参考訳（メタデータ） (2020-12-27T06:19:20Z)
• Machine Semiotics [0.0]
  音声補助装置では、人間の発話の機械固有の意味の学習が十分であると考えられる。 認知的加熱装置の極めて自明な例を用いて、この過程を発話意味ペア(UMP)の強化学習として定式化することができることを示す。
  論文  参考訳（メタデータ） (2020-08-24T15:49:54Z)
• Mechanisms for Handling Nested Dependencies in Neural-Network Language Models and Humans [75.15855405318855]
  我々は,「深層学習」手法で訓練された現代人工ニューラルネットワークが,人間の文処理の中心的な側面を模倣するかどうかを検討した。 ネットワークは、大きなコーパスで次の単語を予測するためにのみ訓練されたが、分析の結果、局所的および長距離の構文合意をうまく処理する特別なユニットが出現した。 我々は,複数の名詞の単数/複数状態における体系的な変化を伴う文中の数一致の違反を人間が検出する行動実験において,モデルの予測を検証した。
  論文  参考訳（メタデータ） (2020-06-19T12:00:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。