論文の概要: Position Paper: Against Spurious Sparks $-$ Dovelating Inflated AI
Claims
- arxiv url: http://arxiv.org/abs/2402.03962v2
- Date: Wed, 7 Feb 2024 08:33:23 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-08 11:47:21.635722
- Title: Position Paper: Against Spurious Sparks $-$ Dovelating Inflated AI
Claims
- Title(参考訳): ポジション・ペーパー:スプリアス・スパークスに対抗して、膨らんだaiの主張に$-$が科される
- Authors: Patrick Altmeyer, Andrew M. Demetriou, Antony Bartlett, Cynthia C. S.
Liem
- Abstract要約: 我々は,現在行われている人工知能(AGI)の探索が,大規模言語モデル(LLM)に過度に貢献する人間のような品質を実現するための完璧な嵐であるかについて論じる。
いくつかの実験で、潜伏空間における人間解釈パターンの発見は驚くべき結果ではないことが実証された。
- 参考スコア(独自算出の注目度): 6.929834518749885
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Humans have a tendency to see 'human'-like qualities in objects around them.
We name our cars, and talk to pets and even household appliances, as if they
could understand us as other humans do. This behavior, called anthropomorphism,
is also seeing traction in Machine Learning (ML), where human-like intelligence
is claimed to be perceived in Large Language Models (LLMs). In this position
paper, considering professional incentives, human biases, and general
methodological setups, we discuss how the current search for Artificial General
Intelligence (AGI) is a perfect storm for over-attributing human-like qualities
to LLMs. In several experiments, we demonstrate that the discovery of
human-interpretable patterns in latent spaces should not be a surprising
outcome. Also in consideration of common AI portrayal in the media, we call for
the academic community to exercise extra caution, and to be extra aware of
principles of academic integrity, in interpreting and communicating about AI
research outcomes.
- Abstract(参考訳): 人間は周囲の物体に「人間」のような性質を見る傾向がある。
私たちは私たちの車を名付け、ペットや家電製品にも話しかけます。
この行動は擬人化と呼ばれ、機械学習(ml)にも牽引力があり、人間のような知性は大規模言語モデル(llm)で認識されていると主張されている。
本稿では,職業的インセンティブ,人的バイアス,一般方法論的設定を考慮し,現在の汎用人工知能(agi)の探索が,人間的性質をllmに過剰に分配するための完璧な嵐であることを示す。
いくつかの実験において、潜在空間における人間解釈パターンの発見は驚くべき結果ではないことが示されている。
また,メディアにおける一般的なai表現を考慮し,学術コミュニティに対して,ai研究成果の解釈と伝達において,学術的整合性の原則を意識するように求めた。
関連論文リスト
- Theory of Mind abilities of Large Language Models in Human-Robot
Interaction : An Illusion? [18.770522926093786]
大規模言語モデルは、様々な自然言語や生成タスクにおいて例外的な生成能力を示している。
高い利害関係とおそらく不可逆的な結果を持つToM能力の特殊応用について検討する。
本研究では,ロボットがLarge Language Model(LLM)を用いてロボットの動作を人間の観察者と同様の方法で評価する,知覚的行動認識の課題に焦点を当てる。
論文 参考訳(メタデータ) (2024-01-10T18:09:36Z) - Synocene, Beyond the Anthropocene: De-Anthropocentralising
Human-Nature-AI Interaction [0.27488316163114823]
このケーススタディでは、自然に対するAIの態度(エコセントリック、人道中心、および反パシー)を先駆的に探求する。
本研究では,森林での没入型非人間中心体験を実生実験で実施した。
エコセントリックな属性、感情、ビューを持つ架空のAIキャラクターを作ることで、私たちはエコセントリックな交流をうまく増幅しました。
論文 参考訳(メタデータ) (2023-12-13T11:04:06Z) - Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic
Systems [67.01132165581667]
本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。
本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
論文 参考訳(メタデータ) (2023-11-13T21:20:17Z) - The Generative AI Paradox: "What It Can Create, It May Not Understand" [81.89252713236746]
生成AIの最近の波は、潜在的に超人的な人工知能レベルに対する興奮と懸念を引き起こしている。
同時に、モデルは、専門家でない人でも期待できないような理解の基本的な誤りを示している。
一見超人的な能力と、ごく少数の人間が起こすエラーの持続性を、どうやって再現すればよいのか?
論文 参考訳(メタデータ) (2023-10-31T18:07:07Z) - Modeling Human Behavior Part I -- Learning and Belief Approaches [0.0]
探索とフィードバックを通じて行動のモデルや方針を学ぶ手法に焦点を当てる。
次世代の自律的適応システムは、主にAIエージェントと人間がチームとして一緒に働く。
論文 参考訳(メタデータ) (2022-05-13T07:33:49Z) - On the Influence of Explainable AI on Automation Bias [0.0]
我々は、説明可能なAI(XAI)によって自動化バイアスに影響を与える可能性に光を当てることを目指している。
ホテルのレビュー分類に関するオンライン実験を行い、最初の結果について議論する。
論文 参考訳(メタデータ) (2022-04-19T12:54:23Z) - Building Human-like Communicative Intelligence: A Grounded Perspective [1.0152838128195465]
言語学習における驚くべき進歩の後、AIシステムは人間のコミュニケーション能力の重要な側面を反映しない天井に近づいたようだ。
本稿は、ナチビストと象徴的パラダイムに基づく認知にインスパイアされたAIの方向性には、現代AIの進歩を導くために必要なサブストラテジと具体性がないことを示唆する。
本稿では,「地下」言語知能構築のための具体的かつ実装可能なコンポーネントのリストを提案する。
論文 参考訳(メタデータ) (2022-01-02T01:43:24Z) - On some Foundational Aspects of Human-Centered Artificial Intelligence [52.03866242565846]
人間中心人工知能(Human Centered Artificial Intelligence)の意味については明確な定義はない。
本稿では,AIコンポーネントを備えた物理・ソフトウェア計算エージェントを指すHCAIエージェントについて紹介する。
HCAIエージェントの概念は、そのコンポーネントや機能とともに、人間中心のAIに関する技術的および非技術的議論を橋渡しする手段であると考えています。
論文 参考訳(メタデータ) (2021-12-29T09:58:59Z) - Inductive Biases for Deep Learning of Higher-Level Cognition [108.89281493851358]
興味深い仮説は、人間と動物の知性はいくつかの原則によって説明できるということである。
この研究は、主に高いレベルとシーケンシャルな意識的処理に関心のある人を中心に、より大きなリストを考察する。
これらの特定の原則を明確にする目的は、人間の能力から恩恵を受けるAIシステムを構築するのに役立つ可能性があることである。
論文 参考訳(メタデータ) (2020-11-30T18:29:25Z) - Towards Abstract Relational Learning in Human Robot Interaction [73.67226556788498]
人間は環境における実体を豊かに表現する。
ロボットが人間とうまく対話する必要がある場合、同様の方法で実体、属性、一般化を表現する必要がある。
本研究では,人間とロボットの相互作用を通じて,これらの表現をどのように獲得するかという課題に対処する。
論文 参考訳(メタデータ) (2020-11-20T12:06:46Z) - Machine Common Sense [77.34726150561087]
機械の常識は、人工知能(AI)において広範で潜在的に無拘束な問題のままである
本稿では、対人インタラクションのようなドメインに焦点を当てたコモンセンス推論のモデル化の側面について論じる。
論文 参考訳(メタデータ) (2020-06-15T13:59:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。