論文の概要: Tinkering Against Scaling
- arxiv url: http://arxiv.org/abs/2504.16546v1
- Date: Wed, 23 Apr 2025 09:21:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-02 19:15:53.064781
- Title: Tinkering Against Scaling
- Title(参考訳): スケーリングに逆らうティンカリング
- Authors: Bolun Zhang, Yang Shen, Linzhuo Li, Yu Ji, Di Wu, Tongyu Wu, Lianghao Dai,
- Abstract要約: 既存の作業にインスパイアされた"チンケリング"アプローチを提案する。
この手法は、普通の研究者にとって管理可能なより小さなモデルやコンポーネントに関わります。
我々は、ティンカーは計算社会科学の創造と知識の方法であり、批判的な研究のための知識の方法であると主張している。
- 参考スコア(独自算出の注目度): 15.060264126253212
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The ascent of scaling in artificial intelligence research has revolutionized the field over the past decade, yet it presents significant challenges for academic researchers, particularly in computational social science and critical algorithm studies. The dominance of large language models, characterized by their extensive parameters and costly training processes, creates a disparity where only industry-affiliated researchers can access these resources. This imbalance restricts academic researchers from fully understanding their tools, leading to issues like reproducibility in computational social science and a reliance on black-box metaphors in critical studies. To address these challenges, we propose a "tinkering" approach that is inspired by existing works. This method involves engaging with smaller models or components that are manageable for ordinary researchers, fostering hands-on interaction with algorithms. We argue that tinkering is both a way of making and knowing for computational social science and a way of knowing for critical studies, and fundamentally, it is a way of caring that has broader implications for both fields.
- Abstract(参考訳): 人工知能研究のスケールアップは、過去10年間でこの分野に革命をもたらしたが、特に計算社会科学やクリティカルアルゴリズム研究において、学術研究者にとって大きな課題が提示されている。
大規模な言語モデルの優位性は、その広範なパラメータとコストのかかる訓練プロセスによって特徴づけられ、業界関係者の研究者だけがこれらのリソースにアクセス可能な格差を生み出します。
この不均衡は、計算社会科学における再現性や、批判的な研究におけるブラックボックスのメタファーへの依存など、学術研究者がツールを完全に理解することを制限する。
これらの課題に対処するために、私たちは既存の作業にインスパイアされた"チンケリング"アプローチを提案します。
この方法は、通常の研究者が管理可能なより小さなモデルやコンポーネントと関わり、アルゴリズムとのハンズオンインタラクションを促進する。
我々は、ティンカーは計算社会科学の創造と知識の方法であり、批判的な研究の方法であり、基本的には、両方の分野に幅広い影響を及ぼすケアの方法であると主張している。
関連論文リスト
- A Review of Neuroscience-Inspired Machine Learning [58.72729525961739]
バイオプルーシブル・クレジット・アサインメントは、事実上あらゆる学習条件と互換性があり、エネルギー効率が高い。
本稿では,人工ニューラルネットワークにおける信用代入の生体評価可能なルールをモデル化する,いくつかの重要なアルゴリズムについて検討する。
我々は,このようなアルゴリズムを実用アプリケーションでより有用にするためには,今後の課題に対処する必要があることを論じる。
論文 参考訳(メタデータ) (2024-02-16T18:05:09Z) - The Compute Divide in Machine Learning: A Threat to Academic
Contribution and Scrutiny? [1.0985060632689174]
計算の偏差は、計算集約的な研究トピックにおける学術のみの研究チームの表現の減少と一致していることを示す。
この傾向から生じる課題に対処するため、留意的に学術的な洞察を広めるためのアプローチを推奨する。
論文 参考訳(メタデータ) (2024-01-04T01:26:11Z) - On the Opportunities of Green Computing: A Survey [80.21955522431168]
人工知能(AI)は数十年にわたり、技術と研究において大きな進歩を遂げてきた。
高いコンピューティングパワーの必要性は、より高い二酸化炭素排出量をもたらし、研究の公正性を損なう。
コンピューティングリソースの課題とAIの環境への影響に取り組むため、グリーンコンピューティングはホットな研究トピックとなっている。
論文 参考訳(メタデータ) (2023-11-01T11:16:41Z) - Deep Learning in Deterministic Computational Mechanics [0.0]
本稿では,計算力学の応用よりも深層学習に焦点をあてる。
主な聴衆は、この分野に参入しようとしている研究者や、計算力学の深層学習の概観を得ようとする研究者である。
論文 参考訳(メタデータ) (2023-09-27T05:57:19Z) - Machine Psychology [54.287802134327485]
我々は、心理学にインスパイアされた行動実験において、研究のための実りある方向が、大きな言語モデルに係わっていると論じる。
本稿では,本手法が表に示す理論的視点,実験パラダイム,計算解析技術について述べる。
これは、パフォーマンスベンチマークを超えた、生成人工知能(AI)のための「機械心理学」の道を開くものだ。
論文 参考訳(メタデータ) (2023-03-24T13:24:41Z) - Research Trends and Applications of Data Augmentation Algorithms [77.34726150561087]
我々は,データ拡張アルゴリズムの適用分野,使用するアルゴリズムの種類,重要な研究動向,時間経過に伴う研究の進展,およびデータ拡張文学における研究ギャップを同定する。
我々は、読者がデータ拡張の可能性を理解し、将来の研究方向を特定し、データ拡張研究の中で質問を開くことを期待する。
論文 参考訳(メタデータ) (2022-07-18T11:38:32Z) - Word Embedding for Social Sciences: An Interdisciplinary Survey [9.657531563610767]
我々は,調査論文の方法と手順を説明するための分類学を構築した。
この調査はまた、文献で使われる共通類似度の測定が異なる結果をもたらすことを警告するための簡単な実験も行った。
論文 参考訳(メタデータ) (2022-07-07T04:49:21Z) - On Heuristic Models, Assumptions, and Parameters [0.76146285961466]
我々は、コンピューティングの社会的影響は、不明瞭な技術的注意事項、選択、および資格者に依存することができると論じている。
これらの選択と修飾子をエンコードするために用いられるオブジェクトの3つのクラス、すなわちモデル、仮定、パラメータを記述する。
我々は、これらの物体がコンピュータの包括的分析に有害である6つの理由を提起し、研究者が科学的研究を説明するのに考慮すべきであると主張している。
論文 参考訳(メタデータ) (2022-01-19T04:32:11Z) - Scientia Potentia Est -- On the Role of Knowledge in Computational
Argumentation [52.903665881174845]
本稿では,計算議論に必要な知識のピラミッドを提案する。
この分野におけるこれらのタイプの役割と統合について,その技術の現状を簡潔に論じる。
論文 参考訳(メタデータ) (2021-07-01T08:12:41Z) - Knowledge as Invariance -- History and Perspectives of
Knowledge-augmented Machine Learning [69.99522650448213]
機械学習の研究は転換点にある。
研究の関心は、高度にパラメータ化されたモデルのパフォーマンス向上から、非常に具体的なタスクへとシフトしている。
このホワイトペーパーは、機械学習研究におけるこの新興分野の紹介と議論を提供する。
論文 参考訳(メタデータ) (2020-12-21T15:07:19Z) - Qualities, challenges and future of genetic algorithms: a literature
review [0.0]
遺伝的アルゴリズムは自然進化をシミュレートするコンピュータプログラムである。
ニューラルネットワークアーキテクチャ探索から戦略ゲームまで,さまざまな最適化問題の解決に使用されている。
GPU、並列コンピューティング、量子コンピューティングなどの最近の発展、強力なパラメータ制御法の概念、表現戦略における新しいアプローチは、それらの限界を克服するための鍵となるかもしれない。
論文 参考訳(メタデータ) (2020-11-05T17:53:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。