論文の概要: Can an LLM Actually Reason and Program about Neural Network's Weights or is it just memorization on steroids? Exploring "Weight-Space Programming"

• arxiv url: http://arxiv.org/abs/2611.08070v1
• Date: Thu, 05 Nov 2026 14:23:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-07 04:55:13.534411
• Title: Can an LLM Actually Reason and Program about Neural Network's Weights or is it just memorization on steroids? Exploring "Weight-Space Programming"
• Title（参考訳）: LLMは実際にニューラルネットワークの重みについて推論しプログラムできるのか?それとも単にステロイドを記憶しているだけなのか?"重み空間プログラミング"を探る
• Abstract要約: 大規模言語モデル(LLM)は、ニューラルネットワークの生重量を直接読み書きするために最近報告されている。 この能力の読み出し側は、重み付けフローの推論や、ネットワークのエッジでの局所演算と、公開データセット上の記憶された先行データの組み合わせを反映しているかを問う。 5つの画像データセットでトレーニングされた約125,000のパラメータの小さな畳み込みネットワーク上で、Claude Opus 5.5をテストする。
• 参考スコア（独自算出の注目度）: 0.533024001730262
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) have recently been reported to read and write the raw weights of neural networks directly, a capability termed weight-space programming. We ask whether the reading side of this capability reflects reasoning about weight flows or a combination of local arithmetic at the network's edges and memorized priors over public datasets. We test Claude Opus 5.5 on small convolutional networks of about 125,000 parameters trained on five image datasets, providing every weight as plain text with no tools, no forward passes, and no dataset or class names. The model performs accurate local calculations: batch-normalization statistics lead it to infer about three optimizer steps on networks stopped after three updates, and output-layer sign patterns recover the vehicle/animal split of CIFAR-10. The sessions report reading the first and last layers closely and sampling the middle, and several claims built on partial tracing fail verification, although we did not run a direct forward-pass test. Semantic judgments lean on familiar datasets: the model names CIFAR-10 for CIFAR-10 networks but also for all three fast-food networks, relabels KMNIST as MNIST, reads a 99.57%-accurate SAT-6 network as CIFAR-10 animal photos, and calls "frog" the output favored by a feature that fires most on trees. Permuting CIFAR-10's labels preserves the output split at the new indices, but every class pair the model interprets is then wrong, indicating reliance on remembered label order. These are exploratory results from mostly single runs. We conclude that zero-shot weight reading by this model is better described as local arithmetic plus dataset priors than as weight-flow tracing, and we provide a protocol for auditing future weight-space claims.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、ニューラルネットワークの生重量を直接読み書きするために最近報告されている。 この能力の読み出し側は、重み付けフローの推論や、ネットワークのエッジでの局所演算と、公開データセット上の記憶された先行データの組み合わせを反映しているかを問う。 我々は5つのイメージデータセットでトレーニングされた約125,000のパラメータからなる小さな畳み込みネットワーク上でClaude Opus 5.5をテストする。 バッチ正規化統計は、3回の更新後に停止したネットワーク上の3つの最適化ステップを推測し、出力層標識パターンはCIFAR-10の車種分割を復元する。 セッションでは、最初の層と最後の層を注意深く読み上げ、中間層をサンプリングし、部分的トレースによるフェール検証に基づくいくつかのクレームを報告したが、直接のフォワードパステストは実行しなかった。 CIFAR-10 のモデル名 CIFAR-10 だけでなく、KMNIST を MNIST と表記し、99.57% の精度のSAT-6 ネットワークを CIFAR-10 の動物写真として読み、木に最も好まれる特徴によって好まれる出力を "frog" と呼ぶ。 CIFAR-10のラベルを置換すると、新しいインデックスで出力分割が保存されるが、モデルが解釈するすべてのクラスペアが間違っていて、記憶されたラベルの順序に依存することを示す。 これらは主にシングルランによる探索的な結果である。 このモデルによるゼロショットウェイト読み出しは、ウェイトフロートレーシングよりも局所演算とデータセットの先行処理と表現され、将来のウェイトスペースクレームを監査するためのプロトコルを提供する。

関連論文リスト

• From Code to Prediction: Fine-Tuning LLMs for Neural Network Performance Classification in NNGPT [48.83701310501069]
  NNGPTフレームワークに組み込まれた分類タスクを提案する。 微調整されたLLMは、与えられたニューラルネットワークアーキテクチャの2つの画像分類データセットのうちどれがより高い精度を達成するかを予測する。 その結果、LLMはニューラルネットワークコードからデータセット間の適合性を予測するために微調整可能であることが判明した。
  論文  参考訳（メタデータ） (2026-05-05T12:30:19Z)
• Diffusion Language Models are Super Data Learners [61.721441061210896]
  ユニークなデータが限られている場合、拡散言語モデル(DLM)は、よりエポックなトレーニングによって、常に自己回帰モデル(AR)を上回ります。 本研究の目的は,(1) 任意の次数モデリング,(2) 反復的双方向 denoising からの超高次計算,(3) モンテカルロ増分という3つの複合的要因に起因する。
  論文  参考訳（メタデータ） (2025-11-05T08:17:42Z)
• A Pipeline of Augmentation and Sequence Embedding for Classification of Imbalanced Network Traffic [0.0]
  本稿では,頑健で正確な埋め込み手法を用いて,データセットのバランスと分類を行うパイプラインを提案する。 提案した拡張パイプラインとFS-Embeddingを組み合わせることで収束速度が向上し,モデルパラメータの数が大幅に減少することを示す。
  論文  参考訳（メタデータ） (2025-02-26T07:55:24Z)
• Stochastic Approximation Approach to Federated Machine Learning [0.0]
  本稿では、近似(SA)フレームワークにおけるフェデレートラーニング(FL)について検討する。 FLは、さまざまな参加者やクライアント間でニューラルネットワークモデルをトレーニングする、協調的な方法である。 提案アルゴリズムは頑健であり,より信頼性の高い重み推定を行う。
  論文  参考訳（メタデータ） (2024-02-20T12:00:25Z)
• Revisiting Few-Shot Object Detection with Vision-Language Models [49.79495118650838]
  我々は、最近の基礎視覚言語モデル(VLM)の文脈で、少数ショットオブジェクト検出(FSOD)のタスクを再考する。 我々は,任意の外部データ上で事前学習された検出器を評価する新しいベンチマークプロトコルであるFoundational FSODを提案する。 CVPR 2024 Foundational FSOD コンペティションについて論じ,コミュニティからの洞察を共有した。
  論文  参考訳（メタデータ） (2023-12-22T07:42:00Z)
• Learning to Compose SuperWeights for Neural Parameter Allocation Search [61.078949532440724]
  提案手法は,同じ重み集合を用いて多くのネットワークに対してパラメータを生成することができることを示す。 これにより、効率的なアンサンブルや、いつでも予測できるようなタスクをサポートできます。
  論文  参考訳（メタデータ） (2023-12-03T04:20:02Z)
• Induced Feature Selection by Structured Pruning [0.0]
  重みと入力データに間隔を共同で付与することで、さらに一歩前進する。 入力データに対してプルーニングを行うことで、合計パラメータやFLOPのさらなるゲインを達成することができる。
  論文  参考訳（メタデータ） (2023-03-20T10:29:35Z)
• WeightMom: Learning Sparse Networks using Iterative Momentum-based pruning [0.0]
  本稿では,前回の繰り返しの運動量に基づいて徐々に重みを刈り取る,重みに基づくプルーニング手法を提案する。 我々は,CIFAR-10やCIFAR-100といった画像分類データセットを用いて,AlexNet,VGG16,ResNet50などのネットワークに対するアプローチを評価する。
  論文  参考訳（メタデータ） (2022-08-11T07:13:59Z)
• Multi-Prize Lottery Ticket Hypothesis: Finding Accurate Binary Neural Networks by Pruning A Randomly Weighted Network [13.193734014710582]
  マルチプライズチケット(MPT)の検索アルゴリズムを提案し,CIFAR-10およびImageNetデータセット上で一連の実験を行うことで試験する。 当社のMTTs-1/32は、新しいバイナリウェイトネットワーク最新(SOTA)Top-1精度(CIFAR-10では94.8%、ImageNetでは74.03%)を設定するだけでなく、それぞれ1.78%と0.76%に上る。
  論文  参考訳（メタデータ） (2021-03-17T00:31:24Z)
• Superiority of Simplicity: A Lightweight Model for Network Device Workload Prediction [58.98112070128482]
  本稿では,歴史観測に基づく時系列予測のための軽量な解を提案する。 ニューラルネットワークと平均予測器という2つのモデルからなる異種アンサンブル法で構成されている。 利用可能なFedCSIS 2020チャレンジデータセットの総合的なR2$スコア0.10を達成している。
  論文  参考訳（メタデータ） (2020-07-07T15:44:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。