論文の概要: Program-as-Weights: A Programming Paradigm for Fuzzy Functions
- arxiv url: http://arxiv.org/abs/2607.02512v1
- Date: Thu, 02 Jul 2026 17:59:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-03 19:45:08.965468
- Title: Program-as-Weights: A Programming Paradigm for Fuzzy Functions
- Title(参考訳): プログラム・アズ・ウェイト:ファジィ関数のためのプログラミングパラダイム
- Abstract要約: 本稿では,ファジィ関数プログラミングを提案する。自然言語仕様から局所的に実行可能なコンパクトなニューラルアーティファクトへ関数をコンパイルする。
このパラダイムをプログラム・アズ・ウェイト(PAW)でインスタンス化し、FizzyBenchで訓練された4Bコンパイラが凍結軽量インタプリタ用のパラメータ効率の高いアダプタを出力する。
- 参考スコア(独自算出の注目度): 13.97174440336545
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Many everyday programming tasks resist clean rule-based implementation, such as alerting on important log lines, repairing malformed JSON, or ranking search results by intent, and are increasingly outsourced to large language model APIs at the cost of locality, reproducibility, and price. We propose fuzzy-function programming: compiling such a function from a natural-language specification into a compact, locally-executable neural artifact. We instantiate this paradigm with Program-as-Weights (PAW), in which a 4B compiler trained on FuzzyBench, a 10M-example dataset we release, emits parameter-efficient adapters for a frozen, lightweight interpreter. A 0.6B Qwen3 interpreter executing PAW programs matches the performance of direct prompting of Qwen3-32B, while using roughly one fiftieth of the inference memory and running at 30 tokens/s on a MacBook M3. PAW reframes the foundation model from a per-input problem solver into a tool builder: invoked once per function definition, it produces a small reusable artifact whose subsequent calls per function application are cheap and offline.
- Abstract(参考訳): 多くの日常的なプログラミングタスクは、重要なログ行の警告、不正なJSONの修復、意図による検索結果のランク付けなど、クリーンなルールベースの実装に抵抗する。
本稿では,ファジィ関数プログラミングを提案する。自然言語仕様から局所的に実行可能なコンパクトなニューラルアーティファクトへ,そのような関数をコンパイルする。
このパラダイムをPAW(Program-as-Weights)でインスタンス化する。このパラダイムでは、リリースした10MサンプルデータセットであるFuzzyBenchでトレーニングされた4Bコンパイラが、凍結軽量インタプリタ用のパラメータ効率のよいアダプタを出力する。
PAWプログラムを実行する0.6B Qwen3インタプリタは、推論メモリの約5分の1を使用し、MacBook M3上で30トークン/秒で実行しながら、Qwen3-32Bを直接プロンプトする性能と一致する。
PAWは、インプット毎の問題解決者からツールビルダーへと、ファンデーションモデルを再構築する。関数定義毎に一度呼び出されると、ファンデーション毎のアプリケーションの呼び出しが安価でオフラインである小さな再利用可能なアーティファクトを生成します。
関連論文リスト
- Joint Optimization of Tool Creation and Use for Large Language Model Agents [69.07066297088187]
SMITH (-grounded Multi-task Iterative Tool Honing) は、単一のポリシー内でツールの作成とツールの使用を訓練する。
SMITHで訓練された4B Qwen3は、正確に検証された13の手続き的推論タスクで、保持されたタスクで平均79.8のマクロ平均精度に達する。
また、TabMWP-Hardでは40.4、ドメイン外のGQAでは42.6に到達している。
論文 参考訳(メタデータ) (2026-08-25T13:59:34Z) - FPMoE: A Sparse Mixture-of-Experts Approach to Functional Code Generation [1.863249299570084]
FPMoE(FPMoE)は、3つの言語固有のルートエキスパートを持つスパースMixture-of-Experts(MoE)アーキテクチャ上に構築された軽量なオープンソースコード生成モデルである。
この設計では、両方の障害モードを同時に解決する。専門の専門家は干渉を排除し、共有専門家は言語ごとのモデルが見逃す抽象化を保存する。
FPEvalでは、FPMoEは微調整されたベースラインを大幅に上回り、3Bのアクティブパラメータしか持たず、はるかに大きなモデルの性能に匹敵する。
論文 参考訳(メタデータ) (2026-05-27T02:06:11Z) - Towards a Neural Debugger for Python [25.996925295693444]
Python実行上の大きな言語モデルのトレーニングは、それらをコード実行の基盤とします。
これにより、全Pythonプログラムの行ごとの実行予測が可能になる。
開発者は、プログラムをステップバイステップで実行することは滅多にない。代わりに、デバッガを使用して、特定のブレークポイントでの実行を停止し、プログラム変数を検査または修正しながら、関連する部分をステップスルーする。
既存のニューラルインタプリタアプローチには、このようなインタラクティブな制御が欠けている。
論文 参考訳(メタデータ) (2026-03-10T17:47:05Z) - Qwen3-Coder-Next Technical Report [67.90974638938285]
コーディングエージェントに特化したオープンウェイト言語モデルQwen3-Coder-Nextを提案する。
Qwen3-Coder-Nextは推論中に30億のパラメータしか起動せず、効率的な推論で強力なコーディング機能を実現する。
論文 参考訳(メタデータ) (2026-02-28T16:25:04Z) - Regression Language Models for Code [13.53022663049873]
単一の統一回帰言語モデル(RLM)がテキストから直接同時に予測可能であることを示す。
5つの古典的NAS設計空間において、RLMが平均平均である0.46のKendall-Tauを得ることができることを示す。
論文 参考訳(メタデータ) (2025-09-30T16:25:23Z) - BTR: Binary Token Representations for Efficient Retrieval Augmented Language Models [77.0501668780182]
Retrieval augmentationは、大規模言語モデルにおける多くの重要な問題に対処する。
検索拡張言語モデル(LM)の実行は遅く、大量の検索されたテキストを処理するため、スケールが困難である。
1ビットベクトルを用いて各トークンを前処理するバイナリトークン表現(BTR)を導入する。
論文 参考訳(メタデータ) (2023-10-02T16:48:47Z) - ANPL: Towards Natural Programming with Interactive Decomposition [33.58825633046242]
我々は,ユーザが常に生成したコードを洗練できるように,対話型ANPLシステムを導入する。
ANPLプログラムは、それが満たさなければならない入力出力のセットで構成される。
ユーザは、スケッチを変更し、穴を記述するのに使用される言語を変更したり、特定の穴に追加の入力出力を提供することで、ANPLプログラムを更新する。
論文 参考訳(メタデータ) (2023-05-29T14:19:40Z) - CodeGen2: Lessons for Training LLMs on Programming and Natural Languages [116.74407069443895]
我々はエンコーダとデコーダベースのモデルを単一のプレフィックスLMに統一する。
学習方法は,「フリーランチ」仮説の主張を考察する。
データ配信においては,混合分布と多言語学習がモデル性能に及ぼす影響について検討した。
論文 参考訳(メタデータ) (2023-05-03T17:55:25Z) - Teaching Large Language Models to Self-Debug [62.424077000154945]
大規模言語モデル(LLM)は、コード生成において素晴らしいパフォーマンスを達成した。
本稿では,大規模言語モデルで予測プログラムを数発のデモでデバッグする自己デバッグを提案する。
論文 参考訳(メタデータ) (2023-04-11T10:43:43Z) - Binding Language Models in Symbolic Languages [146.3027328556881]
Binderはトレーニング不要のニューラルシンボリックフレームワークで、タスク入力をプログラムにマッピングする。
解析の段階では、Codexは元のプログラミング言語では答えられないタスク入力の一部を特定することができる。
実行段階では、CodexはAPI呼び出しで適切なプロンプトを与えられた万能機能を実行することができる。
論文 参考訳(メタデータ) (2022-10-06T12:55:17Z) - Towards Neural Functional Program Evaluation [0.5586191108738562]
本稿では,意味論的に等価なプログラムに対して,構文糖を制御できる新しいプログラム生成機構を提案する。
実験によると、神経機能プログラムの評価は驚くほど良く、90%の正確なプログラムマッチスコアを達成している。
論文 参考訳(メタデータ) (2021-12-09T00:20:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。