論文の概要: Agentic Framework for Deep Learning workload migration via In-Context Learning
- arxiv url: http://arxiv.org/abs/2606.15994v1
- Date: Sun, 14 Jun 2026 19:41:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 16:21:33.981462
- Title: Agentic Framework for Deep Learning workload migration via In-Context Learning
- Title(参考訳): In-Context Learningによるディープラーニングワークロードマイグレーションのためのエージェントフレームワーク
- Abstract要約: 大規模言語モデル(LLM)は、正確な操作のミスをしがちである。
In-Context Learning(ICL)とオラクル駆動の自己老化を組み合わせた完全自律システムを提案する。
我々のパイプラインは、ニューラルネットワークモジュール上で91%の数値等価性(ベースライン:9%、命令+自己老化:27%)を達成する。
- 参考スコア(独自算出の注目度): 0.5496900364175868
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Translating deep learning models from PyTorch's flexible, object-oriented design to JAX's functional, stateless setup is usually a manual and error-prone task. Automated migration is challenging because Large Language Models (LLMs) struggle with strict and dynamic API alignment and are prone to mistakes for exacting operations. We propose a fully autonomous system that combines In-Context Learning (ICL) with oracle-driven self-debugging. First, we curated an ICL context that serves as a strict reference for idiomatic JAX styling and test case generation. Second, instead of depending on the LLM to deduce mathematical outputs, we run the source PyTorch modules to get their actual dynamic tensor states. This creates an unchangeable execution oracle. We then use an autonomous agentic loop to synthesize tests based on the oracle data. The test cases are executed repeatedly, and the traceback is sent back to the LLM for self-correction. Ablations show that combining ICL references with oracle grounding and self-debugging greatly outperforms pure instructional and basic agentic baselines. This improvement does not add an excessive computational overhead. Our lightweight pipeline achieves 91% numerical equivalence (compared to baseline: 9%, instruction + self-debugging: 27%) on neural modules, providing a highly reliable, scalable blueprint for cross-framework migration. This has been validated across several state-of-the-art models including SAM (segment anything), T5, Code Whisper amongst others showing high numerical equivalency. Code: https://github.com/AI-Hypercomputer/accelerator-agents/tree/main/MaxCode
- Abstract(参考訳): PyTorchの柔軟なオブジェクト指向設計からJAXの機能的でステートレスなセットアップにディープラーニングモデルを変換することは、通常手動でエラーを起こしやすいタスクである。
大規模言語モデル(LLM)は厳格で動的なAPIアライメントに苦慮し、正確な操作のミスをしがちであるため、自動マイグレーションは難しい。
In-Context Learning(ICL)とオラクル駆動の自己デバッグを組み合わせた完全自律システムを提案する。
まず、慣用的なJAXスタイリングとテストケース生成の厳格な参照として機能するICLコンテキストをキュレートしました。
第二に、数学的出力を導出するために LLM に依存する代わりに、元の PyTorch モジュールを実行して実際の動的テンソル状態を得る。
これにより、変更不可能な実行オラクルが生成される。
次に、自律的なエージェントループを使用して、オラクルデータに基づいてテストを合成します。
テストケースは繰り返し実行され、トレースバックは自己補正のためにLSMに送信される。
アブレーションは、ICL参照とオラクルの接地と自己デバッグを組み合わせることで、純粋な命令的および基本的なエージェント的ベースラインを大きく上回っていることを示している。
この改善は計算オーバーヘッドを過度に増やさない。
当社の軽量パイプラインは91%の数値等価性(ベースライン:9%,命令+自己デバッグ:27%)をニューラルモジュール上で達成しています。
これはSAM(segment anything)、T5、Code Whisperなどいくつかの最先端モデルで高い数値等価性を示している。
コード:https://github.com/AI-Hyper computer/accelerator-agents/tree/main/MaxCode
関連論文リスト
- ARISE: A Repository-level Graph Representation and Toolset for Agentic Fault Localization and Program Repair [0.0]
ARISE (Agentic Repository-level Issue Solving Engine) は,マルチグラニュラリティプログラムグラフを用いたLLMエージェントを拡張したものである。
ARISEはこのグラフを3層ツールAPIを通じて公開し、データフロースライシングをファーストクラスのクエリ可能なエージェントプリミティブとして提供する。
我々は、Qwen2.5-Coder-32B-Instructをバックボーンとして、SWE-bench Lite(300の実際のGitHubイシュー、11のPythonレポジトリ)を評価した。
論文 参考訳(メタデータ) (2026-05-04T19:59:23Z) - VibeTensor: System Software for Deep Learning, Fully Generated by AI Agents [42.56489784841984]
実装の変更が生成され、エージェントが提案する差分として適用される。
アーキテクチャを説明し、システムの生成と検証に使用するワークフローを要約し、アーティファクトを評価する。
論文 参考訳(メタデータ) (2026-01-21T19:29:00Z) - CEDAR: Context Engineering for Agentic Data Science [3.1662160826016756]
CEDARはエージェント設定でデータサイエンスタスクを自動化するアプリケーションである。
効果的なコンテキストエンジニアリングによって、これらを緩和できることが示される。
フォールトトレランスとコンテキスト管理は、反復的なコード生成とスマートヒストリレンダリングを通じて導入される。
論文 参考訳(メタデータ) (2026-01-10T16:05:04Z) - Semantic Soft Bootstrapping: Long Context Reasoning in LLMs without Reinforcement Learning [46.765013720309064]
大規模言語モデル(LLM)における長期文脈推論は、チェーン・オブ・ソート(CoT)推論による認知能力の向上を実証している。
このようなモデルのトレーニングは通常、数学やプログラミングのような推論に基づく問題において、検証可能な報酬(RLVR)を用いた強化学習によって行われる。
我々は,教師と学生の両方の役割を同一のベース言語モデルで担う自己蒸留技術であるtextbfSemantic Soft Bootstrapping (SSB) を提案する。
論文 参考訳(メタデータ) (2025-12-04T18:59:18Z) - Agentic-R1: Distilled Dual-Strategy Reasoning [58.73951532294446]
現在のロングチェーン・オブ・ソート(ロングCoT)モデルは数学的推論において優れているが、遅くてエラーを起こしやすい自然言語トレースに依存している。
複数の教師の補完的推論戦略を統合された学生モデルに蒸留する微調整フレームワークであるDualDistillを導入する。
本手法は,計算集約型ベンチマークと標準ベンチマークの両方を含むタスクの精度を向上する。
論文 参考訳(メタデータ) (2025-07-08T06:35:16Z) - SwingArena: Competitive Programming Arena for Long-context GitHub Issue Solving [90.32201622392137]
We present SwingArena, a competitive evaluation framework for Large Language Models (LLMs)。
従来の静的ベンチマークとは異なり、SwingArenaはLLMをイテレーションとして組み合わせて、テストケースを作成し、継続的インテグレーション(CI)パイプラインを通じてパッチを検証するパッチとレビュアーを生成することで、ソフトウェアのコラボレーションプロセスをモデル化する。
論文 参考訳(メタデータ) (2025-05-29T18:28:02Z) - Generating Unseen Code Tests In Infinitum [1.0674604700001968]
本稿では,プログラミングタスクやプログラミング言語にまたがって一般化するベンチマークのバリエーションを作成する手法を提案する。
我々は、Pythonでテキストからコードを生成するタスクに対して、textitauto-regressionと呼ばれる1つのベンチマークを実装した。
論文 参考訳(メタデータ) (2024-07-29T08:11:20Z) - Get my drift? Catching LLM Task Drift with Activation Deltas [55.75645403965326]
タスクドリフトは攻撃者がデータを流出させたり、LLMの出力に影響を与えたりすることを可能にする。
そこで, 簡易線形分類器は, 分布外テストセット上で, ほぼ完全なLOC AUCでドリフトを検出することができることを示す。
このアプローチは、プロンプトインジェクション、ジェイルブレイク、悪意のある指示など、目に見えないタスクドメインに対して驚くほどうまく一般化する。
論文 参考訳(メタデータ) (2024-06-02T16:53:21Z) - Allies: Prompting Large Language Model with Beam Search [107.38790111856761]
本研究では,ALIESと呼ばれる新しい手法を提案する。
入力クエリが与えられた場合、ALLIESはLLMを活用して、元のクエリに関連する新しいクエリを反復的に生成する。
元のクエリのスコープを反復的に精錬して拡張することにより、ALLIESは直接検索できない隠れた知識をキャプチャし、利用する。
論文 参考訳(メタデータ) (2023-05-24T06:16:44Z) - Self-Prompting Large Language Models for Zero-Shot Open-Domain QA [67.08732962244301]
Open-Domain Question Answering (ODQA)は、背景文書を明示的に提供せずに質問に答えることを目的としている。
このタスクは、調整済みの検索リーダーモデルをトレーニングするデータがないゼロショット設定で顕著に困難になる。
本稿では,大規模言語モデルのパラメータに符号化された膨大な知識を明示的に活用するセルフプロンプトフレームワークを提案する。
論文 参考訳(メタデータ) (2022-12-16T18:23:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。