論文の概要: From Billion-Scale to Million-Scale Language Models: Operational Capabilities for Embedded Post-Exploitation

• arxiv url: http://arxiv.org/abs/2610.23534v1
• Date: Fri, 16 Oct 2026 14:33:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.953392
• Title: From Billion-Scale to Million-Scale Language Models: Operational Capabilities for Embedded Post-Exploitation
• Title（参考訳）: 数十億の規模から数百万のスケールの言語モデル: 埋め込み後拡張のための操作能力
• Abstract要約: 小言語モデル(SLM)は、資源制約のある環境にとってますます魅力的なものになっている。 攻撃的コード生成能力はモデルサイズとともに線形に増加しないことを示す。 これらの発見は、AI支援マルウェアを予測し、今後の対策を通知するのに役立つ。
• 参考スコア（独自算出の注目度）: 1.8945965063172892
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Small Language Models (SLMs) are increasingly attractive for resource-constrained environments due to their low computational footprint. These characteristics also make them candidates for future autonomous malware, where connectivity, latency, privacy, or operational constraints may preclude cloud-based inference. Yet the ability of ultra-compact models to support malware during post-exploitation remains poorly understood. We systematically evaluate seven open-source SLMs (20M-1.5B parameters) on two post-exploitation code-generation tasks: Directory Enumeration and Backdoor Generation. We compare Python (high-resource) and Lua (low-resource) across prompting strategies, task formulations, iterative reasoning, grammar-constrained decoding, and execution-feedback loops. Results show that offensive code-generation capabilities do not increase linearly with model size. Successful execution depends on the interaction of model capacity, task formulation, and prompting strategy, with task formulation exerting a greater influence than prompt engineering alone. Algorithmic formulation combined with few-shot prompting enables Qwen2.5-Coder 1.5B to reach Pass@5 of 100% in both Python and Lua for Directory Enumeration, 100% in Python for Backdoor Generation, and 99.2% in Lua. Although the evaluated models remain too computationally demanding for widespread deployment in contemporary malware, rapid progress in compact models may reduce this barrier. These findings help anticipate AI-assisted malware and inform future countermeasures.
• Abstract（参考訳）: 小言語モデル(SLM)は、計算フットプリントが低いため、資源制約のある環境にとってますます魅力的なものになっている。 これらの特徴は、接続性、レイテンシ、プライバシ、運用上の制約がクラウドベースの推論を妨げる、将来の自律マルウェアの候補にもなります。 しかし、爆発後のマルウェアをサポートするウルトラコンパクトモデルの能力は、いまだによく分かっていない。 本研究では,7つのオープンソースSLM(20M-1.5Bパラメータ)を探索後の2つのコード生成タスク(ディレクトリ列挙とバックドア生成)に対して体系的に評価した。 我々はPython(高リソース)とLua(低リソース)を、プロンプト戦略、タスク定式化、反復推論、文法制約付き復号化、実行フィードバックループで比較する。 その結果,攻撃的コード生成能力はモデルサイズとともに線形に増加しないことがわかった。 成功した実行は、モデルキャパシティ、タスク定式化、およびプロンプト戦略の相互作用に依存し、タスク定式化は、プロンプトエンジニアリング単独よりも大きな影響を与える。 Qwen2.5-Coder 1.5BはPythonで100%、ディレクトリ列挙ではLuaで100%、バックドアジェネレーションでは100%、Luaで99.2%に到達した。 評価されたモデルは、現代マルウェアの広範な展開を計算的に要求しすぎるが、コンパクトモデルの急速な進歩は、この障壁を減少させる可能性がある。 これらの発見は、AI支援マルウェアを予測し、今後の対策を通知するのに役立つ。

関連論文リスト

• CodePivot: Bootstrapping Multilingual Transpilation in LLMs via Reinforcement Learning without Parallel Corpora [12.250493747181459]
  トランスパイレーション(Transpilation、コード翻訳)は、ある言語から別の言語にソースコードを変換することを目的としている。 最近の大規模言語モデル (LLM) に基づくアプローチは、コード翻訳に大きな可能性を示している。 並列コーパスを必要とせずに、モデルの多言語翻訳能力をブートストラップするトレーニングフレームワークであるCodePivotを提案する。
  論文  参考訳（メタデータ） (2026-04-20T09:52:50Z)
• Program Semantic Inequivalence Game with Large Language Models [20.43560028315856]
  大きな言語モデル(LLM)は、日々のコーディングタスクにおいて強力なパフォーマンスを達成することができるが、プログラムのセマンティクスに関する非自明な推論を必要とする複雑なタスクでは失敗する可能性がある。 本研究では,意味的不等価ゲームSInQに基づいて,コード推論学習データを合成的に生成する手法について検討する。 この設定により、無限の計算資源の限界における自己再生による理論的に無制限な改善が可能であることを証明した。
  論文  参考訳（メタデータ） (2025-05-02T20:03:35Z)
• Thinking Longer, Not Larger: Enhancing Software Engineering Agents via Scaling Test-Time Compute [61.00662702026523]
  より大規模なモデルではなく、推論時間の増加を活用する統合されたテスト時間計算スケーリングフレームワークを提案する。 当社のフレームワークには,内部TTCと外部TTCの2つの補完戦略が組み込まれている。 当社の textbf32B モデルは,DeepSeek R1 671B や OpenAI o1 など,はるかに大きなモデルを上回る 46% の課題解決率を実現している。
  論文  参考訳（メタデータ） (2025-03-31T07:31:32Z)
• Do NOT Think That Much for 2+3=? On the Overthinking of o1-Like LLMs [76.43407125275202]
  o1のようなモデルは、推論中に人間のような長時間の思考をエミュレートすることができる。 本論文は,これらのモデルにおける過度な考察の課題に関する,最初の包括的研究である。 精度を損なうことなく、過剰思考を緩和し、推論プロセスを合理化するための戦略を提案する。
  論文  参考訳（メタデータ） (2024-12-30T18:55:12Z)
• Low-Cost Language Models: Survey and Performance Evaluation on Python Code Generation [0.0]
  大規模言語モデル(LLM)は多くの自然言語処理(NLP)タスクで一般的な選択肢となっている。 LLMの相当な計算とメモリ要件は、限られたリソースを持つユーザーにはアクセスできないことが多い。 本稿では,資源集約型LLMの代替となる,非常に低コストなモデルに焦点をあてる。
  論文  参考訳（メタデータ） (2024-04-17T08:16:48Z)
• YAYI 2: Multilingual Open-Source Large Language Models [53.92832054643197]
  我々は,300億のパラメータを持つベースモデルとチャットモデルを含むYAYI 2を提案する。 YAYI 2は、トレーニング済みのデータ処理パイプラインによってフィルタされた2.65兆のトークンを含む多言語コーパス上で、スクラッチから事前トレーニングされる。 ベースモデルは、数百万の指示による教師付き微調整と、人間のフィードバックからの強化学習によって、人間の価値と整合する。
  論文  参考訳（メタデータ） (2023-12-22T17:34:47Z)
• Distributed Inference and Fine-tuning of Large Language Models Over The Internet [91.00270820533272]
  大規模言語モデル(LLM)は、多くのNLPタスクで有用であり、サイズが向上する。 これらのモデルはハイエンドのハードウェアを必要とするため、ほとんどの研究者にはアクセスできない。 本研究では,システムスループットの最大化のためにデバイスを自動的に割り当てるフォールトトレラント推論アルゴリズムとロードバランシングプロトコルを開発する。
  論文  参考訳（メタデータ） (2023-12-13T18:52:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。