Fugu-MT 論文翻訳(概要): NaSh: Guardrails for an LLM-Powered Natural Language Shell

論文の概要: NaSh: Guardrails for an LLM-Powered Natural Language Shell

arxiv url: http://arxiv.org/abs/2506.13028v1
Date: Mon, 16 Jun 2025 01:34:25 GMT
ステータス: 翻訳完了
システム内更新日: 2025-06-17 17:28:47.304472
Title: NaSh: Guardrails for an LLM-Powered Natural Language Shell
Title（参考訳）: NaSh: LLM搭載自然言語シェルのガードレール
Authors: Bimal Raj Gyawali, Saikrishna Achalla, Konstantinos Kallas, Sam Kumar,
Abstract要約: 自然言語シェルは、ユーザがそのようなエラーから回復するためのガードレールを提供するべきだ、と私たちは主張する。私たちはNaShという新しいシェルを設計することで、それを実現するためのいくつかのアイデアを具体化します。
参考スコア（独自算出の注目度）: 2.3286637653517173
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We explore how a shell that uses an LLM to accept natural language input might be designed differently from the shells of today. As LLMs may produce unintended or unexplainable outputs, we argue that a natural language shell should provide guardrails that empower users to recover from such errors. We concretize some ideas for doing so by designing a new shell called NaSh, identify remaining open problems in this space, and discuss research directions to address them.
Abstract（参考訳）: 我々は、LLMを使って自然言語入力を受け入れるシェルが、今日のシェルとどのように異なる設計をするのかを探求する。 LLMは意図しない、あるいは説明不可能なアウトプットを生成する可能性があるため、自然言語シェルは、ユーザがそのようなエラーから回復するためのガードレールを提供するべきだ、と我々は主張する。我々は、NaShと呼ばれる新しいシェルを設計し、この分野で残っている未解決の問題を特定し、それに対応するための研究の方向性について議論することで、これを実現するためのアイデアを整理する。

関連論文リスト

Unnatural Languages Are Not Bugs but Features for LLMs [92.8332103170009]
大規模言語モデル(LLM)は、ジェイルブレイクプロンプトなどの非可読テキストシーケンスを処理するために観察されている。我々はこの認識に挑戦する体系的な調査を行い、非自然言語にはモデルで使用可能な潜在的特徴が含まれていることを示した。
論文参考訳（メタデータ） (2025-03-02T12:10:17Z)
Potential and Limitations of LLMs in Capturing Structured Semantics: A Case Study on SRL [78.80673954827773]
大きな言語モデル(LLM)は、言語理解を高め、解釈可能性を改善し、バイアスを減らすために構造化セマンティクスをキャプチャする上で重要な役割を果たす。セマンティック・ロール・ラベルリング(SRL)を,構造化意味論を抽出するLLMの能力を探るための基本課題として用いることを提案する。 LLMは実際にセマンティック構造をキャプチャすることができ、スケールアップは常にポテンシャルを反映するわけではない。エラーのかなりの重複は、LLMと訓練されていない人間の両方によって行われ、全てのエラーの約30%を占めることに私たちは驚いています。
論文参考訳（メタデータ） (2024-05-10T11:44:05Z)
DECIDER: A Dual-System Rule-Controllable Decoding Framework for Language Generation [57.07295906718989]
制約付き復号法は,事前訓練された大言語(Ms と PLMs)が生成するテキストの意味やスタイルを,推論時に様々なタスクに対して制御することを目的としている。これらの方法は、しばしば、欲求的かつ明示的にターゲットを選択することによって、もっともらしい連続を導く。認知二重プロセス理論に着想を得て,新しい復号化フレームワークDECDERを提案する。
論文参考訳（メタデータ） (2024-03-04T11:49:08Z)
DeceptPrompt: Exploiting LLM-driven Code Generation via Adversarial Natural Language Instructions [27.489622263456983]
DeceptPromptは、コードLLMを駆動し、脆弱性のある機能の正しいコードを生成する、逆の自然言語命令を生成するアルゴリズムである。最適化プレフィックス/サフィックスを適用する場合、アタック成功率(ASR)はプレフィックス/サフィックスを適用せずに平均50%向上する。
論文参考訳（メタデータ） (2023-12-07T22:19:06Z)
Let Models Speak Ciphers: Multiagent Debate through Embeddings [84.20336971784495]
この問題を解決するためにCIPHER(Communicative Inter-Model Protocol Through Embedding Representation)を導入する。自然言語から逸脱することで、CIPHERはモデルの重みを変更することなく、より広い範囲の情報を符号化する利点を提供する。このことは、LLM間の通信における代替の"言語"としての埋め込みの優越性と堅牢性を示している。
論文参考訳（メタデータ） (2023-10-10T03:06:38Z)
Translating Natural Language to Planning Goals with Large-Language Models [19.738395237639136]
近年の大規模言語モデル(LLM)は,様々な自然言語処理(NLP)タスクにおいて顕著な性能を示した。我々の中心的な問題は、LLMが自然言語で指定された目標を構造化された計画言語に翻訳できるかどうかである。 GPT 3.5 変種に対する実験結果から,LCM は計画よりも翻訳に適していることが示された。
論文参考訳（メタデータ） (2023-02-10T09:17:52Z)
Extensible Prompts for Language Models on Zero-shot Language Style Customization [89.1622516945109]
X-Promptは、自然言語(NL)を超えた大きな言語モデル(LLM)を指示する新しい想像的単語を登録することで、LLMにNL単語で記述するのが難しい概念を理解するよう指示することができる。これらの虚構語は、様々なプロンプトでNL語のように(再)使用できるように、分布外頑健であるように設計されている。
論文参考訳（メタデータ） (2022-12-01T16:11:56Z)
Can We Generate Shellcodes via Natural Language? An Empirical Study [4.82810058837951]
本稿では,ニューラルネットワークを用いたシェルコードの自動生成手法を提案する。 Shellcode_IA32は、実際のLinux/x86シェルコードの3,200のアセンブリコードスニペットで構成されている。我々は,NMTが自然言語からアセンブリコードスニペットを高い精度で生成できることを示し,多くの場合,誤りのないシェルコード全体を生成可能であることを示した。
論文参考訳（メタデータ） (2022-02-08T09:57:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。