論文の概要: RoboCritics: Enabling Reliable End-to-End LLM Robot Programming through Expert-Informed Critics
- arxiv url: http://arxiv.org/abs/2603.06842v1
- Date: Fri, 06 Mar 2026 20:02:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-23 08:17:42.012358
- Title: RoboCritics: Enabling Reliable End-to-End LLM Robot Programming through Expert-Informed Critics
- Title（参考訳）: RoboCritics:エキスパートインフォームド批評家による信頼性の高いエンドツーエンドLLMロボットプログラミングの実現
- Abstract要約: 大規模言語モデル(LLM)は、自然言語によるタスク仕様の実現により、ロボットプログラミングの障壁を低くする可能性を秘めている。
本稿では,LLMに基づくロボットプログラミングを専門家インフォームドモーションレベルの批評家によって強化するアプローチであるRoboCriticsを紹介する。
- 参考スコア（独自算出の注目度）: 25.430531368529685
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: End-user robot programming grants users the flexibility to re-task robots in situ, yet it remains challenging for novices due to the need for specialized robotics knowledge. Large Language Models (LLMs) hold the potential to lower the barrier to robot programming by enabling task specification through natural language. However, current LLM-based approaches generate opaque, "black-box" code that is difficult to verify or debug, creating tangible safety and reliability risks in physical systems. We present RoboCritics, an approach that augments LLM-based robot programming with expert-informed motion-level critics. These critics encode robotics expertise to analyze motion-level execution traces for issues such as joint speed violations, collisions, and unsafe end-effector poses. When violations are detected, critics surface transparent feedback and offer one-click fixes that forward structured messages back to the LLM, enabling iterative refinement while keeping users in the loop. We instantiated RoboCritics in a web-based interface connected to a UR3e robot and evaluated it in a between-subjects user study (n=18). Compared to a baseline LLM interface, RoboCritics reduced safety violations, improved execution quality, and shaped how participants verified and refined their programs. Our findings demonstrate that RoboCritics enables more reliable and user-centered end-to-end robot programming with LLMs.
- Abstract（参考訳）: エンドユーザーロボットプログラミングは、ユーザーがその場でロボットを再タスクする柔軟性を与えるが、特殊なロボット工学の知識を必要とするため、初心者にとっては依然として困難である。
大規模言語モデル(LLM)は、自然言語によるタスク仕様の実現により、ロボットプログラミングの障壁を低くする可能性を秘めている。
しかし、現在のLCMベースのアプローチでは、検証やデバッグが難しい不透明な"ブラックボックス"コードを生成し、物理的なシステムにおいて明確な安全性と信頼性のリスクを生み出している。
本稿では,LLMに基づくロボットプログラミングを専門家インフォームドモーションレベルの批評家によって強化するアプローチであるRoboCriticsを紹介する。
これらの批評家はロボット工学の専門知識をエンコードして、共同速度違反、衝突、安全でないエンドエフェクターのポーズなどの問題に対する運動レベルの実行トレースを分析している。
違反が検出された場合、批評家は透明なフィードバックを表面化し、LLMにメッセージを転送するワンクリック修正を提供する。
UR3eロボットに接続したWebベースのインタフェースでRoboCriticsをインスタンス化し,ユーザスタディ(n=18。
ベースラインのLLMインタフェースと比較すると、RoboCriticsは安全違反を減らし、実行品質を改善し、参加者がプログラムを検証し洗練する方法を形作った。
以上の結果から,RoboCriticsはLLMを用いたより信頼性が高く,ユーザ中心のエンドツーエンドのロボットプログラミングを可能にすることが示唆された。
関連論文リスト
- Bridging Language and Physics: Automated Design of Continuum Robots with Large Language Models [44.55124556245543]
LLMデザイナのための構造化フィードバックにシミュレータオブザーバ物理状態を変換することで閉ループを確立する多層フレームワーク AID-SR を提案する。
我々は,手を伸ばし,つかみ,移動し,操作する14のタスクのベンチマークにおいて,腱駆動型連続ロボットに対するアプローチを評価した。
AID-SRの3つの設計されたロボットを製作し、実世界でそのタスクを完了させた。
論文 参考訳（メタデータ） (2026-09-08T04:02:59Z) - APPROVE: Visual End-User-in-the-Loop Robot Programming with LLMs [0.0]
LLMベースのマルチモーダルエンドユーザープログラミングフレームワークであるAPPROVE(AI-Powered Programming for Robots with Visual End-User Feedback)を提案する。
生成されたプログラムはブロックベースのインターフェイスを使ってBlocklyで視覚化され、ユーザーは実行前にそれを確認、修正、拒否することができる。
提案手法は,ユーザ信頼,意図的アライメント,再利用性を重視したLLM型ロボットプログラミングの人間中心設計に寄与する。
論文 参考訳（メタデータ） (2026-08-19T08:22:13Z) - Safety Guardrails for LLM-Enabled Robots [82.0459036717193]
従来のロボット安全アプローチは、大規模言語モデル(LLM)の新たな脆弱性に対処しない
LLM対応ロボットの安全性を確保するための2段ガードレールアーキテクチャであるRoboGuardを提案する。
RoboGuardは、安全プランのパフォーマンスを損なうことなく、安全でないプランの実行を92%から2.5%以下に削減することを示す。
論文 参考訳（メタデータ） (2025-03-10T22:01:56Z) - Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics [68.36528819227641]
本稿では,ビジョン・ランゲージ・アクション(VLA)モデルのロバスト性を体系的に評価する。
本研究では,ロボット行動の不安定化に空間的基盤を活用する2つの未目標攻撃目標と,ロボット軌道を操作する目標攻撃目標を導入する。
我々は、カメラの視野に小さなカラフルなパッチを配置し、デジタルと物理の両方の環境で効果的に攻撃を実行する逆パッチ生成アプローチを設計する。
論文 参考訳（メタデータ） (2024-11-18T01:52:20Z) - Jailbreaking LLM-Controlled Robots [82.04590367171932]
大規模言語モデル(LLM)は、文脈推論と直感的な人間とロボットの相互作用を可能にすることによって、ロボット工学の分野に革命をもたらした。
LLMは脱獄攻撃に弱いため、悪意のあるプロンプトはLLMの安全ガードレールをバイパスすることで有害なテキストを誘発する。
LLM制御ロボットをジェイルブレイクするアルゴリズムであるRoboPAIRを紹介する。
論文 参考訳（メタデータ） (2024-10-17T15:55:36Z) - RoboScript: Code Generation for Free-Form Manipulation Tasks across Real
and Simulation [77.41969287400977]
本稿では,コード生成を利用したデプロイ可能なロボット操作パイプラインのためのプラットフォームである textbfRobotScript を提案する。
自由形自然言語におけるロボット操作タスクのためのコード生成ベンチマークも提案する。
我々は,Franka と UR5 のロボットアームを含む,複数のロボットエボディメントにまたがるコード生成フレームワークの適応性を実証した。
論文 参考訳（メタデータ） (2024-02-22T15:12:00Z) - On the Vulnerability of LLM/VLM-Controlled Robotics [54.57914943017522]
大規模言語モデル(LLM)と視覚言語モデル(VLM)を統合するロボットシステムの脆弱性を,入力モダリティの感度によって強調する。
LLM/VLM制御型2つのロボットシステムにおいて,単純な入力摂動がタスク実行の成功率を22.2%,14.6%減少させることを示す。
論文 参考訳（メタデータ） (2024-02-15T22:01:45Z) - InCoRo: In-Context Learning for Robotics Control with Feedback Loops [4.702566749969133]
InCoRoは、LLMコントローラ、シーン理解ユニット、ロボットからなる古典的なロボットフィードバックループを使用するシステムである。
システムの一般化能力を強調し,InCoRoが成功率において先行技術を上回ることを示す。
この研究は、動的環境に適応する信頼性があり、効率的でインテリジェントな自律システムを構築するための道を開いた。
論文 参考訳（メタデータ） (2024-02-07T19:01:11Z) - REFLECT: Summarizing Robot Experiences for Failure Explanation and
Correction [28.015693808520496]
REFLECTは、ロボットの過去の経験の階層的な要約に基づいて、失敗推論のための大規模言語モデルをクエリするフレームワークである。
本稿では,REFLECTが修正計画の立案に役立てる情報的失敗の説明を生成できることを示す。
論文 参考訳（メタデータ） (2023-06-27T18:03:15Z) - Language to Rewards for Robotic Skill Synthesis [37.21434094015743]
我々は,大規模言語モデル(LLM)を利用して,様々なロボットタスクを最適化し,達成可能な報酬パラメータを定義する新しいパラダイムを提案する。
LLMが生成する中間インタフェースとして報酬を用いることで、ハイレベルな言語命令と修正のギャップを、低レベルなロボット動作に効果的に埋めることができる。
論文 参考訳（メタデータ） (2023-06-14T17:27:10Z) - Active Predicting Coding: Brain-Inspired Reinforcement Learning for
Sparse Reward Robotic Control Problems [79.07468367923619]
ニューラルジェネレーティブ・コーディング(NGC)の神経認知計算フレームワークによるロボット制御へのバックプロパゲーションフリーアプローチを提案する。
我々は、スパース報酬から動的オンライン学習を容易にする強力な予測符号化/処理回路から完全に構築されたエージェントを設計する。
提案するActPCエージェントは,スパース(外部)報酬信号に対して良好に動作し,複数の強力なバックプロップベースのRLアプローチと競合し,性能が優れていることを示す。
論文 参考訳（メタデータ） (2022-09-19T16:49:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。