論文の概要: Ethics, Rules of Engagement, and AI: Neural Narrative Mapping Using Large Transformer Language Models

• arxiv url: http://arxiv.org/abs/2202.02647v1
• Date: Sat, 5 Feb 2022 22:08:21 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-08 14:11:07.694620
• Title: Ethics, Rules of Engagement, and AI: Neural Narrative Mapping Using Large Transformer Language Models
• Title（参考訳）: 倫理、エンゲージメントのルール、AI:大規模変換言語モデルを用いたニューラルナラティブマッピング
• Authors: Philip Feldman, Aaron Dant, David Rosenbluth
• Abstract要約: 本稿では,大規模言語モデルのナラティブ・アウトプットを利用して図表や「マップ」を作成するメカニズムを提案する。 結果として得られる"ニューラルナラティブマップ"(NNM)は、モデルにおける情報、意見、信念の組織化に関する洞察を提供することを目的としている。 物語空間に近接しているかどうかを判断できるだけでなく、どのように指向されているか、そしてどのような「軌道」があるのかを判断できることを示す。
• 参考スコア（独自算出の注目度）: 1.1602089225841632
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The problem of determining if a military unit has correctly understood an order and is properly executing on it is one that has bedeviled military planners throughout history. The advent of advanced language models such as OpenAI's GPT-series offers new possibilities for addressing this problem. This paper presents a mechanism to harness the narrative output of large language models and produce diagrams or "maps" of the relationships that are latent in the weights of such models as the GPT-3. The resulting "Neural Narrative Maps" (NNMs), are intended to provide insight into the organization of information, opinion, and belief in the model, which in turn provide means to understand intent and response in the context of physical distance. This paper discusses the problem of mapping information spaces in general, and then presents a concrete implementation of this concept in the context of OpenAI's GPT-3 language model for determining if a subordinate is following a commander's intent in a high-risk situation. The subordinate's locations within the NNM allow a novel capability to evaluate the intent of the subordinate with respect to the commander. We show that is is possible not only to determine if they are nearby in narrative space, but also how they are oriented, and what "trajectory" they are on. Our results show that our method is able to produce high-quality maps, and demonstrate new ways of evaluating intent more generally.
• Abstract（参考訳）: 軍事部隊が秩序を正しく理解し、適切に実行しているかどうかを判断する問題は、歴史上の軍事プランナーを苦しめている問題である。 OpenAIのGPTシリーズのような先進言語モデルの出現は、この問題に対処する新たな可能性をもたらす。 本稿では,大規模言語モデルのナラティブ出力を利用して,GPT-3のようなモデルの重み付けに潜む関係の図表や「マップ」を作成するメカニズムを提案する。 結果として得られる「ニューラル・ナララティブ・マップ」(NNM)は、物理的距離の文脈において意図と反応を理解する手段を提供する、情報、意見、モデルの信念の組織化に関する洞察を提供することを目的としている。 本稿では,一般に情報空間をマッピングする問題について論じるとともに,この概念の具体的実装をOpenAIのGPT-3言語モデルを用いて,高リスク状況における指揮官の意図に従属しているかどうかを判断する。 NNM内の部下の位置は、指揮官に対する部下の意図を評価する新しい能力を与える。 物語空間に近接しているかどうかを判断できるだけでなく、どのように指向されているか、どの「軌道」にいるかを判断できることを示す。 提案手法は高品質な地図を作成できることを示すとともに,より一般的に意図を評価する新しい方法を示す。

関連論文リスト

• Surprise! Uniform Information Density Isn't the Whole Story: Predicting Surprisal Contours in Long-form Discourse [54.08750245737734]
  話者は、階層的に構造化された談話モデル内の位置に基づいて、情報率を変調する。 階層的予測器は談話の情報輪郭の重要な予測器であり,深い階層的予測器は浅い予測器よりも予測力が高いことがわかった。
  論文  参考訳（メタデータ） (2024-10-21T14:42:37Z)
• LLMs as Function Approximators: Terminology, Taxonomy, and Questions for Evaluation [18.2932386988379]
  本稿では,これらのモデルモデルにおける明瞭さの喪失が,「人工的な一般知性」などのメタファーにつながることを論じる。 この提案は、自然言語仕様に基づいて専門関数を近似する能力において、それらの一般化と潜在的な価値を見出すことである。
  論文  参考訳（メタデータ） (2024-07-18T17:49:56Z)
• Can Your Model Tell a Negation from an Implicature? Unravelling Challenges With Intent Encoders [24.42199777529863]
  大きな言語モデル(LLM)は、プロンプトを使って埋め込み空間のセマンティクスを調整できる埋め込みを可能にする。 従来の評価ベンチマークは、セマンティック理解に関連するギャップを特に計測しないタスクメトリクスのみに依存しています。 インテント埋め込みモデルのより包括的なビューを提供するインテントセマンティックツールキットを提案する。
  論文  参考訳（メタデータ） (2024-03-07T08:32:17Z)
• Navigation with Large Language Models: Semantic Guesswork as a Heuristic for Planning [73.0990339667978]
  不慣れな環境でのナビゲーションは、ロボットにとって大きな課題となる。 言語モデルを用いて、新しい現実世界環境のバイアス探索を行う。 実環境におけるLFGの評価とシミュレーションベンチマークを行った。
  論文  参考訳（メタデータ） (2023-10-16T06:21:06Z)
• Saliency Map Verbalization: Comparing Feature Importance Representations from Model-free and Instruction-based Methods [6.018950511093273]
  サージェンシマップは、重要な入力特徴を特定することによって、ニューラルネットワークの予測を説明することができる。 我々は,サリエンシマップを自然言語に翻訳する未調査課題を定式化する。 本研究では,従来の特徴強調表現と比較した2つの新手法(検索ベースおよび命令ベース言語化)を比較した。
  論文  参考訳（メタデータ） (2022-10-13T17:48:15Z)
• Find a Way Forward: a Language-Guided Semantic Map Navigator [53.69229615952205]
  本稿では,新たな視点で言語誘導ナビゲーションの問題に対処する。 ロボットが自然言語の指示を実行し、地図観測に基づいて目標位置へ移動できるようにする。 提案手法は特に長距離ナビゲーションの場合において顕著な性能向上をもたらす。
  論文  参考訳（メタデータ） (2022-03-07T07:40:33Z)
• ViKiNG: Vision-Based Kilometer-Scale Navigation with Geographic Hints [94.60414567852536]
  長距離航法には、計画と局所的な移動可能性の推論の両方が必要である。 学習と計画を統合する学習に基づくアプローチを提案する。 ViKiNGは、画像ベースの学習コントローラを利用できる。
  論文  参考訳（メタデータ） (2022-02-23T02:14:23Z)
• GreaseLM: Graph REASoning Enhanced Language Models for Question Answering [159.9645181522436]
  GreaseLMは、事前訓練されたLMとグラフニューラルネットワークの符号化された表現を、複数の層にわたるモダリティ相互作用操作で融合する新しいモデルである。 GreaseLMは、状況制約と構造化知識の両方の推論を必要とする問題に、より確実に答えることができる。
  論文  参考訳（メタデータ） (2022-01-21T19:00:05Z)
• SOON: Scenario Oriented Object Navigation with Graph-based Exploration [102.74649829684617]
  人間のように3Dエンボディ環境のどこからでも言語ガイドされたターゲットに向かって移動する能力は、インテリジェントロボットの「聖杯」目標の1つです。 ほとんどのビジュアルナビゲーションベンチマークは、ステップバイステップの詳細な命令セットに導かれ、固定された出発点から目標に向かって移動することに焦点を当てている。 このアプローチは、人間だけが物体とその周囲がどのように見えるかを説明する現実世界の問題から逸脱し、ロボットにどこからでも航行を依頼する。
  論文  参考訳（メタデータ） (2021-03-31T15:01:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。