論文の概要: TeachObs: A Human-Validated Benchmark for Multimodal Teaching Observation and Model Evaluation
- arxiv url: http://arxiv.org/abs/2605.30673v1
- Date: Fri, 29 May 2026 00:06:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.299339
- Title: TeachObs: A Human-Validated Benchmark for Multimodal Teaching Observation and Model Evaluation
- Title(参考訳): TeachObs:マルチモーダル授業観察とモデル評価のための人間検証ベンチマーク
- Abstract要約: textitTeachObsは,授業ビデオにおけるマルチモーダル授業観察のための人間検証ベンチマークである。
textitTeachObsには、8カ国の30の公開レッスンビデオがあり、5,158の固定15秒のシーンに分けられる。
- 参考スコア(独自算出の注目度): 0.12079404108544865
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Classroom videos contain observable teaching practices, but their pedagogical and visual signals are rarely organized in forms suitable for model evaluation. We present \textit{TeachObs}, a human-validated benchmark for multimodal teaching observation in classroom videos. \textit{TeachObs} includes 30 public lesson videos from eight countries divided into 5,158 fixed 15-second scenes. Seven researchers annotated each scene with 39 binary observation codes, covering 20 visual codes, such as gesture, board work, pointing, and visual materials, and 19 nonvisual codes, such as instruction, monitoring, questioning, feedback, and reflection. Gold segment labels are constructed using reliability- and prevalence-aware rules based on Krippendorff's alpha. In addition to segment-level labels, three expert raters produced lesson-level ratings and qualitative evaluations of instructional design, instructional delivery, learner response, learning materials, and lesson closure across the 30 lessons, with rater coverage detailed in the body. Using these two human reference layers, we evaluate five vision-capable frontier LLMs across three tracks - text-only segment coding, text + frame segment coding, and lesson-level coverage scored under an LLM-as-judge protocol - and find that no single model consistently outperforms others across all three tracks, that adding a mid-frame inflates both true and false attributions per scene, and that model evaluations over-rate procedurally clear lessons relative to expert raters. \textit{TeachObs} therefore supports both fine-grained annotation benchmarking and whole-lesson evaluation, showing where AI systems can assist classroom video analysis and where expert judgment remains necessary across varied subjects, classroom formats, and annotation difficulty levels.
- Abstract(参考訳): 授業ビデオには観察可能な教育実践が含まれているが、教育的および視覚的信号は、モデル評価に適した形式に整理されることは滅多にない。
授業ビデオにおけるマルチモーダル授業観察のための人間検証ベンチマークである「textit{TeachObs}」を提示する。
\textit{TeachObs}には、8カ国から5,158の固定15秒のシーンに分割された30の公開レッスンビデオが含まれている。
7人の研究者がそれぞれのシーンに39のバイナリ観察コードで注釈を付け、ジェスチャー、ボードワーク、ポインティング、ビジュアル素材など20の視覚的コードと、指示、監視、質問、フィードバック、反射といった19の視覚的コードを含んでいる。
ゴールドセグメントラベルは、クリッペンドルフのアルファに基づく信頼性と有病率のルールを用いて構築されている。
セグメンテーションレベルのラベルに加え、3人の専門家ラッカーは、授業レベルの評価と、教示設計、指導提供、学習者反応、学習材料、授業閉鎖の質的評価を30のレッスンで作成し、その内容は体に詳述した。
これら2つの人間の参照層を用いて,テキストのみのセグメントコーディング,テキスト+フレームセグメントコーディング,LLM-as-judgeプロトコルに基づくレッスンレベルのカバレッジという,3つのトラックにわたる5つのビジョン対応フロンティアLMを評価する。
したがって、 \textit{TeachObs} は、微粒なベンチマークと全無限評価の両方をサポートし、AIシステムが教室のビデオ分析をどこで支援できるか、そして、様々な被験者、教室のフォーマット、アノテーションの難易度で専門家の判断がどこに残っているかを示す。
関連論文リスト
- Video-IFBench: Evaluating Instruction Following of Multimodal LLMs in Video Understanding Scenarios [61.926801508808616]
本稿では,ビデオ理解における指示に従うためのベンチマークであるVideo-IFBenchを紹介する。
単一タスク,マルチタスク,選択,ネスト命令を含む4つのテンプレートを持つ命令分類法を開発した。
我々は,MLLM,プログラム処理,人体検証を組み合わせた半自動データ構築パイプラインを構築し,1.5Kのサンプルを得た。
論文 参考訳(メタデータ) (2026-08-26T08:35:42Z) - EduIllustrate: Towards Scalable Automated Generation Of Multimodal Educational Content [19.131221541276332]
大規模な言語モデルを評価するためのベンチマークであるEduIllustrateを提案する。
このベンチマークは、5つの被験者と3つのグレードレベルにまたがる230の課題からなる。
Gemini 3.0 Pro Previewは87.8%、Kim-K2.5は最高のコスト効率を実現している。
論文 参考訳(メタデータ) (2026-04-06T08:58:31Z) - TeachPro: Multi-Label Qualitative Teaching Evaluation via Cross-View Graph Synergy and Semantic Anchored Evidence Encoding [12.647867305450289]
5つの重要な教科を体系的に評価する多言語学習フレームワークであるTeachProを提案する。
まず,3つのコアコンポーネントを統合するDmension-Anchored Evidenceを提案する。
次に,学生のコメントを表現できるクロスビューグラフ合成ネットワークを提案する。
論文 参考訳(メタデータ) (2026-01-14T07:27:57Z) - Exploring Automated Recognition of Instructional Activity and Discourse from Multimodal Classroom Data [8.014320244550243]
本研究は,マルチモーダル・インストラクショナル・アクティビティと談話認識に着目した,授業記録のAIによる分析について考察する。
164時間のビデオと68のレッスン書き起こしの高密度な注釈付きデータセットを使用して、並列なモダリティ固有のパイプラインを設計する。
微調整されたモデルはプロンプトベースのアプローチを一貫して上回り、マクロF1スコアはビデオで0.577、書き起こしで0.460である。
論文 参考訳(メタデータ) (2025-11-26T11:57:22Z) - Code2Video: A Code-centric Paradigm for Educational Video Generation [60.03043132859077]
我々は,Pythonコードによる教育ビデオを生成するための,コード中心のエージェントフレームワークであるCode2Videoを提案する。
i)講義内容を時間的コヒーレントなフローに構造化するPlanner,(ii)構造化命令を実行可能なPythonコードに変換するCoder,そして(iii)視覚言語モデル(VLM)を視覚的アンカープロンプトで活用し,空間的レイアウトを洗練し,明確性を確保するCryticという3つの協調エージェントから構成される。
我々の結果は、Code2Videoが拡張性があり、解釈可能で、制御可能なアプローチである可能性を示し、直接コードよりも40%改善されている。
論文 参考訳(メタデータ) (2025-10-01T17:56:48Z) - VideoScore2: Think before You Score in Generative Video Evaluation [69.43069741467603]
VideoScore2は、視覚的品質、テキスト・ツー・ビデオのアライメント、物理的/常識的一貫性を明確に評価する多次元、解釈可能、そして人間によるアライメントフレームワークである。
我々のモデルは、27,168人の注釈付きビデオを含む大規模なデータセットVideoFeedback2で訓練されている。
論文 参考訳(メタデータ) (2025-09-26T18:09:03Z) - HumanVideo-MME: Benchmarking MLLMs for Human-Centric Video Understanding [120.84817886550765]
MLLM(Multimodal Large Language Models)は、画像とビデオの両方を含む視覚的理解タスクにおいて、大きな進歩を見せている。
既存の人間中心のベンチマークは、主にビデオ生成の品質と行動認識を強調し、人間中心のシナリオに必要な知覚と認知の能力を見落としている。
我々は,人間中心のビデオ理解におけるMLLMのより総合的な評価を提供するために,厳格にキュレートされたベンチマークを提案する。
論文 参考訳(メタデータ) (2025-07-07T11:52:24Z) - Multimodal Assessment of Classroom Discourse Quality: A Text-Centered Attention-Based Multi-Task Learning Approach [7.273857543125784]
本研究は,GTI(Global Teaching InSights)観測プロトコルにおける3つの談話コンポーネントの品質を評価するために,テキスト中心のマルチモーダル融合アーキテクチャを提案する。
我々は、テキスト、オーディオ、ビデオストリームからのモーダル間相互作用とモーダル間相互作用をキャプチャするために注意機構を用いる。
本研究は,本課題へのアプローチにおけるテキストモダリティの優位性を強調した。
論文 参考訳(メタデータ) (2025-05-12T09:24:21Z) - Automated Assessment of Encouragement and Warmth in Classrooms Leveraging Multimodal Emotional Features and ChatGPT [7.273857543125784]
本研究は,教室における暖かさと励ましを自動的に推定するマルチモーダルアプローチである。
映像,音声,転写データから解釈可能な特徴を抽出するために,感情分析を用いた顔と音声の感情認識を用いた。
92の授業記録から367の16分間のビデオセグメントを含むGTIデータセットに対するアプローチを実証した。
論文 参考訳(メタデータ) (2024-04-01T16:58:09Z) - Multi-Label Meta Weighting for Long-Tailed Dynamic Scene Graph
Generation [55.429541407920304]
対象と対象のペア間の述語認識は、本質的に不均衡であり、複数ラベルである。
最近の最先端の手法は、主に最も頻繁に発生する述語クラスに焦点を当てている。
偏りのある述語分布を扱うために,多言語メタラーニングフレームワークを導入する。
論文 参考訳(メタデータ) (2023-06-16T18:14:23Z) - Perception Test: A Diagnostic Benchmark for Multimodal Video Models [78.64546291816117]
本稿では,事前学習したマルチモーダルモデルの知覚と推論能力を評価するために,新しいマルチモーダルビデオベンチマークを提案する。
知覚テストは、スキル(記憶、抽象化、物理学、セマンティックス)と、ビデオ、オーディオ、テキストモダリティ間の推論(記述的、説明的、予測的、反ファクト的)のタイプに焦点を当てている。
このベンチマークは、ゼロショット/少数ショットまたは限定的な微調整方式で、転送機能の事前訓練されたモデルを探索する。
論文 参考訳(メタデータ) (2023-05-23T07:54:37Z) - Multiview Pseudo-Labeling for Semi-supervised Learning from Video [102.36355560553402]
本稿では,映像における半教師付き学習において,外観と動作情報という形で相補的視点を用いた新しい枠組みを提案する。
提案手法は複数のビューを対象とするが,それでも外観と動作の入力間で共有されるモデルを訓練する。
複数のビデオ認識データセットにおいて,本手法は教師あり映像表現学習における従来の標準ベンチマークと比較し,教師あり映像表現学習における従来の手法と比較した。
論文 参考訳(メタデータ) (2021-04-01T17:59:48Z) - Watch and Learn: Mapping Language and Noisy Real-world Videos with
Self-supervision [54.73758942064708]
我々は、明示的なアノテーションを使わずに、文章と騒々しいビデオスニペットのマッピングを学習することで、視覚と自然言語を理解するように機械に教える。
トレーニングと評価のために、多数のオンラインビデオとサブタイトルを含む新しいデータセットApartmenTourをコントリビュートする。
論文 参考訳(メタデータ) (2020-11-19T03:43:56Z) - Watch, read and lookup: learning to spot signs from multiple supervisors [99.50956498009094]
孤立した手話のビデオが与えられた場合、我々のタスクは、連続的かつ協調的な手話ビデオで署名されたか、どこで署名されたかを特定することである。
我々は,(1)既存の粗末なラベル付き映像を見ること,(2)追加の弱スーパービジョンを提供する関連字幕を読むこと,(3)視覚手話辞書で単語を検索すること,の3つを用いて,利用可能な複数のタイプの監督手法を用いてモデルを訓練する。
これらの3つのタスクは、ノイズコントラスト推定と多重インスタンス学習の原則を用いて統合学習フレームワークに統合される。
論文 参考訳(メタデータ) (2020-10-08T14:12:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。