补缺人手“发力”数据?景联文双目EGO+EMG多模态人手交互数据集上新

丨 2026-11-04

灵巧操作是具身智能的“最后一厘米”,视觉与位姿数据已相对充足,但力觉感知、肌肉信号,以及与第一视角完整对齐的高质量公开数据依旧稀缺。景联文科技发布双目EGO+EMG多模态人手交互数据集,补齐精细操作任务的数据短板,为VLA大模型、灵巧手策略学习、手部感知算法提供基础设施级训练素材。

在真实物理世界中,人类双手完成扣纽扣、装配元器件、打包分装等操作,不仅取决于手部姿态,更依赖每根手指细微的发力控制。当前主流第一视角数据集大多只覆盖视觉与手部位姿信号,缺少“看见动作、读懂发力、理解任务语义”一体化标注,导致机器人只能复刻手部运动轨迹,难以学习真实的接触交互逻辑,在按压、插拔、精密装配等任务中泛化能力受限。

针对行业痛点,景联文科技构建双目第一视角视觉+16通道表面肌电EMG+IMU完整多模态采集管线,完整还原人类双手与真实环境交互全流程,同步输出力、姿态、语义三大维度高精度标注,打通从肌肉信号、视觉观测到操作语义的完整数据链路。


五大核心模态,全维度刻画人手交互行为


数据集包含双目RGB视频、手部姿态、头部SLAM轨迹、逐指力觉、三级语言语义五大模态,全部实现高精度时间同步,关键字段完整,可直接用于模型训练。

  1. 双目RGB视频:左右双目各1920×1080@30fps(H.264),源自3840×1080拼接源同帧切分,左右零偏移。

  2. 手部姿态:双手各21关节3D坐标(米制相机系)+2D像素坐标+腕部旋转矩阵,逐帧交付,附检测有效标志。

  3. 头部SLAM轨迹:位置(米)+四元数(xyzw),本地SLAM世界系,逐帧交付。

  4. 逐指力觉:双手各5通道,拇指至小指,共10通道,单位mN;由Fusion2Force融合模型推断,附1Hz接触掩码与有效性标志。

  5. 三级语言标注:任务/子任务/原子动作三层级,含时间戳与父子关系,逐帧携带当前语义描述。



真实多元场景,覆盖从精细操作到粗粒度作业

全部数据均为真人在真实环境下的第一视角操作,采集过程双腕佩戴肌电手环,覆盖28个领域,合计1170个真实任务,场景谱系丰富完整:

  • 日常生活:碗柜餐具收纳、保鲜膜包盘、扣衬衫扣子、冲调饮品;

  • 商业服务:超市理货与促销贴标、咖啡拉花打奶泡、外卖袋打包、关东煮分装;

  • 办公教育:档案整理、文具画笔收纳;

  • 维修手工艺:手机维修、光纤器件加工;

  • 工业制造:电路板组装、货品打包发货。


从小尺度精细灵巧操作,到粗粒度搬运打包,覆盖具身智能现实落地的长尾场景。


数据集核心优势


  1. 稀缺的逐指力觉估计标注,补齐感知短板:市面绝大多数EGO数据集仅具备视觉、位姿信息。本数据集结合EMG肌电信号,输出双手各5通道(拇指至小指,共10通道)的逐指力估计,并附1Hz接触掩码与有效性标志;力觉标注由Fusion2Force融合模型推断,为按压、插拔、装配这类强接触操作提供关键力监督信号,让模型不止学会“手怎么动”,更学会“要用多大劲”。

  2. 高标准多模态同步融合管线 官方管线指标:多模态同步偏差<3 ms,关节角MAE 3.37°,指关节距离误差4.2 mm,力量级误差<20%,多源信号时序对齐可靠。

  3. 完整双目立体标定资产:配套35套双目立体标定文件,包含内参、畸变系数、外参旋转平移矩阵,基线约60 mm;逐帧内参随帧交付,直接支撑立体视觉、深度重建等下游开发。

  4. 帧级无损对齐,数据可审计溯源:双目同源切分无帧偏移;视频与结构化标签帧级严格对齐,抽验11路视频帧数与声明100%一致;每条episode附带源文件SHA256指纹,数据一致性、合规性可完整审计。

  5. 工业级标准化交付格式与长尾多样性:交付为LeRobot v3.0格式,采用Parquet+MP4存储格式,开箱即用,降低科研与工程团队预处理成本;28个领域、1170个真实任务,从精细操作到粗粒度搬运打包,动作谱系完整。


多元落地应用方向


双目EGO+EMG多模态人手交互数据集面向科研机构、机器人企业、AI算法团队,适配具身智能多类核心研发方向:

  1. VLA具身大模型训练:任务—子任务—原子动作三级分层语义,适配视觉—语言—动作预训练与指令微调,实现第一视角视频与操作语义对齐;

  2. 手部感知算法研发评测:完整2D/3D手部关节标注,可用于手部姿态估计网络、视觉力估计模型训练与基准评测,复现Fusion2Force类力觉融合管线;

  3. 灵巧手、双臂机器人模仿学习:真人操作轨迹+力估计信号,为模仿学习提供示范数据,辅助奖励函数设计,支撑sim2real域随机化参数标定;

  4. 遥操作与数采方案评估:双目EGO+EMG融合数据可作为遥操作系统、数据采集设备的Benchmark数据源,验证数采链路精度,并可扩展用于解码算法等评估;

  5. 构建具身智能评测基准:任务场景分层清晰,可按领域、操作技能粒度灵活划分,搭建细分领域评测数据集。


灵巧操作的突破,离不开高质量、多维度的真实人类交互数据。景联文科技希望通过这套双目EGO+EMG多模态人手交互数据集,降低行业在力感知人手交互方向的数据门槛,推动具身智能从“看得懂动作”迈向“理解发力、理解交互”,加速灵巧机器人在家庭、商业、工业场景的落地。

如需获取数据集详细规格文档与样例数据,欢迎后台留言或联系商务团队咨询对接。