总部地址
杭州市滨江区西兴街道中国数谷3号楼16楼
补缺人手“发力”数据?景联文双目EGO+EMG多模态人手交互数据集上新
灵巧操作是具身智能的“最后一厘米”,视觉与位姿数据已相对充足,但力觉感知、肌肉信号,以及与第一视角完整对齐的高质量公开数据依旧稀缺。景联文科技发布双目EGO+EMG多模态人手交互数据集,补齐精细操作任务的数据短板,为VLA大模型、灵巧手策略学习、手部感知算法提供基础设施级训练素材。
在真实物理世界中,人类双手完成扣纽扣、装配元器件、打包分装等操作,不仅取决于手部姿态,更依赖每根手指细微的发力控制。当前主流第一视角数据集大多只覆盖视觉与手部位姿信号,缺少“看见动作、读懂发力、理解任务语义”一体化标注,导致机器人只能复刻手部运动轨迹,难以学习真实的接触交互逻辑,在按压、插拔、精密装配等任务中泛化能力受限。
针对行业痛点,景联文科技构建双目第一视角视觉+16通道表面肌电EMG+IMU完整多模态采集管线,完整还原人类双手与真实环境交互全流程,同步输出力、姿态、语义三大维度高精度标注,打通从肌肉信号、视觉观测到操作语义的完整数据链路。
五大核心模态,全维度刻画人手交互行为
数据集包含双目RGB视频、手部姿态、头部SLAM轨迹、逐指力觉、三级语言语义五大模态,全部实现高精度时间同步,关键字段完整,可直接用于模型训练。
双目RGB视频:左右双目各1920×1080@30fps(H.264),源自3840×1080拼接源同帧切分,左右零偏移。
手部姿态:双手各21关节3D坐标(米制相机系)+2D像素坐标+腕部旋转矩阵,逐帧交付,附检测有效标志。
头部SLAM轨迹:位置(米)+四元数(xyzw),本地SLAM世界系,逐帧交付。
逐指力觉:双手各5通道,拇指至小指,共10通道,单位mN;由Fusion2Force融合模型推断,附1Hz接触掩码与有效性标志。
三级语言标注:任务/子任务/原子动作三层级,含时间戳与父子关系,逐帧携带当前语义描述。
真实多元场景,覆盖从精细操作到粗粒度作业
全部数据均为真人在真实环境下的第一视角操作,采集过程双腕佩戴肌电手环,覆盖28个领域,合计1170个真实任务,场景谱系丰富完整:
日常生活:碗柜餐具收纳、保鲜膜包盘、扣衬衫扣子、冲调饮品;
商业服务:超市理货与促销贴标、咖啡拉花打奶泡、外卖袋打包、关东煮分装;
办公教育:档案整理、文具画笔收纳;
维修手工艺:手机维修、光纤器件加工;
工业制造:电路板组装、货品打包发货。
从小尺度精细灵巧操作,到粗粒度搬运打包,覆盖具身智能现实落地的长尾场景。
数据集核心优势
稀缺的逐指力觉估计标注,补齐感知短板:市面绝大多数EGO数据集仅具备视觉、位姿信息。本数据集结合EMG肌电信号,输出双手各5通道(拇指至小指,共10通道)的逐指力估计,并附1Hz接触掩码与有效性标志;力觉标注由Fusion2Force融合模型推断,为按压、插拔、装配这类强接触操作提供关键力监督信号,让模型不止学会“手怎么动”,更学会“要用多大劲”。
高标准多模态同步融合管线 官方管线指标:多模态同步偏差<3 ms,关节角MAE 3.37°,指关节距离误差4.2 mm,力量级误差<20%,多源信号时序对齐可靠。
完整双目立体标定资产:配套35套双目立体标定文件,包含内参、畸变系数、外参旋转平移矩阵,基线约60 mm;逐帧内参随帧交付,直接支撑立体视觉、深度重建等下游开发。
帧级无损对齐,数据可审计溯源:双目同源切分无帧偏移;视频与结构化标签帧级严格对齐,抽验11路视频帧数与声明100%一致;每条episode附带源文件SHA256指纹,数据一致性、合规性可完整审计。
工业级标准化交付格式与长尾多样性:交付为LeRobot v3.0格式,采用Parquet+MP4存储格式,开箱即用,降低科研与工程团队预处理成本;28个领域、1170个真实任务,从精细操作到粗粒度搬运打包,动作谱系完整。
多元落地应用方向
双目EGO+EMG多模态人手交互数据集面向科研机构、机器人企业、AI算法团队,适配具身智能多类核心研发方向:
VLA具身大模型训练:任务—子任务—原子动作三级分层语义,适配视觉—语言—动作预训练与指令微调,实现第一视角视频与操作语义对齐;
手部感知算法研发评测:完整2D/3D手部关节标注,可用于手部姿态估计网络、视觉力估计模型训练与基准评测,复现Fusion2Force类力觉融合管线;
灵巧手、双臂机器人模仿学习:真人操作轨迹+力估计信号,为模仿学习提供示范数据,辅助奖励函数设计,支撑sim2real域随机化参数标定;
遥操作与数采方案评估:双目EGO+EMG融合数据可作为遥操作系统、数据采集设备的Benchmark数据源,验证数采链路精度,并可扩展用于解码算法等评估;
构建具身智能评测基准:任务场景分层清晰,可按领域、操作技能粒度灵活划分,搭建细分领域评测数据集。
灵巧操作的突破,离不开高质量、多维度的真实人类交互数据。景联文科技希望通过这套双目EGO+EMG多模态人手交互数据集,降低行业在力感知人手交互方向的数据门槛,推动具身智能从“看得懂动作”迈向“理解发力、理解交互”,加速灵巧机器人在家庭、商业、工业场景的落地。
如需获取数据集详细规格文档与样例数据,欢迎后台留言或联系商务团队咨询对接。