看下巴识心情,AI 项链挂胸前也能识别面部表情

瞄一瞄你的下巴,就知道你有没有在难过。

这个温馨的场景对应的不是窝在怀里的小猫咪,而是……

Neck Face,一款用于监控情绪的智能工具。

它被设计成项链及颈带样式,AI 只需要看到使用者的下巴,就可以获取面部表情数据。

这款设备的面部识别原理,不仅打破了必须在正面放置摄像头的局限,而且还能做到在运动过程中持续捕捉表情信息。

智能项链 Neck Face

项链式仪器包含一组 Neck Face,由红外摄像头 OV5647、近红外 LED 和红外带通滤波器组成,佩戴时位于下巴正下方;颈带式仪器包含两组,佩戴时分别位于两侧锁骨位置。

摄像头位置这么靠下,能看到我们的表情吗?

如此低的机位,自然看不到完整的面部表情,只能获得包含下巴部分下半张脸的轮廓图像。

AI 通过对这部分图像的信息提取,以算法推测出完整面部表情。

当我们做面部表情时,面部肌肉会拉伸和收缩,推拉皮肤影响附近面部肌肉的张力,这种效果会导致脸颊轮廓发生变化。

Neck Face 从颈部和下巴下方角度,用红外相机记录面部肌肉运动,以及所引起的面部轮廓变化。

获得脸部轮廓红外图像后,通过卷积神经网络帮助将二维图像轮廓重构为完整信息,并利用计算机视觉和深度学习模型,找到颈部和下巴红外图像与完整面部的联系。

结合 ARKit,从深度相机中提取了 52 个混合形状参数 (blend-shape),以及头部偏转角度数据,重构出完整的表情。

经过这样的处理过程,能够从下巴角度图像获得完整面部表情。并且可以在佩戴过程中,连续记录表情变化。

为验证这款设备监测结果准不准确,研究人员使用了苹果手机深度相机作对比分析。

测试者被要求在静坐和行走过程做出八种不同的表情,并且包含了上下左右四个方向转动头部的过程。

对比各种情况下手机和可穿戴仪器表情识别的差异,计算所得出的混合形状参数(分值 0-1000)平均绝对误差。

通过对测试结果总结分析,可穿戴表情监测仪器误差在 20-35 之间。且可识别头部转动角度,角度误差在 2-4.5 度。

▲ 左侧为手机摄像头识别处理的结果,右侧为 NeckFace 面部重建的结果。

两种设计相比,颈带式设备性能优于项链式,原因可能在于两侧摄像头能够捕获更多信息。

应用优势

现代人对自身健康越来越重视,不仅是身体机能的健康,心理健康也逐渐得到了更多关注。

以科学的方法对情绪进行监控,可以更好地掌握自身状况,及时做出调整或治疗,避免影响到身体机能。

记录情绪及心理状态建立起数据库,还可以方便个体追踪自身行为,有利于就医等社会活动。

提到大数据,一定会有人担心隐私泄漏的问题,由于 Neck Face 都是从头部下方对面部表情进行检测,而仅仅通过下半张脸无法识别到用户全部面部信息。

另外,Neck Face 是红外成像,对环境不作识别,可以很好地隐藏环境信息。

对 Neck Face 的测试过程中也提到了,设备可以在行走中保持工作,这就大大解放了远程办公或视频会议时对使用者的局限,可以更自由地参与线上讨论。

研究团队

本研究主要由北京大学学生陈拓潮,麦吉尔大学学生 Yaxuan Li 完成,参与单位还有康奈尔大学 SciFi 实验室,康奈尔信息科学学院研究人员等。

康奈尔大学计算机与信息科学学院 Cheng Zhang 教授研发出可穿戴传感器 C-Face。在此基础上,陈拓潮等人做出改进,开发出这款更方便穿戴,性能更好的 Neck Face。

▲ 左侧为使用者佩戴 C-Face,右侧为 3D 模型反馈的面部表情。

参考文献:https://dl.acm.org/doi/10.1145/3463511

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

文章价值:
人打分
有价值还可以无价值
置顶评论
    热门评论
      文章发布时间太久,仅显示热门评论
      全部评论
      一大波评论正在路上
        取消发送
        软媒旗下人气应用

        如点击保存海报无效,请长按图片进行保存分享