控制机器的微笑
言语系学生的澳门威尼斯人注册网站研究帮助人们通过面部动作来使用技术

Carolyn Michener (SAR ' 16)(上图)正在与感觉运动康复工程实验室主任Cara Stepp合作,帮助人们使用面部运动和声音来控制人机界面。Michael D. Spencer摄影
想象一下,仅仅通过微笑就可以开灯、调节恒温器或操作DVD播放机。对于那些有视觉或语言障碍,或运动技能有限的人来说,这可能是沟通方面的重大进步。卡罗琳·米切纳(SAR ' 16)正在努力使其成为现实。
作为一名言语、语言和听力科学专业的本科生,米切纳说,她一生的口吃和对工程学的兴趣激发了她开发帮助他人交流的技术的热情。她在波士顿大学萨金特健康与康复科学学院的感觉运动康复工程STEPP实验室工作,正在合作开展一个项目,帮助人们使用面部运动和声音来操作人机界面(hmi),即人们通过键盘和触摸屏操作机器、系统和设备的控制。
米切纳说:“人机界面需要某种反馈来正确地告诉用户它在做什么。”2012年,米切纳加入了STEPP实验室主任卡拉·STEPP和萨金特澳门威尼斯人注册网站研究工程师西尔万·法沃特的团队,参与了这个项目。这种反馈通常是可视化的,例如,控制面板闪烁彩色灯或显示确认操作已完成的消息。米切纳说:“但对于视力受损或发现视觉刺激分散注意力的人来说,这可能很困难。”STEPP实验室项目使人们能够通过声音与机器交流,而不需要看到或触摸。很多机器已经做到了这一点——比如iPhone的Siri,它允许用户发送信息或搜索信息——但这些系统通常需要语音命令,这不适用于有语言障碍的人。有了新的STEPP实验室技术,用户可以通过面部动作来制造声音来与机器交流。
为了测试这项技术,米切纳对澳门威尼斯人注册网站研究参与者进行了她所说的听觉匹配游戏的培训,使用的是Favrot为该项目修改的现有STEPP实验室软件。坐在实验室的隔音隔间里,米切纳演示了这个游戏是如何运作的。
她开启了玩家和电脑之间的交流,通过放置在嘴唇两侧的两个电极将它们连接起来。这种连接使计算机能够翻译来自皮肤的面部肌肉电信号,这一过程被称为表面肌电图。玩家经历了一个快速的校准过程,戴上一副耳机,接受米切纳的指示,就可以开始了。
耳机里会响起两秒钟的声音。这是玩家将尝试去匹配的声音。然后,第二种声音响起。这是演奏者的起始点,双耳的低音表示演奏者的肌肉处于休息状态。玩家现在有15秒的时间来匹配第一个声音的音高和位置(左耳,右耳,或两个),通过收缩他或她的面部肌肉以正确的组合。向左或向右收缩——实际上就是傻笑——会在相应的耳朵里产生中等音高。两侧收缩——微笑——提高音调,激活双耳的声音。当玩家击中目标1秒或15秒结束时,测试结束。然后,玩家会收到一个分数,代表他或她与目标的匹配程度。
“人机界面需要某种反馈来正确地告诉用户它在做什么。但这对视力受损的人来说可能很难。——卡罗琳·米切纳
虽然搜索目标声音对用户来说是一项听觉任务,但游戏的软件在图像上记录了目标位置和用户的表现,Michener可以在电脑上查看。2013年,她在16名成年人身上测试了这款游戏,每个人都完成了三次持续45分钟的测试。
三天后,使用听觉反馈的用户能够以每分钟40比特的平均速度进行交流。Stepp说,虽然这个速度比在键盘上打字慢50倍,比使用最快的电脑鼠标慢15倍,但在类似的澳门威尼斯人注册网站研究中,使用听觉反馈的参与者能够像使用视觉反馈的参与者一样有效地与机器交流。“我们可以得出结论,听觉反馈是一种可行的方式,可以让人们与这种系统进行交流,”米切纳说。
Michener与Stepp和Favrot共同撰写了一篇澳门威尼斯人注册该项目的论文,并于2014年5月在美国声学学会的两年一次的会议上发表。她继续对游戏进行测试,这一次是为了找出有音乐背景的玩家是否比其他人表现得更好。Stepp表示,该团队还将与内布拉斯加州的麦当娜康复医院和马萨诸塞州的珀金斯盲人学校合作,观察盲人和脊髓损伤患者在游戏中的表现和反应。
米切纳说:“最终,我希望看到这项技术应用于一种可以在病人家中使用的设备。”例如,接受过将特定音符与特定任务联系起来的训练的患者,可以通过面部动作来匹配这些音符,调节恒温器、操作电动床、打开电视,或者向护理人员传达需求。最终,与各种机器和设备轻松交互的能力可以帮助康复患者和残疾人更有效地沟通,更独立地生活。