人工智能读唇语 错误率减半

新浪
2018-08-10

分享本文至∇

新浪2018-08-10

唇语.jpg

对于数百万失聪者来说,唇读可以提供一个与外界交流的窗口。但这种做法很难,结果也往往不准确。

现在,研究人员编写了一种新的人工智能(AI)程序,其性能优于专业的唇读者和迄今为止最好的AI,且错误率仅为之前最佳算法的一半。如果被完善并集成到智能设备中,这种方法可以让每个人都能懂唇读。

“这是一项了不起的工作。”未参与该研究的英国伦敦玛丽皇后大学计算机科学家Helen Bear说。

编写可以阅读唇语的计算机代码令人抓狂。

因此,在新研究中,科学家向机器学习“求助”,让计算机从数据中学习。

他们为该系统提供了数千小时的视频和抄写本,并让计算机自己解决这个问题。

该项目始于14万小时的YouTube视频,视频展示了人们在各种情况下进行的交谈。

然后,研究人员设计了一个程序,通过每个音素或单词声音的嘴部动作创建几秒钟的剪辑,并带有标注。

该程序过滤掉了非英语语音、非讲话者面孔、低质量视频和未直接拍摄的视频。然后,他们裁剪了讲话者嘴巴周围的视频。

这样产生了近4000个小时的录像,包括超过12.7万个英文单词。

没有参与该研究的美国哥伦比亚大学计算机科学家Hassan Akbari说,这个过程和由此产生的数据集比同类数据集大7倍,对于任何想要训练类似系统阅读嘴唇的人来说都是“重要且有价值的”。

此外,该过程部分依赖于神经网络。

AI算法包含许多连接在一起的简单计算元素,这些元素以类似人脑的方式学习和处理信息。

当研究人员为该系统提供未标记的视频时,这些网络会裁剪嘴巴动作片段。系统中的下一个程序也使用了神经网络,为每个视频帧提供了可能的音素列表及其概率。最后一组算法将可能的音素序列进行整理,并生成了英语单词序列。

经过训练,研究人员用它之前没有看过的37分钟的视频测试了该系统。

他们在发布于arXiv网站的论文中报告说,单词错误率仅为41%。

这个成绩可能听起来并不怎么样,但之前最好的算法——专注于单个字母而不是音素——的错误率为77%。

在同一项研究中,专业唇读者的错误率为93%(尽管在现实生活中他们能参考语境和肢体语言,这有助于读唇)。

这项工作由总部位于伦敦的人工智能公司DeepMind完成,但该公司拒绝就这一记录发表评论。

Bear表示,该程序对音素的理解可能看起来不同,具体取决于之前和之后所说的内容。(例如,在说“boot”中的“t”时,嘴的形状与说“beet”中的“t”不同。)

系统有单独的阶段预测嘴唇形状代表的音素和通过因素预测单词。这意味着如果想教系统识别新的单词,你需要重新训练最后一个阶段。

但她说,这个AI也有弱点:它需要清晰、直白的视频,41%的错误率远非完美。

Akbarni表示,将程序整合到一部手机中可以让听力障碍人士随身携带“翻译”。

这样的翻译也可以帮助那些不能说话的人,例如声带受损者。对于其他人来说,它可以简单地帮助解析各种聊天。

这种技术也可应用于其他程序,例如分析安全视频、解释历史镜头,或在音频下降时听到Skype伙伴的语音。

新的AI方法甚至可以回答世界上最大的一个谜团:在2002年世界杯决赛中,法国足球运动员齐达内因用头部顶撞对手而被红牌罚下。

他显然是被对手的脏话所激怒,但他说了什么?

我们也许可以揭开谜底了。

Copyright © 西子客浙ICP备:13051348-2