并能产生兴趣投身于这个行业。语音识别的技术历程现代语音识别可以追溯到1952年,Davis等人研制了能识别10个英文数字发音的实验系统,从此正式开启了语音识别的进程。语音识别发展已经有70多年,但从技术方向上可以大体分为三个阶段。从1993年到2017年在Switchboard上语音识别率的进展情况,从图中也可以看出1993年到2009年,语音识别一直处于GMM-HMM时代,语音识别率提升缓慢,尤其是2000年到2009年语音识别率基本处于停滞状态;2009年随着深度学习技术,特别是DNN的兴起,语音识别框架变为DNN-HMM,语音识别进入了DNN时代,语音识别准率得到了提升;2015年以后,由于“端到端”技术兴起,语音识别进入了百花齐放时代,语音界都在训练更深、更复杂的网络,同时利用端到端技术进一步大幅提升了语音识别的性能,直到2017年微软在Swichboard上达到词错误率,从而让语音识别的准确性超越了人类,当然这是在一定限定条件下的实验结果,还不具有普遍性。GMM-HMM时代70年代,语音识别主要集中在小词汇量、孤立词识别方面,使用的方法也主要是简单的模板匹配方法,即首先提取语音信号的特征构建参数模板,然后将测试语音与参考模板参数进行一一比较和匹配。声学模型是语音识别系统中为重要的部分之一。上海语音识别平台
语音文件“/timit/test/dr5/fnlp0/”的波形图、语谱图和标注SwitchBoard——对话式电话语音库,采样率为8kHz,包含来自美国各个地区543人的2400条通话录音。研究人员用这个数据库做语音识别测试已有20多年的历史。LibriSpeech——英文语音识别数据库,总共1000小时,采样率为16kHz。包含朗读式语音和对应的文本。Thchs-30——清华大学提供的一个中文示例,并配套完整的发音词典,其数据集有30小时,采样率为16kHz。AISHELL-1——希尔贝壳开源的178小时中文普通话数据,采样率为16kHz。包含400位来自中国不同口音地区的发音人的语音,语料内容涵盖财经、科技、体育、娱乐、时事新闻等。语音识别数据库还有很多,包括16kHz和8kHz的数据。海天瑞声、数据堂等数据库公司提供大量的商用数据库,可用于工业产品的开发。08语音识别评价指标假设"我们明天去动物园"的语音识别结果如下:识别结果包含了删除、插入和替换错误。度量语音识别性能的指标有许多个,通常使用测试集上的词错误率(WordErrorRate,WER)来判断整个系统的性能,其公式定义如下:其中,NRef表示测试集所有的词数量,NDel表示识别结果相对于实际标注发生删除错误的词数量,NSub发生替换错误的词数量。上海语音识别平台语音识别技术还可以应用于自动口语翻译。
取距离近的样本所对应的词标注为该语音信号的发音。该方法对解决孤立词识别是有效的,但对于大词汇量、非特定人连续语音识别就无能为力。因此,进入80年代后,研究思路发生了重大变化,从传统的基于模板匹配的技术思路开始转向基于统计模型(HMM)的技术思路。HMM的理论基础在1970年前后就已经由Baum等人建立起来,随后由CMU的Baker和IBM的Jelinek等人将其应用到语音识别当中。HMM模型假定一个音素含有3到5个状态,同一状态的发音相对稳定,不同状态间是可以按照一定概率进行跳转;某一状态的特征分布可以用概率模型来描述,使用的模型是GMM。因此GMM-HMM框架中,HMM描述的是语音的短时平稳的动态性,GMM用来描述HMM每一状态内部的发音特征。基于GMM-HMM框架,研究者提出各种改进方法,如结合上下文信息的动态贝叶斯方法、区分性训练方法、自适应训练方法、HMM/NN混合模型方法等。这些方法都对语音识别研究产生了深远影响,并为下一代语音识别技术的产生做好了准备。自上世纪90年代语音识别声学模型的区分性训练准则和模型自适应方法被提出以后,在很长一段内语音识别的发展比较缓慢,语音识别错误率那条线一直没有明显下降。DNN-HMM时代2006年,Hinton提出深度置信网络。
但是已经能够在各个真实场景中普遍应用并且得到规模验证。更进一步的是,技术和产业之间形成了比较好的正向迭代效应,落地场景越多,得到的真实数据越多,挖掘的用户需求也更准确,这帮助了语音识别技术快速进步,也基本满足了产业需求,解决了很多实际问题,这也是语音识别相对其他AI技术为明显的优势。不过,我们也要看到,语音识别的内涵必须不断扩展,狭义语音识别必须走向广义语音识别,致力于让机器听懂人类语言,这才能将语音识别研究带到更高维度。我们相信,多技术、多学科、多传感的融合化将是未来人工智能发展的主流趋势。在这种趋势下,我们还有很多未来的问题需要探讨,比如键盘、鼠标、触摸屏和语音交互的关系怎么变化?搜索、电商、社交是否再次重构?硬件是否逆袭变得比软件更加重要?产业链中的传感、芯片、操作系统、产品和内容厂商之间的关系又该如何变化?。也被称为自动语音识别技术(ASR),计算机语音识别或语音到文本(STT)技术。
已有20年历史了,在Github和SourceForge上都已经开源了,而且两个平台上都有较高的活跃度。(2)Kaldi从2009年的研讨会起就有它的学术根基了,现在已经在GitHub上开源,开发活跃度较高。(3)HTK始于剑桥大学,已经商用较长时间,但是现在版权已经不再开源软件了。它的新版本更新于2015年12月。(4)Julius起源于1997年,一个主版本发布于2016年9月,主要支持的是日语。(5)ISIP是新型的开源语音识别系统,源于密西西比州立大学。它主要发展于1996到1999年间,版本发布于2011年,遗憾的是,这个项目已经不复存在。语音识别技术研究难点目前,语音识别研究工作进展缓慢,困难具体表现在:(1)输入无法标准统一比如,各地方言的差异,每个人独有的发音习惯等,口腔中元音随着舌头部位的不同可以发出多种音调,如果组合变化多端的辅音,可以产生大量的、相似的发音,这对语音识别提出了挑战。除去口音参差不齐,输入设备不统一也导致了语音输入的不标准。(2)噪声的困扰噪声环境的各类声源处理是目前公认的技术难题,机器无法从各层次的背景噪音中分辨出人声,而且,背景噪声千差万别,训练的情况也不能完全匹配真实环境。因而。语音识别另外两个技术部分:语言模型和解码器,目前来看并没有太大的技术变化。上海语音识别平台
语音识别应用包括语音用户界面,例如语音拨号、呼叫路由、多用户设备控制、搜索、简单的数据输入等。上海语音识别平台
CNN本质上也可以看作是从语音信号中不断抽取特征的一个过程。CNN相比于传统的DNN模型,在相同性能情况下,前者的参数量更少。综上所述,对于建模能力来说,DNN适合特征映射到空间,LSTM具有长短时记忆能力,CNN擅长减少语音信号的多样性,因此一个好的语音识别系统是这些网络的组合。端到端时代语音识别的端到端方法主要是代价函数发生了变化,但神经网络的模型结构并没有太大变化。总体来说,端到端技术解决了输入序列的长度远大于输出序列长度的问题。端到端技术主要分成两类:一类是CTC方法,另一类是Sequence-to-Sequence方法。传统语音识别DNN-HMM架构里的声学模型,每一帧输入都对应一个标签类别,标签需要反复的迭代来确保对齐更准确。采用CTC作为损失函数的声学模型序列,不需要预先对数据对齐,只需要一个输入序列和一个输出序列就可以进行训练。CTC关心的是预测输出的序列是否和真实的序列相近,而不关心预测输出序列中每个结果在时间点上是否和输入的序列正好对齐。CTC建模单元是音素或者字,因此它引入了Blank。对于一段语音,CTC**后输出的是尖峰的序列,尖峰的位置对应建模单元的Label,其他位置都是Blank。上海语音识别平台