端到端语音识别模型

端到端语音识别模型(原文地址）

随着端到端神经网络在机器翻译、语音生成等方面的进展，端到端的语音识别也达到了和传统方法可比的性能。不同于传统方法将语音识别任务分解为多个子任务（词汇模型，声学模型和语言模型），端到端的语音识别模型基于梅尔语谱作为输入，能够直接产生对应的自然语言文本，大大简化了模型的训练过程，从而越来越受到学术界和产业界的关注。

本文将通过六篇论文，从建模方法、响应时间优化、数据增强等不同方面讲解端到端语音模型的发展，并探讨不同端到端语音识别模型的优缺点。

Seq2Seq

参考论文：Listen, Attend and Spell: A Neural Network for Large Vocabulary Conversational Speech Recognition. ICASSP（William Chan, Navdeep Jaitly, Quoc V. Le, Oriol Vinyals）

CTC

参考论文：Connectionist Temporal Classification: Labelling Unsegmented Sequence Data with Recurrent Neural Networks. ICML （AlexGraves,SantiagoFernández,FaustinoGomez）

这里 A 是一条合法的 x 和 y 的对应路径，a_t 代表 t 时刻 X 所对应的输出。

了解更多的推导细节：https://distill.pub//ctc/

Transducer

参考论文：Sequence Transduction with Recurrent Neural Networks. arXiv （Alex Graves）

数据增强

参考论文：SpecAugment: A Simple Data Augmentation Method for Automatic Speech Recognition. INTERSPEECH （Daniel S. Park, William Chan, Yu Zhang, Chung-Cheng Chiu, Barret Zoph, Ekin D. Cubuk, Quoc V. Le）

延迟优化

参考论文：Towards Fast and Accurate Streaming End-to-End ASR. ICCASP （Bo Li, Shuo-yiin Chang, Tara N. Sainath, Ruoming Pang, Yanzhang He, Trevor Strohman, Yonghui Wu）

端到端语音识别对比

参考论文：On the Comparison of Popular End-to-End Models for Large Scale Speech Recognition. InterSpeech （Jinyu Li, Yu Wu, Yashesh Gaur, Chengyi Wang, Rui Zhao, Shujie Liu）