每个科幻迷都向往着在未来能像和老朋友对话一样，用寥寥数语发动星际飞船，征服星辰大海；或者拥有钢铁侠的人工智能管家贾维斯，几句对话就能造出一套纳米战甲。其实这个画面离我们并不远——就像 iPhone 中的 Siri 一样同我们触手可及。它的背后是自动语言识别技术（Automatic Speech Recognition)。这项关键技术能将语音转换为计算机可识别的文字或命令，实现便捷、有效、智能的人机交互体验。
而随着深度学习等 AI 技术的发展，语音识别技术已经取得了巨大的进步——不仅识别准确度大大提高，而且能够更好地处理口音、噪声和背景音等问题。但随着技术在生活和业务中的不断应用，仍会遇到一些瓶颈，毕竟从理论研究到实际应用，从论文到产品，需要考虑太多的现实因素。如何让语音识别更好地辅助内容审核？如何让识别动作本身也能像人脑一样，根据对语境的理解，以更低的成本给出更准确的答案？网易智企旗下易盾 AI Lab 给出了新方法。
易盾又出黑科技，智企迈向全世界！
近日，全球语音、声学顶 级会议 ICASSP 2023 公布了论文入选名单，网易智企旗下易盾 AI Lab 提交的论文成功被录用。今年是第 48 届 ICASSP 大会，也是疫情后的第 一届线下大会，虽然大会官方还未公布最后录用了多少篇论文，但论文投递的数量相较往年上升了 50%，达到了惊人的 6，000+。
面对如此激烈的竞争，网易智企易盾 AI Lab 团队凭借一篇语音识别方向的论文《Improving CTC-based ASR Models with Gated Interplayer Collaboration（基于 CTC 的模型改进，实现更强的模型结构）》脱颖而出，成功拿到了前往希腊罗德岛线下参会的门票。
“GIC”，助力语音识别更进一步
语音识别本质上是语音序列到文字序列的转化，而要完成这样的转化，一般会用到三类模型，CTC、Attention-based 和 RNN-Transducer，它们在完成任务的时候采用了不同的路径：
CTC：基于神经网络模型，在训练过程中通过反向传播来更新模型参数以最小化损失函数。该算法引入了“空白符”来表示无意义字符或者间隔符号。CTC 适合处理输入输出长度相差较大的数据，如语音识别中将声学特征映射为文本；
Attention-based：注意力机制，也是基于神经网络模型，并且使用一种称为“注意力”的技术来对输入进行加权汇聚。在每个时间步骤上，该模型会根据当前状态和所有输入计算出一个分布式权重向量，并将其应用于所有输入以产生一个加权平均值作为输出。这种方式可以使得模型更好地关注与当前预测相关的部分信息；
RNN-Transducer：转录器，这个算法结合了编码器-解码器框架和自回归建模思想，在生成目标序列时同时考虑源语言句子和已生成部分目标语言句子之间的交互作用。与其他两种方法不同，RNN-Transducer 没有明确区分编码器和解码器阶段，并且直接从源语言到目标语言进行转换，因此可以同时考虑源语言句子和已生成部分目标语言句子之间的交互作用。
相比后两者，虽然 CTC 具有天然的非自回归解码性质，解码速度相对快很多，但依然有着性能劣势：
1. CTC 算法设置了条件独立性假设，即 CTC 假设每个时间步的输出之间是独立的。这对语音识别任务来说并不合理，假如说“ji rou”这个发音，在不同的上下文中预测的文字内容应该不一样的。如果上文是“我喜欢吃”，接下来“鸡”的概率应该更高，同理如果上文是“他手臂有”，接下来“肌”的概率应该更高。如果通过 CTC 训练，很容易就会在忽略上文的前提下，输出“我喜欢吃肌肉”这样好笑的文本；
2.从建模的视角来看，Attention-based 模型和 RNN-Transducer 模型根据输入和之前时间步的输出预测当前时间步的输出，而 CTC 模型仅仅利用输入来预测当下的输出，在 CTC 模型的建模过程中，文本信息仅仅是作为一种监督信号回传给网络，并没有作为网络的输入显式促进模型的预测。
我们希望能在保留 CTC 解码效率的同时，尽可能地解决以上两点劣势。于是，我们想从 CTC 模型本身出发，设计轻量级的模块给基于 CTC 的模型引入文本信息，使得模型能够整合声学和文本信息，学习到文本序列上下文之间的相互作用，从而缓解 CTC 算法的条件独立性假设。但过程中，我们碰到了两个问题：如何在CTC模型（Encoder +CTC 结构）里注入文本信息？如何自适应地融合文本特征和声学特征？
为了实现上述目标，我们设计了 Gated Interlayer Collaboration（简写为GIC）机制。GIC 模块主要包含一个嵌入层（embedding layer）和一个门控单元（gate unit）。其中，嵌入层用于生成每一音频输入帧的文本信息，门控单元用于自适应地融合文本信息和声学信息。
具体地，我们的方法基于多任务学习（Multi-task Learning）框架，利用编码器模块（Encoder）中间层的输出计算辅助 CTC loss，整个网络的目标函数是最后一层的 CTC loss 和中间层辅助 CTC loss 的加权和。GIC 将网络中间层的预测，即 Softmax 输出的概率分布作为每一帧的软标签，点乘嵌入层矩阵之和作为每一帧的文本表征。最后，生成的文本表征和声学表征通过一个门控单元自适应地融合，成为一个新特征输入到下一层。此时的新特征融合了文本特征和声学特征，使得下一层的 Encoder 模块可以学习到声学序列上下文信息和文本序列上下文信息。整个模型的框架如下图所示：
在 Conformer 和 Transformer 这两个模型上的实验表明：
1. GIC 同时支持汉语和英语的场景识别，同时准确度均取得了显著的性能提升；
2. GIC 模型性能超过了同参数规模的 Attention-based 和 RNN-transducer 模型，并且具有非自回归解码的优势，带来数倍的解码速度提升；
3. 相对原始的 CTC 模型，GIC 在多个开源数据集有远超 10% 的相对性能提升。
Conformer 模型下的结论
Transformer 模型下的结论
GIC 为 CTC 模型的性能带来了很大的提升。相对原始的 CTC 模型，GIC 模块大约带来 2M 的额外参数，其中，计算中间层辅助 CTC loss 所用的线性层与最后一层是共享的，不会带来额外的参数。多个中间层共享嵌入层，带来 256*5000 约等于 1.3M 的参数。除此之外，多个门控单元的参数是 256*256*2*k，合计约 0.6M 的额外参数量。
领先技术造就先进业务
论文中的 GIC 已经应用在了网易易盾的内容审核业务中。
作为网易智企旗下一站式数字内容风控品牌，易盾长期专注于数字内容安全风控和反垃圾信息的技术研发和创新。其中，针对以声音作为载体的数字内容，易盾提供了多种音频内容审核引擎，包括歌曲、广播、电视节目、直播等各种类型的音频内容，及时检测和过滤含有敏感、违规、低俗，广告内容的语音，从而减少不良内容的社会影响，营造良好的网络环境。
针对有具体语义内容的音频，易盾通过语音识别技术将音频文件中的语音内容转写为文字内容，再利用检测模块分析和处理文本，从而实现对音频内容的自动化审核和过滤。因此，语音识别的准确率与音频内容的审核效率和准确性是息息相关的，会直接影响到客户开展业务的安全与稳定。
论文中的 GIC 在内容审核中的应用取得了显著的效果提升。在实际的应用过程中，需要调试的超参数有两个，分别是多任务学习系数 lambda 和中间层层数 k。在 18 层编码器结构中我们发现 k=5，lambda=0.5 有较好的实验效果。接着，我们会从这个设置开始尝试，不断微调以确定最 优的超参数。
幕后英雄：网易智企易盾 AI Lab
这不是易盾 AI Lab 团队第 一次获得这样规格的荣誉。
作为网易智企下设的始终走在人工智能研究前沿的技术团队，易盾 AI Lab 致力于围绕精细化、轻量化、敏捷化打造全面严谨、安全可信的 AI 技术能力，不断提升数字内容风控服务水平。在这之前，团队曾获得多项 AI 算法竞赛冠 军及重要奖励荣誉：
2019 年第 一届中国人工智能大赛 旗帜识别赛道最 高档 A 级证书
2020 年第二届中国人工智能大赛 视频深度伪造检测赛道最 高档 A 级证书
2021 年第三届中国人工智能大赛 视频深度伪造检测和音频深度伪造检测赛道两项最 高档 A 级证书
2021 年中国人工智能产业发展联盟“创新之星”、“创新人物”
2021 年第十六届全国人机语音通讯学术会议（NCMMSC2021）“长短视频多语种多模态识别竞赛”—汉语长短视频直播语音关键词（VKW）双赛道冠 军
2021 年获得浙江省政府颁发的科学技术进步奖一等奖
2022 年 ICPR 多模态字幕识别比赛（Multimodal Subtitle Recognition， 简称 MSR 竞赛，国内首 个多模态字幕识别大赛）赛道三“融合视觉和音频的多模态字幕识别系统”冠 军
未来已来，AI 的 iPhone 时刻已至。今天，易盾成功登上了语音学的学术殿堂；未来，技术将成就业务的方方面面，而网易易盾将始终伴您左右。
（推广）