英伟达宣称在实时会话人工智能领域取得新突破

英伟达公司声称在人工智能方面又取得了重大突破。这一次创造了语言理解的新纪录，可以在各种软件应用中实现实时对话式AI。

英伟达表示，实时会话式AI是希望打造聊天机器人和虚拟助手的公司的必备工具，可以与真人对话，展现“人的层面”理解。

NVIDIA应用深度学习研究副总裁Bryan Catanzaro在发布会上表示：“对话AI在全球拥有大量应用。”“但它带来了很多挑战。该行业一直在朝着更大的语言模型发展，但它们很难培训和部署。”

最新的里程碑包括将最先进的AI语言模型之一《变形金刚的双向编码器表示》的训练时间从几天缩短到53分钟。英伟达的系统还可以将完成AI推理所需的时间缩短到只有两毫秒，足以应对人们期待的快节奏对话。

根据该公司的说法，使用优化的软件及其DGX superpd系统，可以在不到一小时的时间内训练出BERT-Base的世界纪录，这可能需要几周的时间。

Catanzaro表示，英伟达的TensorRT平台仅用2毫秒的延迟就创下了BERT推理的世界纪录，这完全在人类水平精度所要求的10毫秒的阈值之内。

有了最新的突破，英伟达的目标无非是推动“下一波对话式AI”的发展，Catanzaro表示，公司在这方面已经取得了稳步进展。

例如，英伟达一直在与微软公司密切合作，推动必应的搜索结果更加准确。

微软Bing集团项目经理Rangan Majumder在一份声明中表示：“Bing与Nvidia紧密合作，利用Azure AI基础设施的一部分Nvidia GPU，进一步优化了流行的自然语言模型BERT的推理，这导致了Bing去年部署的Bing搜索质量排名的最大提升。“与基于CPU的平台相比，使用Azure Nvidia GPU进行推理时，延迟降低了两倍，吞吐量提高了五倍，使Bing能够为全球所有客户提供更具相关性和性价比的实时搜索体验。”

星座研究公司(Constellation Research Inc .)分析师霍尔格穆勒(Holger Mueller)表示，NVIDIA在会话式AI方面的进步非常重要，因为这项技术正在改变人们与软件和设备的沟通方式，并将对企业工作的未来产生重大影响。

穆勒说：“人工智能平台的竞争正在进行，模型训练、执行速度等因素决定了赢家。”

他还表示，与微软的合作是两家公司的关键胜利。就英伟达而言，这是因为谷歌有限责任公司和亚马逊网络服务公司正在构建自己的人工智能芯片，因此不太可能使用他们的硬件。他说，但让公共云公司采用他们的硬件对英伟达的长期成功非常重要。

穆勒说：“对于微软来说，它需要合作伙伴，因为它还没有意识到自己在内部将算法应用于硅芯片的努力，至少目前还没有。“微软在Azure上倡导的现场可编程门阵列并没有覆盖会话式AI的快速发展。”