1月3日,美国车载AI语音技术公司Cerence(CRNC)宣布与英伟达加深合作,以提升其车载系统中的语言模型性能,并计划在2025财年实现盈利。
消息发布后,Cerence盘前一度涨超32%,早盘一度涨超94%,过去六个月内累计涨幅约165%。
|Cerence的“云+边缘”策略
随着智能汽车功能的日益丰富,消费者对车载语音助手的要求也不断提高。他们期望语音助手不仅能够快速、准确地理解指令,还能在各种复杂场景下稳定运行,并且严格保护个人隐私。然而,传统的单一云端或边缘计算方案都难以全面满足这些需求。
云端计算方案利用强大的云端服务器进行复杂的运算,拥有无可比拟的数据处理能力和灵活性。用户发出的指令被上传至云端,经过深度学习模型的分析后返回结果。这种方式使得语音助手能够执行高度复杂的任务,如自然语言理解和语义分析。然而,这种方法依赖稳定的网络连接,一旦网络状况不佳,语音助手的响应速度将显著下降。此外,数据传输过程中还存在隐私泄露的风险。
相比之下,边缘计算方案则是在汽车内部直接完成计算任务,比如“打开车窗”这样的简单指令可以立即得到响应,无需上传数据到云端,从而确保了更高的响应速度和更好的隐私保护。但受限于车载硬件的计算资源,边缘计算难以支持复杂的AI模型,这限制了其功能的扩展性和智能化水平。
Cerence通过结合云端和边缘计算两种解决方案,巧妙地解决了上述问题,既满足了市场多样化的需求,又降低了技术局限带来的风险。这种双管齐下的策略让Cerence更加灵活,同时也更容易被汽车制造商接受。
|Cerence与英伟达携手
Cerence与英伟达的合作标志着汽车AI部署迈出了关键一步。通过利用英伟达的AI Enterprise软件和DRIVE AGX Orin硬件平台,Cerence得以进一步优化其云端语言模型(CaLLM)和边缘计算语言模型(CaLLM Edge),显著提升了车载语音助手的性能。
高效运行复杂AI模型
英伟达的这些平台专为高性能AI计算设计,能够高效运行复杂的AI模型,确保语音助手不仅能在理想条件下表现出色,还能在资源有限的环境中提供卓越的服务。特别是通过DRIVE AGX Orin车载硬件,Cerence实现了本地化AI功能——即直接在车辆中运行AI算法。这一特性对于那些网络连接不稳定或无法保持持续在线的驾驶场景尤为重要,如偏远地区或地下停车场,确保了快速响应和高可靠性。
解决车载AI助手三大难题
为了克服车载AI助手常见的三大挑战——延迟、性能不足和资源消耗大,英伟达为Cerence提供了TensorRT-LLM和NeMo框架。这些工具帮助解决了以下问题:
缩短反应时间:在驾驶场景中,毫秒级的反应速度至关重要,可能直接影响安全。TensorRT-LLM通过对模型进行深度优化,确保语音助手能够在最短时间内作出准确回应。
提升有限资源下的性能:车载环境中的计算资源远不及数据中心丰富。借助TensorRT-LLM的优化,即使在有限的硬件条件下,也能让AI模型发挥出最大效能,从而提升整体性能表现。
降低功耗和资源占用:通过对硬件和模型的深度优化,减少了功耗和计算资源的占用,使得先进的AI技术能够在资源受限的车载设备中顺畅运行。
强化安全性与可靠性
此外,Cerence还引入了英伟达的NeMo Guardrails技术,为AI助手增设了一道“安全网”。这项技术不仅能过滤掉不正确或潜在危险的操作指令,还能防止恶意输入,例如用户试图诱导助手生成有害内容。这极大地增强了驾驶员和乘客的安全保障,确保每次交互都是安全可靠的。
|聚焦生成式AI,力争2025财年重返盈利
在过去12个月里,Cerence展现了强劲的财务表现,收入达到3.315亿美元,毛利率高达73.7%。特别是在最近的第四季度,公司实现了5480万美元的收入,超出了市场预期;调整后EBITDA为负190万美元,同样优于预期。未来,Cerence预计其2025财年的自由现金流将达到2500万美元,并计划通过向生成式人工智能的转变来恢复盈利。
Cerence AI产品与技术执行副总裁Nils Schanz表示:“通过优化CaLLM系列语言模型的性能,我们不仅为客户节省了成本,还显著提升了系统的性能。这些改进帮助汽车制造商快速部署生成式AI解决方案,为驾驶员提供更快、更可靠的互动体验,从而增强他们在路上的安全感、乐趣和生产力。随着我们基于CaLLM推进下一代平台,这些先进功能将为用户带来前所未有的便利。”
英伟达汽车副总裁Rishi Dhall评论道:“大型语言模型(LLMs)带来了全新的用户体验可能性,但其规模和部署复杂性往往成为开发者面临的挑战。通过扩大与Cerence的合作,我们将利用英伟达领先的AI和加速计算技术,优化这些大型语言模型的开发与部署。这使得Cerence能够更高效地将AI驱动的解决方案交付到最终用户手中,推动智能驾驶体验的进步。”
Cerence正站在一个转折点上,致力于通过技术创新和战略合作,引领汽车行业进入更加智能化的新时代。随着公司在2025财年恢复盈利的目标稳步推进,以及新一代AI平台的不断演进,Cerence将继续为全球用户提供卓越的车载语音助手服务,同时为合作伙伴创造更大的价值。