Nvidia EGX计算平台专为5G连接而设计,并进行了优化,可大大提升AI,机器人技术和其他传感器处理应用程序的性能。
英伟达通过其称之为“ 上第 台边缘超 计算机”的启动,在洛杉矶举行的 移动大会(MWC)2019上进行了 笔巨额投资。英伟达希望将其EGX超 计算机平台定位为 选平台用于处理5G将从智能工厂,物联网设备甚至城市街道带来的大量传感器数据流。NVIDIA创始人兼 席执行官黄仁勋(Jensen Huang)解释说,其目标是将强大的计算功能置于5G网络的边缘,以实现高性能,低延迟的处理,以处理各种任务,包括增强的零售体验,直至自动驾驶汽车。
Huang在MWC 2019大会上发表主题演讲时强调,为使5G带来下 个重大技术飞跃,数据中心将需要计算能力来处理随着5G连接越来越多的设备而出现的新数据流。Huang说:“我们进入了 个新时代,数十亿个永远在线的物联网传感器将通过5G连接并由AI处理。” “其基础需要新型的高度安全的联网计算机,并且可以在很远的地方轻松操作。”
这就是Nvidia EGX的用武之地。可配置平台与Nvidia Cuda Tensor Core GPU 起运行,可以针对处理各种传感器信息(包括LiDAR)以及人工智能和机器人应用进行优化。英伟达表示, 个内核可以以高达240 teraflops的处理速度运行。Huang告诉MWC观众:“ 个[EGX]机架将取代数百台CPU服务器。” EGX具有可扩展性,可以根据工程师的需求,从单个易于制造商使用的Jetson Nano扩展到功能强大的T4服务器机架。EGX还运行Nvidia所说的企业 专有软件栈,并针对在基于边缘的服务器上运行进行了优化。
新的SDK,更强大的AI
Huang宣布Nvidia已与EGX建立战略合作伙伴关系并推出开发人员应用程序。例如,三星将在其工厂中部署EGX,以协助半导体设计和制造流程。三星电子代工销售和市场营销执行副总裁查理·裴在 次新闻发布会上说:“三星从 开始就是GPU计算和AI的早期采用者。” “ NVIDIA的EGX平台可帮助我们将这些制造和设计应用程序平稳地扩展到我们的工厂车间。”
在开发人员方面,Nvidia希望EGX能够加速和增强已经在开发中的 些AI成果。Nvidia的Isaac平台于2年前 次发布,该平台用于在虚拟现实中训练协作机器人,而EGX平台有望带来急需的处理能力。EGX应该允许对机器人进行更快,更强大的仿真训练,以及更快,更可靠地部署到物理系统中。英伟达表示,正式的Isaac SDK将在2020年1月为开发人员启动。
英伟达还以Metropolis IoT的形式推出了新的开发人员工具,这是 种在智能制造和智能城市应用中利用传感器的开源参考应用程序。Metropolis现在可以在EGX上运行,并且允许开发人员在利用EGX的计算能力的同时,进行针对预测性维护,物流,制造和其他应用程序的开发试验。
可以说,该演示中 有趣的演示是EGX促进多模式或多传感器AI应用程序的能力。Nvidia推出了 个名为Jarvis的软件平台(是的,就像Tony Stark的计算机助手 样),可以处理这些任务。
在 个演示中(如下所示), 对夫妇驾驶汽车询问系统有关该地区餐馆的信息(Yelp等 ,方向等),同时还无缝地进行了交谈。在另 个零售商店中, 位女士可以让AI通过指向或描述它们来回答货架上各种产品的问题(即“白水瓶多少钱?”)。
该演示 引人注目的是缺少热词(无需说“嘿Alexa”或其他术语),以及系统如何能够在对话中断的情况下继续进行交互。人们对背景有了认识。AI跟踪用户的脸部,以识别他们何时正对着镜头问 个问题-这意味着 旦有人问起寿司店,他们便可以稍后返回,并简单地问“它有多远?”。将餐厅名称等上下文重新提供给系统。
黄说,这样的系统对制造空间也有明显的影响,特别是对于协作机器人而言。他说:“你可以告诉 个机器人'传递给我','保持那个',或者'当我这样做时保持这个,”所有需要上下文的事物。”
Nvidia将于12月发布其Jarvis SDK,以供早期使用。SDK中将包含几个经过预 训练的AI模型,这些模型可用于语音识别,自然语言处理,文本到语音,语音合成,计算机视觉和姿势分类等任务。开发人员将能够使用Jarvis的预训练模型来创建利用多个传感器和数据流的AI应用程序。
然而,房间里的麻烦之处在于,这种功能似乎需要某种程度的连续监控。例如,除非相机始终处于开机状态并且正在检查此类事情,否则AI如何知道您正在注视相机?英伟达对此没有发表任何评论,但毫无疑问,它将围绕AI道德和隐私展开越来越多的持续对话。
但是,即使有道德和伦理影响,黄仁勋表示,下 次计算革命(与第 代iPhone的引入将产生巨大变化的革命)将不会发生,除非工程师重新考虑采用EGX等技术的数据传感器–将它们转化为软件定义的解决方案。
Huang说:“有了5G,边缘将不再是管道。” “边缘必须成为计算平台。”