对话英伟达:解密Jetson平台,未来还会推基于Orin的Jetson产品

巫盼 4年前 (2019-12-24)

Jetson生态系统中目前有40万开发人员。

在刚刚过去的一周里,英伟达的GTC China在苏州圆满落幕,GTC作为英伟达每年秀肌肉的盛会,也是外界系统了解英伟达的最好机会。

从今年的GTC可以看到,主导云端AI芯片市场的英伟达,正在用云端加边缘一体化的软硬件解决方案吸引更多客户。其中,面向终端以及边缘端的Jetson系列产品就是英伟达的新武器

3月,英伟达在硅谷的GTC大会上发布了Jetson Nano,一款非常小巧又便宜的AI开发板。

11月,他们又发布了号称“史上最小、功能最强”的边缘AI超级计算机Jetson Xavier NX。

可以看到的是,英伟达一直在逐渐完善丰富Jetson家族产品。那么,Jetson系列的定位有何区别,英伟达在切入边缘端侧市场后,成绩又如何?

围绕这些问题,镁客网在GTC期间采访了英伟达的自主机器产品管理部门主管Murali Gopalakrishna。

图 | 英伟达自主机器产品管理部门主管Murali Gopalakrishna

Jetson:担负边缘端侧重任

Jetson是英伟达的AI边缘平台,从今年几场重要发布来看,它已然成为英伟达AI的重中之重,英伟达给Jetson的定位也很明确:用于边缘以及端侧场景,比如自主机器,包括自主的摄像头、配送机器人,仓库机器人等;用作视频分析的高清传感器,涉及到“光巡检”或者“光检查”的应用;以及嵌入式的设备等等。

目前,Jetson家族共有四大类产品,分别是Jetson Nano、Jetson TX2系列、Jetson Xavier NX和Jetson AGX Xavier系列。

值得注意的是,Jetson系列都是低功耗的模块化系统,具备CPU、GPU、PMIC、DRAM和闪存等等。用黄仁勋的话说,“我们生产的不是定制化芯片,我们做的是GPU加速,它支持任何一个框架、任何一个模型,每一款都可以实现TensorRT的加速。”

为了更好的区分英伟达Jetson平台上各个产品,镁客网做了简单的分类归纳整理:

每款产品的性能参数决定了它们面向的细分场景有所差别,从Nano到AGX Xavier,支持的传感器的数量越来越多,计算能力越来越高,设计系统的自主性也越来越高,

以最小尺寸、最便宜的Nano为例,它主要应用于非常小体量的设备,比如:摄像头,UGV(地面无人机)类型的一些机器。

TX2比Nano支持的摄像头数量要多,所以可以做多传感器融合的应用,并且TX2有一个专门的安全核心。

AGX Xavier是一个打造机器人的全功能平台,适合开发比较复杂的机器人,比如京东、美团就基于Jetson平台开发了送货机器人。

而上个月刚刚发布的Xavier NX则融合了Nano和AGX Xavier的优点,即性能上“不打折”但是成本更优,和AGX Xavier一样,它也适用于更复杂的应用。

Murali举了个例子,如果客户用Nano设计一个UGV,但后期系统复杂度不断提高,那么就可以选用同样功耗下,性能是Nano 50倍的Xavier NX的,而且由于Xavier NX可以直接插在Nano开发板上,开发者无需更改系统的软件。

另外,由于四款产品内存上的差异,也决定了它们支持的机器学习模型数量不同,比如要让设计的机器人实现更好的人机对话互动,必然要选择一个大内存的平台。

也就是说,英伟达从尺寸、算力、功耗、价格等不同维度,分别推出了相配套的产品,从而满足边缘和端侧的各种开发需求,完成对端侧市场的渗透。

Murali表示,“Jetson的生态系统中目前有40万的开发人员,有3000个客户。他们开发的应用小到一个摄像头、平衡车,大到基因排序的设备等等,有很多让我们惊喜的应用。”

从显微镜、机器人到基因测序应用,Jetson“无所不能”

Jetson系列都属于那种“麻雀虽小、五脏俱全”的产品,非常适合高校学生、以及创业者用作机器人的开发。

据Murali介绍,斯坦福大学的学生通过Jetson Nano开发了一款能够鉴别病毒和细菌的高清显微镜,并以2美元的价格卖给了非洲、亚洲的一些义工或者志愿者;英格兰的公司基于Jetson做了基因测序应用;一家名为Warehouse Robot 6River的公司,在只有3个工程师的情况下,基于Jetson TX2研发了一款机器人……

Murali表示,“在Jetson平台上开发机器人的创业公司特别多,而且总是被大公司收购。像亚马逊就收购了两家这样的公司。”

综上,虽然英伟达的Jetson已经取得一些阶段性的成果,但当前有不少创业公司以及科技巨头也陆陆续续推出了边缘和端侧的产品,这块市场竞争激烈程度不亚于云端的数据中心

在英伟达看来,他们的优势也非常明显。首先是产品的智能化程度以及灵活性,可以有针对性地为一些工业应用场景做优化;其次是软硬件的兼容和持续维护升级英伟达每一款硬件产品基本上都会配备软件及应用。Murali提到,“直到现在我们还为第一代Jetson提供软件升级的维护服务,但是同期其它竞争对手的产品早已销声匿迹了。”

软件方面,3月英伟达发布了Isaac机器人平台的第一个版本,上周,黄仁勋在GTC China的现场发布了全新版本Isaac软件开发套件,包括Isaac Robotics Engine(提供应用程序框架),Isaac GEM(预先构建的深度神经网络模型、算法、库、驱动程序和API),用于室内物流的参考应用程序以及训练机器人Isaac Sim的第一个版本(提供导航功能)。

采访中,Murali也解释了Isaac的仿真功能对当前整个智能机器人生态的影响。搭配RTX光线追踪技术,通过Isaac仿真器,可在虚拟世界里以接近现实世界的逼真度来做机器人的模拟训练。

Murali还举了个形象的例子,“比如要制造一个炒菜机器人。我们先通过仿真,教这个炒菜机器人如何去炒菜,然后再把学好炒菜的机器人的大脑转到实际物理机器人中,这样它就知道如何在你的厨房炒菜了。”

最后:

今年的GTC上,英伟达还推出了用于自动驾驶和机器人的软件定义平台NVIDIA DRIVE AGX Orin,内置全新Orin芯片,是上一代Xavier芯片性能的7倍。据Murali透露,之后,英伟达也会推出基于Orin的Jetson产品。

在英伟达推出两款边缘侧产品后,很多人猜测他们会对做端侧推理芯片的公司造成冲击,其实由于应用场景的不同,端侧的算法各有差异,相应的对性能、功耗以及延迟的要求也有区别,所以很难说这个市场会存在一统天下的霸主。

但是英伟达积累了多年的软硬件能力却是诸多公司难以企及的,可以预见的是,端侧市场必将迎来一场新的洗牌,这一次谁又能跑到最前面呢?

最后,记得关注微信公众号:镁客网(im2maker),更多干货在等你!

镁客网


科技 | 人文 | 行业

微信ID:im2maker
长按识别二维码关注

硬科技产业媒体

关注技术驱动创新

分享到