全球科技巨头之争:脸书揭秘将打造深度学习芯片
2018-09-30 16:30:27
  • 0
  • 0
  • 0

随着西方科技巨头苹果、谷歌及亚马逊先后投入到自行研发AI芯片,中国BAT三巨头也纷纷开始投资芯片产业和宣布自行研发芯片的计划。近日,社交媒体巨头脸书在自行研发芯片也展开了动作。根据脸书一位高层主管证实,脸书目前正积极招聘芯片工程师,成立芯片部门并展开ASIC设计。脸书日前在美国加州举办的Facebook @Scale 2018大会上,宣布将有5家芯片公司支援脸书自家研发的Glow深度学习编译器。

脸书基础架构副总裁Jason Taylor表示,我们确实成立了一支专门与芯片供应商合作的芯片团队,同时我们也在打造属于自己的芯片。

脸书新芯片部门的工作重点之一是与大约50家设计人工智能加速器的公司合作。Taylor指出,目前市场上出现许多加速器芯片,但最大的问题在于他们针对的工作负载是否为当前最重要的。

在本次Scale 2018大会的主题演讲上,Taylor将Glow描述为一种通用的编译器,让开发人员能够针对云端或网络边缘中任何新兴深度学习加速器进行的推论任务。同时,它针对的不仅是智能手机等客户端系统。

Glow采用由TensorFlow或Caffe2等架构产生的AI图形,并将其渲染为硬件加速器的位元程序码。根据脸书的一篇文章表示,该编译器内含几种工具,包括为芯片特定记忆体配置所产生有效程式码的指令排程器、线性代数最佳化器与记忆体分配器,以及用于测试硬件精准度的CPU参考建置。

铿腾科技(Cadence)、Esperanto Technology、英特尔(Intel)、Marvell和高通(Qualcomm)等公司都表示未来的芯片将支援Glow。Taylor表示,希望能进一步的扩展支援名单,这将是Glow作为开放来源的优点之一。

一位资深的芯片专家将Glow描述为在生产系统中部署神经网络的架构,其输入是在TensorFlow或Caffe2等架构中创建的图形。目前市面上有几家芯片芯片制造商也已经提供了类似的软件,例如英伟达(Nvidia)的Tensor RT自架构中提取图形,并为GPU输出Cuda程序码。

在快速发展的深度学习领域,Glow可说是致力于填补软件和硬件之间差距的最新例证。例如,英伟达的Tensor RT虽然在一年多前才首次发布,至今却已进展到第五个版本了。不过有些加速器新创公司对于支持各种软件架构的变化多要求的工作程度也无能为力。

脸书、微软和其他公司则都支援ONNX,ONNX是一种以权重表现图形的标准方法。去年12月,Khronos Group还发布了用于深度学习加速器的硬件抽象层NNEF。

Glow是Pytorch 1.0的一个组成部分。Pytorch 1.0是一个开放来源的计划组合,包括合并的Caffee2和Pytorch架构,Pytorch 1.0的首次开发者大会将于今年10月在美国旧金山举行。

脸书工程经理Kim Hazelwood在另一场活动中展示自家使用的十几种不同深度学习工作负载,其中至少使用了4种不同类型的神经网络。每天,这款AI应用程序产生超过200兆个推论、翻译超过50亿个文本,同时也自动删除至少100万个假帐户。他表示,脸书的一些推论任务需要的运算量是其他任务的100倍。

根据一位资深观察家的推测,Glow可说是一种理想的工具,它有助于让公司采用适合其工作负载的加速器。同时,脸书的芯片团队还能协助挑选芯片或提出客制化芯片的建议。

最新文章
相关阅读