无云也能AI:揭开谷歌Coral项目神秘面纱
以前只有人类能做的一些事情,现在AI设备也能做到了。是否需要在工厂生产线上进行质量控制?设置AI摄像头就可以检测缺陷。解释医疗数据呢?机器学习就能从扫描图像中发现潜在肿瘤情况并标记出来转交给医生。
但是这些应用必须既快速又安全。如果AI摄像头要花费几分钟的时间来处理的话,就没有工厂愿意采用了。也没有患者愿意冒着医疗数据泄露的风险同意数据被发送到云端进行分析。
而这正是谷歌希望通过Coral项目解决的难题。
Coral项目的一些硬件产品,包括一个AI加速器(右边)和开发板(中间)“以前来自[AI]设备的数据被发送到大型计算实例上,这些实例位于中央数据中心,在数据中心内,机器学习模型可以快速运转。Coral是谷歌一个软硬结合的平台,可以帮助你利用本地AI构建设备,在边缘设备上为神经网络提供硬件加速。”Coral产品经理Vikram Tank这样表示。
你可能以前从未听说过Coral,该项目去年10月才完成Beta测试。有市场分析师预测,到2020年将有7.5多亿个边缘AI芯片和计算机售出,到2024年将增加到15亿个。尽管其中大多数将安装在手机之类的消费类设备中,但其中大部分都是针对行业用户设计的例如汽车和医疗。
为了满足客户的需求,Coral提供了两种主要产品:用于制作原型的加速器和开发板,以及为智能摄像头和传感器等生产设备的AI大脑提供动力的模块。在这两种情况下,硬件的核心都是谷歌Edge TPU——一种经过优化以运行轻量级机器学习算法的ASIC芯片——与谷歌云服务器中使用的水冷TPU一脉相承。
Coral项目的产品,有点类似开发板Tank表示,长期来看Coral的重点是汽车行业和医疗行业的企业客户。
Tank举例说,在自动驾驶汽车的场景下,使用机器视觉来识别道路上的物体。
他说:“以65英里/小时速度行驶的汽车,100毫秒内行驶近10英尺,”所以,任何由低速连接引发的“处理延迟”,都会“增加关键用例的风险。”而直接在设备上进行分析要安全得多。
Tank说,隐私方面也能带来一些改善。“想想那些希望利用图像识别对超声图像进行实时分析的医疗设备制造商们。”将这些图像发送到云端,可能会成为被黑客利用的薄弱环节,但要是直接在设备上分析,患者和医生都能“确保设备上所处理的数据不会超出他们的可控范围”。
谷歌Edge TPU他透露,尽管Coral是面向企业的,但实际上它起源于谷歌的“ AIY”自助机器学习套件。 该套件于2017年推出,由Raspberry Pi提供支持,任何人利用它都能自主开发智能音箱和智能摄像头,因此在STEM和制造商市场取得了巨大成功。
AIY团队很快注意到,尽管有些客户只是想遵循按照进行制造,而有些客户则想蚕食硬件以制作自己的设备原型。创建Coral就是为了迎合这些客户。
谷歌的问题在于,有十几家公司的业务范围和Coral类似,从Xnor这样的初创公司,制造能够用于太阳能设备上的AI摄像头,到像英特尔这样的巨头,2017年推出了首批企业USB加速器,去年12月以20亿美元的价格收购了芯片制造商Habana Labs以强化边缘AI产品。
Coral团队表示,Coral的不同之处在于与谷歌AI服务生态系统的紧密集成,包括芯片、云训练、开发工具等等谷歌AI战略的关键力量。
实际上,Coral与Google的AI生态系统紧密集成,以Edge TPU为动力的硬件只能与Google的机器学习框架TensorFlow配合使用,Verge谈到的AI边缘市场的竞争对手称,这可能是一个限制因素。
但是目前Coral的业务情况还不得而知。谷歌肯定不会像推动其他云AI服务那样大力推动Coral,也不会分享任何销售数字或者目标。不过,一位了解此事的消息人士称,Coral大部分订单都是针对单一设备的(例如AI加速器和开发板),只有少数客户会下10000个设备这种量级的订单。
对谷歌来说,Coral的意义不一定在于收入,而是告诉外界更多关于谷歌在该领域是如何运用AI的。在机器学习领域,所有最后都不可避免地通向边缘。