UCloud用CPU+软件实现低成本人工智能

2018-03-28 21:53:00 作者:佚名 出处 : 比特网

  笔者初次接触UCloud是在2016年人民大会堂的发布会上,当时主打OpenStack大旗的全球化布局给我们留下了深刻印象。时隔两年,UCloud又有了新的变化。

  UCloud这家云计算企业成立于2012年,目前服务5万多个企业用户。2017年UCloud提出一个战略叫“CBA”,“C”就是Cloud Computing(云计算),“B”是Big Data(大数据),“A”是AI(人工智能),将重点转移至以上三大领域。

  强大的人工智能应用对计算提出新需求

  人工智能发展主要由多方面应用而推动,而机器学习是重要的组成部分,当前90%有实用意义的机器学习都是监督学习,监督学习需要训练一个模型,然后给数据打标签,标签数据量越大精度就越高,因此人工给这些图片打标签几乎是不可能完成的任务。

  例如鉴黄,系统需要先人工标记不同的图片是色情、性感还是普通,然后把这些打好标签的图片给计算机去学习,才会得出一个模型出来,这样才能对新的图片进行鉴黄操作。除鉴黄之外同样重要是算法和计算能力。有一个理论叫“火箭理论”,就是说如果把人工智能当成火箭的话,那么数据是火箭的燃料,计算能力就是引擎,算法就是引擎的控制器。

  那么,如此繁杂的数据工程是依靠什么样的系统来完成处理工作呢? UCloud实验室研发总监叶理灯表示,主要是英特尔提供的CPU及相关技术来实现。包括针对AVX指令集优化的英特尔Caffe,重点用于机器学习,此外还有Library数据库方面的支持。

  英特尔的处理器非常通用,英特尔至强可扩展处理器的性能也比较卓越,不需要在软件上做很多适配工作。英特尔在这方面一直都是UCloud非常紧密的合作伙伴,能够第一时间拿到最新技术。包括英特尔Caffe刚刚推出的时候,遇到UCLoud互联网金融客户需求,当时Inference还不能支持GPU,但大量采用CPU的话成本比较高。因此采用了英特尔Caffe的解决方案,通过软硬件结合与指令集优化解决了客户的需求,非常值得推广。

  人工智能帮助传统行业进一步降低人力成本

  为什么说云计算跟人工智能的落地有很大关系呢?因为互联网发展最近几年,产生了大量数据,随着云计算的发展,很多互联网企业的创业基本上都是在云计算上基于数据而创建,数据的生产和消费都在上。所以,在云计算上做机器学习的训练和Inference是非常自然的一件事情。

  因为云计算刚开始就是为提供计算能力而产生的,所以云计算的发展对AI快速落地起了很大促进作用。

  提高生产效率是当前AI要解决的首要问题。举例来讲,在UCloud有一个纺织行业客户,在人工智能之前需要人工来判断布料是否合格;而现在会通过相关算法和计算机视觉,对产品图片去判断产品是否合格,明显提高了识别效率,降低了人力成本。

  同时人工智能跟目前的区块链有点类似,它是一门技术而不是一个行业。也就是说这个东西要落地的话,一定要跟行业结合起来,渗透到行业里面去,这才是人工智能的价值所在。

  优化后的CPU更适合深度学习,同时降低系统成本

  目前,AI的专有芯片越来越多,包括NVIDIA谷歌等等,很多公司都有相应产品。据叶理灯介绍,UCloud的AI在线服务是基于CPU来做的,主要有两个优势:第一是UCloud有海量的CPU资源,都基于英特尔至强处理器。相对其他芯片,成本很低,但性能很高。同时英特尔也做了很多优化,包括基于机器学习的特点框架,利用英特尔Caffe打造专门用于计算机视觉的框架,根据他们的指令集做优化。

  在识别图片里文字的时候,如果用普通未经优化的框架,识别时间需要几十秒;但经过英特尔Caffe框架优化完成之后,则变成一秒钟,这个提升非常巨大,也是软硬件结合所带来的明显优势。构建基于英特尔的解决方案,进一步为用户提供一些低成本和高性能的用户体验。

  技术创新、提升服务能力是云企业的核心竞争力

  云计算的核心能力在运营,服务很多用户的时候,通过运营去发现问题,不断地优化它,不断地支撑更多的用户,所以云计算本身是规模经济。UCloud就是这样一个经过海量用户考验过的平台。

  技术创新方面,叶理灯认为在2012年的时候UCloud抓住了手机游戏行业的机遇。在技术上我们针对游行业的特点做了IO加速创新,基于普通存储介质提供了接近SSD的IO能力,大大提高了虚拟机的单机I/O能力。大大节省了用户的成本,提升了用户体验。当时推出来很受欢迎,基本上70%的游戏用户都会用UCloud的云平台,因为确实降低成本,而且UCloud服务很好。

  在服务上,UCloud提出过90秒响应。面对企业的服务,第一稳定性非常重要,第二是性能要好、成本要低。因为企业和个人用户不同,企业会把自己的“身家性命”放在云计算上,所以服务一定要做得足够好,UCloud当时提出的90秒响应也是业内的服务标杆。

  转眼间UCloud在云计算市场已经走过六年,在英特尔软硬件的技术支撑下,从游戏运营到人工智能跟紧了时代潮流,为云计算竞争拉开了下半场的帷幕。人工智能与深度学习正在飞快地踏入传统行业,技术探索依然是2018年的主旋律

* 本文为ChinaByte比特网原创内容,版权所有,转载请注明出处和原文链接,未经授权请勿用于商业用途。

最近更新
科普

科普图集
从《中国互联网+指数报告(2018)》看数字经济

从《中国互联网+指数报告(2018)》看数字经济>>详情

“互联网+”的这些新变化,你知道吗?

“互联网+”的这些新变化,你知道吗?>>详情

邮件订阅

软件信息化周刊
比特软件信息化周刊提供以数据库、操作系统和管理软件为重点的全面软件信息化产业热点、应用方案推荐、实用技巧分享等。以最新的软件资讯,最新的软件技巧,最新的软件与服务业内动态来为IT用户找到软捷径。
商务办公周刊
比特商务周刊是一个及行业资讯、深度分析、企业导购等为一体的综合性周刊。其中,与中国计量科学研究院合力打造的比特实验室可以为商业用户提供最权威的采购指南。是企业用户不可缺少的智选周刊!
网络周刊
比特网络周刊向企业网管员以及网络技术和产品使用者提供关于网络产业动态、技术热点、组网、建网、网络管理、网络运维等最新技术和实用技巧,帮助网管答疑解惑,成为网管好帮手。
服务器周刊
比特服务器周刊作为比特网的重点频道之一,主要关注x86服务器,RISC架构服务器以及高性能计算机行业的产品及发展动态。通过最独到的编辑观点和业界动态分析,让您第一时间了解服务器行业的趋势。
存储周刊
比特存储周刊长期以来,为读者提供企业存储领域高质量的原创内容,及时、全面的资讯、技术、方案以及案例文章,力求成为业界领先的存储媒体。比特存储周刊始终致力于用户的企业信息化建设、存储业务、数据保护与容灾构建以及数据管理部署等方面服务。
安全周刊
比特安全周刊通过专业的信息安全内容建设,为企业级用户打造最具商业价值的信息沟通平台,并为安全厂商提供多层面、多维度的媒体宣传手段。与其他同类网站信息安全内容相比,比特安全周刊运作模式更加独立,对信息安全界的动态新闻更新更快。
新闻中心热点推荐
新闻中心以独特视角精选一周内最具影响力的行业重大事件或圈内精彩故事,为企业级用户打造重点突出,可读性强,商业价值高的信息共享平台;同时为互联网、IT业界及通信厂商提供一条精准快捷,渗透力强,覆盖面广的媒体传播途径。
云计算周刊
比特云计算周刊关注云计算产业热点技术应用与趋势发展,全方位报道云计算领域最新动态。为用户与企业架设起沟通交流平台。包括IaaS、PaaS、SaaS各种不同的服务类型以及相关的安全与管理内容介绍。
CIO俱乐部周刊
比特CIO俱乐部周刊以大量高端CIO沙龙或专题研讨会以及对明星CIO的深入采访为依托,汇聚中国500强CIO的集体智慧。旨为中国杰出的CIO提供一个良好的互融互通 、促进交流的平台,并持续提供丰富的资讯和服务,探讨信息化建设,推动中国信息化发展引领CIO未来职业发展。
IT专家网
IT专家新闻邮件长期以来,以定向、分众、整合的商业模式,为企业IT专业人士以及IT系统采购决策者提供高质量的原创内容,包括IT新闻、评论、专家答疑、技巧和白皮书。此外,IT专家网还为读者提供包括咨询、社区、论坛、线下会议、读者沙龙等多种服务。
X周刊
X周刊是一份IT人的技术娱乐周刊,给用户实时传递I最新T资讯、IT段子、技术技巧、畅销书籍,同时用户还能参与我们推荐的互动游戏,给广大的IT技术人士忙碌工作之余带来轻松休闲一刻。