设计比较有特色的网站,北京时间网站建设,seo排名优化软件免费,一级a做爰网站来源#xff1a; 半导体行业观察前言#xff1a;笔者有幸受邀在六月初北京举行的首届亚洲AI硬件峰会#xff08;AI Hardware Summit Asia#xff09;上发表了开幕主题演讲#xff0c;与全世界的AI硬件专家分享了我对行业的一些看法和想法。演讲以英文形式进行#xff0c;… 来源 半导体行业观察前言笔者有幸受邀在六月初北京举行的首届亚洲AI硬件峰会AI Hardware Summit Asia上发表了开幕主题演讲与全世界的AI硬件专家分享了我对行业的一些看法和想法。演讲以英文形式进行原文记录在LinkedIn之后收到多位业内人士的推荐例如Codeplay的CEO Andrew Richards就留言说“This is a great article. Should be read by any AI chip company. Dont write your own AI framework and dont expect the whole AI ecosystem to switch overnight. Very true.”特此感谢《半导体行业观察》协助合作翻译成中文有机会让此文与更广大的读者见面。以下为主题演讲的全文记录。早上好女士们先生们欢迎来到中国欢迎来到北京感谢Kisaco Research的邀请非常荣幸能够在首届亚洲AI硬件峰会上发表开幕主题演讲。当我在今年早些时候确定了“AI芯片的长征之路”这个题目的时候我并没有预料到“长征”这个词现在会变得如此热门。纵观国际上最近发生的有关技术和非技术的事件我认为现在有必要反思一下这些变化将如何重塑我们未来的世界。很多人认为AI将从根本上改变每个人的生活有些人甚至把AI比作“第四次工业革命”。我认为这种说法一点也不夸张我也相信AI的进步最终会对新的世界秩序和格局产生重大影响。计算能力是推动AI产业发展的关键动力之一在过去几年我们已经看到了其非常迅猛的发展势头。然而我认为我们还需要很长一段时间才能充分理解我们对此的真实愿景并开发出各种能够真正满足我们需求的AI芯片。因此我想在这里和大家讨论并分享一些想法我们该如何应对当前的局面、克服挑战并探索新机遇。在我们谈论AI芯片之前我认为有必要回答这样一个问题为什么现在是合适的时机想必这里的绝大多数观众都非常熟悉摩尔定律的即将终结首先现如今单个晶体管的成本不再随着更先进的制程而下降这导致CPU每年的性价比改进率从本世纪初的48%下降到最近的个位数更糟糕的是拥有尖端制造能力的晶圆厂数量也从20年前的25家减少到当今的寥寥数家由于良性循环无法持续移到新制程的成本变得越来越高。为了进一步论证这一趋势我们看到从2016年开始英特尔的固定成本已经开始超过了其可变制造成本部分也因此放弃了长期以来的Tick-Tock战略转而采用三步走的“制程-架构-优化” —— 这是为了延长固定成本摊薄周期而做出的必要妥协。这种变革的影响是如此之大以至于像你和我这样大多数普通人都能深切感受到通用计算的进步在放缓。正如我在幻灯片上所说的无形之手它的本质是市场的供求关系。当这里的供应即CPU的性能提升增长慢于对计算能力的需求时这会造成数据中心实质上的“赤字”——对于像阿里巴巴这样的公司来说云计算对计算能力有着巨大且持续增长的海量需求那么对我们来说只有两条路可走要么再去建更多的数据中心并购买更多的CPU服务器要么去寻求那些更强大、更经济、更高效的替代品。这就是为什么我想说摩尔定律的放缓和通用计算的衰落实际上更像是一个经济问题而不仅仅是一个单纯的技术问题注见后通用芯片时代专用芯片兴起背后的经济学。专用硬件的兴起将能很大程度上缓解数据中心的”赤字“问题。如果说智能手机是时代的必然但iPhone的成功却是不可预测的就像一片落叶我们不知道风会把它吹到哪里但我们知道最终它会落到地面上。与许多大型互联网公司一样AI在阿里巴巴遍地开花。近年来无论是内部应用还是在阿里云上我们都看到了对异构计算资源主要是GPU的强烈需求而这种趋势也将会在未来相当一段时间内继续持续下去。但是在这里我们不禁要问如果AI加速器是历史的必然那GPU就是必然的选择么GPU很强大也很好用但它也不是完美的首先它不是专门针对神经网络设计的所以大量的无用面积dark silicon被浪费掉了它目前既不支持物理资源切区也不支持真正的多租户因此没有太大的灵活性用于提高云的利用率和实现真正的弹性GPU的驱动程序更像是一个黑匣子最终用户缺乏主导权最后但同样重要的是无论皮衣教主告诉我们多少次“买的越多省的越多”GPU仍然价格不菲虽然GPU在生态建设方面远远领先于其他所有人但我并不认为GPU是AI加速的最终答案和唯一选择尤其是在推理领域AI加速有许多利基市场需要专业化的服务。同样地这个世界也需要更多的多样性。正如我们看到的AI在各行各业生根发芽并茁壮成长那些真正在乎自己软件的人也正在考虑拥有自己的硬件加速器。我在此要祝贺这里所有的AI芯片初创公司。你们在过去两年里突飞猛进总共筹集了超过25亿美元的投资非常厉害来让我们为自己先鼓个掌有幸在过去的两年里有机会和你们中的一部分人有过深入交流并有机会合作很高兴能成为你们初创项目前进的一部分。然而每一个派对都有结束的时候随着帷幕逐渐落下我不得不说冬天已经要来了。我说冬天要来了有这么几个原因首先世界头两大经济体仍然无法达成表面上的共识这对两个国家的诸多公司来说都是利空中国公司将更难获得最新和最好的芯片设计技术而另一方面美国公司也有失去中国市场的巨大风险。这显然对双方都是不利的也无助于缓解我们刚刚讨论过的数据中心“赤字”问题在过去的几十年里计算技术的进步占到了美国非农生产率增长的近一半之多。通用计算的放缓已经是坏消息而数据中心“赤字”的扩大肯定会影响长期经济增长并可能使未来的融资变得更加困难即使我们把经济问题放在一边只谈技术我看到相当多的公司他们的产品老实说只适合演示而缺乏商业化的能力。有些只能跑一小部分的应用demo而那些也往往缺乏对最终用户可感知的差异点而另一个坏消息是AI应用的创新脚步也在放缓这将会影响AI硬件的竞争态势。我们可以看到GPU也在快速发展要赶上这个移动的目标会变得愈发吃力。台下许多公司即将推出新一代AI硬件产品我认为2019年对你们中的一些人来说可能是期中考试对另外一些更像是期末大考。我夫人和我说过她第一天上法学院的故事——院长要求学生环顾四周看看谁坐在他们旁边然后说“你没必要记住这些人这并不重要因为你现在的许多邻座无法熬过未来的3年”。这是生活展现给我们真实的一面。我也真心希望你们中的大多数人明年还能有机会参加今天这个峰会。这听了是不是很令人沮丧不是吗在中国当我们谈到困难的时候我们总是说“危机背后往往蕴藏机遇”这也就是为什么我们创造了“危机”这个词。就像英语里说的“冬天来了春天还会远吗”我想我对AI芯片行业总体是乐观的而其中最重要的因素在我看来就是中国至少对中国公司来说。首先是资本的力量尤其是当AI和半导体已经成为了这个国家高优先级发展战略的背景下。虽然这可能不是发展一个行业最经济有效的方式但我们可以放心最终一定会有好的结果产生。我们将看到这个领域更多的独角兽从各种渠道获得更多的投资他们自然会变得更强其次中国拥有比世界上其他大多数国家更多的AI适用场景——从电子商务到移动支付我们可以看到只要有足够的市场需求就会有相应的方案来满足需求而中国已在这些新兴应用上早已领跑全球。同样地这还是市场供需关系和看不见的手的力量。现如今我们讨论计算机体系结构的黄金时代为特定领域而做专用设计Domain Specific Design是实现差异化的重要手段。AI将继续以用例和场景驱动的形式发展。只要有足够的需求AI和AI芯片在中国都将会有很好的发展前景此外市场规模巨大大到足以养活许多公司以至于他们可以搭建一个完整的生态系统甚至是供应链。以智慧城市为例安防摄像头将为边缘和数据中心的AI加速系统带来大量数据和智能这是一个巨大的市场。总而言之我非常看好中国的机会。我们有理由相信中国将继续在AI领域发挥重要作用AI芯片将成为中国新兴半导体产业的主导因素和驱动力。通用计算的放缓为中国提供了一个巨大的历史机遇。那么我们如何抓住这些机会呢当我和你们中的许多人讨论你们的产品时总是被问到我是否能给你们一些建议。那今天我想提三个建议我的第一个建议是软件。在你们问我要建议之后最喜欢问的问题是“你有多少软件工程师”。我们敞开来说对于大多数的AI芯片来说就硬件设计的相对复杂性而言它其实并没有特别的难。在我看来很多公司包括风险投资公司过于注重硬件能力而对软件往往投入不足。我想看到你们能招聘更多的软件工程师然后我想我们就有了可以讨论软硬件协同设计的基础。我的第二条建议也是关于软件的。当今世界垂直集成是一个趋势单独做好自己的软件是不够的要做好被集成的准备。软件本质上是你和你的客户之间的界面和纽带更好的AI硬件产品在实现基础赋能之外还需要能为客户提供解决方案。如果你想扩大潜在的客户群体那真应该认真考虑与像阿里云这样的云服务提供商合作如果还没有的话。或许你也猜到了我的第三条建议还是软件。我想敦促你思考如何在软件方面进行差异化并让这些差异能让你的客户所感知比如如何实现多租户如何做一站式快速上线方案如何同时在数据中心和边缘轻松部署。我认为如何强调软件的重要性都不为过对于软件的认知关系到你如何定位你的产品和你的公司。说到定位我们来谈一下战略的本质。这是Michael Porter所作的一张著名图表我在商学院里最喜欢的图表之一我认为它对当今AI芯片的竞争版图也非常适用。一个公司可以针对多个细分市场做开发但归纳起来其实只有两种真正的竞争优势1比竞争对手做到成本更低2或实现差异化。让我试着解释一下这个战略的本质并用例子来说明——比如说有公司来找我“我的芯片具有非常好的perf/watt能效比这就是我针对NVIDIA GPU的优势”。如果我们说同样的一块75瓦PCIe板卡形态的产品那你的产品实际上就是在单卡上能处理更多工作比如用1张卡替换2个GPU这只是成本上的节省。如果我们从另外一个角度来看比如你的芯片只有几瓦却能与一个75W的GPU性能等效这样你就可以在一个新的维度上进行竞争了。继续用智慧城市场景作为例子你现在可以用一个小型的机顶盒大小的设备替换掉一个大服务器这样可以让AI变得更轻更容易在在边缘场景落地而我将这样的方案称之为相对于GPU的差异化。NVIDIA的GPU在软件生态方面确实走在了前面这在于先发优势和多年的积累。我不建议你直接在左上角与NVIDIA竞争——这个象限不适用于小公司或新项目。同样地我不认为你们大多数人或你们的投资者希望你们永远停留在右上角。我鼓励后来者从特定的细分市场和特定的行业开始发力并保持专注这是实现成本效益和差异化的最佳机会。这也是为什么大多数公司从都是从推理芯片开始做而非训练芯片。如果过于野心勃勃那么你可能会浪费宝贵的资源最终陷入到“卡在中间”的困境中去。我有一个“卡在中间”的例子是那些看似巧妙的可变精度设计而实际上每个应用对此的要求都是不同的且难以做到通用化。Flexpoint是一个很有意思的想法但最终却失败了——英特尔最终不得不放弃这个方案。遗憾的是这让英特尔错过了很好的时机浪费了先发优势。从这个案例的教训总结一下我想鼓励你多和你的顾客交流不要闭门造车。作为一家芯片公司不要梦想一夜之间就能改变整个软件生态系统。技术可以自下而上而战略应该自上而下。了解你之所长再设计与之匹配的战略。只有与客户交流并共同解决实际问题你才能发现真正的需求修复真正的问题然后再反过来改进迭代你的产品。另外因为这是一个2B的业务请不要把资源分得太散。专心支持你的客户最终你会得到你想要的回报。如果你想进入云服务市场请尽早开始布局并花费足够的精力将你的软件集成进去。当了解了需求之后我也希望你能更大胆一点。我鼓励你能大胆地去定义你的产品。我看到一些公司有非常扎实的技术但他们在产品定义和规划方面过于谨慎只是跟踪GPU或竞争对手。回到战略的本质如果你只是一个跟随者或者一个GPU的简单替代品那你只是在低成本而非差异化上竞争。很快你就会发现很难向你的投资人证明你值得起你现在的估值。请不要浪费大好时机。我也希望你大胆地尝试新技术无论是存内计算、类脑还是基于光学的解决方案如果你能在某个领域达到十倍或者百倍的提升然后再将产品商业化那你就有机会脱颖而出并实现差异化。要么干票大的要么就回家Go Big or Go Home。大胆也意味着在提供基本的加速能力之外能主动往前一步帮助客户解决实际问题。这是最好的时代也是最糟糕的时代。现在是你展示自己潜力的时候抓住机会筹集更多的钱为冬天做准备活下来才有继续战斗的资本。要彻底解决AI加速的供需问题还需要很长的时间只要你找到正确的方向合理地利用你的资源你就能成功。我们正处在这样一个时代优秀的产品可以快速地、非线性地实现增长。云就是你最好的朋友如果你认为你的产品不错欢迎来与我们交谈。对于所有公司来说AI和AI加速都是一个相对新的领域我想强调的是现在正是开始讨论并领导创建新标准的好时机。AI基准测试benchmark是我看到的机遇之一。我在去年推出了阿里巴巴的AI Matrix benchmark。我们希望我们的benchmark能做到开放和灵活并且可以让测试评估AI加速器变得简单。它现在已经成为我们评估AI芯片的标准流程的一部分你们中的许多人正在与我们合作——我也多次明确表示它是你们进入阿里巴巴生态系统的门票。我们的合作伙伴对此非常支持如果你有兴趣与我们合作非常欢迎下载试用一下我们网站上的公开版本并向我们提供反馈。同样有着开放和快速迭代的理念MLPerf是一个新兴的国际AI benchmark社区。阿里巴巴是早期的参与者也从一开始就为社区在做贡献。我们正筹划在今年创建一个正式的组织MLCommons我鼓励所有这里的公司无论大小特别是中国公司参与进来并展现出你的技术能力和领导力。中国是AI应用和AI芯片创新的试验场playground要让世界听到你的声音这样你也有机会参与到重塑世界格局的进程中去。作为MLCommons的董事会成员我将非常乐意在茶歇期间与你分享更多相关信息。所以2019年是令人兴奋的一年我期待看到更多公司发布新产品并将AI Matrix和MLPerf结果报告带给我。我非常乐意与你们每一位进行合作。行胜于言我想看到你们能成功地做出芯片亮出产品show出benchmark的结果。如果我们把AI芯片的旅程比作慢慢长征那其中肯定会有起起伏伏。最后我想以一句诗来结束我今天的演讲——因为我担心翻译会词不达意所以我在这里直接使用中文。“雄关漫道真如铁而今迈步从头越。”这句诗写于84年前长征路上的关键时刻我认为它也很好地反映了今天我们所面临的局势。在AI应用和AI芯片的强力推动下2019年对于中国半导体行业而言很可能就是一个新的起点。总结一下AI芯片是历史的必然这更是一个经济学问题而不仅仅是一个技术问题我们处在一个令人困惑的时刻有必要未雨绸缪无论如何我看好中国的机会我希望AI硬件公司能重新审视你们的策略并能保持专注对于中国的公司而言你们应该振作起来因为这很可能是一个引爆点 - 你不仅有很大的潜力和空间来引领创新而且还能重塑世界的新秩序。谢谢未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
