NVIDIA:创新永无止境
“借助NetApp存储,我们在两年内将计算场的容量提升了一倍多。对我来说,这是个奇迹,而对IT而言,这是一场大胜仗。”
Bob Worrall,CIO,NVIDIA Corporation
加快创新步伐
NVIDIA乐于迎接挑战。自1999年发明了全球第一个图形处理单位(GPU)后,NVIDIA便毫无争议地成为PC图形和游戏领域的领导者,而要想永立潮头,唯有不断创新。NVIDIA的CIO Bob Worrall解释说,“一款设备短短60天就可能过时。因此,这关乎的不仅仅是如何开发新的芯片,而是探索如何利用技术从根本上改变人们的体验。”
几年前,NVIDIA的CEO兼联合创始人黄仁勋(Jen-Hsun Huang)就高瞻远瞩,鼓励手下的5,000名工程师把眼光放到PC以外的领域,并将GPU的高性能并行计算功能应用到新的业务领域,如超级计算、汽车信息娱乐和导航、医疗保健和移动设备。
要抓住机会,公司就必须快速创新,工程师们要每时每刻都在计算场进行测试和模拟运行。然而,公司的存储基础架构运行较慢,且时常会出现停机。“我希望公司的精英们能发挥自己的聪明才智,应对这一史上最艰巨的挑战。如果他们寄希望于技术,那么问题将无法解决,”Worrall说。
自2011年就任CIO起,Worrall就很清楚,自己必须做些什么来打破存储瓶颈。“存储性能和可靠性问题影响了工程师的工作效率,”他说,“存储是我们基础架构最关键的要素。稍有延迟就会对我们的品牌以及我们对市场做出的承诺造成不良影响。在评估了多家存储提供商之后,Worrall选择了NetApp。效果立竿见影。
NVIDIA的IT存储经理 Pethuraj Perumal表示:“借助NetApp系统,存储I/O性能得以提高,使我们计算场每天的作业量从200万一跃飞升到450万。”此外,NetApp解决方案几乎完全消除了计算环境的机,使得NVIDIA工程师能够无中断地访问数据,从而加快了产品上市。
现在,公司还可以将更多精力投入到人才和创新上。“自从迁移到NetApp后,我们已增加了3,000名工程师。即便数据需求每两年翻一倍,我们也无需增加IT人手或扩大存储占用空间,”Perumal说。
凭借更可靠、功能更强大的计算场,NVIDIA 的工程师们不断加快创新步伐,致力于推出适用于各行业的突破性技术。NVIDIA 芯片将计算机系统的应用推向多个尖端科技领域:癌症和 HIV 研究、自动驾驶汽车研发、石油和天然气探采,甚至在NASA把好奇号(Curiosity)送到火星的过程中也发挥了重要作用。凭借上述优势及其他各方面的进步,NVIDIA在PC游戏领域之外也迅速确立了自身的地位。
从一开始,NetApp就与NVIDIA并肩合作,为NVIDIA的不懈创新奠定坚实的基础。“如果您在这看到 NetApp员工或合作伙伴,您会以为他们是NVIDIA的员工”,Worrall 说。“我们在NetApp存储上的投资直接关系着公司的全盘输赢。”
借助突破性技术提升生活品质
以 NetApp存储为核心打造更强大的创新工厂,NVIDIA推动了以下领域的进步:
NetApp 成就计算场之未来
“在两年半前我的入职当天,我们一位顶尖工程师在表达欢迎的同时,提醒我公司所面临的极严重的存储问题,”Worrall回忆说。当时NVIDIA正处于扶持新业务的转型期,而已有存储基础架构却无法满足业务需求,难堪负重。日常存储问题每次都会让几十名甚至是数百名工程师束手无策,在存储基础架构这一难题上,工程师们始终有心无力。
IT部门应何去何从?Worrall 的想法很简单:换个方式。Worrall在一个月之内完成了对多家提供商的技术评估,最后敲定并统一使用NetApp存储来为推动业务发展提供可靠性和性能。
“坦白说,这是一个孤注一掷的决定,”Worrall说。好在赌对了。从那天起,NVIDIA在稳定性和性能方面一直稳定提高。工程师们现在每天可以运行的作业量是原来的两倍之多,且可以更迅速地响应新的业务需求。
将计算场打造成创新工厂
在NVIDIA,Worrall和Perumal目前掌控着15 PB的工程数据。两年后,这个数字将会翻一番,而他们两位要负责让NVIDIA的数千名工程师能够近乎即时地访问近40 PB的数据。借助NetApp存储,NVIDIA将持续创新以确保让增长的数据成为公司的资产而非负担。
Perumal表示:“借助其他NetApp存储系统、缓存和优化操作,最终我们计算工厂的整体处理效率提高了一倍多,且CPU时间与实际时间的整体比率有所提高。我们发现实际编译性能提高多达19%,且模拟 运行次数增加多达25%。”
好文章,需要你的鼓励
微软近年来频繁出现技术故障和服务中断,从Windows更新删除用户文件到Azure云服务因配置错误而崩溃,质量控制问题愈发突出。2014年公司大幅裁减测试团队后,采用敏捷开发模式替代传统测试方法,但结果并不理想。虽然Windows生态系统庞大复杂,某些问题在所难免,但Azure作为微软核心云服务,反复因配置变更导致客户服务中断,已不仅仅是质量控制问题,更是对公司技术能力的质疑。
Meta研究团队发现仅仅改变AI示例间的分隔符号就能导致模型性能产生高达45%的巨大差异,甚至可以操纵AI排行榜排名。这个看似微不足道的格式选择问题普遍存在于所有主流AI模型中,包括最先进的GPT-4o,揭示了当前AI评测体系的根本性缺陷。研究提出通过明确说明分隔符类型等方法可以部分缓解这一问题。
当团队准备部署大语言模型时,面临开源与闭源的选择。专家讨论显示,美国在开源AI领域相对落后,而中国有更多开源模型。开源系统建立在信任基础上,需要开放数据、模型架构和参数。然而,即使是被称为"开源"的DeepSeek也并非完全开源。企业客户往往倾向于闭源系统,但开源权重模型仍能提供基础设施选择自由。AI主权成为国家安全考量,各国希望控制本地化AI发展命运。
香港中文大学研究团队开发出CALM训练框架和STORM模型,通过轻量化干预方式让40亿参数小模型在优化建模任务上达到6710亿参数大模型的性能。该方法保护模型原生推理能力,仅修改2.6%内容就实现显著提升,为AI优化建模应用大幅降低了技术门槛和成本。