在整个世界走向智能化的过程中,今天AI已经应用与生物识别、智慧城市、智慧制造、智慧医疗等行业场景,这些AI与行业结合的创新的背后是整个IT基础设施需要重构。
浪潮提出智能计算是未来IT基础架构的首选。在浪潮的智能计算架构里面,英特尔® 傲腾™ 持久内存,在智能计算中发挥重要的作用。
面向智慧时代,客户面临的挑战一个很大的挑战的IT基础架构的效率和成本的问题。
今天数据规模每三年成长两倍,DRAM是四年成长两倍,硬盘是五年成长两倍,根本无法跟上大数据的增长。这样的增长模式让 “存储金字塔”的发展模式中的DRAM、NAND、HDD存储介质面临着容量、时延和带宽三个瓶颈。其中DRAM的存储容量需要大幅增加。
浪潮服务器产品线总经理沈荣
浪潮服务器产品线总经理沈荣谈到“如果你看整个服务器行业里面,最大的成本是内存而不是处理器,所以说内存会随着需求的上升占整个计算中心的成本份额越来越高。” 大容量内存能够解决用户应用瓶颈、大内存需求以及降低整体TCO,浪潮希望与英特尔联合创新来就数据层面给客户带来更大的价值。也就是说要提升服务器的效率就需要更大的内存,而更大的内存带来成本非常大的困难,所以说面向未来的IT基础设施,需要一个更大内存存储和更低的成本的存储方式。
英特尔® 傲腾™ 持久内存是基于数据在“存储金字塔”模式中流动的重要一环。Intel的技术专家Terry Wei表示“英特尔® 傲腾™ 持久内存给客户带来新的价值,首先大容量,128GB, 256GB, 512GB 三种规格,并且单颗CPU能够支持3TB容量的傲腾持久内存。天然的非易失特性,断电数据不会丢失,相对于DRAM完,在掉电以后用户记录在傲腾持久内存介质上面的数据是不会丢的,同时相对于DRAM的成本,傲腾持久内存具有更高的性价比。”
目前浪潮已经推出了包括云计算、大数据、关键计算和AI计算等领域支持傲腾持久内存的服务器产品。傲腾持久内存在浪潮内部和客户应用做的实践测试显示了良好的TCO;在推荐系统业务中Redis内存数据库使用傲腾持久内存,作为索引系统后台,使用真实数据测试,得到了与DRAM内存相近的性能,TCO下降了30%。在VSAN方案中浪潮使用了傲腾SSD作为 VSAN的缓存层,在保持成本相当的配置下,与传统NVME SSD相比,性能提升了50%。
浪潮方案测试部副总经理魏健女士举例说明,Apache Spark是一款基于内存运行的大数据处理分析平台,广泛应用于物联网、机器学习等领域,满足了企业对数据实时处理,查询和生成分析报告的期望。运行在基于傲腾持久内存的Spark平台上的百度&intel 联合开发的优化分析包OAP (Optimized Analytics Package)在SQL方向 能够大幅度优化缓存和索引。大大降低TCO,实现了内存容量增加58%,性能提升8倍。
同时测试线上基于傲腾持久内存的浪潮服务器在虚拟化方面也能大幅度提升性能,虚拟桌面在CPU、I/O、标准应用操作延迟方面,具有相当的性能,满足VDI QoS性能要求。可以看到在内存总容量和虚拟桌面数量相同时,使用PMem可以增加VDI会话数并且其成本降低显著。
同时魏健表示:“浪潮服务器本身结合这个内存就是说浪潮服务器的内存容量扩展性会更好,另外一方面浪潮本身会在软件层面做一些优化,这样会对于用户使用技术适应产品可以有一个更好的应用性。”
同时针对AI场景方面魏健也分享了AI在应用级和算法级的场景中,包括短视频的分析和推荐,快速做到更精准客户的定位,能够更精准对这个客户进行分析。在机器学习领域,SPARK是未来大数据分析处理而开发的计算框架, Spark ML利用傲腾持久内存无论是单机模式还是集群模式都是有数倍的提升。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。