在整个世界走向智能化的过程中,今天AI已经应用与生物识别、智慧城市、智慧制造、智慧医疗等行业场景,这些AI与行业结合的创新的背后是整个IT基础设施需要重构。
浪潮提出智能计算是未来IT基础架构的首选。在浪潮的智能计算架构里面,英特尔® 傲腾™ 持久内存,在智能计算中发挥重要的作用。
面向智慧时代,客户面临的挑战一个很大的挑战的IT基础架构的效率和成本的问题。
今天数据规模每三年成长两倍,DRAM是四年成长两倍,硬盘是五年成长两倍,根本无法跟上大数据的增长。这样的增长模式让 “存储金字塔”的发展模式中的DRAM、NAND、HDD存储介质面临着容量、时延和带宽三个瓶颈。其中DRAM的存储容量需要大幅增加。
浪潮服务器产品线总经理沈荣
浪潮服务器产品线总经理沈荣谈到“如果你看整个服务器行业里面,最大的成本是内存而不是处理器,所以说内存会随着需求的上升占整个计算中心的成本份额越来越高。” 大容量内存能够解决用户应用瓶颈、大内存需求以及降低整体TCO,浪潮希望与英特尔联合创新来就数据层面给客户带来更大的价值。也就是说要提升服务器的效率就需要更大的内存,而更大的内存带来成本非常大的困难,所以说面向未来的IT基础设施,需要一个更大内存存储和更低的成本的存储方式。
英特尔® 傲腾™ 持久内存是基于数据在“存储金字塔”模式中流动的重要一环。Intel的技术专家Terry Wei表示“英特尔® 傲腾™ 持久内存给客户带来新的价值,首先大容量,128GB, 256GB, 512GB 三种规格,并且单颗CPU能够支持3TB容量的傲腾持久内存。天然的非易失特性,断电数据不会丢失,相对于DRAM完,在掉电以后用户记录在傲腾持久内存介质上面的数据是不会丢的,同时相对于DRAM的成本,傲腾持久内存具有更高的性价比。”
目前浪潮已经推出了包括云计算、大数据、关键计算和AI计算等领域支持傲腾持久内存的服务器产品。傲腾持久内存在浪潮内部和客户应用做的实践测试显示了良好的TCO;在推荐系统业务中Redis内存数据库使用傲腾持久内存,作为索引系统后台,使用真实数据测试,得到了与DRAM内存相近的性能,TCO下降了30%。在VSAN方案中浪潮使用了傲腾SSD作为 VSAN的缓存层,在保持成本相当的配置下,与传统NVME SSD相比,性能提升了50%。
浪潮方案测试部副总经理魏健女士举例说明,Apache Spark是一款基于内存运行的大数据处理分析平台,广泛应用于物联网、机器学习等领域,满足了企业对数据实时处理,查询和生成分析报告的期望。运行在基于傲腾持久内存的Spark平台上的百度&intel 联合开发的优化分析包OAP (Optimized Analytics Package)在SQL方向 能够大幅度优化缓存和索引。大大降低TCO,实现了内存容量增加58%,性能提升8倍。
同时测试线上基于傲腾持久内存的浪潮服务器在虚拟化方面也能大幅度提升性能,虚拟桌面在CPU、I/O、标准应用操作延迟方面,具有相当的性能,满足VDI QoS性能要求。可以看到在内存总容量和虚拟桌面数量相同时,使用PMem可以增加VDI会话数并且其成本降低显著。
同时魏健表示:“浪潮服务器本身结合这个内存就是说浪潮服务器的内存容量扩展性会更好,另外一方面浪潮本身会在软件层面做一些优化,这样会对于用户使用技术适应产品可以有一个更好的应用性。”
同时针对AI场景方面魏健也分享了AI在应用级和算法级的场景中,包括短视频的分析和推荐,快速做到更精准客户的定位,能够更精准对这个客户进行分析。在机器学习领域,SPARK是未来大数据分析处理而开发的计算框架, Spark ML利用傲腾持久内存无论是单机模式还是集群模式都是有数倍的提升。
好文章,需要你的鼓励
OpenAI CEO描绘了AI温和变革人类生活的愿景,但现实可能更复杂。AI发展将带来真正收益,但也会造成社会错位。随着AI系统日益影响知识获取和信念形成,共同认知基础面临分裂风险。个性化算法加剧信息茧房,民主对话变得困难。我们需要学会在认知群岛化的新地形中智慧生存,建立基于共同责任而非意识形态纯洁性的社区。
杜克大学等机构研究团队通过三种互补方法分析了大语言模型推理过程,发现存在"思维锚点"现象——某些关键句子对整个推理过程具有决定性影响。研究表明,计划生成和错误检查等高层次句子比具体计算步骤更重要,推理模型还进化出专门的注意力机制来跟踪这些关键节点。该发现为AI可解释性和安全性研究提供了新工具和视角。
传统数据中心基础设施虽然对企业至关重要,但也是预算和房地产的重大负担。模块化数据中心正成为强有力的替代方案,解决企业面临的运营、财务和环境复杂性问题。这种模块化方法在印度日益流行,有助于解决环境问题、满足人工智能的电力需求、降低成本并支持新一代分布式应用。相比传统建设需要数年时间,工厂预制的模块化数据中心基础设施可在数周内部署完成。
法国索邦大学团队开发出智能医学文献管理系统Biomed-Enriched,通过AI自动从PubMed数据库中识别和提取高质量临床案例及教育内容。该系统采用两步注释策略,先用大型AI模型评估40万段落质量,再训练小型模型处理全库1.33亿段落。实验显示该方法仅用三分之一训练数据即可达到传统方法效果,为医学AI发展提供了高效可持续的解决方案。