技术创新的一个优势就是,当一个人采用了新产品之后,再回去体验旧的产品会很痛苦,比如使用完智能手机之后,在使用功能机就非常不适应。比如使用了采用SSD笔记本电脑,在回去使用机械盘电脑,仅仅开机体验就让人痛苦不堪。
在数据中心领域,技术创新带来的影响力更大。当多个节点集群工作时,CPU和内存之间、内存和闪存以及磁盘之间时延差造成的性能差就能明显感受出来。反映到前端就是用户体验,通过互联网服务提供的应用的响应速度明显受到影响。
目前来看,在CPU、内存和闪存以及磁盘之间,内存和闪存与磁盘之间的数据传输的时延级别差距很大,NAND SSD的时延与DRAM内存的时延是一万倍级别的差距。如果能够解决内存和SSD以及硬盘间的时延鸿沟。将能大大优化企业数据中心的数据传输。
作为创新型企业,英特尔创新的推出傲腾新技术。英特尔傲腾技术是基于3D Xpoint闪存颗粒介质以及英特尔快速存储技术结合而成的持久性内存技术,其技术点是是介于DRAM和NVME之间的一个非易失性存储。其特点是存储速度尽量接近内存,但是存储容量尽量接近SSD。因此其具备内存的低延迟、超高速还能具备非易失性存储的特性受到业界广泛关注。
华数战略转型突破口在哪里?
在2018年最后一个月,至顶网走进了华数,参观了支撑整个华数传媒业务的云计算数据中心。不仅感受到英特尔傲腾内存技术带来的技术创新,也感受到华数自身不断追求创新的理念。
华数传媒网络有限公司(简称华数传媒)是大型国有文化传媒产业集团控股公司,位居中国新媒体产业发展第一方阵。
华数传媒目前拥有1亿的互联网电视用户、5600万的华数手机端产品用户以及3000万数字电视用户,月覆盖过亿的网络用户。基于为广大用户提供更优质的产品和服务的理念,
2017年开始,华数了实施“新网络+应用”、“新媒体+内容”、“大数据+开发”三大战略,以产业+资本双轮驱动,构建新网络、新媒体、云计算和大数据、原创内容以及智慧化等产业板块。
华数传媒平台运维总监张琴谈到华数提出三大战略背后是整个市场、政策以及产业变化下的必然进化。目前传统的网络运营商面临着有线电视业务呈现下降的局势,一方面随着降费提速的政策,目前宽带用户从百兆,到200M、500M,需求旺,一方面互联网内容也呈现爆炸式增长,高质量的内存也给传统网络运营商造成很大冲击。
华数传媒希望利用技术创新来为1亿的互联网电视用户、5600万的手机电视用户、3000万的数字电视用户以及宽带用户提供优势的资源和技术服务,而其背后的力量就是华数的数据中心。目前华数传媒采用主数据中心和备份数据中心构建的模式,其中云计算规模大概在5000台服务器规模。
点播速度提升10%!对用户体验影响巨大!
针对“新网络+应用”、“新媒体+内容”、“大数据+开发”三大战略的实施,华数传媒的数据中心也面临着巨大挑战。华数传媒平台运维部基础平台部经理胡川谈到“现在遇到一些问题,比如在利用率最高最热的数据上,特别是针对大数据处理,云计算这一块,数据中心面临的最大瓶颈是内存。类似于数据库或者MDC这些,它对内存I/O或者磁盘的I/O要求是很高的。”
(现场采用搭载傲腾内存技术的最新的英特尔可扩展处理器的服务器)
基于热数据面临的问题,经过与英特尔的合作和技术测试,胡川发现传统磁盘的I/O跟不上,现在测试下来只有通过Optane或者通过更好的技术才能满足华数的需求。
华数传媒通过采用全新的至强可扩展处理器的服务器搭配英特尔Optane内存,来解决内存问题,测试效果超出胡川的想象,不仅成本上大大降低,特别是性能的提升给华数带来了极大的惊喜。
Intel Optane SSD+IMDT在华数传媒云计算业务中的测试数据
首先是成本下降,原有的服务器内存是512G, Optane内存是704G,成本下降45%,采用Optane技术,再配合英特尔Skylake CPU,整个机器97%的整机性能就上去了。以老服务器配置和价格为基准,新配置为1.43*1.375/1.1=1.79,可以理解为采用新的内存架构,整机性价比提升79%,性能提升97%,成本降低约44%。对于用户来说,成本只增加了不到10%,性价比就提高了80%。可以说采用了新服务器配合傲腾内存之后,等于是增加了一倍服务能力。
其次是性能提升,傲腾内存性能测试下来,按照胡川的理解,傲腾技术相对于内存来讲性能会略有下降。但是实际云主机性能测试,在同负载场景下,Optane环境所表现出来的性能测试数据并没有下降,反而其整体性能还增加了百分之十以上。那对用户体验来说,能够获得更快的响应和更好的体验。“这百分之十的性能很重要,比如用户点播、网页加载速度等如果能再缩短10%的时间,可以说是从用户体验、企业业务增长和市场竞争力都产生很大影响。”
“根据我们现在测试数据对比,通过内存的模式和通过Optane的模式,我们真实的业务情况下性能可以提高百分之十左右。就是说它能够解决掉我们现在冷热数据不均的问题,或者I/O有延迟或者慢的问题。内存成本可以降低45%,这就很厉害了。如果考虑整机性能,整机性能提高95%。就是今年的配置和去年的配置相比,采用Optane的模式可以提高97%的整机性能。”胡川谈到。
技术创新选择很多,为什么是英特尔?
其实今天技术创新很多,为什么是英特尔?至顶网认为“人”很重要。一方面华数传媒以技术创新为导向,内部技术部门和业务部门合作密切,当应用部门反应“应用的痛点在哪里,比如他们反映文件访问慢或者打开慢,比如有可能丢数据等等各个方面的原因,运维部门会第一时间响应并从基础架构上去考虑。”张琴谈到。另一方面,华数与英特尔每个月都保持一次技术交流,华数会把目前的前沿技术困惑、架构方面的疑惑与英特尔进行技术交流、一起讨论,看看有什么更新的或者最好的技术来匹配新的应用和技术带来的问题。这样很多问题在大规模发生之前就已经跟英特尔找到相应的匹配方案,在业务量暴增之后,能够采用新的技术方案来对应的解决掉。
最后给至顶网印象深刻的是华数传媒对于创新贯穿整个数据中心,不仅仅是采用最新的服务器最新的内存技术。同时对于数据中心运维的创新利用。在参观数据中心的过程中,华数传媒平台运维总监张琴介绍说所有的园区冬天4个月的供暖都是通过数据中心的剩余热量转化过来,而在数据中心机房看到了当天的水温从12度左右经过热转换上升到24度左右,然后输送到整个园区7栋大厦。
好文章,需要你的鼓励
邻里社交应用Nextdoor推出重新设计版本,新增本地新闻、实时警报和名为"Faves"的AI功能,用于发现本地商户和地点。该应用与3500家本地出版商合作提供新闻内容,通过Samdesk和Weather.com提供天气、交通、停电等实时警报。Faves功能利用15年邻里对话数据训练的大语言模型,为用户提供本地化AI推荐服务,帮助用户找到最佳餐厅、徒步地点等本地信息。
Skywork AI推出的第二代多模态推理模型R1V2,通过创新的混合强化学习方法,成功解决了AI"慢思考"策略在视觉推理中的挑战。该模型在保持强大推理能力的同时有效控制视觉幻觉,在多项权威测试中超越同类开源模型,某些指标甚至媲美商业产品,为开源AI发展树立了新标杆。
英国生物银行完成了世界上最大规模的全身成像项目,收集了10万名志愿者的超过10亿次扫描数据,用于研究人体衰老和疾病过程。该项目历时11年,每次扫描耗时5小时,投资6200万英镑。目前已有8万人的成像数据供全球研究人员使用,剩余数据将于年底前发布。项目已开发出能预测38种常见疾病的AI工具,并在心脏病、痴呆症和癌症诊断方面取得突破。
这项由北京大学等多所高校联合完成的研究,首次对OpenAI GPT-4o的图像生成能力进行了全面评估。研究团队设计了名为GPT-ImgEval的综合测试体系,从文本转图像、图像编辑和知识驱动创作三个维度评估GPT-4o,发现其在所有测试中都显著超越现有方法。研究还通过技术分析推断GPT-4o采用了自回归与扩散相结合的混合架构,并发现其生成图像仍可被现有检测工具有效识别,为AI图像生成领域提供了重要的评估基准和技术洞察。