在新一轮科技革命和产业变革深入发展的当前,数据成为新的生产要素,算力成为新的基础能源,大模型等人工智能技术则成为新的生产工具,特别是在关键行业,高安全算力基础设施成为驱动新质生产力的核心引擎。因此,为了满足党政、能源、通信、交通、水利、金融等关键行业不同场景下的智能化需求,高安全、高性能的AI服务器变得至关重要。
在刚刚落幕的第七届数字中国建设峰会上,算力技术创新领域的领军企业浪潮计算机重磅发布AI服务器NF5468H7。这款服务器是面向深度学习、元宇宙、AIGC、科学计算等复杂AI应用场景使用的新一代高性能AI服务器,具备卓越多元算力性能、极致弹性架构扩展、多场景灵活适用等特性,并灵活适配国内各品牌AI加速卡和IB/RoCE网卡、智能网卡,以及3种PCIe拓扑的灵活切换,满足了HPC以及不同计算量的大模型训练、推理需求,为关键信息基础设施行业的AI应用打造强大且安全的算力“心脏”,源源不断地为创新注入澎湃动能。
卓越技术 服务器性能进阶
AI算力基础设施作为新型信息基础设施的重要组成部分,呈现多元泛在、智能敏捷、安全可靠、绿色低碳等特征,对于助推产业转型升级、赋能科技创新进步和实现社会高效能治理具有重要意义。浪潮计算机AI服务器NF5468H7采用了2颗最新一代高性能C86处理器,单CPU最高可支持32个计算核心、64线程,最高主频可达2.7Ghz,TDP(热设计功耗)可达225W。
在内存方面,NF5468H7支持4条xGMI互联,有效消除算力内存墙(memory wall),并支持32条DDR4 RDIMM内存配置,频率达到3200 MHz。同时在满配GPU情况下,NF5468H7支持5个PCIe4.0 插槽,1个OCP网络插槽,支持200G IB/RoCE网络,保障了数据密集计算下的快速数据交换,大幅度提升人工智能应用的负载性能。
AI计算场景需要备高度的可靠性和稳定性,能够长时间稳定运行,进而保障大模型训练任务的持续输出。为此,NF5468H7采用了先进的冗余设计和故障恢复技术,最高支持2+2冗余的4块80 PLUS铂金电源模块和N+1冗余的12颗6056系列风扇,可支持热插拔以保障高负荷运算要求,保障底层硬件的高可靠、高稳定运行。
此外,NF5468H7还搭载浪潮原创设计BMC管理芯片,通过分层解耦、模块化设计,在BMC层面实现了软硬件的标准设计,可以实时监测服务器的状态和性能,及时发现并解决潜在的问题,保证系统层面的稳定性和可靠性,更可以在远程管理和批量自动部署等方面满足AI应用快速迭代更新的需求。
多场景景覆盖 让安全的AI算力无处不在
人工智能正在加速从感知智能到生成式智能迈进,中国人工智能算力市场规模快速扩大,IDC和浪潮信息联合发布的《2023-2024年中国人工智能计算力发展评估报告》预测,2022-2027年中国智能算力规模年复合增长率为33.9%,2023-2027年中国人工智能服务器市场复合增长率达到21.8%。而在技术路线、政策驱动、行业需求等多重因素的驱动下,中国AI算力呈现多元异构特征,据不完全统计,GPU、FPGA等加速计算企业超过20多家。
为满足关键行业应用对可靠性、安全性的苛刻要求,NF5468H7实现了全面的GPU生态适配,支持8张双宽AI加速卡,支持主流PyTorch 、TensorFlow、PaddlePaddle等开源框架,满足模型开发,模型训练等应用需求。而其广泛的生态适配,让NF5468H7可以兼容各种国内主流的高端AI芯片,可为智算中心、党政、金融、通信等关键行业提供大模型训练、图像识别、智能推荐、语音分析、量化交易等诸多核心应用场景的安全算力支撑。
当前,“计算力就是生产力”已成为业界共识,特别是计算力作为数字经济时代的关键生产力要素,更成为了挖掘数据要素价值,推动数字经济发展的核心支撑力和驱动力。面对与日俱增的云计算、大数据、科学计算、AIGC等复杂多样的AI应用场景需求,浪潮计算机匠心打造的NF5468H7高性能AI服务器,加速实现了算力产品的智能再进化,为千行百业的数智变革构筑多元开放、高效融合、安全可靠的强劲AI算力底座。
好文章,需要你的鼓励
数据分析平台公司Databricks完成10亿美元K轮融资,公司估值超过1000亿美元,累计融资总额超过200亿美元。公司第二季度收入运营率达到40亿美元,同比增长50%,AI产品收入运营率超过10亿美元。超过650家客户年消费超过100万美元,净收入留存率超过140%。资金将用于扩展Agent Bricks和Lakebase业务及全球扩张。
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。
医疗信息管理平台Predoc宣布获得3000万美元新融资,用于扩大运营规模并在肿瘤科、研究网络和虚拟医疗提供商中推广应用。该公司成立于2022年,利用人工智能技术提供端到端平台服务,自动化病历检索并整合为可操作的临床洞察。平台可实现病历检索速度提升75%,临床审查时间减少70%,旨在增强而非替代临床判断。
上海AI实验室发布OmniAlign-V研究,首次系统性解决多模态大语言模型人性化对话问题。该研究创建了包含20万高质量样本的训练数据集和MM-AlignBench评测基准,通过创新的数据生成和质量管控方法,让AI在保持技术能力的同时显著提升人性化交互水平,为AI价值观对齐提供了可行技术路径。