PEAK:AIO 推出了一款新的 2RU 1.5 PB AI 数据服务器产品,采用 Dell 硬件,数据传输速度可达 120 GBps。
PEAK:AIO 是一家专注于 AI 领域的英国存储初创公司,该公司在第三方硬件上提供软件定义存储解决方案,通过严格的管理和控制来降低延迟并提高吞吐量。其 2RU 服务器此前使用 NFS 和 NVMe-oF 为中型 GPU 集群提供 40 GBps 的传输速度,现在速度提升了三倍。
新硬件采用了 Solidigm 的 61.44 TB QLC SSD,数据通过 Nvidia 的 CX7 以太网 NIC 传输。PEAK:AIO 表示,医疗保健和研究等特殊领域需要与大型数据中心基础设施系统所产生的相同的高速生成式 AI 模型能力。该公司称其系统成本更低,但仍然保持很高的速度和能源效率。PEAK 表示,他们有一个新的 NVMe 软件栈,"消除了传统 Linux 瓶颈",为数据密集型 AI 应用提供更好的性能。
联合创始人兼首席战略官 Mark Klarzynski 表示:"我们的方案解决了 AI 基础设施两端的需求。对于较小的创新项目,这款 2U 解决方案在紧凑的形态中提供了无与伦比的性能和能源效率。对于大规模部署,它成为新一代横向扩展文件系统的基础,专门用于满足现代 GPU 的能源和性能需求。"
CX7 需要 PCIe Gen 5 总线,最大传输速度为 50 GBps。据了解,Dell PowerEdge R7625 机架服务器采用 2RU 机箱,最多支持八个 PCIe gen5 插槽。三个单端口 CX7,每个使用 PCIe gen5 x 16 通道插槽,可提供 120 GBps 的传输速度。R760 最多支持 24 个 NVMe SSD,使用 61.44 TB Solidigm SSD 填满这些插槽可提供 1.5 PB 的原始容量。
Klarzynski 告诉我们:"Dell Technologies 专门为我们验证了 Solidigm 的 61TB NVMe 驱动器和 NVIDIA 的 400Gb 加密接口在 R7625 上的性能,超过了主流的 15TB 解决方案。这一举措突显了我们的规模和全球野心。我们的 2U AI 数据服务器 (1.5PB, 120GB/sec) 为效率树立了新的行业标准。"
AI 数据服务器可以直接连接到 Nvidia GPU 服务器,用于小型或新创项目,通过添加交换机可以连接多达 10 个 GPU 服务器。数据服务器可以横向扩展以支持更多 GPU。
PEAK 表示,该公司在 2023 年和 2024 年实现了 400% 的增长,主要来自美国市场,并计划在今年晚些时候推出新的产品系列,以补充其新的 AI 数据服务器,"在 Dell Technologies 的支持下...将突破能源、散热和密度方面的挑战。"该公司还将推出与 CX7 集成的线速加密卸载功能。
好文章,需要你的鼓励
多伦多大学研究团队提出Squeeze3D压缩框架,巧妙利用3D生成模型的隐含压缩能力,通过训练映射网络桥接编码器与生成器的潜在空间,实现了极致的3D数据压缩。该技术对纹理网格、点云和辐射场分别达到2187倍、55倍和619倍的压缩比,同时保持高视觉质量,且无需针对特定对象训练网络,为3D内容传输和存储提供了革命性解决方案。
浙江大学与腾讯联合研究团队提出MoA异构适配器混合方法,通过整合不同类型的参数高效微调技术,解决了传统同质化专家混合方法中的表征坍塌和负载不均衡问题。该方法在数学和常识推理任务上显著优于现有方法,同时大幅降低训练参数和计算成本,为大模型高效微调提供了新的技术路径。
耶鲁、哥大等四校联合研发的RKEFino1模型,通过在Fino1基础上注入XBRL、CDM、MOF三大监管框架知识,显著提升了AI在数字监管报告任务中的表现。该模型在知识问答准确率提升超过一倍,数学推理能力从56.87%提升至70.69%,并在新颖的数值实体识别任务中展现良好潜力,为金融AI合规应用开辟新路径。
加州大学圣巴巴拉分校研究团队开发出能够自我进化的AI智能体,通过《卡坦岛拓荒者》桌游测试,这些AI能在游戏过程中自主修改策略和代码。实验显示,具备自我进化能力的AI显著超越静态版本,其中Claude 3.7模型性能提升达95%。研究验证了AI从被动工具向主动伙伴转变的可能性,为复杂决策场景中的AI应用开辟新路径。