根据 Xinnor 发布的一份案例研究 [PDF],新加坡一所知名大学通过采用 Xinnor 的 xiRAID 存储技术,显著提升了其 AI 研究速度。
为支持持续性研究工作,这所未具名大学部署了包括 Nvidia 在内的多个 GPU 和计算系统。
该校的部署方案支持医疗保健和自然语言处理等领域的高级 AI 项目,并配备了 BeeGFS 客户端和服务器集群。BeeGFS 是一个为高性能计算开发的并行文件系统,包含分布式元数据架构,提供可扩展性和灵活性。
在存储需求方面,该大学要求具备快速数据访问能力、数据保护、易于部署和管理、成本优化,以及能够根据未来客户端增长和性能需求进行扩展的能力。
为满足这些要求,由 Xinnor 本地合作伙伴 On Demand System (ODS) 设计的存储方案通过两个 100Gb InfiniBand 端口,实现了 24.7Gbit/秒的顺序读取性能。
该基础设施包含两个服务器节点,每个节点配备 24 个 NVMe 驱动器,并由 xiRAID 提供保护和加速。这种配置不仅满足了所需吞吐量,还确保了数据保护和未来扩展的可能性。
软件驱动的 xiRAID 技术采用先进算法提供冗余和容错能力,即使在多个驱动器同时故障的情况下也能确保数据安全。针对未来的性能需求,该大学可以通过增加 InfiniBand 卡来提升性能。
Xinnor 首席营收官 Davide Villa 表示:"xiRAID 能够实现接近完美的资源利用率并最大化 NVMe 性能,这对学术研究来说是一个突破性进展。我们与 ODS 的合作展示了软件定义 RAID 如何满足 AI 和高性能计算工作负载的严格要求,同时优化成本并简化部署。"
On Demand System 创始人 Rakesh Sabharwal 补充道:"通过将 xiRAID 作为解决方案的核心,我们帮助该大学在研究和创新领域突破了界限。xiRAID 与 BeeGFS 的无缝集成为大学提供了可靠、高性能的存储基础,完全符合大学的发展愿景。"
好文章,需要你的鼓励
FORTIS是专门测量AI代理"越权行为"的基准测试,研究发现十款顶尖模型普遍选择远超任务需要的高权限技能,端到端成功率最高仅14.3%。
谷歌在Android Show发布会上宣布,将Gemini更深度整合至Android系统,推出名为"Gemini Intelligence"的升级功能。该功能可跨应用处理日常任务,包括自动填写表单、安排日程、生成购物清单及自定义小组件等,无需用户频繁切换应用。此外,Gboard新增"Rambler"功能,可自动过滤语音输入中的口误和填充词。Gemini Intelligence将率先登陆三星Galaxy和谷歌Pixel手机,并支持Android Auto、Wear OS及智能眼镜。
荷兰Nebius团队提出SlimSpec,通过低秩分解压缩草稿模型LM-Head的内部表示而非裁剪词汇,在保留完整词汇表的同时将LM-Head计算时间压缩至原来的五分之一,端到端推理速度超越现有方法最高达9%。